ИИ — это не технология.
Изменение курса.
Переформатирование мира.
Сменить траекторию.
✔️ Хватит морочить себе голову, и пора признать следующее:
• Современные исследования в области ИИ вообще не ведут к созданию разума, а лишь имитируют его отдельные возможности (бумажный голубь тоже парит, но он — вовсе не птица, не модель птицы и даже не этап к построению модели птицы).
• Во многих отношениях ИИ далек от возможностей интеллекта детенышей собаки, мыши или даже паука, и не похоже, что простое расширение существующих подходов позволит хоть когда-то достичь этих целей (многие животные эффективно функционируют после 10⁶ и даже меньшего количество секунд жизни: белка может прыгать с дерева на дерево через несколько недель от рождения, жеребенок может ходить через несколько часов, а пауки рождаются готовыми к охоте).
• Никакими из существующих методов машинного обучения эту проблему не решить в принципе (земные живые существа не имеют такого времени и объемов данных, что требуются даже при самых продвинутых и эффективных методах машинного обучения).
• Разрыв между мышью и человеческим интеллектом намного меньше, чем между нынешним ИИ и мышью. Это значит, что даже если наша конечная цель — догнать (не то что перегнать) человеческий интеллект, разумной ближайшей целью для ИИ было бы достичь интеллекта мыши.
✔️ Результаты исследований тысяч всевозможных типов разума живых существ однозначно показывают:
• Большая часть сенсорных представлений и поведения живых существ врожденная. Например, многие обонятельные стимулы являются врожденно привлекательными и аппетитными (кровь для акул) или отвратительными (моча лисы для крысы). Ответы на зрительные стимулы также во многом врожденные. Например, мыши убегают от любой движущейся тени, что позволяет быстро обнаруживать и избегать воздушных хищников.
• Роль врожденных механизмов выходит далеко за рамки простого установления реакций на сенсорные представления. Значительная часть поведенческого репертуара животных и людей является не результатом умных алгоритмов обучения — контролируемых, неконтролируемых, с подкреплением — а скорее программами поведения, уже присутствующими при рождении.
• Выживание животного требует решения «проблемы К2БС» — кормление, борьба, бегство и спаривание. Решения многократного и, возможно, только с небольшими изменениями. Также и человек рождается и имеет очень ограниченное время — от нескольких дней до нескольких лет — чтобы выяснить, как решать К2БС проблему. Если ему это удается, он передает часть своего решения (т.е. половину своего генома) следующему поколению.
✔️ Если только не допустить вмешательство Бога, у нас нет иного объяснения передачи паттернов поведенческих умений между поколениями, чем геном.
• Если большая часть поведения животного является врожденной, то жизненный опыт животного представляет лишь небольшую часть данных, которые способствуют его приспособленности. Другой потенциально гораздо больший пул данных способствует его врожденному поведению и представлениям. Эти врожденные формы поведения и представлений возникают в результате эволюции путем естественного отбора. Они кодируются в геноме и принимают форму правил прошивки мозга, определяющих структуру и интенсивность связей нейронов.
• Таким образом, эволюция, как и обучение, также может рассматриваться как механизм извлечения статистических паттернов, хотя и в гораздо более длительном масштабе времени, чем обучение. Эволюция может рассматриваться как своего рода алгоритм обучения с подкреплением, действующий на временной шкале поколений, где сигнал подкрепления состоит из количества потомства, которое генерирует индивид.
• Для ИИ нужны иные (новые) классы алгоритмов. Принципиальный изъян сегодняшних алгоритмов обучения ИИ в том, что эти алгоритмы НЕ являются аналогом обучения животных. Поскольку большинство данных, влияющих на приспособленность животного, кодируются эволюцией в геном, новые алгоритмы должны имитировать это свойство эволюции. Иными словами, нужно идти от Supervised Learning к Supervised Evolution, а потом и к «эволюции с подкреплением» — Reinforcement Evolution.
✔️ Мы думали, что понимаем код генома… Но мы ошиблись — все существенно сложнее.
• Врожденные механизмы кодируются в геноме. В частности, геном кодирует чертежи для подключения нервной системы — чертежи и спецификации прошивки топологии и силы связей нейронов. Эти чертежи были отобраны эволюцией в течение сотен миллионов лет, работая с бесчисленными квадриллионами живых существ. Схемы, указанные в этих чертежах, обеспечивают основу для врожденного поведения, а также для любого обучения, которое происходит в течение жизни животного.
• Геном не обладает достаточной информационной емкостью, чтобы явно указывать каждое соединение (даже если бы каждый нуклеотид человеческого генома был бы направлен на эффективное определение связей в мозге, информационная емкость все равно была бы по меньшей мере на шесть порядков меньше необходимой). Вместо этого в геноме прописывается набор правил прошивки мозга во время его «изготовления» и функционирования. Даже короткий набор правил может легко определить проводку очень большого числа нейронов. Кроме того, в основе прошивки лежит использование множества копий базовой «канонической микросхемы», используемой не только для прошивки сенсомоторных и прочих чувственных элементов разума, но и для прошивки врожденных схем усвоения языка (привет Ноаму Хомскому), механизма рассуждений и здравого смысла.
• Итого получается, что геном не кодирует представления или поведение напрямую, а кодирует правила и шаблоны прошивки, которые затем должны создавать экземпляры поведения и представлений. Как кодирует — мы пока не знаем. Но именно эти правила прошивки («Код разума») и являются целью всей эволюции. Чтобы расшифровать «Код разума», нужен, как минимум, инструментарий для точного считывания прошивки на уровне каждого нейрона. И мы к такому инструментарию приближаемся.
Резюме:
Идя таким путем, мы, наконец, поймем ошибочность метафоры ИИ, использовавшейся нами десятки лет — метафоры полета птицы в основе построения самолета.
Тот универсальный ИИ общего назначения, что мы пытаемся строить в рамках вышеназванной метафоры — вовсе не будет универсальным. Да, он будет летать. Но при этом он останется настолько ограниченным, что никогда не сможет соответствовать человеческим возможностям.
Ведь и самолет по некоторым показателям значительно превосходит птицу: он может летать намного быстрее, на большей высоте, на большие расстояния, с гораздо большей грузоподъемностью. Но самолет не может нырнуть в воду, чтобы поймать рыбу, или бесшумно сбежать с дерева, чтобы поймать мышь.
Точно так же современные компьютеры по некоторым показателям уже значительно превзошли вычислительные способности человека, но не могут сравниться с людьми по универсальности интеллекта.
Если мы хотим спроектировать систему, которая может делать то, что делаем мы, нам нужно построить ее в соответствии с теми же принципами проектирования.
/Источник №1//Источник №2/
Journal information