evan_gcrm (evan_gcrm) wrote,
evan_gcrm
evan_gcrm

Category:

«Код разума»




ИИ — это не технология.
Изменение курса.
Переформатирование мира.
Сменить траекторию.


✔️ Хватит морочить себе голову, и пора признать следующее:

Современные исследования в области ИИ вообще не ведут к созданию разума, а лишь имитируют его отдельные возможности (бумажный голубь тоже парит, но он — вовсе не птица, не модель птицы и даже не этап к построению модели птицы).


Во многих отношениях ИИ далек от возможностей интеллекта детенышей собаки, мыши или даже паука, и не похоже, что простое расширение существующих подходов позволит хоть когда-то достичь этих целей (многие животные эффективно функционируют после 10⁶ и даже меньшего количество секунд жизни: белка может прыгать с дерева на дерево через несколько недель от рождения, жеребенок может ходить через несколько часов, а пауки рождаются готовыми к охоте).
Никакими из существующих методов машинного обучения эту проблему не решить в принципе (земные живые существа не имеют такого времени и объемов данных, что требуются даже при самых продвинутых и эффективных методах машинного обучения).
Разрыв между мышью и человеческим интеллектом намного меньше, чем между нынешним ИИ и мышью. Это значит, что даже если наша конечная цель — догнать (не то что перегнать) человеческий интеллект, разумной ближайшей целью для ИИ было бы достичь интеллекта мыши.

✔️ Результаты исследований тысяч всевозможных типов разума живых существ однозначно показывают:

Большая часть сенсорных представлений и поведения живых существ врожденная. Например, многие обонятельные стимулы являются врожденно привлекательными и аппетитными (кровь для акул) или отвратительными (моча лисы для крысы). Ответы на зрительные стимулы также во многом врожденные. Например, мыши убегают от любой движущейся тени, что позволяет быстро обнаруживать и избегать воздушных хищников.
Роль врожденных механизмов выходит далеко за рамки простого установления реакций на сенсорные представления. Значительная часть поведенческого репертуара животных и людей является не результатом умных алгоритмов обучения — контролируемых, неконтролируемых, с подкреплением — а скорее программами поведения, уже присутствующими при рождении.
Выживание животного требует решения «проблемы К2БС» — кормление, борьба, бегство и спаривание. Решения многократного и, возможно, только с небольшими изменениями. Также и человек рождается и имеет очень ограниченное время — от нескольких дней до нескольких лет — чтобы выяснить, как решать К2БС проблему. Если ему это удается, он передает часть своего решения (т.е. половину своего генома) следующему поколению.

✔️ Если только не допустить вмешательство Бога, у нас нет иного объяснения передачи паттернов поведенческих умений между поколениями, чем геном.

Если большая часть поведения животного является врожденной, то жизненный опыт животного представляет лишь небольшую часть данных, которые способствуют его приспособленности. Другой потенциально гораздо больший пул данных способствует его врожденному поведению и представлениям. Эти врожденные формы поведения и представлений возникают в результате эволюции путем естественного отбора. Они кодируются в геноме и принимают форму правил прошивки мозга, определяющих структуру и интенсивность связей нейронов.
Таким образом, эволюция, как и обучение, также может рассматриваться как механизм извлечения статистических паттернов, хотя и в гораздо более длительном масштабе времени, чем обучение. Эволюция может рассматриваться как своего рода алгоритм обучения с подкреплением, действующий на временной шкале поколений, где сигнал подкрепления состоит из количества потомства, которое генерирует индивид.
Для ИИ нужны иные (новые) классы алгоритмов. Принципиальный изъян сегодняшних алгоритмов обучения ИИ в том, что эти алгоритмы НЕ являются аналогом обучения животных. Поскольку большинство данных, влияющих на приспособленность животного, кодируются эволюцией в геном, новые алгоритмы должны имитировать это свойство эволюции. Иными словами, нужно идти от Supervised Learning к Supervised Evolution, а потом и к «эволюции с подкреплением» — Reinforcement Evolution.

✔️ Мы думали, что понимаем код генома… Но мы ошиблись — все существенно сложнее.

Врожденные механизмы кодируются в геноме. В частности, геном кодирует чертежи для подключения нервной системы — чертежи и спецификации прошивки топологии и силы связей нейронов. Эти чертежи были отобраны эволюцией в течение сотен миллионов лет, работая с бесчисленными квадриллионами живых существ. Схемы, указанные в этих чертежах, обеспечивают основу для врожденного поведения, а также для любого обучения, которое происходит в течение жизни животного.
Геном не обладает достаточной информационной емкостью, чтобы явно указывать каждое соединение (даже если бы каждый нуклеотид человеческого генома был бы направлен на эффективное определение связей в мозге, информационная емкость все равно была бы по меньшей мере на шесть порядков меньше необходимой). Вместо этого в геноме прописывается набор правил прошивки мозга во время его «изготовления» и функционирования. Даже короткий набор правил может легко определить проводку очень большого числа нейронов. Кроме того, в основе прошивки лежит использование множества копий базовой «канонической микросхемы», используемой не только для прошивки сенсомоторных и прочих чувственных элементов разума, но и для прошивки врожденных схем усвоения языка (привет Ноаму Хомскому), механизма рассуждений и здравого смысла.
Итого получается, что геном не кодирует представления или поведение напрямую, а кодирует правила и шаблоны прошивки, которые затем должны создавать экземпляры поведения и представлений. Как кодирует — мы пока не знаем. Но именно эти правила прошивки («Код разума») и являются целью всей эволюции. Чтобы расшифровать «Код разума», нужен, как минимум, инструментарий для точного считывания прошивки на уровне каждого нейрона. И мы к такому инструментарию приближаемся.

Резюме:

Идя таким путем, мы, наконец, поймем ошибочность метафоры ИИ, использовавшейся нами десятки лет — метафоры полета птицы в основе построения самолета.
Тот универсальный ИИ общего назначения, что мы пытаемся строить в рамках вышеназванной метафоры — вовсе не будет универсальным. Да, он будет летать. Но при этом он останется настолько ограниченным, что никогда не сможет соответствовать человеческим возможностям.
Ведь и самолет по некоторым показателям значительно превосходит птицу: он может летать намного быстрее, на большей высоте, на большие расстояния, с гораздо большей грузоподъемностью. Но самолет не может нырнуть в воду, чтобы поймать рыбу, или бесшумно сбежать с дерева, чтобы поймать мышь.
Точно так же современные компьютеры по некоторым показателям уже значительно превзошли вычислительные способности человека, но не могут сравниться с людьми по универсальности интеллекта.

Если мы хотим спроектировать систему, которая может делать то, что делаем мы, нам нужно построить ее в соответствии с теми же принципами проектирования.

/Источник №1//Источник №2/




Tags: Сознание, Технологии, Язык
Subscribe

Recent Posts from This Journal

  • Пространство возможных разумов

    В работе "Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds" Murray Shanahan пытается найти философскую…

  • Социальный интеллект

    «Гипотеза социального интеллекта» утверждает, что возникновение интеллекта у таких видов как наш, произошло из-за петли социальной обратной…

  • Альтернатива модели "жестких шагов"

    МОДЕЛЬ «ЖЕСТКИХ ШАГОВ» В 1983 году физик B. Carter пришел к выводу, что время, которое потребовалось людям для эволюции на Земле (время нашего…

promo evan_gcrm march 28, 2018 19:35 141
Buy for 30 tokens
Основополагающим элементом, основным двигателем всей жизни, является репликатор. Скопированная информация - это и есть «репликатор». На Земле первый репликатор довольно бесспорный - это гены, или информация, закодированная в молекулах ДНК. Точнее это первый репликатор, о котором мы знаем.…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 42 comments

Recent Posts from This Journal

  • Пространство возможных разумов

    В работе "Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds" Murray Shanahan пытается найти философскую…

  • Социальный интеллект

    «Гипотеза социального интеллекта» утверждает, что возникновение интеллекта у таких видов как наш, произошло из-за петли социальной обратной…

  • Альтернатива модели "жестких шагов"

    МОДЕЛЬ «ЖЕСТКИХ ШАГОВ» В 1983 году физик B. Carter пришел к выводу, что время, которое потребовалось людям для эволюции на Земле (время нашего…