evan_gcrm (evan_gcrm) wrote,
evan_gcrm
evan_gcrm

Categories:

Изменение курса



В развитие темы: ИИ — это не технология.

Отчет Кима Эрика Дрекслера «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект» - плод трех летней работы.
Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 208 страниц текста.
Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM.

Тем же, кому достаточно моего резюме — добро пожаловать под кат.


✔️ На лицо парадокс.

Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», — возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.
В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, — не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.
Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно — разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).



✔️ Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов.
Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач.
Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию.
Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.

✔️ Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services — CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.
Суть отличия в том, что CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.
Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.

Вывод: Меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.


Источник/




Tags: Технологии
Subscribe

Recent Posts from This Journal

  • Истоки современной архитектуры

    «Навязчивые идеи — движущая сила исследований». Откуда взялась современная архитектура? Как случилось, что строения с богатым декором,…

  • «Сквозь»

    Диалог не значит, что говорят обязательно два человека; скорее, корневое значение греческого слова dia - «сквозь». А общая картина, которую оно…

  • Чтобы оставаться людьми

    Humans need to evolve all the time to stay human... /Источник/

promo evan_gcrm march 28, 2018 19:35 141
Buy for 30 tokens
Основополагающим элементом, основным двигателем всей жизни, является репликатор. Скопированная информация - это и есть «репликатор». На Земле первый репликатор довольно бесспорный - это гены, или информация, закодированная в молекулах ДНК. Точнее это первый репликатор, о котором мы знаем.…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments