В развитие темы: ИИ — это не технология.
Отчет Кима Эрика Дрекслера «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект» - плод трех летней работы.
Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 208 страниц текста.
Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM.
Тем же, кому достаточно моего резюме — добро пожаловать под кат.
✔️ На лицо парадокс.
• Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», — возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.
• В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, — не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.
• Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно — разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).
✔️ Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов.
Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач.
Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию.
Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.
✔️ Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services — CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.
Суть отличия в том, что CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.
Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.
Вывод: Меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.
Источник/
Journal information