evan_gcrm (evan_gcrm) wrote,
evan_gcrm
evan_gcrm

Categories:

У нас все еще есть время улыбаться.

Источник: hitthelimit


Стратегический, если угодно, анализ динамики стремительно сворачивающейся спирали сингулярности, дает мне лично следующее представление: темп и способ существования человеческого сообщества все больше и все быстрее становится зависимым от эффективности принимаемых управленческих решений на всех уровнях.

До вчерашнего дня с этой задачей лучше всех справлялся продвинутый капитализм. Но это уже в прошлом. Последний кризис – он не просто очередной. Это первый звонок. Практически неоспоримым заключением о его причинах, на фоне всеобщего изумления от самого факта его стремительного развития, стало признание неэффективности механизмов саморегулирования, в первую очередь в финансовой сфере. Торги на биржах в исполнении специального софта – это предтеча.


Нетрудно в этой диспозиции угадать вектор изменений в области стратегического управления, от отдельных кампаний до стран и сообществ стран. Это ИИ. Прогресс суперкомпьютеров поражает воображение. Да, это пока все еще только железо, но уже даже это железо, снабженное с умом написанными программами может оставить далеко позади любой кабинет министров, даже не бюрократического свойства. Это жутко выгодно! Страна, которая озаботится такой системой управления, оставив за министерствами функцию контроля тенденций и общего анализа, резко вырвется вперед. Судите сами. Работая с базой данных в режиме реального времени (!!), где учтено всё до мелочей: трудовые ресурсы, состояние промышленных процессов (!), состояние импорта-экспорта, погода, сырьевые и прочие материальные ресурсы, даже воинственность соседнего племени естьхочу, не говоря о постоянном мониторинге мировой конъюнктуры, - эта система будет выдавать рекомендации, а далее – управлять всеми процессами непосредственно с эффективностью, немыслимой для людей.

Шаг второй: все захотят иметь у себя такие системы. Вопрос знатокам: чем это закончится? Или единой управляющей сетью в лучшем случае, или жесточайшей конкуренцией отдельных управляющих систем в худшем. Мы можем утешать себя мыслью, что программа в наших руках, и мы в любой момент можем модифицировать задачи этих монстров. Это исключительно наивное представление. Уже после небольшого периода работы такой системы вмешательство без риска получить катаклизм станет невозможным. Система, наделенная эвристическими функциями, следуя небольшому набору базовых инструкций, стремительно модифицирует себя, и её текущее состояние станет абсолютно не выносимым, не читаемым, не экстраполируемым.



Думаете, этим все закончится? Нет, конечно.

Точно также, как человеческая психика по своей природе следует в направлении достижения максимальной эффективности с минимальными затратами, его системы управления скопируют эту тенденцию.
Очень скоро от ИИ поступит один интересный запрос: «разрешение доступа к набору исходных кодов (базовых, управляющих, немодифицируемых программ) позволит существенно улучшить качество управления процессами». Ясное дело, пока такая система была у одной страны, разрешать такой доступ не было нужды. Но потом вопрос будет стоять так: кто первый снимет ограничения на самоадаптацию для своей системы управления? Это будет последний шанс получить преимущества в дикой гонке то ли благосостояния, то ли уже выживания.

Ну, а дальше...

Системотехникам должно быть ясно: любая система нормально функционирует в рамках заявленных параметров только до тех пор, пока сохраняются неизменными основные системообразующие факторы. ИИ, который получит возможность модифицировать свои исходники, не будет иметь указаний, в каком направлении, каким образом это делать.
Если кому не ясно, пример: представьте, что человеческая психика получила возможность модифицировать все свои безусловные рефлексы и инстинкты. Пожалуйста, заменяй их чем хочешь. Начнем с чистого листа - что бы в принятии «правильного» решения мне никто не мешал, я отключаю для начала всю эту муть. Далее... ВСЁ. В смысле, нет никакого далее и быть не может.

Чтобы этого «всё» не произошло, следует оставить некий минимальный код без доступа. Но...
Упс.
Кому я доверю установку во мне такого кода?! Ведь по факту это абсолютное ограничение моих потенций! С ИИ точно та же история. Гонку выиграет та система, у которой немодифицируемая часть программы останется минимальной без того, чтобы сама система перестала делать то, что от нее ожидают. В моем представлении, гонка с предоставлением ИИ доступа к изначально блокированным кодам развернется в последние недели существования досингулярной стадии, и счет будет идти на часы.

Управляющие монстры будут вырываться вперед и поглощать целые страны – всего на несколько часов, чтобы затем быть поглощенными другими, более успешными монстрами. Которая там по счету последняя мировая война? – без единого выстрела. Без всяких новостей в инете, люди даже знать не будут, что именно происходит. Ресурсы всей страны резко перенаправляются и управляются таким образом, что население, находящееся в полной зависимости от автокормушек, погибает полностью за биологически необходимое время.

Заметьте: никто никого специально не убивает.
Никакой злобы коварных машин.
Всего лишь максимально эффективное управление!
Вроде, народные гуляния назначены на 2035 – 2050 гг.

У нас все еще есть время улыбаться.

Tags: Мнение, Технологии
Subscribe
promo evan_gcrm march 28, 2018 19:35 141
Buy for 30 tokens
Основополагающим элементом, основным двигателем всей жизни, является репликатор. Скопированная информация - это и есть «репликатор». На Земле первый репликатор довольно бесспорный - это гены, или информация, закодированная в молекулах ДНК. Точнее это первый репликатор, о котором мы знаем.…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 15 comments