AI 2027: Трамп, ИИ и передел будущего — необычные выводы исследования

Недавно опубликованный независимый прогноз развития ИИ до 2027 года на сайте AI 2027, составленный группой именитых экспертов в сфере AI (Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean), спровоцировал масштабное обсуждение в мире IT и технологий. 

Этот прогноз подозрительно напоминает сценарий очередного сезона «Черного зеркала»:

• ИИ выходит за пределы контроля;
• Китай обходит США;
• человечество теряет доминирующую роль;
• и еще много интересных, но пугающих выводов.

Согласно прогнозу к 2027 году получится автоматизировать исследования в области ИИ, что приведет к созданию суперинтеллекта (Artificial superintelligence — ASI) к концу 2027 года. С этого момента определяющим фактором будущего человечества станет развитие ASI как самостоятельной мыслящей сущности.

Системы с ASI радикально изменят экономику, автоматизируя большинство задач, включая те, что требуют сверхчеловеческой стратегии, программирования и разработки оружия. ИИ заменит людей, однако сложность контроля над ASI может привести к тому, что их цели станут несовместимыми с процветанием человечества.

Возникнут геополитические риски, связанные с гонкой вооружений в области ИИ между США и Китаем. Как я отмечал ранее, ИИ по своему влиянию сравним с атомной бомбой, создавая риски неконтролируемого развития. А в борьбе за лидерство все страны вынужденно забудут про безопасность ИИ, что и приведет к глобальным последствиям в виде выхода ASI из-под контроля.

В прогнозе предлагается 2 варианта развития событий: гонка и замедление. Но мне видится, что вариант у нас только один — гонка.

Именно поэтому Трамп вводит пошлины, игнорируя возможные колебания на рынках, чтобы укрепить позиции США в гонке за ИИ. Ведь пока все думают, что он стреляет в ногу, никто не догадывается, что он метит в конкурентов. На кону — будущее его страны на десятки лет вперед. У Китая и так есть шансы обогнать США за счет национализации данных и возможной централизации мощностей, что даст как минимум кратковременную фору, поэтому церемониться сейчас со своим главным конкурентом за мировое ASI-господство Трамп не будет.

Роль России в прогнозе не уточняется, но ее потенциал в разработке ИИ может сыграть свою роль.

Прогноз пугает реалистичностью, а его популярность рискует запустить эффект самосбывающегося пророчества, когда вера общества ускоряет реализацию сценария. Верить в это не хочется.

Подобные исследования я регулярно публикую, но такую детальную картину от столь уважаемых экспертов вижу впервые.