Сэм Альтман предупредил о двух сценариях развития искусственного интеллекта, которые могут иметь крайне негативные последствия. Глава OpenAI одновременно выступил в поддержку единых требований безопасности для ведущих разработчиков ИИ и подчеркнул, что технологическая конкуренция не должна становиться оправданием для неоправданного риска.
Заявление Альтмана прозвучало после того, как руководители крупных компаний отрасли начали обсуждать необходимость более осторожного подхода к дальнейшему совершенствованию ИИ-моделей. Повышенное внимание к этой теме усилилось после ухода одного из исследователей и последовавших публичных заявлений специалистов о возможных долгосрочных рисках.
По словам Альтмана, наиболее серьезные угрозы связаны с двумя направлениями. Одно из них заключается в потенциальной утрате людьми контроля над дальнейшим развитием искусственного интеллекта. Второе касается ситуации, при которой чрезмерные возможности и влияние окажутся сосредоточены в руках одного человека или одной компании.
Глава OpenAI считает, что для снижения подобных рисков необходима согласованная система требований к безопасности передовых ИИ-систем. Он также поддержал идею привлечения независимых экспертов, которые могли бы получать доступ к разработкам компаний на условиях, сопоставимых с доступом их собственных сотрудников.
С аналогичным предложением ранее выступил руководитель Anthropic Дарио Амодеи. Он призвал крупнейшие лаборатории установить общие стандарты безопасности, контролировать темпы развития наиболее мощных моделей и координировать работу на международном уровне. При этом предложенный им подход, по его словам, должен позволить снизить риски без отказа от коммерческих возможностей и технологического развития.
Одной из причин обеспокоенности специалистов стало развитие технологий, позволяющих ИИ участвовать в создании и совершенствовании последующих поколений подобных систем. Такой процесс известен как рекурсивное самосовершенствование. Амодеи считает, что при дальнейшем ускорении разработок возможности ИИ потенциально могут начать расти быстрее, чем специалисты смогут понимать принципы работы таких систем и обеспечивать необходимый уровень контроля.
Альтман согласился с необходимостью более внимательного подхода к темпам развития. Вместе с тем он отдельно подчеркнул, что под контролем темпов не следует понимать полную остановку технологического прогресса. По его оценке, развитие ИИ продолжится, однако отрасли необходимо самостоятельно выстраивать механизмы безопасности и управления рисками.
Обсуждение потенциальных ограничений уже отразилось на настроениях инвесторов. В начале недели снизились акции ряда компаний, связанных с искусственным интеллектом и производством полупроводников. Участники рынка оценивали заявления руководителей ИИ-компаний с учетом высоких ожиданий относительно дальнейшего роста отрасли.
При этом внутри США продолжается дискуссия о том, насколько жесткими должны быть будущие правила. Ряд законодателей выступает за усиление требований безопасности, тогда как президент США Дональд Трамп заявил, что существенное замедление развития отрасли может негативно отразиться на технологическом лидерстве страны. Он также отметил важность сохранения преимуществ США в сфере искусственного интеллекта.
Отдельной темой остается международная конкуренция в области ИИ. В исходном материале отмечается, что США и Китай рассматривают искусственный интеллект как важное направление технологического развития, однако их подходы к вопросам регулирования и международного взаимодействия заметно различаются. На этом фоне обсуждается возможность проведения двусторонних переговоров по вопросам безопасности ИИ.
Китайские разработчики в последние годы также ускорили создание собственных ИИ-моделей.Успех DeepSeek, после которого другие китайские компании представили системы, способные конкурировать по возможностям с передовыми разработками американских компаний. При этом американская сторона выдвигала обвинения в использовании китайскими разработчиками результатов работы зарубежных моделей для обучения собственных систем. Китайские власти эти обвинения отвергли.
Несмотря на различия в подходах, вопрос международных правил безопасности ИИ остается открытым. Основным препятствием для более тесного взаимодействия называются взаимные опасения сторон и отсутствие достаточного доверия. В то же время сама необходимость определить допустимые границы развития и использования наиболее мощных ИИ-систем становится все более заметной частью международной технологической повестки.
На этом фоне Альтман призывает не выбирать между технологическим прогрессом и безопасностью, а выстраивать механизмы, которые позволят совмещать развитие отрасли с контролем возникающих рисков. По его мнению, ответственность за это должна лежать не только на отдельных компаниях, но и на государственных структурах, которым предстоит участвовать в международной координации.