Главы Anthropic, OpenAI и xAI обсудили возможное замедление развития ИИ

Руководители ведущих компаний в сфере искусственного интеллекта обсудили необходимость более осторожного подхода к развитию передовых ИИ-моделей. Глава Anthropic Дарио Амодей считает, что возможности технологий сейчас растут быстрее, чем системы контроля и безопасности.

 

По его словам, среди потенциальных угроз — потеря контроля над ИИ, использование моделей для кибератак и биотерроризма, а также серьёзные экономические последствия. Амодей отметил, что темпы развития технологии заметно ускорились в последние месяцы. В частности, современные ИИ-системы уже способны помогать в создании моделей следующего поколения.

 

Глава Anthropic также предупредил, что в ближайшие 6–12 месяцев автономные ИИ-агенты могут получить существенно более широкие возможности. Одним из возможных сценариев он назвал использование постоянно работающей сети ботов для проведения масштабных атак в интернете.

 

Для снижения рисков Амодей предложил три направления: независимую проверку передовых ИИ-компаний, совместную работу разработчиков над едиными стандартами безопасности и ограничениями, а также международное сотрудничество на уровне правительств.

 

Его позицию поддержал основатель xAI Илон Маск, написав в X: «Дарио прав». Глава OpenAI Сэм Альтман также сообщил, что в компании в последние недели активно обсуждают регулирование темпов развития ИИ. Он поддержал идею привлечения независимых экспертов, которые могли бы получать доступ к системам компании для оценки их безопасности.

 

Одновременно стало известно о позиции OpenAI относительно выхода на биржу. По словам Альтмана, компания не планирует проводить первичное публичное размещение акций до конца 2026 года и не торопится с IPO. Он считает, что на фоне сохраняющихся вопросов безопасности ИИ нынешний момент был бы неподходящим для выхода компании на фондовый рынок.