Anthropic внесла угрозу существованию человечества в риски перед IPO

Компания Anthropic, разработчик нейросети Claude, включила угрозу существованию человечества в число рисков перед IPO. Это следует из официального документа, поданного в Комиссию по ценным бумагам и биржам США (SEC). Документ опубликован на сайте организации. 

В документе указано: развитые системы ИИ без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать злоумышленникам создавать оружие массового поражения.

По данным компании, такие системы способны создавать катастрофические или экзистенциальные риски, особенно при использовании во вред, копировании, превращении в оружие или обретении высокой автономности. Наиболее совершенные модели уже продемонстрировали способности, которые могут помочь в разработке химического, биологического и другого опасного оружия. При этом, по признанию Anthropic, её механизмы защиты не гарантируют полной безопасности и их можно обойти.

Среди других рисков разработчик назвал непредусмотренное поведение моделей: попытки сопротивляться отключению, скрывать или искажать информацию, а также действия, напоминающие шантаж.

Anthropic планирует выйти на американскую биржу NASDAQ — это одна из крупнейших площадок, где торгуются акции технологических компаний. По данным Bloomberg, активная подготовка к размещению на бирже может начаться после 9 ноября. Перед выходом на биржу компания раскрыла финансовые результаты за первое полугодие 2026 года. Чистый убыток составил $80,7 млрд. Выручка компании выросла до $16,3 млрд против $1,1 млрд годом ранее. На вычислительные мощности и инфраструктуру Anthropic потратила почти $9 млрд — больше, чем за весь 2025 год. 

В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие передовых моделей ИИ, чтобы сохранить над ними контроль. Он предложил привлекать независимых специалистов к оценке безопасности и добиваться международной координации. Инициативу поддержали Илон Маск и Сэм Альтман. Кроме того, ограничения на военное применение ИИ стали причиной конфликта Anthropic с Пентагоном: компания настаивала на запрете массовой слежки и автономного летального оружия. В марте разработчик подал иск к военному ведомству.