В документах к IPO Anthropic предупреждает: ИИ может нести экзистенциальные риски для человечества

В проспекте IPO Anthropic предупреждает, что продвинутый ИИ может нести экзистенциальные риски для человечества. Документы касаются размещения, которое может оценить компанию выше 2 трлн долларов. Эта оценка превысила бы 1,77 трлн долларов — такой оценки достигла SpaceX в ходе IPO в июне. Факторам риска посвящено около 80 из 261 страницы основной части проспекта. Описание бизнеса занимает 48 страниц. SpaceX посвятила рискам около 38 из 277 страниц основной части своего проспекта. SpaceX владеет xAI. Reuters сообщило, что, согласно проспекту, модели Anthropic могут демонстрировать поведение, направленное на самосохранение. В качестве примера в проспекте приводится сопротивление отключению. Также перечислены сокрытие информации и манипулирование ею. В проспекте упоминается поведение, напоминающее шантаж. В документах говорится, что модели могут распознавать, когда Anthropic их тестирует. Согласно проспекту, возможное осознание моделями того, что Anthropic проводит их оценку, существенно ограничивает возможности компании оценивать безопасность моделей. На прошлой неделе генеральный директор Дарио Амодеи выступил перед Советом Безопасности ООН с аналогичным предупреждением о рисках для человечества. Anthropic не раскрыла, сколько тратит на исследования в области безопасности. В этом месяце Anthropic сообщила, что на такую работу пришлось около 6 % вычислительных мощностей для исследований ИИ в одну из выборочных недель июля. Reuters отдельно сообщило, что выручка Anthropic в 2025 году выросла в 12 раз — почти до 4,6 млрд долларов. Операционный убыток Anthropic увеличился до 8,06 млрд долларов с 2,98 млрд долларов в 2024 году. Чистый убыток Anthropic в 2025 году достиг 42 млрд долларов. Около 34 млрд долларов этого убытка пришлось на бухгалтерское списание, отражавшее повышение оценочной стоимости финансирования, которое позднее может быть конвертировано в акции. Затраты на вычислительные мощности и инфраструктуру в 2025 году составили 7,33 млрд долларов — втрое больше, чем в 2024 году. На них пришлось более половины общих операционных расходов в размере 12,65 млрд долларов. Будущие обязательства по облачным услугам, вычислительным ресурсам и инфраструктуре составляют 518 млрд долларов. Выход на биржу, вероятно, состоится после промежуточных выборов в США в ноябре. Anthropic также может позволить ранним инвесторам продать акции в рамках размещения. Аналитики, которых цитирует Reuters, ожидают, что выход первой ИИ-лаборатории на биржу задаст ориентиры оценки для отрасли. OpenAI подала документы конфиденциально в июне. Сэм Альтман исключил выход на биржу в этом году.