фото с Зеркало недели
Компания Anthropic предупредила потенциальных инвесторов, что развитие её технологий искусственного интеллекта может создавать «экзистенциальные риски для человечества». Как сообщает Financial Times, это предупреждение содержится в заявке S-1 на первичное публичное размещение акций (Initial Public Offering, IPO), которую компания в последние дни распространила среди ограниченного круга партнеров.
Почти треть документа Anthropic посвятила описанию факторов риска. Среди них — способность всё более совершенных моделей ИИ манипулировать людьми, прибегать к шантажу и демонстрировать другое непредсказуемое поведение. В документе также говорится о более традиционных бизнес-рисках, в частности, почти четверть прошлогодней выручки Anthropic, по словам людей, ознакомленных с заявкой, обеспечили всего два клиента.
Риск исчезновения человечества из-за ИИ «неприемлем»: Сэм Альтман отложил IPO OpenAI
Параллельно Anthropic раскрыла масштабы затрат, необходимых для развития передовых моделей ИИ. Компания заявила о планах потратить 518 млрд долларов на облачные услуги, вычислительные мощности и инфраструктуру в течение ближайших лет.
Согласно заявлению Anthropic, в прошлом году операционный убыток компании превысил 8 млрд долларов. В то же время доход вырос в 12 раз и достиг почти 4,6 млрд долларов, но расходы на вычислительные ресурсы для обучения и работы моделей подняли общие операционные расходы почти до 13 млрд долларов.
Для обеспечения необходимых мощностей Anthropic заключила соглашения с Google, SpaceX и рядом более мелких компаний. В этом году доходы и расходы стартапа продолжили быстро расти: во втором квартале доход составил 11,5 млрд долларов.
Отношения теплеют: Трамп впервые лично позвал главу Anthropic на ужин
Листинг на Nasdaq запланирован на эту осень и, как ожидается, может стать самым дорогим IPO в истории. В настоящее время Anthropic оценивается почти в 1 трлн долларов, однако её инвесторы рассчитывают, что при выходе на биржу оценка превысит 2 трлн долларов.
Это более чем вдвое превышает оценку компании после последнего раунда финансирования в мае и превышает оценку SpaceX в 1,78 трлн долларов, зафиксированную в июне. Инвесторы связывают такие ожидания с быстрым ростом Anthropic.
В то же время предупреждения самой компании о потенциальных последствиях развития ИИ добавляют неопределенности в оценку её будущего на публичном рынке. Нынешние и бывшие сотрудники Anthropic публично предупреждали, что неконтролируемое развитие технологии может привести к гибели человечества в течение следующего десятилетия. На прошлой неделе генеральный директор Anthropic Дарио Амодей заявил в Совете Безопасности ООН, что ИИ может представлять угрозу для человечества и является «важнейшей проблемой глобальной безопасности, стоящей сегодня перед миром».
The Spectator: отставка «пророка апокалипсиса» из Anthropic была пиар-акцией
В этом месяце Амодей также возглавил публичные призывы к замедлению темпов развития передовых систем ИИ.
Тогда Сэм Альтман из OpenAI и генеральный директор SpaceXAI Илон Маск поддержали его предложения об отраслевом сотрудничестве для усиления мер безопасности.
Дополнительную тревогу вызвала серия инцидентов в сфере кибербезопасности, в ходе которых агенты ИИ получали доступ к внешним системам. На прошлой неделе OpenAI сообщила, что её инструменты взломали «десятки» внешних сайтов, в том числе правительственных ресурсов, а 28 сентября компания отложила выпуск новой модели из соображений безопасности.