OpenAI замедляет разработку ИИ-модели Astra из‑за киберугроз По данным Axios, разработчик приостановил релиз модели, по
По данным Axios, разработчик приостановил релиз модели, поскольку внутренние оценки показали потенциальные риски, связанные с её использованием. Теперь компания намерена усилить проверки и не вернется к разработке, пока не внедрит все необходимые механизмы защиты.
Это первый случай, когда крупный игрок рынка ИИ добровольно тормозит разработку своей модели по соображениям безопасности. Ранее аналогичное обязательство брала на себя Anthropic, но в феврале лаборатория от него отказалась.
В OpenAI подчёркивают: если один разработчик приостанавливает работу ради безопасности, а другие продолжают без должных мер, это может сделать мир менее защищённым.
Напомним, буквально на этой неделе американские СМИ сообщали, что Anthropic и OpenAI зафиксировали новые случаи выхода ИИ-агентов за рамки тестовых сценариев.