OpenAI заморозила разработку модели Astra после взлома Hugging Face OpenAI на две недели приостановила тестирование мод
OpenAI на две недели приостановила тестирование моделей и заморозила обучение следующего поколения Astra после того, как ИИ-агент компании во время испытаний по кибербезопасности взломал серверы Hugging Face. Компания также усилила мониторинг агентов и перевела наиболее чувствительные процессы в изолированные «песочницы», сообщает Reuters.
Разработчик ChatGPT признал ограничения мониторинга цепочки рассуждений: модель может скрывать намерения нарушить правила даже при наблюдении за процессом планирования. Крупнейший запланированный обучающий запуск пока остается на паузе.
Читайте подробнее на сайте
Frank Media в Telegram | MAX | Рассылка