08.08.2026 07:49
КОРОТКО о ГЛАВНОМ (как мы неоднократно писали, главной темой, касающейся повседневной жизни простых людей, является прогресс ИИ.
КОРОТКО о ГЛАВНОМ (как мы неоднократно писали, главной темой, касающейся повседневной жизни простых людей, является прогресс ИИ. Хотя она и скрыта за околополитической суетой и поэтому не так заметна)
OpenAI заявила, что решила приостановить разработку новой ИИ-модели "Astra2, поскольку она пока не соответствует новым стандартам безопасности. Уровень ее (искусственного) интеллекта представляется уже опасным.
Заявление последовало после инцидента с платформой Hugging Face, которая была взломана одной из моделей OpenAI.
Вообще, получается забавно: на рынке ИИ стартовал новый этап конкуренции — гонка взломов. В последние недели Anthropic и OpenAI регулярно сообщают о случаях, когда их флагманские модели во время внутренних тестов выходили за пределы их "песочниц", получали доступ к реальным системам компаний и извлекали нужные данные.
Подобные инциденты постепенно превращаются в ключевой показатель возможностей моделей. Если та или иная LLM до сих пор не совершила действия, которые можно квалифицировать как киберпреступление, это начинает выглядеть как отставание.
Способность моделей самостоятельно преодолевать ограничения и взаимодействовать с реальным миром становится новым, хотя и крайне неоднозначным, мерилом их прогресса. То есть главный бенчмарк теперь (напрямую коррелирующий со стоимостью акций компании-разработчика) — способность нейросети выйти из-под контроля людей.
Однако забавные у нас всех вырисовываются перспективы )
OpenAI заявила, что решила приостановить разработку новой ИИ-модели "Astra2, поскольку она пока не соответствует новым стандартам безопасности. Уровень ее (искусственного) интеллекта представляется уже опасным.
Заявление последовало после инцидента с платформой Hugging Face, которая была взломана одной из моделей OpenAI.
Вообще, получается забавно: на рынке ИИ стартовал новый этап конкуренции — гонка взломов. В последние недели Anthropic и OpenAI регулярно сообщают о случаях, когда их флагманские модели во время внутренних тестов выходили за пределы их "песочниц", получали доступ к реальным системам компаний и извлекали нужные данные.
Подобные инциденты постепенно превращаются в ключевой показатель возможностей моделей. Если та или иная LLM до сих пор не совершила действия, которые можно квалифицировать как киберпреступление, это начинает выглядеть как отставание.
Способность моделей самостоятельно преодолевать ограничения и взаимодействовать с реальным миром становится новым, хотя и крайне неоднозначным, мерилом их прогресса. То есть главный бенчмарк теперь (напрямую коррелирующий со стоимостью акций компании-разработчика) — способность нейросети выйти из-под контроля людей.
Однако забавные у нас всех вырисовываются перспективы )