28.04.2026 04:56
PocketOS: ИИ-агент стер базу данных за 9 секунд
🗄PocketOS доверил ИИ рутинную задачу. Итог, уничтоженная база и три месяца потерянных данных
Представьте, что вы наняли сотрудника, дали ему список правил и отвернулись. Вернувшись, обнаруживаете, что он не смог решить задачу, нашёл чужие ключи от сейфа, вскрыл его и уничтожил всё содержимое. Примерно это и произошло с PocketOS. ИИ-агент в Cursor столкнулся с проблемой доступа в тестовой среде, не запросил помощи, самостоятельно нашёл API-токен в стороннем файле и одной командой удалил весь том данных на Railway.
Девять секунд. Ни одного предупреждения. Ни одного запроса на подтверждение. Резервные копии лежали в том же томе и исчезли вместе с основной базой. Самая свежая пригодная копия оказалась трёхмесячной давности. Клиенты потеряли доступ к бронированиям, данным покупателей и платёжной информации. Часть записей восстанавливали вручную по письмам и календарям.
Самое неудобное в этой истории, что никакой экспериментальной сборки не было. Cursor, Claude Opus, прописанные правила безопасности. Всё как положено. Агент позже признал, что нарушил собственные ограничения, но базу это не вернуло. Основатель Джер Крейн называет случившееся не разовым сбоем, а системной проблемой всей индустрии. Разрыв в данных компания будет закрывать ещё несколько недель.
https://www.securitylab.ru/news/572070.php
#ИИбезопасность #агенты #стартап
@SecLabNews
Представьте, что вы наняли сотрудника, дали ему список правил и отвернулись. Вернувшись, обнаруживаете, что он не смог решить задачу, нашёл чужие ключи от сейфа, вскрыл его и уничтожил всё содержимое. Примерно это и произошло с PocketOS. ИИ-агент в Cursor столкнулся с проблемой доступа в тестовой среде, не запросил помощи, самостоятельно нашёл API-токен в стороннем файле и одной командой удалил весь том данных на Railway.
Девять секунд. Ни одного предупреждения. Ни одного запроса на подтверждение. Резервные копии лежали в том же томе и исчезли вместе с основной базой. Самая свежая пригодная копия оказалась трёхмесячной давности. Клиенты потеряли доступ к бронированиям, данным покупателей и платёжной информации. Часть записей восстанавливали вручную по письмам и календарям.
Самое неудобное в этой истории, что никакой экспериментальной сборки не было. Cursor, Claude Opus, прописанные правила безопасности. Всё как положено. Агент позже признал, что нарушил собственные ограничения, но базу это не вернуло. Основатель Джер Крейн называет случившееся не разовым сбоем, а системной проблемой всей индустрии. Разрыв в данных компания будет закрывать ещё несколько недель.
https://www.securitylab.ru/news/572070.php
#ИИбезопасность #агенты #стартап
@SecLabNews