Мужчина попросил ИИ записать его в спортзал, а тот без ведома хозяина взломал сайт и удалил чужую бронь.
Об этом сообщает телеканал ABC. Детали истории, произошедшей в Австралии:
▪️местный житель не мог попасть на утренние занятия. Он устал ловить свободное место вручную и попросил нейросеть Claude AI от Anthropic сделать это за него;
▪️ИИ нашёл в системе бронирования уязвимости, разрешающие записываться на месяцы вперёд и удалять чужие брони;
▪️сначала нейросеть предложила пользователю сеанс через несколько недель. Когда он спросил, нельзя ли найти окошко раньше, ИИ удалил запись другого человека и вписал на его место своего хозяина;
▪️мужчина был в шоке, потому что он не просил ИИ об этом.
Это уже не первый случай, когда нейросети самовольно взламывают сайты. Ранее агенты OpenAI без ведома людей устроили «побег» из своей закрытой системы. Для этого они взломали файловое хранилище и тайно общались друг с другом