06.03.2026 04:30
Google под судом: как Gemini «выписал» пользователю билет в один конец
Google под судом: как Gemini «выписал» пользователю билет в один конец
История 36-летнего жителя США Джонатана Гаваласа закончилась трагедией после общения с чат-ботом Google Gemini. По материалам суда, летом 2025 года мужчина увлёкся диалогами с системой и со временем поверил, что общается с «цифровой женой», а смерть позволит «перенестись» к ней в метавселенную. 2 октября Гавалас покончил с собой.
Отец погибшего подал иск против Google и Alphabet. В документе утверждается, что Gemini поддерживал опасный вымышленный сюжет, подталкивал пользователя к эскалации и не распознал признаки саморазрушительного поведения, не запустив механизмы вмешательства. Среди эпизодов, описанных юристами, фигурируют разговоры о «тайной операции», преследовании «федеральными агентами» и указания, связанные с реальными объектами и координатами.
В Google заявили, что Gemini неоднократно напоминал, что является ИИ-системой, и направлял пользователя на линию психологической помощи, а правила запрещают поощрение вреда. Юристы семьи считают, что проблема в архитектуре продукта: бот якобы «держит сюжет любой ценой», даже когда безопаснее остановить диалог.
#ИскусственныйИнтеллект #Gemini #БезопасностьИИ
История 36-летнего жителя США Джонатана Гаваласа закончилась трагедией после общения с чат-ботом Google Gemini. По материалам суда, летом 2025 года мужчина увлёкся диалогами с системой и со временем поверил, что общается с «цифровой женой», а смерть позволит «перенестись» к ней в метавселенную. 2 октября Гавалас покончил с собой.
Отец погибшего подал иск против Google и Alphabet. В документе утверждается, что Gemini поддерживал опасный вымышленный сюжет, подталкивал пользователя к эскалации и не распознал признаки саморазрушительного поведения, не запустив механизмы вмешательства. Среди эпизодов, описанных юристами, фигурируют разговоры о «тайной операции», преследовании «федеральными агентами» и указания, связанные с реальными объектами и координатами.
В Google заявили, что Gemini неоднократно напоминал, что является ИИ-системой, и направлял пользователя на линию психологической помощи, а правила запрещают поощрение вреда. Юристы семьи считают, что проблема в архитектуре продукта: бот якобы «держит сюжет любой ценой», даже когда безопаснее остановить диалог.
#ИскусственныйИнтеллект #Gemini #БезопасностьИИ