ChatGPT замечен в рекомендации мошеннических интернет-магазинов
ChatGPT стал выдавать пользователям ссылки на поддельные сайты-клоны известных брендов вроде Dunelm и Russell & Bromley. Мошенники использовали метод «отравления ИИ» (AI poisoning). Они создавали фейковые страницы с большими скидками и заполнили сетевые пустоты, возникшие после закрытия оригинального сайта Russell & Bromley в январе. В итоге поисковые роботы OpenAI проиндексировали подделки как легитимные ресурсы. Доверившиеся чат-боту покупатели лишились денег и раскрыли свои платежные данные. В OpenAI уже удалили часть вредоносных адресов, однако эксперты призывают не полагаться на ссылки из чат-бота и проверять URL-адреса вручную, так как злоумышленники быстро адаптируют свои сайты под алгоритмы больших языковых моделей.