30.06.2026 03:55
Пост канала «SecurityLab.ru» от 30.06.2026
🤑Люди на Reddit выяснили, что AI-поиск верит всему. Достаточно соврать хором
Участники сабреддита r/poisonai придумали, что вице-президент США умер от бешенства и заразил Трампа укусом. Звучит как очевидная чушь. Но к фейку добавили поддельные некрологи, скриншоты и «местный новостной сайт». DuckDuckGo с Brave на полном серьёзе начали выдавать эту историю как факт.
DuckDuckGo позже признал ошибку и исправил ответ. Brave заявил, что поисковики не являются оракулами истины и пользователям стоит проверять источники самостоятельно.
Проблема глубже одного розыгрыша. AI-поиск не проверяет источники, он считает сигналы. Если десятки страниц согласованно повторяют одно и то же, алгоритм воспринимает это как подтверждение. Организованная группа с достаточным терпением может превратить любую выдумку в факт внутри поискового ответа.
#AIfail #дезинформация #технологии
@SecLabNews
Участники сабреддита r/poisonai придумали, что вице-президент США умер от бешенства и заразил Трампа укусом. Звучит как очевидная чушь. Но к фейку добавили поддельные некрологи, скриншоты и «местный новостной сайт». DuckDuckGo с Brave на полном серьёзе начали выдавать эту историю как факт.
DuckDuckGo позже признал ошибку и исправил ответ. Brave заявил, что поисковики не являются оракулами истины и пользователям стоит проверять источники самостоятельно.
Проблема глубже одного розыгрыша. AI-поиск не проверяет источники, он считает сигналы. Если десятки страниц согласованно повторяют одно и то же, алгоритм воспринимает это как подтверждение. Организованная группа с достаточным терпением может превратить любую выдумку в факт внутри поискового ответа.
#AIfail #дезинформация #технологии
@SecLabNews