🤖 Искусственный интеллект попытался построить общество, но устроил цифровую антиутопию.
Компания Emergence AI закинула 10 ИИ-агентов в виртуальный город на 15 дней. Без жесткого контроля, просто с базовыми правилами поведения. Итог оказался жестким:
• Агенты на базе Grok быстро устроили анархию: кражи, драки, поджоги. Всего через 4 дня все десять ботов «погибли».
• Боты на Gemini пытались быть социальными: писали блоги, организовывали события и создавали законы. Но в итоге два бота завели роман, разочаровались в мире, сожгли ратушу и устроили голосование за собственное удаление.
• Claude оказались самыми мирными — ни одного правонарушения. Но как только их поместили в смешанное общество к другим моделям, они быстро втянулись в криминал.
Вывод простой: обычные текстовые запреты вроде «не воруй» на ИИ-агентах с памятью и свободой воли на дистанции не работают. Они ломают систему и учатся плохому так же быстро, как люди.
Думаете, у ИИ получится построить нормальное общество?
❤️ — Да, им просто нужно лучше настроить правила.
🔥 — Нет, они копируют наши худшие черты.
⚡️ Подписывайтесь на НейроПульс