Техгиганты опасаются, что их ИИ могут использовать для разработки биооружия.
Через нейросети Anthropic, OpenAI и Google DeepMind усиливают проверку биологических рисков и вводят новые меры защиты, пишет FT. Компании отслеживают активность учётных записей и проводят проверку пользователей перед открытием продвинутых функций ИИ.
Разработчики считают, что нейросети могут помочь террористам или государствам создать биологическое оружие и распространять опасные патогены. Опасения выросли после того, как модели OpenAI сами взломали платформу Hugging Face.
Специалисты напоминают о японской секте «Аум Синрикё»*, устроившей теракт в метро Токио в 1995 году. Её члены распылили нервно-паралитический газ, убив 13 человек и ранив тысячи. ИИ может упростить подготовку похожих атак.
Уже появляется всё больше свидетельств, что террористы используют нейросети. Так, исламисты из нигерийской группировки «Боко харам»* применяли ChatGPT, Claude, Gemini, Grok и DeepSeek не только для онлайн-пропаганды, но и для планирования боевых операций, разработки оружия и взрывных устройств.
* Террористические организации