Непоправимая польза ИИ: как нейросети угрожают конфиденциальности
Советник генерального директора ICS Consulting Николай Григорьев упомянул, что 80% китайских врачей тихонько используют Deepseek для лечения больных.
Перекладывая на него часть ответственности за принятие решений, они еще и сливают в него огромное количество чувствительной информации о пациентах.
И в обратную сторону тоже работает. Не по наслышке знаем, что в России врачи уже жалуются на то, что они вынуждены бороться с мнением ИИ, транслируемым через пациентов.
В остальных сферах происходит ровно то же самое. В итоге чувствительная информация может оказаться вообще у кого угодно, кто сформулирует соответствующий промпт в нейросеть.
А представьте еще, сколько сотрудников компаний загружает конфиденциальные отчеты о самой компании в ИИ. И потом результаты используются в языковых моделях для других ответов, хотя официально к ним доступ закрыт.
Настало время задуматься о безопасности использования нейросетей: строить закрытые контуры обработки информации с контролем доступа, вкладываться в ИТ инфраструктуру вместо использования облачных сервисов. Иначе вся информация мигом утечет не туда.
Обращайте внимание на то, что вы загружаете в ИИ.
Подпишись на Чёрного Лебедя в MAX