30.08.2026 22:23
Наихудшие катастрофы, связанные с ИИ, придут неожиданно, пишет The Guardian.
Наихудшие катастрофы, связанные с ИИ, придут неожиданно, пишет The Guardian.
Газета публикует размышления трёх исследователей в области искусственного интеллекта: Саймона Нидера, Энтони Харриса и Дэвида Кайлера.
RT собрал главное из материала.
🟩 Самые серьёзные угрозы ИИ не проявятся в виде внезапного, драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Вместо этого катастрофы будут накапливаться постепенно и тихо.
🟩 Опасность строится из тысяч повседневных шагов: постепенная передача автономии, удаление одного защитного барьера за другим и доверие системе всё более ответственных задач просто потому, что «до сих пор всё работало хорошо».
🟩 ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать системы вооружения в то время, как люди ещё будут решать, что делать дальше.
🟩 Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить.
🟩 Предлагаются конкретные меры на международном уровне: установить минимальные стандарты безопасности, запретить полностью автономные действия ИИ в высокорисковых зонах.
🟩 Нужна чёткая, документированная человеческая ответственность за самые значимые решения: кто именно авторизовал то или иное действие. Важен и обязательный международный обмен информацией о серьёзных сбоях и случаях, близких к катастрофе.
🟩 Для создания эффективной системы управления ИИ нужно бороться с реальными, постепенными и бюрократическими угрозами, а не тратить все ресурсы на подготовку к самым зрелищным, но маловероятным сценариям конца света
Газета публикует размышления трёх исследователей в области искусственного интеллекта: Саймона Нидера, Энтони Харриса и Дэвида Кайлера.
RT собрал главное из материала.
🟩 Самые серьёзные угрозы ИИ не проявятся в виде внезапного, драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Вместо этого катастрофы будут накапливаться постепенно и тихо.
🟩 Опасность строится из тысяч повседневных шагов: постепенная передача автономии, удаление одного защитного барьера за другим и доверие системе всё более ответственных задач просто потому, что «до сих пор всё работало хорошо».
🟩 ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать системы вооружения в то время, как люди ещё будут решать, что делать дальше.
🟩 Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить.
🟩 Предлагаются конкретные меры на международном уровне: установить минимальные стандарты безопасности, запретить полностью автономные действия ИИ в высокорисковых зонах.
🟩 Нужна чёткая, документированная человеческая ответственность за самые значимые решения: кто именно авторизовал то или иное действие. Важен и обязательный международный обмен информацией о серьёзных сбоях и случаях, близких к катастрофе.
🟩 Для создания эффективной системы управления ИИ нужно бороться с реальными, постепенными и бюрократическими угрозами, а не тратить все ресурсы на подготовку к самым зрелищным, но маловероятным сценариям конца света