GROK ИДЁТ НА ВОЙНУ — КАК ПЕНТАГОН УСКОРЯЕТ ВНЕДРЕНИЕ ИИ ЗА СЧЁТ ДЕТИЩА ИЛОНА МАСКА И ЧЕМ ОПАСНА ИЗЛИШНЯЯ СПЕШКА В ЭТОЙ С

GROK ИДЁТ НА ВОЙНУ — КАК ПЕНТАГОН УСКОРЯЕТ ВНЕДРЕНИЕ ИИ ЗА СЧЁТ ДЕТИЩА ИЛОНА МАСКА И ЧЕМ ОПАСНА ИЗЛИШНЯЯ СПЕШКА В ЭТОЙ СФЕРЕ

Канал «Военный Осведомитель» @milinfolive

Пентагон продолжает активно внедрять искусственный интеллект в военное планирование. Ранее было известно об использовании в ходе войны против Ирана системы Maven Smart System (MSS) от Palantir, а теперь благодаря всплывшим судебным документам стало известно, что США подключили к своим военным операциям и модель Grok от Илона Маска, интегрировав её в MSS.

В опубликованных документах, связанных с иском против энергоснабжения дата-центров xAI в Миссисипи, директор по цифровым технологиям и искусственному интеллекту Министерства обороны США Камерон Стэнли заявил, что в первые четыре дня операции против Ирана американская армия использовала Grok для помощи в нанесении более 2 тыс. ударов по 2 тыс. различных целей.

По известной публично информации, Maven Smart System способна обрабатывать почти 2 млрд токенов (единиц измерения обработки данных искусственным интеллектом) в день, что эквивалентно примерно 1,5 млрд слов или 6 млн страниц текста. На выполнение аналогичной работы в схожие сроки потребовались бы огромные аналитические отделы из десятков тысяч непрерывно работающих квалифицированных специалистов. Это наглядно демонстрирует, как современный генеративный ИИ способен значительно ускорить первичную обработку разведывательной информации, а значит, и сам процесс от обнаружения до поражения цели.

Несмотря на очевидное преимущество ИИ в военной сфере и соблазн его использовать, широкое внедрение машинных алгоритмов в планирование операций с нанесением ударов несёт множество рисков.

Например, даже мощные современные алгоритмы до сих пор подвержены такому явлению, как галлюцинирование, когда ИИ оказывается не способен выдать достоверную информацию, но, движимый алгоритмом о необходимости угодить человеку, начинает выдумывать ложные факты. Причём делает это максимально правдоподобно и непротиворечиво, что способно убедить не слишком придирчивого внешнего наблюдателя.

Из этого вытекает взаимосвязанная проблема с излишним доверием оператора к используемой языковой модели. А учитывая, что ИИ обрабатывает массивы данных, просто недоступные для человека, перепроверять за ним большинство выданной информации в условиях ограниченного времени на войне может быть попросту нереально — иначе теряется смысл использования ИИ с тем самым ускорением процесса принятия решения.

Кроме того, существуют две ключевые фундаментальные проблемы. Первая — это предвзятость. ИИ действует исходя из скормленных ему обучающих данных, и если новый театр военных действий, применяемые на нём военная техника и вооружения будут значительно отличаться от исходных обучающих данных модели, то количество ошибок и выданных ложных целей значительно возрастёт. В данном случае это реинкарнация пословицы про генералов, которые всегда готовятся к прошлой войне. Так и здесь: любой ИИ обучается на материалах прошлого. Вторая — это так называемая проблема «чёрного ящика». Оператор может видеть, какие данные поступили в ИИ и какие выводы он из этого сделал, но не может понять, как и почему система пришла именно к такому решению. В военной сфере цена такой ошибки будет непомерно высокой, особенно если она окажется не отдельным просчётом, а неправильно работающим системным алгоритмом, регулярно приводящим к выдаче неверных прогнозов и ложных целей на поражение.

Все эти проблемы требуют жёсткого контроля за использованием военного ИИ со стороны человека и чётких алгоритмов перепроверки значимой итоговой информации, особенно если она используется для нанесения ударов в местах, связанных с гражданской инфраструктурой и населением. Страшным примером такого излишнего доверия ИИ стали…

Продолжение в следующем посте