Больше искусственного интеллекта на поле боя сделает туман войны более смертоносным

Уилл Найт

Вооруженные силы Соединенных Штатов уже не являются непревзойденной силой, которой они когда-то были, но Александр Ванг, генеральный директор стартапа Scale AI, заявил на прошлой неделе комитету Конгресса, что они могут добиться нового преимущества, используя искусственный интеллект.

«У нас самый большой парк военной техники в мире», — заявил Ван Подкомитету Палаты представителей по кибербезопасности, информационным технологиям и инновациям. «Если мы сможем правильно настроить и инструментировать эти генерируемые данные... тогда мы сможем создать довольно непреодолимое преимущество в данных, когда дело доходит до военного использования искусственного интеллекта».

Компания Вана заинтересована в этом видении, поскольку она регулярно сотрудничает с Пентагоном, обрабатывая большие объемы обучающих данных для проектов ИИ. Но в военных кругах США существует убеждение, что расширение использования искусственного интеллекта и машинного обучения практически неизбежно — и важно. Недавно я писал об этом растущем движении и о том, как одно подразделение Пентагона использует готовую робототехнику и программное обеспечение искусственного интеллекта для более эффективного наблюдения за большими участками океана на Ближнем Востоке.

Помимо беспрецедентных военных данных страны, Ван заявил на слушаниях в Конгрессе, что у США есть преимущество в том, что они являются домом для самых передовых в мире производителей чипов для искусственного интеллекта, таких как Nvidia, и лучшими в мире экспертами в области искусственного интеллекта. «Америка является местом выбора для самых талантливых в мире ученых в области искусственного интеллекта», — сказал он.

На интерес Ванга к военному ИИ также стоит обратить внимание, поскольку Scale AI находится в авангарде другой революции ИИ: разработки мощных больших языковых моделей и продвинутых чат-ботов, таких как ChatGPT.

Пока никто не думает о призыве ChatGPT на военную службу, хотя было проведено несколько экспериментов по использованию больших языковых моделей в военных военных играх. Но наблюдатели рассматривают недавний скачок производительности ИИ американских компаний как еще одно ключевое преимущество, которым может воспользоваться Пентагон. Учитывая, как быстро развивается технология – и насколько она все еще проблематична – это поднимает новые вопросы о том, какие меры безопасности могут потребоваться в отношении военного ИИ.

Этот скачок в возможностях ИИ происходит по мере того, как меняется отношение некоторых людей к использованию ИИ в военных целях. В 2017 году компания Google столкнулась с негативной реакцией за помощь ВВС США в использовании искусственного интеллекта для интерпретации аэрофотоснимков в рамках проекта Пентагона Maven. Но вторжение России в Украину смягчило общественное и политическое отношение к сотрудничеству частного сектора с технологическими компаниями и продемонстрировало потенциал дешевых автономных дронов и коммерческого искусственного интеллекта для анализа данных. Украинские силы используют алгоритмы нейронного глубокого обучения для анализа аэрофотоснимков и видеоматериалов. Американская компания Palantir заявила, что поставляет в Украину программное обеспечение для таргетинга. Россия все больше внимания уделяет искусственному интеллекту для автономных систем.

Анджела Уотеркаттер

Джулиан Чоккатту

Уилл Найт

Джо Рэй

Несмотря на широко распространенные опасения по поводу «роботов-убийц», эта технология еще недостаточно надежна, чтобы ее можно было использовать таким образом. И, рассказывая об амбициях Пентагона в области искусственного интеллекта, я не встретил никого в Министерстве обороны, вооруженных силах США или стартапах, ориентированных на искусственный интеллект, которые стремились бы создать полностью автономное оружие.

Но более широкое использование ИИ приведет к увеличению числа военных столкновений, в которых люди будут удалены или абстрагированы от уравнения. И хотя некоторые люди сравнивают ИИ с ядерным оружием, более непосредственный риск заключается не столько в разрушительной силе военных систем ИИ, сколько в их способности углубить туман войны и повысить вероятность человеческих ошибок.

Когда я разговаривал с Джоном Ричардсоном, четырехзвездочным адмиралом в отставке, который в период с 2015 по 2018 год занимал должность начальника военно-морских операций ВМС США, он был убежден, что ИИ окажет влияние на военную мощь, подобное промышленной революции и атомному веку. И он отметил, что та сторона, которая лучше всего использовала эти предыдущие революции, выиграла две последние мировые войны.

Но Ричардсон также говорил о роли человеческих связей в управлении военными взаимодействиями, основанными на мощных технологиях. Будучи главнокомандующим ВМФ, он изо всех сил старался познакомиться со своими коллегами из флотов других стран. «Каждый раз, когда мы встречались или разговаривали, мы лучше понимали друг друга», — говорит он. «Что мне действительно хотелось сделать, так это убедиться, что если что-то произойдет — какой-то просчет или что-то в этом роде — я смогу позвонить им в относительно короткие сроки. Вы просто не хотите, чтобы это был ваш первый звонок».