Третью мировую начнут роботы. Новая гонка орудий
Как будет воевать искусственный интеллект (ИИ)? В последнее время многие эксперты задаются этим вопросом. В британском Times вышла статья на эту тему с характерным заголовком - "Вот как может начаться следующая мировая война".
Так и как же она начнется?
Симуляция столкновения
По данным Times, в 2018 году специалисты из Китая, России, США и Великобритании приехали в Лондон, чтобы провести игровую симуляцию и оценить влияние искусственного интеллекта на ядерную стабильность в мире. Согласно легенде, в июне 2021 года правительства нескольких стран получили сообщения о том, что мир находится на пороге ядерной войны из-за видео и военных отчетов, которые кажутся правдивыми, но на самом деле сфабрикованы.
В ходе симуляции три ядерные державы почувствовали, что находятся под угрозой и переключились в режим войны. Главным фактором, повлиявшим на эту ситуацию на всех уровнях, стал искусственный интеллект.
Командование и управление ядерными силами этих стран полагаются на алгоритмы машинного обучения. Искусственный интеллект собирает и обрабатывает информацию и предупреждает принимающих решения командиров и политиков о потенциальных угрозах. Это полезная функция, если она дает больше времени для оценки ситуации, но только не в случае, если данные были сфальсифицированы и искусственный интеллект приходит к выводу о неизбежной атаке, опираясь на подлог.
Мастера фальсификаций
Американские спецслужбы уверяют, что Россия и Китай уже способны обманывать искусственный интеллект, работающий на американских военных, пишет Times. Американцы пришли к такому выводу на основе того, что обе страны пытаются завербовать различных специалистов, связанных с Пентагоном, и людей, которые могли бы обеспечить доступ к американским программам обучения искусственного интеллекта.
Проще говоря, идет гонка вооружений в сфере искусственного интеллекта. В нее вовлечены всевозможные силы: хакеры, преступники, менеджеры социальных сетей, бойцы информационного фронта, аналитики данных, математики, специалисты по моделированию и еще множество людей, которые уверены, что новым полем битв стали гибридные войны.
Гонка вооружений
В 2019 году Дональд Трамп поручил создать Американскую Инициативу в области ИИ. Она работает в пяти направлениях:
- Исследования и разработки: инвестиции в ИИ-компании.
- Ресурсы: чтобы у компаний был доступ к федеральным базам данных и алгоритмам.
- Стандарты: для разработки надежных и безопасных систем ИИ.
- Кадры: подготовка и обучение сотрудников.
- Международные связи: США, в отличие от того же Китая, делают ставку на обмен технологиями и специалистами, привлекая их лучшими условиями и внушительным объемом венчурных инвестиций.
В Стратегии ИИ Министерства обороны говорится о применении данных технологий для военных нужд и кибербезопасности. При этом еще в 2019 в США признавали превосходство Китая по некоторым показателям, связанным с исследованиями ИИ.
В 2019 году правительство США выделило около $1 млрд на исследования в области искусственного интеллекта.
В Китае Национальная стратегия развития технологий ИИ появилась еще в 2017 году. $700 млрд планируют вложить в умное производство, медицину, города, сельское хозяйство и оборону.
Роботы –генералы
На самом деле компьютеры уже десятилетиями помогают генералам планировать войну. Еще в начале 90-х, во время операции Буря в пустыне в ходе войны в Персидском заливе, инструментарий ИИ был использован, чтобы спланировать наращивание сил на Среднем Востоке до начала конфликта. Один генерал США вскоре после этого говорил, что количество сэкономленных денег равняется сумме всего, что было затрачено на разработку ИИ до этого.
Компьютеры широко используются генералами и для разработки потенциальных военных стратегий. Но армии не отдают все решения на поле боя в руки одного солдата, поэтому и перекладывать всю ответственность генерала в руки компьютера — значит зайти слишком далеко.
Машину нельзя привлечь к ответственности за принятые ей решения. Только людей. И это краеугольный камень международного гуманитарного права. Тем не менее, чтобы прорваться через туман войны и разобраться с обширным количеством информации идущей с фронта, генералы будут все больше полагаться на поддержку компьютера в своих решениях.
Если результатом этого станет меньшее количество жертв среди гражданских, уменьшение огня по своим и большее уважение к международному гуманитарному праву, такую компьютерную помощь стоит приветствовать, считает Тоби Уолш, профессор в области искусственного интеллекта в Университете Нового Южного Уэльса и исследовательского сообщества Data61.
Но окончательное решение все равно должно приниматься человеком, а не машиной, уверен ученый.