Статья: Научные и технологические тренды: 2020–2040 гг.: перспективы научно-технического развития (доклад организации НАТО по науке и технологиям, 2020 г.)

Системы ИИ особенно уязвимы для кибератак, что может быть использовано, когда небольшие преднамеренные изменения могут привести к ошибочным рекомендациям или неоптимальным действиям.

Достижения в технологии обработки и синтеза речи, вероятно, позволят реалистично имитировать дружественный и вражеский персонал по каналам связи и вещательным средствам массовой информации (т.е. глубокие подделки). В сочетании с твиттер-ботами и другими взломами социальных сетей, ИИ значительно увеличит масштаб и эффективность гибридных атак.

Непредсказуемость и необъяснимость принятия решений ИИ является одновременно сильной стороной (например, создание совершенно новых стратегий) и в то же время значительной потенциальной угрозой. ИИ противника, не ограниченный человеческими (в том числе юридическими, этическими и моральными) рамками, непредсказуемый и необъяснимый, потенциально может стать грозным противником.

Интеллектуальные обучающие системы позволят создавать новые поколения самодельных взрывных устройств, менее подверженных традиционным контрмерам.

2.3 Проблемы функциональной совместимости ИИ

По мере распространения систем ИИ, все острее будут стоять вопросы выработки единых стандартов. Одним из важнейших аспектов является необходимость определения и проведения верификации, валидации и аккредитации систем оперативной поддержки принятия решений с использованием ИИ для использования в военных операциях Альянса. Альянс будет вынужден сделать это из-за различий таких стандартов, правил управления данными, таксономии и учебных выборок, проблем объяснимости и различных уровней системного и организационного доверия в государствах-членах. Необходимо формировать политику, которая будут принципиально признавать потенциальную подверженность ИИ ошибкам. Не менее важной областью является обеспечение объяснимости ИИ, хотя возможны столкновения с коммерческими интересами, учитывая возможность раскрытия интеллектуальной собственности. Стандартизация этого процесса в рамках всего Альянса будет сопряжена со значительными трудностями.

2.4 Перспективы развития ИИ

ИИ сталкивается с рядом критических проблем, которые открывают области для перспективных исследований:

1. Усовершенствованные алгоритмы: необходимы дальнейшие исследования в области машинного и глубокого обучения, состязательного ИИ, а также нейроморфных и вероятностных вычислений.

2. Симбиоз человека и машины: достижения в области интерфейсов ИИ, ориентированного на человека, визуализация, объяснимость и социально-технические последствия.

3. Прикладной ИИ: ИИ - это базовая технология, поддерживающая аналитику данных. Существует потребность в процессах преобразования данных в инсайты и прогнозы для лиц, принимающих решения. Эти инструменты могут быть применены к критическим вызовам в области обороны и безопасности, таким как: создание ИИ, взаимодействующего с человеком, социальными и сложными системами для более реалистичного анализа и персонализированного обучения; адаптивные методы разведки в таких областях, как радиоэлектронная борьба; разработка ИИ-агентов для оборонительных и наступательных киберопераций; распространение информации с помощью ИИ (например, глубокие подделки, deep fakes) и разработка контрмер гибридной войны (например, поддержание доверия и противодействие уязвимостям).

Таким образом, большие данные и ИИ обладают потенциалом революционного воздействия на операции и возможности НАТО. ИИ - это точка опоры, с помощью которой большие данные могут быть превращены в практические знания и, в конечном счете, в преимущество НАТО в принятии решений. Интеграция ИИ в боевые модели и симуляторы, корпоративные системы, системы поддержки принятия решений, системы киберзащиты и автономные транспортные средства позволит быстро и более эффективно принимать человеко-машинные решения. Использование ИИ на датчиках для предварительной обработки информации и обеспечения адаптивного использования спектра (например, когнитивный радар) приведут к снижению трафика. ИИ также окажет значительное влияние на научно-технический потенциал НАТО, поскольку метаанализ существующих исследований позволит сделать новые научные открытия, определит перспективные области исследований и предоставит усовершенствованные научно-технические инструменты.

Хрупкий характер большинства существующих систем и потребность в объяснимом ИИ - это всего лишь технические проблемы. Необходимо направить усилия на решение сложных проблем, связанных с объединением людей и ИИ, а также психо-социально-технических проблем, поскольку их решение позволит создавать революционные технологии. Несмотря на эти ограничения, к 2030 году вклад ИИ в мировую экономику составит $15,7 трлн. долларов.

Политические, правовые и эксплуатационные проблемы станут серьезными вызовами для НАТО. Обеспечение того, чтобы рекомендации ИИ были надежными, этичными и согласованными с национальными правилами взаимодействия, потребует проведения разработок, направленных на объяснимость функционирования ИИ, доверие и сотрудничество человека и ИИ. Кроме того, в контексте операций Альянса необходима выработка стандартов проверки, валидации и аккредитации систем ИИ.

В таблице 2. представлены: области перспективных исследований ИИ, оценка их потенциального воздействия на сферу обороны и безопасности, технологический уровень и ожидаемые сроки массового распространения.

Таблица 2 Области перспективных исследований ИИ

3. Автономные системы

Автономия - это способность системы реагировать на неопределенные ситуации, самостоятельно составляя и выбирая различные варианты действий для достижения целей, основанных на знаниях и контекстуальном понимании мира, себя и ситуации. Автономия характеризуется степенью самостоятельности (уровнями автономии, варьирующими от полностью ручного управления до полностью автономного). Робототехника - это проектирование и построение автономных систем, охватывающих все уровни автономии. Беспилотные транспортные средства могут дистанционно управляться человеком или действовать автономно в зависимости от миссии. Технология позволяет обеспечить доступ к труднодоступным районам, постоянное наблюдение, долговечность, использование роботов для поддержки солдат, более дешевые, автоматизированные логистические поставки.

Робототехника и автономные системы во многом основаны на использовании других перспективных и прорывных технологий. Разработки, представляющие интерес для НАТО, будут в основном касаться следующих областей:

1) автономные системы - платформы, устройства и агенты (например, двигатели, программные агенты, датчики малой мощности, Интернет вещей и приложения). Особо следует отметить следующие области: автономные гиперзвуковые аппараты, биоинспирированные микро- и мини-летательные аппараты, малые спутники, гибридно-электрические аэро-установки, легкая гиперспектральная технология визуализации с высоким разрешением для полустационарных миссий наблюдения, миниатюризация радиочастотных датчиков, плазмоника для уменьшения размера ИК-детектора, 3D-моделирование окружающей среды и роботизированные ложные цели (decoys).

2) симбиоз человека и машины: повышение производительности человека, партнерство человека и машины.

3) высокомощное радиочастотное оружие.

4) автономное поведение: рой-центрические (swarm centric) системы и интеллектуальная автономия (т.е. все более продвинутый встроенный ИИ).

Автономность платформы является одним из наиболее важных примеров военной робототехники и автономных систем. Это беспилотники для воздушного, морского (подводного и надводного) и наземного использования. С момента запуска первого экспериментального полностью автономного космического аппарата (Deep Space 1) в 1998 году автономные системы с поддержкой искусственного интеллекта (особенно малые спутники) стали катализатором новых технологических разработок в космосе. Исследования в области беспилотников охватывают широкий спектр вспомогательных технологий, включая: скрытность (сигнатуры: инфракрасные, акустические), квалификацию и сертификацию, конструкции и материалы, двигатели, производительность, стабильность и контроль, а также проектирование.

Однако помимо беспилотных средств автономностью обладают и виртуальные программные агенты или боты, которые могут использоваться для наступательных и оборонительных действий в информационном и киберпространстве.

Надежные автономные программные агенты действуют в составе киберфизических систем подобно иммунной системе, обеспечивая защиту от ботов, крупномасштабных вредоносных атак и других кибер-событий скрытым образом, минимизируя при этом воздействие на сетевые системы и инфраструктуру Альянса. Критически важным в современных условиях является создание системы, способной обнаруживать, оценивать и реагировать на кибер-угрозы намного оперативнее, чем это сможет сделать человек-оператор. Значительная часть программного обеспечения для этих целей должна использовать автономию для снижения когнитивной нагрузки на оператора. Эти системы будут оценивать и интерпретировать огромное количество сенсорных и разведывательных данных. Они будут обладать способностью принимать самостоятельные решения и действовать быстро, в то же время иметь возможность работать в команде, которая включает людей.

Автономные системы, будь то беспилотники или киберагенты будут участвовать в выполнении различных миссий и на степень их автономии будут влиять сложность и ограничения (например, правовые, политические и т.д.) миссии. Хотя беспилотные системы все чаще используются в военных операциях, в ближайшей перспективе полная автономность будет практична только для самых простых задач (например, вертолет, используемый для доставки боеприпасов войскам в полевых условиях и действующий автономно только некоторую часть полета).

Таким образом, в краткосрочной и среднесрочной перспективе большее распространение в военных целях получит полуавтономные системы. Основной проблемой для такой автономии является ограничение риска во время эксплуатации. Сложность миссии является основным фактором риска, и вытекающая из этого целесообразность ограничения или смягчения риска может ограничить использование автономных систем.

При этом особое значение имеет развитие технологий «невидимости» беспилотных объектов, чтобы ограничить или избежать обнаружения их силами противника. Разработки в этой области направлены на противодействие методам обнаружения (радиолокационным, инфракрасным, гидроакустическим). Эти требования могут влиять на новые конструкции платформ и стимулировать их разработку.

Кроме того, требуются новые миниатюрные маломощные датчики для поддержки встроенного ИИ, ситуационной осведомленности и в целом повышения возможностей беспилотников. Исследования в этой области стимулируются коммерческим сектором, разрабатывающим автономные транспортные средства, что приводит к появлению все более мощных и дешевых лидарных и радиолокационных датчиков, и эти технологии развиваются быстрыми темпами.

Развитие автономных систем в области обороны будет оказывать существенное влияние на сферы разработок беспилотных летательных аппаратов, логистики, киберзащиты, оперативной информации и систем наведения.

Чтобы полностью реализовать преимущества автономных транспортных средств, неструктурированные геопространственные данные и метаданные должны иметь высокое качество и быть легкодоступными, что поднимает проблему обобщения и категоризации этой информации.

Надежные, постоянно усовершенствуемые и адаптивные термоядерные двигатели для военных многоцелевых применений должны быть модульными, управляемыми и внедренными через совместимые интерфейсы. Для деятельности Альянса в воздушном и космическом пространстве использование автономных систем будет существенным элементом будущего оперативного успеха, который будет основан использовании конвергентных технологий.

Рои недорогих, автономных воздушных и космических систем могут обеспечить адаптивность, быструю модернизацию и способность нивелировать потери, которые не могут нести традиционные судна с экипажем. Используя достижения в области искусственного интеллекта, недорогих датчиков и сетевых технологий связи, низкоуровневые системы могут восстанавливать гибкость, чтобы атаковать слабые места противника неожиданными способами, используя количество и сложность организации.