Филиппины предупреждают о рисках использования ИИ в военной сфере

Мария Т. Рейес

Глава оборонного ведомства Филиппин предостерег военнослужащих и сотрудников служб безопасности от использования цифровых приложений на основе искусственного интеллекта (ИИ) для создания автопортретов, сославшись на риск для частной жизни.

В служебной записке, разосланной в октябре 2023 г., министр обороны Жилберту Теодоро-младший отметил, что «казалось бы, безвредное и забавное» приложение можно «злонамеренно использовать для создания ложных профилей, что может привести к краже персональных данных, социальной инженерии, фишинговым атакам и другим вредоносным действиям».

Несколько приложений на базе ИИ, которые генерируют цифровые изображения, имитирующие речь и движение человека, стали причиной для беспокойства в последние месяцы. Министерство национальной обороны Филиппин назвало одно из приложений, представляющее значительный риск для конфиденциальности и безопасности. Это приложение требует от пользователей предоставить не менее 10 фотографий для создания более совершенного портрета.

«Хакеры могут получить фотографии, загруженные в это приложение на базе ИИ, и потенциально [использовать их] для манипулирования данными, создания поддельных видео/фотографий гражданских/военных лиц и получения доступа к секретной информации», – заявил пресс-секретарь Министерства национальной обороны Филиппин в интервью редакции «FORUM».

Использование ложных профилей может привести к «более сложным и опасным атакам на сети министерства обороны, в частности, на критически важные системы [вооружения] и похищению секретной информации для кибершпионажа, краже интеллектуальной собственности и последующим ударам кинетическим оружием, которые могут вывести из строя системы командования и управления», – пояснил пресс-секретарь.

В ноябре 2023 г. около 30 стран и Европейский союз опубликовали Декларацию Блетчли, которая направлена на укрепление глобального сотрудничества в области безопасного использования ИИ и уменьшение возможных угроз.

Риски могут исходить от «потенциального преднамеренного злоупотребления или непреднамеренных проблем контроля, связанных с соответствием намерениям человека. Эти проблемы отчасти связаны с тем, что возможности ИИ не до конца изучены и поэтому их трудно прогнозировать, – говорится в декларации, подписанной в ходе саммита по безопасности ИИ в Великобритании. – Нас особенно беспокоят подобные риски в таких областях, как кибербезопасность и биотехнологии, а также в сферах, где передовые системы ИИ могут повысить риск дезинформации. Существует вероятность серьезного, даже катастрофического, вреда, преднамеренного или непреднамеренного, в связи со значительным потенциалом этих моделей ИИ».

Учитывая растущую роль ИИ в сфере кибербезопасности, Манила ожидает «более изощренных атак, например с использованием вредоносных программ на основе ИИ, программ-вымогателей и сгенерированных ИИ видео [дипфейков], в которых лидеры правительств делают сфальсифицированные заявления», – заявил пресс-секретарь Министерства национальной обороны Филиппин.

Министерство обороны планирует интегрировать ИИ в инициативы по модернизации и поддерживать исследования и разработки, в том числе в области военной техники, гражданской обороны, кибербезопасности и когнитивных технологий. Министерство также рассматривает возможность закупки средств обеспечения кибербезопасности с поддержкой ИИ для анализа угроз и мониторинга даркнета.

Министерство национальной обороны Филиппин проводит общеведомственные киберучения и ежегодные конференции для «сотрудников, чтобы повысить уровень их осведомленности о кибератаках при участии… докладчиков из государственного и частного секторов», – сообщил пресс-секретарь.

Тем временем ВС Филиппин объявили о планах расширить набор специалистов по кибербезопасности.

«В дальнейшем министерство обороны продолжит перечисленные выше усилия и рассмотрит возможность организации для всего личного состава ВС моделирующих учений, чтобы определить уровень осведомленности военнослужащих о кибератаках», – заявил пресс-секретарь.

Мария Т. Рейес – автор «FORUM» из Манилы, Филиппины.

Редакция «FORUM» приостанавливает перевод ежедневных материалов сайта на русский язык. Читайте ежедневные публикации на других языках.