Разузнавачки извештај создаден со помош на вештачка интелигенција оваа пролет за малку ќе предизвикал вооружен судир меѓу САД и Кина. Во извештајот се тврдело дека кинески брод на Блискиот Исток превезува компоненти за нуклеарна програма, што довело до итна воена реакција.
Американската војска се подготвувала да го пресретне пловилото. Според извори запознаени со настанот, вооружени војници биле подготвени да влезат на бродот, а воени авиони веќе биле во воздух, пишува Си-ен-ен.
Операцијата била запрена во последен момент. По дополнителна проверка официјалните лица утврдиле дека извештајот, составен од аналитичар на Командата за специјални операции, бил генериран со помош на вештачка интелигенција. Четботот што го користел аналитичарот погрешно ги протолкувал податоците и го идентификувал товарот.
Еден од изворите го опишал извештајот како „целосно лажен“ и додал дека „за малку ќе предизвикал војна“. Каква било американска акција против кинеското пловило можела да ескалира во вооружен судир меѓу двете светски сили.
Инцидентот ги илустрира ризиците од употреба на нова и недоволно проверена технологија во воени услови. Американската војска и разузнавачката заедница настојуваат да ја интегрираат вештачката интелигенција во речиси сите аспекти на работењето – од анализа на податоци и избор на цели до логистика и управување со буџетот.
Аналитичарите подолго време предупредуваат дека вештачката интелигенција, ако се потпира на лоши или компромитирани податоци, може да доведе до катастрофални одлуки, како напад врз кинески брод врз основа на дезинформации.
Во конкретниов случај аналитичарот побарал од четботот да ги анализира разузнавачките податоци од бродскиот манифест. Податоците дошле од Командата за специјални операции на Пацификот. Не е јасно дали бил користен комерцијален четбот или алатка развиена од владата.
Поранешен висок американски функционер запознаен со системите за вештачка интелигенција изјавил дека „внатрешните алатки главно се само копии на комерцијалните производи со малку разубавена надворешност“.
Софтверот ги поврзал јавно достапните информации со тајни податоци од владините бази и донел погрешен заклучок за товарот. Аналитичарот потоа ја искористил истата алатка за да ги форматира наодите во стандарден разузнавачки извештај и го проследил низ системот.
Командата за специјални операции на Пацификот и Пентагон не одговориле на барањето за коментар.
Брзото воведување на вештачката интелигенција се темели на уверувањето дека таа може да ѝ овозможи на војската побрзо донесување одлуки на бојното поле. Официјалните лица сметаат дека САД не смеат да заостанат зад Кина или други противници што би можеле да бидат технолошки понапредни.
Американскиот министер за одбрана Пит Хегсет во јануари ја претстави „Стратегијата за забрзување на примената на вештачката интелигенција“.
„Ќе го поттикнеме експериментирањето, ќе ги отстраниме бирократските пречки, ќе ги насочиме инвестициите и ќе го покажеме пристапот потребен за да обезбедиме водечка позиција во воената примена на вештачката интелигенција“, рече Хегсет.
Стратегијата предвидува широка примена на вештачката интелигенција низ целата војска. Целта е да се „демократизира експериментирањето“ и да се овозможи трансформација во Министерството. Планот предвидува водечките светски модели да им бидат достапни на три милиони цивилни и воени вработени, на сите нивоа на тајност.
Проблемот е што процесот е децентрализиран. Различни делови од владата користат различни алатки, под различни команди и безбедносни стандарди. Не постои единствен систем на правила за проверка на информациите што ги генерираат овие алатки, поради што доверливоста и функционалноста значително се разликуваат.
Додека во Вашингтон се расправа за долгорочните егзистенцијални ризици од вештачката интелигенција, инцидентот со кинескиот брод укажува на многу понепосредна опасност – критични одлуки да се донесуваат врз основа на неточни информации генерирани од автоматизирани системи.
Изворите предупредуваат дека војската сè повеќе се потпира на вештачката интелигенција при изборот на цели, што носи очигледен ризик од фатални грешки.