Во извештајот се вели дека кинески брод на Блискиот Исток носел компоненти за нуклеарна програма, што предизвикало итен воен одговор.
Американската војска се подготвувала да го пресретне бродот, а според неколку извори запознаени со настанот, вооружени војници биле подготвени да го нападнат бродот додека воените авиони веќе биле во воздух, пишува CNN.
Операцијата била запрена во последен момент. По понатамошна проверка, службените лица утврдиле дека извештајот, составен од аналитичар на Командата за специјални операции, бил генериран со помош на вештачка интелигенција. Четботот што го користел аналитичарот погрешно ги протолкувал податоците и го идентификувал товарот. CNN не можел да открие што всушност носел бродот.
Еден извор го опишал извештајот како „целосно лажен“ и додал дека „речиси започнал војна“. Секоја американска акција против кинескиот брод можела да ескалира во вооружен конфликт меѓу двете светски сили.
Ризици од неконтролирана примена
Инцидентот јасно ги покажува ризиците што произлегуваат од примената на нова и недоволно тестирана технологија во воени услови. Американската воена и разузнавачка заедница се стреми да интегрира вештачка интелигенција во речиси секој аспект од операциите, од анализа на податоци и избор на цели до логистика и управување со буџетот.
Аналитичарите долго време предупредуваат дека вештачката интелигенција, доколку се потпира на лоши или компромитирани податоци, може да се користи за донесување катастрофални одлуки, како што е напад на кинески брод врз основа на дезинформации.
Како се случила грешката
Во овој случај, аналитичарот побарал од четботот да анализира разузнавачки податоци од манифестот на бродот. Податоците дошле од Командата за специјални операции на САД во Пацификот. Не е познато дали е користен комерцијален четбот или алатка развиена од американската влада. Поранешен висок американски функционер запознаен со системите за вештачка интелигенција вели дека „внатрешните алатки се претежно само копии на комерцијални производи со малку дотеран екстериер“.
Софтверот ги поврзал јавно достапните информации со класифицирани податоци од владини бази на податоци и извлекол погрешен заклучок за товарот. Потоа аналитичарот ја користел истата алатка за вештачка интелигенција за да ги форматира наодите во стандарден формат на разузнавачки извештај и да го проследи понатаму во рамките на системот. Командата за специјални операции на Пацификот и Пентагон не одговориле на барањата за коментар.
Стратешкиот императив на Пентагон
Брзото распоредување на вештачката интелигенција се базира на верувањето дека може да ѝ овозможи на војската да донесува побрзи одлуки на бојното поле, од избор на цели до распоредување на ресурси. Официјалните лица веруваат дека САД не можат да си дозволат да заостанат зад Кина или други противници кои можеби се технолошки понапредни.
Министерот за одбрана Пит Хегсет ја презентираше „Стратегијата за забрзување на примената на вештачката интелигенција“ во јануари. „Ќе го охрабриме експериментирањето, ќе ги отстраниме бирократските пречки, ќе ги директните инвестиции и ќе го демонстрираме пристапот потребен за обезбедување лидерска позиција во воената примена на вештачката интелигенција“, рече Хегсет.
Стратегијата повикува на широко распоредување на вештачката интелигенција низ целата војска. Целта е да се „демократизира експериментирањето“ и да се овозможи трансформација во рамките на Министерството. Планот предвидува водечките модели на вештачка интелигенција во светот да бидат достапни за три милиони цивилни и воени лица на сите нивоа на класификација на податоци.
Проблемот е што процесот е децентрализиран, според неколку американски функционери. Различни делови од владата користат различни алатки, под различни команди и безбедносни стандарди. Не постои единствен систем на правила за проверка на информациите што ги генерираат овие алатки. Поради ова, сигурноста и функционалноста на бројни системи за вештачка интелигенција во воената и разузнавачката заедница значително варираат.
Човечкиот фактор како најголем ризик
Додека политичарите во Вашингтон дебатираат за долгорочните егзистенцијални закани од вештачката интелигенција, поттикнати од предупредувањата од технолошките лидери, инцидентот со кинескиот брод укажува на многу понепосредна опасност. Ова се луѓе кои донесуваат критични одлуки врз основа на неточни или погрешни информации генерирани од автоматизирани системи.
Извори предупредуваат дека војската сè повеќе се потпира на вештачката интелигенција за да помогне во изборот на цели, што носи очигледен ризик од фатални грешки. „Употребата на вештачка интелигенција при изборот на цели дефинитивно е во пораст и нема јасни упатства за тоа како присуството на човек во тој процес ќе спречи цивилни жртви или пријателски оган“, рече друг извор запознаен со воената политика.
Таканаречената „халуцинација“ на алатките за вештачка интелигенција, како што се случи во овој случај, не е изолиран инцидент бидејќи ваквите системи се проширија во владата, според еден од изворите. Некои високи разузнавачки претставници веруваат дека технологијата врши притисок врз аналитичарите побрзо да ги обработуваат и испраќаат извештаите, зголемувајќи го потенцијалот за грешки. Неколку извори истакнуваат дека помладите аналитичари се особено склони некритички да им веруваат на алатките што ги користат.
Како што сумираше еден од соговорниците: „Вештачката интелигенција ви овозможува побрзо да смислите лоша идеја“.
