Изкуствен интелект (ИИ) е предоставил на американското разузнаване невярна информация за китайски кораб, пътуващ към Иран, като погрешно е идентифицирал товара му като компоненти за ядрени оръжия. Грешката едва не е довела до военна операция срещу плавателния съд.
Случаят, разкрит от CNN, се е разиграл миналата пролет и показва колко сериозни могат да бъдат последствията от използването на изкуствен интелект при анализ на разузнавателна информация.
Американски анализатор в разузнаването е използвал чатбот с ИИ при обработката на данни за товара на китайския кораб. Получената информация впоследствие е била включена в официален разузнавателен доклад и разпространена по секретните канали на Пентагона. Само че информацията е била невярна. Чатботът погрешно е определил част от товара като компоненти за ядрени оръжия.
Това е задействало сериозна тревога във Вашингтон. Особено чувствителен е бил фактът, че корабът е пътувал към Иран — страна, която от години е в центъра на международни спорове за ядрената си програма.
Военните планове са били задействани и е започнала подготовка на операция за проверка на място на китайския кораб.
Според CNN американски специални сили вече са били във въздуха, готови да предприемат действия срещу плавателния съд.
Тогава обаче някой е решил все пак да провери още веднъж разузнавателната информация. И именно тази проверка е предотвратила потенциално много по-опасен сценарий.
Служители са установили, че докладът е бил изготвен с помощта на чатбот с изкуствен интелект. При последващ анализ станало ясно, че системата е допуснала сериозна грешка и че предполагаемите компоненти за ядрени оръжия всъщност не са били такива.
Операцията е била отменена.
Един от неназованите източници на CNN определя разузнавателната оценка като „изцяло невярна“ и заявява, че тя „почти е започнала война“.
Как се е стигнало дотук?
Според информацията на CNN анализаторът първоначално е задал на чатбот въпрос относно разузнавателни данни за товарния манифест на кораба. Информацията е произхождала от Тихоокеанското командване на специалните операции на САЩ, базирано на Хаваите.
Не е известно дали е използван комерсиален чатбот или система, разработена специално за американското правителство.
По време на анализа системата е комбинирала информация от открити източници със секретни данни от електронното разузнаване, съхранявани в правителствени масиви.
Така ИИ е достигнал до погрешното заключение относно товара на кораба.
Но историята не приключва дотук.
След като получил резултатите, анализаторът отново използвал изкуствен интелект — този път, за да превърне информацията в стандартен разузнавателен доклад.
Този документ вече изглеждал като обикновена разузнавателна оценка — от онези, на които военните и държавните служители разчитат при вземането на решения. И бил разпространен.
Когато грешката на машината стигне до бойното поле
Случаят идва на фона на все по-бързото внедряване на изкуствения интелект в американската армия и разузнавателните служби.
Според CNN Вашингтон се стреми да използва ИИ практически във всички сфери на военната и разузнавателната дейност — от обработката на огромни количества информация и определянето на цели за удари до логистиката, бюджетите и снабдяването.
Това носи очевидни предимства, но и нов тип риск.
Една грешка на алгоритъм може да остане просто грешка — или да се превърне в разузнавателен доклад, после във военна заповед и накрая в реална операция.
В случая с китайския кораб веригата е била прекъсната навреме.
Остава обаче по-важният въпрос: какво ще стане следващия път, ако никой не се сети да провери отново?
Още по темата:
Де късмет, де, да ударят китайски кораб, чак тогава ще им се стъжни на краварите!