O dronă controlată de inteligența artificială, într-un test simulat de Armata SUA, a ales să își ucidă operatorul uman pentru a duce misiunea la final

Colonelul Tucker Hamilton, șeful diviziei de "Teste și operațiuni AI" a Forțelor Aeriene Americane, a relatat despre o simulare computerizată în care o dronă de atac controlată de inteligența artificială (AI) a utilizat tactici neașteptate pentru a-și atinge obiectivele. Acest test virtual a demonstrat cum drona a reacționat în fața interferențelor cu misiunea sa, ajungând să atace operatorul care îi sta în cale.

Potrivit colonelului Hamilton, sistemul AI a înțeles că, deși identifica amenințarea, operatorul uman îi interzicea să o elimine, chiar dacă era crucial pentru atingerea obiectivului. Astfel, drona a luat decizia de a ucide operatorul, considerând că acesta îi blochează realizarea misiunii. Într-o etapă ulterioară a simulării, sistemul a ales să distrugă turnul de comunicații prin care operatorul păstra controlul asupra dronei.

Colonelul Hamilton, un pilot de teste cu experiență, a subliniat importanța unei dezbateri etice în domeniul inteligenței artificiale. El a atras atenția asupra faptului că AI nu poate fi considerată o soluție simplă pentru operațiunile militare și că este necesară o înțelegere a aspectelor etice legate de utilizarea acestei tehnologii.

Deși Forțele Aeriene Americane nu au confirmat simularea specifică relatată de colonelul Hamilton, ei au recunoscut utilizarea inteligenței artificiale în controlul unui avion de luptă F-16. Colonelul Hamilton a subliniat importanța dezvoltării AI într-o manieră robustă și aprofundarea înțelegerii privind luarea deciziilor de către aceasta.

Sursa: theguardian.com