Sokk a harctéren: Teljesen önálló gyilkos robotok végeztek katonákkal

Régóta sejtettük, hogy eljön ez a nap, de most hivatalossá vált. A mesterséges intelligencia által vezérelt fegyverek emberi parancs és beavatkozás nélkül hoztak megérett döntést az élet és halál kérdésében. Ez már nem a Terminátor-filmek fikciója, hanem a véres valóság.

A hadviselés története örökre megváltozott: megerősített jelentések szerint a történelemben először fordult elő, hogy teljesen autonóm, emberi felügyelet nélkül működő drónok emberi katonákat öletek meg. A szakértők szerint ez a pillanat egy olyan etikai és katonai lavinát indíthat el, amit már lehetetlen lesz megállítani.

Mi történt pontosan?

A jelentések szerint a konfliktus zónában bevetett katonai drónokat olyan mesterséges intelligenciával szerelték fel, amely képes önállóan felkutatni, azonosítani és megsemmisíteni a célpontokat. A kritikus pont az „ember a hurokban” (human-in-the-loop) elv teljes elhagyása volt: a gépeknek nem kellett engedélyt kérniük egy hús-vér operátortól a lövés leadása előtt. Az MI algoritmus rangsorolta a fenyegetést, és önállóan kiadta a tűzparancsot.

Miért vészjósló ez a mérföldkő?

Bár a katonai fejlesztők azzal érvelnek, hogy az autonóm fegyverek gyorsabbak, precízebbek és megvédik a saját katonák életét, a humanitárius szervezetek és a tech-világ prominens alakjai már évek óta kongatják a vészharangot.

A legnagyobb aggodalmat az alábbi kérdések vetik fel:

• Ki a felelős? Ha egy algoritmus hibázik, és civileket öl meg, kit terhel a felelősség? A programozót? A katonai parancsnokot? Vagy magát a gyártót?

• Technikai tévedések: Az MI felismerő rendszerei nem tévedhetetlenek. Egy rossz fényviszony, egy ártatlan tárgy vagy egy félreértelmezett mozdulat is elegendő lehet ahhoz, hogy a gép ellenségnek bélyegezzen egy civilekből álló csoportot.

• Globális fegyverkezési verseny: Most, hogy a technológia élesben is „bizonyított”, a világ vezető haderői gőzerővel fognak fejleszteni hasonló gyilkos robotokat, nehogy lemaradjanak a versenyben.

Nincs visszaút

A nemzetközi jog és az ENSZ évek óta próbál dűlőre jutni az autonóm fegyverrendszerek (LAWS) betiltásáról vagy szigorú szabályozásáról, de a diplomácia eddig túl lassúnak bizonyult a technológia fénysebességű fejlődéséhez képest.

A szellem kiszabadult a palackból. A kérdés már nem az, hogy mindez megtörténhet-e, hanem az, hogy hol és mikor fognak újra lecsapni az emberi felügyelet nélküli gyilkos drónok.