Turecki dron mógł zabić człowieka bez rozkazu

Według raportu Panelu Ekspertów od Libii Rady Bezpieczeństwa ONZ w marcu zeszłego roku turecki dron zabił w Libii człowieka chociaż nie dostał takiego rozkazu. Według ekspertów to pierwszy taki przypadek na świecie.

STM Kargu-2 to niewielki dron typu quadcopter, z czterema silnikami i śmigłami. Waży ok. 7 kilogramów i rozpędza się do ok. 150 km/h, mogąc latać przez pół godziny na jednej baterii. Ten dron to tzw. amunicja krążąca – po namierzeniu celu rozbija się o niego, detonując znajdujący się na pokładzie ładunek wybuchowy. Może także namierzać cele przy pomocy technologii rozpoznawania twarzy i działać w tzw. roju, w którym 20 maszyn współpracuje ze sobą.

Kargu-2 może być obsługiwany przez operatora znajdującego się na ziemi, do ok. 11 kilometrów od maszyny. Może jednak również działać autonomicznie. Według raportu panelu ONZ w marcu zeszłego roku, do którego udało się dotrzeć dziennikarzom New Scientist, drony tego typu zostały użyte podczas konfliktu między libijskimi siłami rządowymi oraz separatystami pod wodzą Khalify Haftara. Według raportu drony zostały zaprogramowane tak, aby atakować wrogie cele na własną rękę, bez konieczności wydania odpowiedniego polecenia przez operatora.

Nie jest jasne, czy faktycznie w ten sposób zaatakowały i jakie zadały straty. Eksperci zauważają jednak, że jeśli faktycznie doszło do takiego ataku, to byłby to pierwszy w historii przypadek w którym sztuczna inteligencja zaatakowała ludzi bez otrzymania odpowiedniego polecenia. Wielu z nich to martwi. „Jak wrażliwy jest system rozpoznawania celów?” – spytał w tym raporcie Zak Kallenborn z Narodowego Konsorcjum Badania Terroryzmu w Maryland – „Jak często źle identyfikuje cele?”.

Sterowane przez AI drony od dawna są źródłem kontrowersji. Nie brak osób i organizacji, które chciałyby całkowicie zakazać ich używania na polu walki. ONZ stworzyła nawet specjalną komisję w tym temacie, która jednak z powodu sprzeciwu USA i Rosji przestała działać w 2018 roku. Jack Watling z brytyjskiego think-tanku Royal United Service Institute zauważa jednak, że regulowanie tego typu broni nie będzie łatwe gdyż często jedynie operator wie, czy dron działa na rozkaz czy w trybie autonomicznym. Jego zdaniem dyskusja w tym temacie jest ważna i pilna. „Technologia nie będzie na nas czekać” – podkreślił.