Organizácia Spojených národov sa nedávno stala centrom horúcej celosvetovej diskusie o možnosti regulácie smrteľných autonómnych zbraňových systémov (LAWS). Vedúci predstavitelia občianskej spoločnosti, akademici a humanitárni experti sa usilovne zhromaždili minulý týždeň, všetci s cieľom vytvoriť medzinárodnú zmluvu, ktorá by skrotila potenciálne nepredvídateľnú povahu “zabijáckych robotov.”
Rastúce obavy z umelej inteligencie
Ako sa umelá inteligencia stále viac dostáva do vojenského sektora, etické problémy sa stávajú čoraz viac hmatateľnými. Podľa PassBlue necháva nepriehľadnosť rozhodovacích procesov týchto AI systémov veľa želaného ohľadom zodpovednosti. Matt Mahmoudi z Amnesty International poznamenáva: “Tieto technológie môžu predstavovať nepredvídateľné a smrteľné systémy. Ich neschopnosť chápať ľudské emócie robí ich náchylnými na zneužitie.”
Kľúčová úloha OSN
Diskusie OSN v dňoch 12.-13. mája znamenali kľúčový moment. Generálny tajomník Antonio Guterres smeroval úsilie k návrhu rámca zmluvy do roku 2026. Kým sa OSN snaží dosiahnuť konsenzus, cieľom je vytvoriť dvojitý prístup: úplné zákazy útokov AI systémov bez ľudskej kontroly a prísne regulačné nasadenie.
Skutočnosť
Výraznou udalosťou bola ukážková demonštrácia robota poháňaného umelou inteligenciou, ktorá sa konala v Nigerijskom dome. Táto vizualizácia odhalila pochmúrnu realitu autonómneho systému neohľaduplne fungujúceho bez empatie, čím sa zvýraznila jeho neschopnosť byť braný na zodpovednosť. “Algoritmus nemožno uväzniť,” vyjadril sa Brady Mabe z Medzinárodného výboru Červeného kríža (ICRC).
Dopady na ľudské práva
Bonnie Docherty z Human Rights Watch varovala, že systémy poháňané AI podrývajú ľudskú dôstojnosť. Operujú výlučne na predprogramovaných algoritmoch, pričom jednotlivcov znižujú na jednoduché dátové body. Dokonca aj v Afrike sa obávajú, že by sa tieto technológie mohli stať testovacou pôdou, čo spôsobuje obavy z destabilizácie.
Pohyb smerom k konsenzu
Národy sľubujú podporu pre reguláciu, vedenú hlasom Sierra Leone, ktorá stojí na čele v západnej Afrike. Výzva zabrániť týmto rušivým technológiám v zhoršovaní existujúcich konfliktov znie stále hlasnejšie.
Optimistický pohľad?
Aj keď rozhovory v Ženeve nedosiahli úspech, mnohí sú optimistickí. Rýchle kroky v Generálnej zhromaždení môžu stále viesť k záväzným reguláciám. S potrebou iba jednoduchej väčšiny dúfajú advokáti, že tento proces bude mať menej prekážok než predchádzajúce úsilie.
Takéto dynamické diskusie ukazujú naliehavosť a potrebu robustného medzinárodného dialógu a spolupráce. Táto zmluva môže zvoniť novou éru zodpovednosti vo vojenstve, čím sa zároveň rešpektujú ľudské práva a nekontrolovaný rast AI vo vojenských operáciách.