Guest Post: Znacząca ludzka kontrola nad śmiercionośną siłą i bałagan w ONZ

Rozmowy na temat autonomicznych systemów śmiercionośnej broni (ang. lethal autonomous weapon systems LAWS) na forum Konwencji CCW trwają od 2014 roku i wszystko wskazuje na to, że będą się dalej skupiały na pojęciu znaczącej ludzkiej kontroli (ang. meaningful human control, MHC) jako kluczowym, z punktu widzenia prawa i etyki, elemencie w dyskusji o legalności takich systemów uzbrojenia i odpowiednim reżimie odpowiedzialności.

Swoje stanowisko w tym zakresie jasno określił Parlament Europejski, który w rezolucji z 20 stycznia 2021 roku w sprawie sztucznej inteligencji, wezwał do wprowadzenia wiążącego prawnie zakazu używania LAWS. Należy pozytywnie ocenić szerokie odniesienie się tej instytucji UE do prawa międzynarodowego i prawa ochrony praw człowieka. Zdaniem Parlamentu, kluczową kwestią jest to by LAWS były stosowane tylko w ostateczności, a warunkiem ich legalności było zachowanie ścisłej kontroli człowieka. MHC powinna umożliwiać człowiekowi przejęcie sterowania LAWS w dowolnym momencie, „ponieważ istotna interwencja i nadzór człowieka mają zasadnicze znaczenie w procesie podejmowania decyzji, których skutkiem są ofiary śmiertelne, a ludzie powinni zawsze ponosić odpowiedzialność za decyzje o życiu i śmierci”. Z kolei systemy całkowicie pozbawione MHC, są bezwzględnie nielegalne i nie mogą być używane w żadnych okolicznościach. W tym zakresie Parlament poparł stanowisko Campaign to Stop Killer Robots i ponad 30 państw.

W kontekście (pozornego) konsensusu międzynarodowego co do konieczności zachowania ludzkiej kontroli nad atakami skutkującymi śmiercią ludzi, jako zaskakujące jawi się niewiążące stanowisko US National Security Commission on Artificial Intelligence przedstawione w raporcie z marca 2021 roku, zgodnie z którym Stany Zjednoczone powinny zachować MHC wyłącznie nad użyciem śmiercionośnej siły stosowanej przy pomocy broni nuklearnej (w pozostałym zakresie wystarczy rygorystycznie przeprowadzony przegląd broni z art. 36 PDI, s. 10 raportu). Co więcej, zdaniem NSCAI Stany Zjednoczone nie tylko nie powinny dążyć do przyjęcia prawnie wiążącego zakazu używania LAWS, ale w interesie ich narodowego bezpieczeństwa jest dalszy rozwój LAWS (s. 592 raportu).

Wobec powyższego warto dalej obserwować dyskusje na temat MHC, gdyż konieczność wykonywania znaczącej ludzkiej kontroli można uznać za normę in statu nascendi…

 

Na marginesie autorka chciała podzielić się dość przykrą refleksją, która może być przydatna dla innych opierających swoje badania na oficjalnych dokumentach. O ile do sierpnia 2020 roku, na stronie www ONZ w Genewie można było prześledzić 99,9% dokumentacji (stanowisk, raportów, wystąpień i prezentacji) z wszystkich spotkań poświęconych LAWS w latach 2014-2019 o tyle, wraz z modernizacją strony ONZ, totalnie zignorowano konieczność zabezpieczenia dostępności tych dokumentów. Efekt jest taki, że aktualnie stare zapisane linki do konkretnych dokumentów będących bezpośrednim źródłem poznania, odsyłają nas do www.ungeneva.org. Wytrwali badacze przecież się nie poddają i starają się odnaleźć w nowej wyszukiwarce dokumentów, ta jednak obejmuje jedynie szczątkowe ilości dokumentów ze spotkań z 2019 i 2020. Na stronach brak jest również jasnej informacji o tym, czy te bazy będą kiedykolwiek uzupełnione (miejmy nadzieję….). Wtedy to na ratunek przychodzą nam badacze z harwardzkiego programu PILAC oraz przedstawiciele społeczeństwa obywatelskiego z Reaching Critical Will, którzy zgromadzili, opisali i uporządkowali znaczną część dokumentów, zawierających stanowiska państw i niektórych podmiotów prawa międzynarodowego w odniesieniu do LAWS. Jednak nie znajdziemy tam wszystkich dokumentów, które widniały w starym portalu ONZ (np. brak jakichkolwiek stanowisk Stolicy Apostolskiej, która formułowała śmiałe tezy dot. Klauzuli Martensa). Można oczywiście zasadnie odpowiedzieć, że przezorny zawsze ubezpieczony i należało zapisywać każdy z dokumentów będących przedmiotem zainteresowania – na pewno, w teorii tak, jednak w praktyce chyba wiemy jak to wygląda (szczególnie gdy widzi się świetnie opracowany serwis szacownej ONZ). Z całej tej historii jest jednak pozytywna konkluzja: dzięki HLS PILAC dowiedziałam się o możliwości zapisywania dokumentów w linkach, które mają być niezniszczalne, nienaruszalne i nieśmiertelne – tak by za 20 lat odnaleźć ten sam dokument – wszystkim zainteresowanym publikowaniem online i w formie e-booków polecam zatem zapoznanie się z koncepcją perma.cc (to nie jest reklama, konta dla naukowców są darmowe). 

Autor: dr Kaja Kowalczewska