Rozmowy na temat
autonomicznych systemów śmiercionośnej broni (ang. lethal autonomous weapon
systems LAWS) na forum Konwencji CCW trwają od 2014 roku i wszystko wskazuje na
to, że będą się dalej skupiały na pojęciu znaczącej ludzkiej kontroli (ang.
meaningful human control, MHC) jako kluczowym, z punktu widzenia prawa i etyki,
elemencie w dyskusji o legalności takich systemów uzbrojenia i odpowiednim reżimie
odpowiedzialności.
Swoje stanowisko
w tym zakresie jasno określił Parlament Europejski, który w rezolucji
z 20 stycznia 2021 roku w sprawie sztucznej inteligencji, wezwał do
wprowadzenia wiążącego prawnie zakazu używania LAWS. Należy pozytywnie ocenić
szerokie odniesienie się tej instytucji UE do prawa międzynarodowego i prawa
ochrony praw człowieka. Zdaniem Parlamentu, kluczową kwestią jest to by LAWS
były stosowane tylko w ostateczności, a warunkiem ich legalności było
zachowanie ścisłej kontroli człowieka. MHC powinna umożliwiać człowiekowi
przejęcie sterowania LAWS w dowolnym momencie, „ponieważ istotna interwencja i
nadzór człowieka mają zasadnicze znaczenie w procesie podejmowania decyzji,
których skutkiem są ofiary śmiertelne, a ludzie powinni zawsze ponosić odpowiedzialność
za decyzje o życiu i śmierci”. Z kolei systemy całkowicie pozbawione MHC, są
bezwzględnie nielegalne i nie mogą być używane w żadnych okolicznościach. W tym
zakresie Parlament poparł stanowisko Campaign
to Stop Killer Robots i ponad 30 państw.
W kontekście
(pozornego) konsensusu międzynarodowego co do konieczności zachowania ludzkiej
kontroli nad atakami skutkującymi śmiercią ludzi, jako zaskakujące jawi się
niewiążące stanowisko US National Security Commission on Artificial
Intelligence przedstawione w
raporcie z marca 2021 roku, zgodnie z którym Stany Zjednoczone
powinny zachować MHC wyłącznie nad użyciem śmiercionośnej siły stosowanej przy
pomocy broni nuklearnej (w pozostałym zakresie wystarczy rygorystycznie
przeprowadzony przegląd broni z art. 36 PDI, s. 10 raportu). Co więcej, zdaniem
NSCAI Stany Zjednoczone nie tylko nie powinny dążyć do przyjęcia prawnie
wiążącego zakazu używania LAWS, ale w interesie ich narodowego bezpieczeństwa
jest dalszy rozwój LAWS (s. 592 raportu).
Wobec powyższego
warto dalej obserwować dyskusje na temat MHC, gdyż konieczność wykonywania znaczącej ludzkiej kontroli można uznać za normę in
statu nascendi…
Na marginesie
autorka chciała podzielić się dość przykrą refleksją, która może być przydatna
dla innych opierających swoje badania na oficjalnych dokumentach. O ile do
sierpnia 2020 roku, na stronie www ONZ w Genewie można było prześledzić 99,9%
dokumentacji (stanowisk, raportów, wystąpień i prezentacji) z wszystkich
spotkań poświęconych LAWS w latach 2014-2019 o tyle, wraz z modernizacją strony
ONZ, totalnie zignorowano konieczność zabezpieczenia dostępności tych
dokumentów. Efekt jest taki, że aktualnie stare zapisane linki do konkretnych
dokumentów będących bezpośrednim źródłem poznania, odsyłają nas do www.ungeneva.org.
Wytrwali badacze przecież się nie poddają i starają się odnaleźć w nowej
wyszukiwarce dokumentów, ta jednak obejmuje jedynie szczątkowe ilości
dokumentów ze spotkań z 2019 i 2020. Na stronach brak jest również jasnej
informacji o tym, czy te bazy będą kiedykolwiek uzupełnione (miejmy nadzieję….).
Wtedy to na ratunek przychodzą nam badacze z harwardzkiego programu PILAC
oraz przedstawiciele społeczeństwa obywatelskiego z Reaching
Critical Will, którzy zgromadzili, opisali i uporządkowali znaczną
część dokumentów, zawierających stanowiska państw i niektórych podmiotów prawa
międzynarodowego w odniesieniu do LAWS. Jednak nie znajdziemy tam wszystkich
dokumentów, które widniały w starym portalu ONZ (np. brak jakichkolwiek
stanowisk Stolicy Apostolskiej, która formułowała śmiałe tezy dot. Klauzuli
Martensa). Można oczywiście zasadnie odpowiedzieć, że przezorny zawsze
ubezpieczony i należało zapisywać każdy z dokumentów będących przedmiotem
zainteresowania – na pewno, w teorii tak, jednak w praktyce chyba wiemy jak to
wygląda (szczególnie gdy widzi się świetnie opracowany serwis szacownej ONZ). Z
całej tej historii jest jednak pozytywna konkluzja: dzięki HLS PILAC
dowiedziałam się o możliwości zapisywania dokumentów w linkach, które mają być niezniszczalne,
nienaruszalne i nieśmiertelne – tak by za 20 lat odnaleźć ten sam
dokument – wszystkim zainteresowanym publikowaniem online i w formie e-booków
polecam zatem zapoznanie się z koncepcją perma.cc (to nie jest reklama, konta
dla naukowców są darmowe).
Autor: dr Kaja Kowalczewska
