Powstrzymajmy roboty bojowe, zanim one powstrzymają nas

World Economic Forum to spotkanie przedstawicieli największych gospodarek świata, ludzi nauki, biznesu oraz wielu innych. To elitarne zgromadzenie jest forum dyskusyjnym, gdzie najwięksi tego świata omawiają jego bieżące problemy. A nie da się ukryć, że rozwój robotów, poza licznymi udogodnieniami, rzuci też ludzkości niejedno wyzwanie. W szwajcarskim Davos po raz kolejny podniesione zostały obawy o śmiercionośnych maszynach bojowych.

“Może być już zbyt późno”, wyraziła swoje zaniepokojenie Angela Kane, niemiecka ambasador przy ONZ ds. rozbrojeń. Był to komentarz opieszałości światowych mocarstw i ich znikomych działaniach, mających zapobiec rozwojowi zabójczych technologii.

“Wśród wielu krajów oraz ich reprezentantów brakuje podstawowego zrozumienia problemu i zagrożeń z nim związanych. Rozwój musi mieć swoje granice.”, dodaje Angela Kane. A naukowcy obecni na spotkaniu są zgodni – wprowadzenie autonomicznych broni stanowiłoby nowy rozdział w historii wojen. Trudny do przewidzenia i tym bardziej trudny do okiełznania.

“Nie mamy tu na myśli dronów, za których sterami, mimo iż pośrednio, dalej siedzi człowiek”, mówi Stuart Russell, profesor informatyki w University of California. “Mówimy o autonomicznej broni, która sama kieruje swoimi poczynaniami. Broni którą ogranicza jedynie jej własna sztuczna inteligencja. Mówiąc wprost – broni, która jest w stanie lokalizować i atakować cele bez jakiegokolwiek udziału człowieka.”

W lipcu ubiegłego roku, ponad tysiąc naukowców i badaczy, w tym brytyjski astrofizyk Stephenen Hawking, wystosowali otwarty list, w którym ostrzegają, iż z problemem robotów bojowych nie będziemy mierzyli się w najbliższych dekadach, ale w najbliższych latach. Apelowali oni o zakaz rozwijania technologii, która mogłaby podejmować decyzje o życiu lub śmierci bez udziału ludzi. Według nich, nowy wyścig zbrojeń z pewnością przyniesie niepokojące osiągnięcia, a upowszechnienie się zaawansowanych technologii zwiększa ryzyko, iż wpadną one w niewłaściwe ręce.

W Davos podniesiono pytania o to, jak broń autonomiczna mogłaby być w stanie rozróżnić poszczególnych ludzi na polu walki – żołnierzy, członków ruch oporu, wrogich ekstremistów czy cywilów. “Jestem przeciwko robotom bojowym z powodów etycznych, jednakże nie sądzę aby etyczne argumenty były w stanie coś zmienić. Jestem zdania, że jak zwykle to strategiczne argumenty wezmą górę.”, komenutje Russell. Stany Zjednoczone zrezygnowały z wykorzystywania broni biologicznej, ponieważ jej rozwijanie wpłynęłoby na ryzyko, iż któregoś dnia praktycznie każde państwo świata będzie mogło ich użyć. “Mam nadzieję, że pójdą tą samą ścieżką, jeżeli chodzi o roboty.”

Alan Winfield, profesor inżynierii elektronicznej na University of West of England, ostrzega iż wyłączenie czynnika ludzkiego z podejmowania decyzji na polu bitwy może mieć sromotne konsekwencje. “W tej sytuacji ludzie zostaliby zwolnieni z resztek odpowiedzialności moralnej”, mówi Winfield.

Podobnego zdania jest Roger Carr, prezes BAE (British Aerospace and Defence Group). “Jeżeli wyłączymy etykę, wartościowanie oraz moralność z naszych działań, ludzkość może podążyć w kierunku, który jest poza naszymi zdolnościami do pojmowania. Więź człowieka z maszyną powinna być nierozerwalna. I nie ograniczać się jedynie do wykorzystania maszyny na polu bitwy – chodzi o to, aby operator w dowolnym momencie mógł podjąć decyzję o przerwaniu działania.”

Czy program komputerowy może decydować o czyimś życiu? Dyskusja na ten temat z pewnością będzie przybierała na sile, a o meandrach tego wątku przeczytacie na naszym portalu zapewne w niedługim czasie.

Źródło: phys.org