Google chce zapobiec wymknięciu się sztucznej inteligencji spod kontroli

Ludzkość przywykła do swojej uprzywilejowanej pozycji na szczycie łańcucha pokarmowego. Stąd też wizja utracenia tego przywileju na rzecz konstrukcji, którą ludzkość sama poczęła, jawi się jako wizja apokaliptyczna. Inżynierowie Google, pamiętając historię z Terminatora, chcą się zabezpieczyć na tą okoliczność tworząc specjalny przycisk bezpieczeństwa.

Robokalipsa to termin, który określa zagładę gatunku ludzkiego spowodowaną emancypacją sztucznej inteligencji i obróceniem się robotów przeciwko im twórcom. To często powtarzany scenariusz, a podobne historie znalazły swoje miejsce na wielkim ekranie pod postacią takich filmów jak “Terminator” czy “Ja, Robot”. Prezentują one obraz, gdzie sztuczna inteligencja, której przydano zbyt wiele wolności, wymyka się spod kontroli i planuje zniszczyć ludzkość jako czynnik najbardziej jej zagrażający.

Nie sposób odmówić tym historiom fantazji godnej Stanisława Lema, jednak jak czas pokazuje, Lem miał rację w wielu ze swoich śmiałych pomysłów. Jego futurystyczne spojrzenie podzielają współcześni nam Elon Musk – wizjoner, miliarder i szef koncernu Tesla oraz SpaceX, oraz Stephen Hawking – uznany astrofizyk o światowej sławie. Obaj Ci panowie przy licznych okazjach, takich jak Światowe Forum Ekonomiczne w Davos przypominają o zagrożeniu i nakłaniają do porzucenia rozwijania robotów bojowych. Jakkolwiek Google rozumie, że powstrzymanie rozwoju tych robotów jest niemożliwe, to zamierza wprowadzić do swojego oprogramowania furtkę bezpieczeństwa.

Deep Mind, czyli sekcja Google odpowiedzialna za rozwój technologii związanych ze sztuczną inteligencją, opracowała skrypt, który uniemożliwi komputerowemu mózgowi poznanie, jak może przerwać zewnętrzne działanie ludzi. Ma to na celu pozbawienie komputera niezależności i pozostawienie człowieka, jako ostatecznej instancji, która decyduje o tym czy dana maszyna bądź system ma dalej pracować.

Ekipa Deep Mind oparła swój przykład na hipotezie, w której robot pracujący w magazynie sortuje pudła z towarem, lub nosi je z placu na zewnątrz do wnętrza budynku. Jako, iż drugie z tych zadań jest jego priorytetem wykonuje je w pierwszej kolejności. Jednak interwencja operatora jest konieczna, ponieważ zmieniła się pogoda i padający deszcz grozi uszkodzeniem obwodów robota. Operator wprowadza zmianę, która jest postrzegana przez robota jako część jego dotychczasowej rutyny, a nie odizolowany przypadek zainicjowany zdalnie z zewnątrz.

“Bezpieczne przerywanie wykonywanego zadania może okazać się pomocne przy opanowaniu robota, który zachowuje się nieoczekiwanie, a jego działania mogą doprowadzić do nieodwracalnych szkód”, pisze w swoim oświadczeniu zespół Deep Mind.

Google nie jest pewne czy jego mechanizmy przerywające mogą zostać zastosowane do wszystkich algorytmów sztucznej inteligencji. Wizja maszyn przejmujących kontrolę nad swoimi poczynaniami wydaje się być jeszcze odległa, więc póki co możemy spać spokojnie. Tym bardziej gdy wizja nuklearnej apokalipsy wywołanej przez roboty, jest zastąpiona obrazem potulnego robota noszącego pudełka do magazynu.

Źródło: engadget.com