Upozorenja iz književnosti, teologije i Pape slažu se oko hitne potrebe zaštite čovječanstva od njegovih vlastitih prometejskih kreacija.
Sjećate li se HAL 9000? Za one čija sjećanja možda ne sežu tako daleko, HAL (Heuristički programirano algoritamsko računalo) bio je ubojiti stroj umjetne inteligencije u filmu Stanleyja Kubricka iz 1968. 2001: Odiseja u svemiru. Temeljen na pričama Arthura C. Clarkea, film sadrži segment u kojem HAL namjerno uzrokuje smrt nekoliko astronauta u svemiru.
HAL-ova zloća bila je fiktivna, ali 56 godina kasnije to je druga priča.
Umjetna inteligencija je napredovala velikim koracima, tako da sada, iako nije poznato da nijedan takav stroj pokazuje ubojite sklonosti, potencijalne opasnosti umjetne inteligencije uzrokuju ozbiljne ljude da upozoravaju.
Papa Franjo je jedan. Obraćajući se na sjednici G7 o umjetnoj inteligenciji, međunarodnom tijelu koje uključuje SAD i šest drugih visokorazvijenih liberalnih demokracija, Papa je AI nazvao “iznimno moćnim alatom” koji “generira uzbuđenje zbog mogućnosti koje nudi”, ali također “rađa strah za posljedice koje nagoviješta.”
Ne možete reći da nismo bili upozoreni. Sama sjednica G7 bila je znak rastuće zabrinutosti oko umjetne inteligencije. A prijetnje ljudskoj dobrobiti koje podivljaju znanost i tehnologija književna su tema više od dva stoljeća.
Jedna od prvih koja se bavila ovom temom bila je Mary Shelley iz 1818 Frankenstein ili moderni Prometej, o znanstveniku koji sastavlja humanoidno čudovište i onda se mora suočiti s dilemom što učiniti s njim. (Shelleyna priča malo podsjeća na sve one Frankensteinove filmove.) Kasnije je došao HG Wellsov 1896. Otok doktora Moreaua, o ludom znanstveniku koji stvara hibride čovjeka i životinje.
Fikcija usmjerena na štetni potencijal znanosti i tehnologije cvjetala je u 20. stoljeću. Značajni primjeri uključuju roman Aldousa Huxleya iz 1932 Vrli novi svijet sa svojom vizijom noćne more o bebama iz epruvete koje se masovno proizvode u laboratorijskim tvornicama — nešto što se sada događa putem oplodnje in vitro, i Karla Čapeka 1936. Rat s Newtsimao lošim stvarima koje će proizaći iz treniranja tritona da budu grabežljivi i krvožedni poput ljudskih bića. A tehnološki nametnuti totalitarizam slavno je okruženje za Georgea Orwella 1984. godinekoja je prošle godine obilježila 75 godina postojanja.
Opasnosti povezane s tehnologijom nisu fikcija. Godine 1947., sa svježim sjećanjem na nacističke logore smrti, bombardiranje Dresdena i bacanje atomskih bombi na Hirošimu i Nagasaki, teolog Romano Guardini održao je predavanja koja su postala knjiga pod nazivom Kraj modernog svijeta.
Suština toga bila je da u vrijeme kada su ljudska bića stjecala sve veću vlast nad svijetom, “čovjek se sve više udaljava od normi koje proizlaze iz istine postojanja i zahtjeva dobrote i svetosti. … Mora ponovno steći svoj ispravan odnos prema istini stvari, prema zahtjevima vlastitog najdubljeg jastva i konačno prema Bogu. Inače postaje žrtva vlastite moći.”
U svojoj enciklici iz 1979 Redemptor Hominispapa sveti Ivan Pavao II upozorio je da su i sama ljudska bića “podložna manipulaciji” proizvodima naše vlastite tehnologije. I u svom obraćanju skupini G7, papa Franjo je govorio o smanjenju vrednovanja ljudskog dostojanstva, proglašavajući ga onim što je „najviše ugroženo u provedbi i razvoju ovih [AI] sustavi.”
Čini se da sve više i više ljudi shvaća problem koji bi mogao predstavljati nesputani razvoj umjetne inteligencije. Europske vlade poduzimaju odgovarajuće mjere za kontrolu umjetne inteligencije, ali SAD je odugovlačio. Nadajmo se da ćemo shvatiti prije HAL-a.
