U obraćanju na summitu G7, papa Franjo raspravlja o prijetnji i obećanjima umjetne inteligencije, ‘tehničko-ljudskom stanju’, ljudskom naspram algoritamskog odlučivanja, esejima pisanim umjetnom inteligencijom i nužnosti političke suradnje na tehnologiji.
Autor Joseph Tulloch
U petak poslijepodne papa Franjo obratio se na summitu čelnika G7 u Pugliji, Italija.
On je prvi Papa koji se obratio forumu koji okuplja čelnike SAD-a, Ujedinjenog Kraljevstva, Italije, Francuske, Kanade, Njemačke i Japana.
AI: Opasnosti i obećanja
Svoje obraćanje G7 Papa je posvetio temi umjetne inteligencije.
Započeo je rekavši da rođenje umjetne inteligencije predstavlja “pravu kognitivno-industrijsku revoluciju” koja će dovesti do “složenih epohalnih transformacija”.
Te preobrazbe, rekao je Papa, imaju potencijal da budu i pozitivne – na primjer, “demokratizacija pristupa znanju”, “eksponencijalni napredak znanstvenog istraživanja” i smanjenje “zahtjevnog i mukotrpnog rada” – i negativne – na primjer, “veća nepravda između naprednih i nacija u razvoju ili između dominantnih i potlačenih društvenih klasa”.
Papa Franjo pozdravlja čelnike G7
‘Tehno-ljudsko stanje’
Napominjući da je AI “prije svega alat”, Papa je govorio o onome što je nazvao “tehno-ljudskim stanjem”.
Objasnio je da je mislio na činjenicu da je ljudski odnos s okolišem uvijek bio posredovan alatima koje su proizveli.
Neki, rekao je Papa, to vide kao slabost ili nedostatak; međutim, ustvrdio je, to je zapravo nešto pozitivno. Proizlazi, rekao je, iz činjenice da smo bića “sklona onome što leži izvan nas”, bića “radikalno otvorena onostranom”.
Ta je otvorenost, rekao je papa Franjo, i korijen našeg “tehno-ljudskog stanja” i korijen naše otvorenosti drugima i Bogu, kao i korijen naše umjetničke i intelektualne kreativnosti.
Papa u razgovoru s G7
Odlučivanje: ljudi protiv strojeva
Papa je zatim prešao na temu donošenja odluka.
Rekao je da je umjetna inteligencija sposobna donositi “algoritamske izbore” – to jest, “tehničke” izbore “među nekoliko mogućnosti temeljene ili na dobro definiranim kriterijima ili na statističkim zaključcima”.
Ljudska bića, međutim, “ne samo da biraju, nego su u svojim srcima sposobna odlučiti”.
To je zato što su, pojasnio je Papa, sposobni za mudrost, kako su to nazivali stari Grci phronesis (vrsta inteligencije koja se bavi praktičnim djelovanjem) i slušanje Svetog pisma.
Stoga je vrlo važno, naglasio je Papa, da se važne odluke moraju “uvijek prepustiti ljudskoj osobi”.
Kao primjer ovog načela, Papa je ukazao na razvoj smrtonosnog autonomnog oružja – koje može oduzeti ljudski život bez ljudskog učešća – i rekao da ono u konačnici mora biti zabranjeno.
Algoritmi ‘ni objektivni ni neutralni’
Papa je također naglasio da algoritmi koje koristi umjetna inteligencija za donošenje izbora nisu “ni objektivni ni neutralni”.
Ukazao je na algoritme koji su dizajnirani da pomognu sucima u odlučivanju hoće li zatvorenicima odobriti kućni pritvor. Ovi programi, rekao je, donose izbor na temelju podataka kao što su vrsta kaznenog djela, ponašanje u zatvoru, psihološka procjena te zatvorenikovo etničko podrijetlo, obrazovanje i kreditni rejting.
Međutim, naglasio je Papa, to je reduktivno: „ljudska bića se uvijek razvijaju i sposobna su nas iznenaditi svojim djelima. To je nešto što stroj ne može uzeti u obzir.”
Daljnji je problem, istaknuo je Papa, taj što algoritmi “mogu ispitivati samo stvarnosti formalizirane u numeričkim terminima:”
Papa se obraća G7
Eseji generirani umjetnom inteligencijom
Papa je zatim razmotrio činjenicu da se mnogi studenti sve više oslanjaju na umjetnu inteligenciju kao pomoć u učenju, a posebno u pisanju eseja.
Lako je zaboraviti, rekao je Papa, da “strogo govoreći, takozvana generativna umjetna inteligencija zapravo nije ‘generativna’” – ona ne “razvija nove analize ili koncepte” već radije “ponavlja one koje je pronašla, dajući im privlačan oblik.”
To, rekao je Papa, riskira “potkopavanje samog obrazovnog procesa”.
Obrazovanje bi, istaknuo je, trebalo ponuditi priliku za “autentično promišljanje”, ali umjesto toga “izlaže se riziku da bude svedeno na ponavljanje pojmova, koji će se sve više ocjenjivati kao besprijekorni, samo zbog njihovog neprestanog ponavljanja”.
Prema “algoretici”
Završavajući svoj govor, Papa je naglasio da je umjetna inteligencija uvijek oblikovana “pogledom na svijet onih koji su je izumili i razvili”.
Posebno zabrinjava u tom pogledu, rekao je, to što je danas “sve teže naći suglasnost oko glavnih pitanja koja se tiču društvenog života” – sve je manje konsenzusa, odnosno oko filozofije koja bi trebala oblikovati umjetnu inteligenciju.
Ono što je stoga neophodno, rekao je Papa, jest razvoj “algor-etike”, niza “globalnih i pluralističkih” načela koja su “sposobna pronaći potporu kultura, religija, međunarodnih organizacija i velikih korporacija”.
“Ako se borimo definirati jedinstven skup globalnih vrijednosti”, rekao je Papa, možemo barem “pronaći zajednička načela s kojima ćemo se pozabaviti i riješiti dileme ili sukobe u vezi s tim kako živjeti”.
Papa sluša još jednu intervenciju G7
Potrebna politika
Suočen s ovim izazovom, rekao je Papa, “hitno je potrebno političko djelovanje”.
“Samo zdrava politika, koja uključuje najrazličitije sektore i vještine”, istaknuo je Papa, sposobna je nositi se s izazovima i obećanjima umjetne inteligencije.
Cilj, zaključio je papa Franjo, nije “gušenje ljudske kreativnosti i njegovih ideala napretka”, već “usmjeravanje te energije novim kanalima”.
Možete pronaći cijeli tekst Papinog obraćanja G7 ovdje.
Hvala vam što ste pročitali naš članak. Možete biti u toku pretplatom na naš dnevni bilten. Samo kliknite ovdje
