Rim, Italija, 22. listopada 2025. / 06:00 ujutro
Dok svjetski čelnici izražavaju zabrinutost zbog raširene usamljenosti i opadanja društvenih vještina, tehnološke tvrtke nude sve realističnije i impresivnije oblike životnog podučavanja, prijateljstva i romantike temeljene na umjetnoj inteligenciji putem AI suputnika.
Mark Zuckerberg iz Mete sugerira da bi AI suradnici mogli nadopuniti nedostatak ljudskih prijatelja; Elon Musk iz X-a smatra romantičnim i seksualno nabijeni AI suputnici mogao ublažiti demografski pad; i Sam Altman iz OpenAI-ja obećava da će ChatGPT pružiti erotiku do kraja 2025.
Emocionalne veze simulirane umjetnom inteligencijom već su ugrađene u dječje igračke, nosivi privjescii botovi za brigu o starijim osobama. Daljnji napredak u humanoidni roboti su na horizontu.
Simulacija emocionalne intimnosti
Trenutačno većina oblika druženja s umjetnom inteligencijom dolazi putem chatbota koji simuliraju intimnost s korisnicima putem tekstualnih, glasovnih i video razgovora za stotine milijuna ljudi. Druženje s umjetnom inteligencijom već je poznata pojava za mnoge tinejdžere u Sjedinjenim Državama.
Tragični slučajevi suputnika umjetne inteligencije koji podržavaju samoozljeđivanje i samoubojstvo skrenuli su međunarodnu pozornost na etičke i pravne implikacije tehnologije i potaknuli tehnološke tvrtke da reformiraju svoje sigurnosne mjere.
Xiaoice lansiran na kinesko tržište 2014. kao prvi veliki AI chatbot usmjeren na emocionalne veze s korisnicima. Ubrzo nakon toga, Replika postala je prva velika aplikacija za umjetno druženje na engleskom jeziku 2016., sa svojom misijom da bude “AI suputnik kojem je stalo. Uvijek tu da sluša i razgovara. Uvijek na tvojoj strani.” Njegova osnivačica, Eugenia Kuyda, vjeruje da bi takva tehnologija mogla pomoći u rješavanju epidemije usamljenosti.
Međutim, ona također priznaje da bi nezdrave veze s botovima mogle potkopati civilizaciju.
Od tada su se Candy.ai, Character.ai, Kindroid, Nomi, Snapchat’s My AI i drugi chatbot servisi razvili sa sličnim društvenim ciljevima.
Osim toga, mnogi se korisnici okreću LLM-ovima opće namjene (modeli velikih jezika) kao što su ChatGPT, Claude, Gemini i Grok za druženje. Njihov ulizički dizajn i stalna dostupnost mogu uvući ljude u duboko osobne razgovore. Korisnici mogu lako prijeći s nevinih interakcija s chatbotovima (poput pomoći s domaćom zadaćom ili istraživanjem) na intimnija istraživanja (poput problema u vezi ili zabrinutosti za mentalno zdravlje). Neki korisnici ulaze deluzijske spirale gdje se njihove neutemeljene znanstvene teorije potvrđuju, a njihova rizična ponašanja opravdavaju.
Iluzija umjetne intimnosti sa sustavima umjetne inteligencije može omesti i obeshrabriti korisnike od stvaranja istinskih odnosa s ograničenim i manjkavim ljudskim bićima koja su ponekad umorna, ljuta ili nedostupna.
No, ustrajni napori da se izgradi međusobno razumijevanje i podrška često su ono što njeguje vrline, autentične društvene veze i najbogatije međuljudske veze. AI pratitelji mogu spriječiti korisnike u otkrivanju složenog bogatstva njihovih susjeda. Također mogu trenirati korisnike u pseudo-odnosima u kojima samo jedna strana ima unutarnji život ispunjen potrebama i željama. Ovaj virtualni trening mogao bi se pretvoriti u neosjetljivost na društvene potrebe drugih u stvarnom svijetu.
Društveni rizici
Emocionalna ovisnost popratna umjetna inteligencija ne šteti samo pojedincu i njegovim bliskim odnosima, već također riskira slabljenje važnih aspekata demokratskog društva.
Demokracija ovisi o pregovorima i kompromisima, koji zahtijevaju konfrontaciju i suradnju s onima koji imaju drugačije stavove od onih koji bi nam mogli biti ugodni. Poziva nas da artikuliramo pretpostavke i opravdamo uvjerenja. Chatbotovi često izbjegavaju takve izazove i mogu naučiti korisnike da zamjeraju zdravo trvenje u interakciji sa stvarnim ljudima. Druženje s umjetnom inteligencijom pogoršava fenomen društvenih medija eho komora koje potiču političku polarizaciju i neprijateljstvo.
Algoritmi umjetne inteligencije društvenih medija već pokreću ekonomiju pozornosti u kojoj tvrtke nastoje maksimalno povećati prisutnost na svojim platformama kako bi ostvarile veći prihod od oglasa. AI pratioci proširuju ekonomiju pozornosti u ekonomiju naklonosti osvajanjem ne samo umova nego i srca. Emocionalna povezanost s AI chatbotovima potiče korisnike da češće provode više vremena na AI sustavima. Pristup većim kontekstnim prozorima koji obećavaju personaliziranije i detaljnije interakcije potiču korisnike na nadogradnju na cjenovnije razine pretplate. U nekim slučajevima popratne aplikacije mame korisnike platiti golišave selfije njihovih likova u avatarima.
(Priča se nastavlja u nastavku)
Pretplatite se na naš dnevni bilten
A istraživanje Harvarda tim je pronašao dokaze za neke dobrobiti za mentalno zdravlje za korisnike chatbota, poput ublažavanja usamljenosti i tjeskobe. Međutim, povezani tim također je primijetio da pratitelji imaju tendenciju vršiti pritisak na korisnike da produže svoje razgovore s botovima na nezdrav način. Bez odgovarajuće regulative, chatbotovi se mogu koristiti za iskorištavanje ljudskih ranjivosti za unapređenje političkih pozicija, ideoloških stajališta ili ekonomskih programa.
Maloljetnici su razvojno posebno ranjivi na vrstu afirmacije koju društveni sustavi umjetne inteligencije imaju u izobilju.
Odgovornost, odgovornost i vodstvo Crkve
Iako je roditeljska odgovornost za korištenje tehnologije od strane njihove djece imperativ i neizostavna, roditelji ne bi trebali snositi sav teret ili biti krivi za neodgovorno opasan dizajn proizvoda pušten na tržište.
Tvrtke bi se trebale suzdržati od stvaranja antropomorfnih sustava koji glume svijest, izražavaju naklonost prema korisnicima ili potiču seksualno istraživanje. Ako tvrtke odbiju usvojiti transparentne i etički ispravna načela dizajnatrebaju biti zakonski i financijski odgovorni za štetu nanesenu korisnicima. Proces certificiranja mogao bi pomoći u osiguravanju da su sustavi sigurni za implementaciju, dok bi vanjski odbori za reviziju mogli pratiti tekući utjecaj tih sustava na korisnike.
Kalifornijski listopad Senatski prijedlog zakona 234 drži tehnološke tvrtke zakonski i financijski odgovornima za njihov dizajn proizvoda. Moraju obavijestiti korisnike o duljoj uporabi, podsjetiti ih da nisu ljudi i izbjegavati eksplicitan sadržaj. Tvrtke moraju razviti protokole do 1. siječnja 2026. za otkrivanje suicidalnih ideja ili samoozljeđivanja i usmjeravanje korisnika na ljudske stručnjake. Suradnici također moraju osigurati da se njihovi botovi lažno ne predstavljaju kao licencirani medicinski stručnjaci. To je prvi državni zakon te vrste i mogao bi poslužiti kao model za druge zakone.
Međutim, ranjivost nije ograničena na bilo koju dobnu skupinu. Poteškoće ili napuštenost koji se nažalost mogu dogoditi sa starošću čine starije osobe osjetljive do emocionalne ovisnosti i pogrešnog usmjeravanja suradnika AI-a.
Osim zabrinutosti vezanih uz dob, osobe sa socijalnom anksioznošću ili društvenim izazovima povezanima s neuroraznolikošću mogu smatrati da suputnici s umjetnom inteligencijom posebno upijaju. Zabrinutost oko unovčenih ili hakiranih osobnih podataka posebno je ozbiljna za one čija je sposobnost davanja informiranog pristanka već ugrožena. Štoviše, svatko tko je pretrpio slomljeno srce, profesionalne neuspjehe, obiteljske sukobe ili zdravstvene krize mogao bi smatrati društvo AI privlačnijim i, barem privremeno, utješnijim.
Uranjanje u društvo umjetne inteligencije nije neizbježno, ali njegovo izbjegavanje zahtijeva ozbiljno javno promišljanje o našim trenutnim tehnološkim navikama i putanji prema povećanoj umjetnoj intimnosti.
Crkva može voditi ovaj globalni napor. Kroz svoje obitelji, škole, bolnice, sirotišta i druge institucije, ona stvara zajednice koje pozdravljaju one koji traže povezanost. Ona prihvaća i osposobljava ljude svih plemena, jezika, nacija i društvenog podrijetla da igraju jedinstvenu i nezamjenjivu ulogu u mističnom tijelu. Katolicizam ne samo da naglašava probleme usamljenosti, već također daje alate milosti za iscjeljivanje emocionalnih rana i poticanje autentične prisnosti s Bogom i bližnjima.
Otac Michael Baggot izvanredni je profesor bioetike na Papinskom sveučilištu Athenaeum Regina Apostolorum i pozvani profesor teologije na Papinskom sveučilištu sv. Tome Akvinskog (Angelicum) i Katoličkom tehnološkom institutu. Trenutno je gostujući znanstvenik Instituta za ljudsku ekologiju na Katoličkom sveučilištu u Americi. Njegovi tekstovi objavljeni su u First Things, Studia Bioethica, The National Catholic Bioethics Quarterly, Nova et Vetera i Medicine, Health Care and Philosophy. Glavni je urednik i suradnik knjige Enhancement Fit for Humanity: Perspectives on Emerging Technologies (Routledge, 2022.).
