Prijedlog zakona, koji bi bio prvi zakon o umjetnoj inteligenciji u SAD-u, zahtijevao bi od tehnoloških kompanija da testiraju modele i pružio zaštitu radnicima od zviždača.
Guverner Kalifornije Gavin Newsom stavio je veto prijelomni račun usmjeren na uspostavljanje sigurnosnih mjera prvih u zemlji za velike modele umjetne inteligencije (AI), čemu se nekoliko tehnoloških tvrtki protivilo.
Odluka od nedjelje veliki je udarac naporima koji pokušavaju obuzdati domaću industriju koja se brzo razvija uz malo nadzora.
Račun uspostavio bi neke od prvih propisa o modelima umjetne inteligencije velikih razmjera u zemlji i otvorio put sigurnosnim propisima za umjetnu inteligenciju u cijeloj zemlji, rekli su pristaše.
Ranije ovog mjeseca, demokratski guverner rekao je publici na Dreamforceu, godišnjoj konferenciji koju je organizirao softverski div Salesforce, da Kalifornija mora prednjačiti u reguliranju umjetne inteligencije usprkos federalnom nedjelovanju, ali da prijedlog “može imati jeziv učinak na industriju”.
Prijedlog, koji je izazvao žestoko protivljenje startupa, tehnoloških divova i nekoliko članova Predstavničkog doma demokrata, mogao je naštetiti domaćoj industriji postavljanjem krutih zahtjeva, rekao je Newsom.
Alternativni plan
Newsom je u nedjelju najavio da će se država udružiti s nekoliko stručnjaka u industriji, uključujući pionira umjetne inteligencije Fei-Fei Lija, kako bi razvili zaštitne ograde oko snažnih modela umjetne inteligencije. Li se usprotivio prijedlogu o sigurnosti umjetne inteligencije.
Mjera, usmjerena na smanjenje potencijalnih rizika koje stvara umjetna inteligencija, zahtijevala bi od tvrtki da testiraju svoje modele i javno objave svoje sigurnosne protokole kako bi se spriječilo manipuliranje modelima kako bi se, na primjer, uništila državna električna mreža ili pomoglo u izradi kemijskog oružja.
Stručnjaci kažu da bi ti scenariji mogli biti mogući u budućnosti jer industrija nastavlja brzo napredovati. Također bi osigurao zaštitu radnika od zviždača.
Autor zakona, demokratski državni senator Scott Weiner, nazvao je veto “preprekom za sve koji vjeruju u nadzor velikih korporacija koje donose ključne odluke koje utječu na sigurnost i dobrobit javnosti i budućnost planeta”.
“Tvrtke koje razvijaju napredne AI sustave priznaju da su rizici koje ovi modeli predstavljaju javnosti stvarni i da se brzo povećavaju. Dok su veliki laboratoriji AI preuzeli divljenja vrijedne obveze da prate i ublaže te rizike, istina je da dobrovoljne obveze industrije nisu provedive i rijetko dobro funkcioniraju za javnost,” rekao je Wiener u izjavi u nedjelju.
Wiener je rekao da je rasprava oko prijedloga zakona dramatično unaprijedila pitanje sigurnosti umjetne inteligencije i da će nastaviti insistirati na toj točki.
Zakon je jedan od niza zakona koje je zakonodavno tijelo usvojilo ove godine za reguliranje umjetne inteligencije, borbu protiv lažiranja i zaštitu radnika. Državni zakonodavci rekli su da Kalifornija mora poduzeti mjere ove godine, navodeći teške lekcije koje su naučili iz neuspjeha u obuzdavanju tvrtki društvenih medija kada su možda imali priliku.
Što je bilo na računu za AI u Kaliforniji?
Zagovornici ove mjere, uključujući Elona Muska i Anthropic, rekli su da je prijedlog mogao uvesti neke razine transparentnosti i odgovornosti oko velikih AI modela, budući da programeri i stručnjaci kažu da još uvijek nemaju potpuno razumijevanje kako se AI modeli ponašaju i zašto.
Prijedlog zakona ciljao je na sustave koji zahtijevaju visoku razinu računalne snage i više od 100 milijuna dolara (90 milijuna eura) za izgradnju. Nijedan trenutni model umjetne inteligencije nije dosegao taj prag, ali neki stručnjaci kažu da bi se to moglo promijeniti unutar sljedeće godine.
“To je zbog velikog porasta ulaganja unutar industrije”, rekao je Daniel Kokotajlo, bivši istraživač OpenAI-ja koji je dao ostavku u travnju zbog onoga što je smatrao zanemarivanjem tvrtke prema rizicima umjetne inteligencije.
“Ovo je luda količina moći imati bilo koju privatnu tvrtku bez odgovornosti, a također je i nevjerojatno riskantno”.
Sjedinjene Države već zaostaju za Europom u reguliranju umjetne inteligencije kako bi se ograničili rizici. Kalifornijski prijedlog nije bio sveobuhvatan kao propisi u Europi, ali bio bi dobar prvi korak za postavljanje zaštitnih ograda oko brzo rastuće tehnologije koja izaziva zabrinutost zbog gubitka posla, dezinformacija, invazije na privatnost i pristranosti automatizacije, rekli su pristaše.
Nekoliko vodećih AI tvrtki prošle je godine dobrovoljno pristalo slijediti mjere zaštite koje je postavila Bijela kuća, poput testiranja i dijeljenja informacija o svojim modelima. Kalifornijski zakon naložio bi programerima umjetne inteligencije da slijede zahtjeve slične tim obvezama, rekli su pristaše te mjere.
Ali kritičari, uključujući bivšu predsjednicu Predstavničkog doma američkog Kongresa Nancy Pelosi, tvrdili su da bi prijedlog zakona “ubio kalifornijsku tehnologiju” i ugušio inovacije. To bi obeshrabrilo programere umjetne inteligencije od ulaganja u velike modele ili dijeljenja softvera otvorenog koda, rekli su.
Newsomova odluka da uloži veto na prijedlog zakona označava još jednu pobjedu u Kaliforniji za velike tehnološke tvrtke i programere umjetne inteligencije, od kojih su mnogi proveli prošlu godinu lobirajući uz Kalifornijsku gospodarsku komoru kako bi odvratili guvernera i zakonodavce od unaprjeđenja propisa o umjetnoj inteligenciji.
Druga dva sveobuhvatna prijedloga umjetne inteligencije, koji su također naišli na sve veće protivljenje tehnološke industrije i drugih, umrla su prije zakonskog roka prošlog mjeseca.
Zakoni bi zahtijevali od programera umjetne inteligencije da označe sadržaj generiran umjetnom inteligencijom i zabrane diskriminaciju alata umjetne inteligencije koji se koriste za donošenje odluka o zapošljavanju.
‘Neće nestati’
Guverner je ranije ovog ljeta rekao da želi zaštititi status Kalifornije kao globalnog lidera u umjetnoj inteligenciji, napominjući da se 32 od 50 najvećih svjetskih tvrtki za umjetnu inteligenciju nalaze u toj državi.
Promovirao je Kaliforniju kao ranog korisnika jer bi država uskoro mogla primijeniti generativne alate umjetne inteligencije za rješavanje problema zagušenja autocesta, pružanje poreznih smjernica i pojednostavljenje programa za beskućnike.
Država je prošlog mjeseca također najavila dobrovoljno partnerstvo s AI divom Nvidijom kako bi pomogla u obuci studenata, fakultetskog osoblja, programera i znanstvenika podataka. Kalifornija također razmatra nova pravila protiv diskriminacije umjetne inteligencije pri zapošljavanju.
Ali čak i uz Newsomov veto, sigurnosni prijedlog iz Kalifornije nadahnjuje zakonodavce u drugim državama da poduzmu slične mjere, rekla je Tatiana Rice, zamjenica direktora Future of Privacy Forum, neprofitne organizacije koja radi sa zakonodavcima na prijedlozima o tehnologiji i privatnosti.
“Oni će to potencijalno ili kopirati ili napraviti nešto slično na sljedećoj zakonodavnoj sjednici”, rekla je Rice. “Dakle, neće nestati”.
