Godinama su upozorenja o umjetnoj inteligenciji zvučala kao rubna tema: strojevi koji izmiču kontroli, egzistencijalni rizici, ljudska vrsta koja možda neće moći pratiti vlastitu tehnologiju. No sada takva upozorenja više ne dolaze samo od aktivista i akademika, nego od ljudi koji vode najvažnije AI kompanije.
Dario Amodei, šef Anthropica, pozvao je na usporavanje razvoja najmoćnijih AI modela. S njim su se složili i Sam Altman iz OpenAI-ja te Elon Musk. To je neobičan trenutak: vodeći ljudi industrije koja živi od brzine, kapitala i tehnološke prednosti odjednom govore da bi tempo mogao biti opasan.
No pitanje je jednostavno: što “usporiti” uopće znači?
Nije jasno što bi se točno zaustavilo
Usporavanje ne mora značiti potpunu zabranu razvoja umjetne inteligencije. Amodeijev prijedlog više podsjeća na kontrolirano “tempiranje” razvoja: kompanije bi trebale dati više vremena sigurnosnim testovima, neovisnim evaluacijama i međunarodnim pravilima prije nego što puste još sposobnije modele.
Ali tu počinju problemi. Bi li se zaustavilo treniranje najvećih modela? Bi li se ograničila količina računalne snage? Bi li se zabranilo puštanje novih AI agenata? Bi li se usporili samo modeli koji mogu autonomno pisati kod, hakirati sustave ili voditi složene zadatke?
Ako se ne zna što se točno usporava, onda se ne zna ni tko krši pravila.
Tko bi nadzirao AI divove?
Amodei predlaže neovisne evaluatore s pristupom iznutra, gotovo poput zaposlenika koji mogu pratiti sigurnosne procese, incidente i ponašanje modela tijekom razvoja. To je zasad najkonkretniji dio plana.
No i tu se otvara pitanje povjerenja. Tko bira te evaluatore? Plaćaju li ih kompanije koje nadziru? Imaju li pravo zaustaviti lansiranje modela? Smiju li javno objaviti što su pronašli? I što ako kompanija odbije suradnju?
Tehnološki sektor nikada nije izgradio reputaciju industrije koja se sama strogo nadzire. Od društvenih mreža do privatnosti podataka, mnogo puta se pokazalo da dobrovoljna obećanja ne vrijede mnogo kada se sudare s tržišnim pritiskom.
Utrka s Kinom glavni je argument protiv usporavanja
Najveća prepreka svakom usporavanju je geopolitika. SAD se boji da bi Kina mogla preuzeti vodstvo u umjetnoj inteligenciji. Donald Trump to je sažeo porukom da “tko pobijedi u AI-ju, pobjeđuje”.
U takvoj atmosferi nijedna američka kompanija ne želi biti prva koja će stati. Ako OpenAI, Anthropic ili druge zapadne tvrtke uspore razvoj, a kineski laboratoriji nastave, rezultat može biti gubitak tehnološke prednosti.
To podsjeća na logiku utrke u naoružanju. Svi tvrde da bi bilo sigurnije usporiti, ali nitko ne želi usporiti prvi.
Sigurnost ili zaštita tržišne pozicije?
Postoji i neugodnije pitanje: jesu li pozivi na usporavanje motivirani isključivo sigurnošću ili i poslovnim interesima?
AI kompanije troše golemi novac na čipove, podatkovne centre, energiju i istraživanje. Prihodi rastu, ali još nije jasno hoće li opravdati razinu ulaganja. Sve češće se govori o mogućem balonu, osobito ako se pokaže da mnoge kompanije koje uvode AI ne dobivaju očekivanu produktivnost.
U takvom trenutku poziv na usporavanje može izgledati kao moralna odgovornost, ali i kao pokušaj da se regulacijom učvrsti pozicija najvećih igrača. Ako samo najveće kompanije mogu platiti sigurnosne timove, evaluatore i regulatornu infrastrukturu, manji konkurenti mogli bi biti izgurani.
Strah radnika iznutra mijenja ton rasprave
Posebno snažno odjekuju upozorenja bivših i sadašnjih istraživača. Jacob Coxon, bivši istraživač Anthropica, rekao je BBC-ju da su ljudi koji razvijaju ove sustave “iskreno prestrašeni” zbog budućnosti čovječanstva.
Takve izjave mijenjaju javnu raspravu. Kada kritika dolazi izvana, industrija je može odbaciti kao neznanje ili paniku. Kada dolazi od ljudi koji su radili na najnaprednijim modelima, teže ju je ignorirati.
No ni strah stručnjaka nije dovoljan za politiku. Regulatori moraju pretvoriti opće upozorenje u konkretna pravila, a to je mnogo teže od dramatične izjave.
Britanija, Europa i SAD žele rast, ne kočenje
Problem je i gospodarski. Vlade ne vide AI samo kao rizik, nego kao motor rasta. Britanija želi koristiti umjetnu inteligenciju u zdravstvu, obrazovanju, javnoj upravi i gospodarstvu. SAD je vidi kao stratešku prednost. EU pokušava istodobno regulirati i ne zaostati.
Ako se AI uspori previše, vlade strahuju od gubitka investicija, produktivnosti i globalne moći. Ako se ne uspori, riskiraju sigurnosne propuste, manipulacije, cybernapade, gubitak radnih mjesta i koncentraciju moći u rukama nekoliko kompanija.
To je klasična politička zamka: opasno je i previše kočiti i previše ubrzati.
