Jacob Coxon, istraživač u kompaniji Anthropic, jednoj od vodećih svjetskih laboratorija za razvoj vještačke inteligencije (AI), podnio je ostavku navodeći kao razlog uvjerenje da tehnologija na kojoj je radio predstavlja direktnu prijetnju opstanku čovječanstva. U javnom pismu i kasnijem medijskom istupu, Coxon je iznio tvrdnju da vodeće AI kompanije, vođene pritiskom konkurencije, svjesno zanemaruju sigurnosne protokole u trci za razvojem samopoboljšavajuće superinteligencije, te da se time "kockaju sa našim životima". Njegov potez, iako dolazi od relativno mlađeg istraživača, signalizira duboki jaz između javnog narativa tehnoloških kompanija i internih strahova unutar same industrije.

Hronološka rekonstrukcija događaja

Jacob Coxon, koji je prethodno radio i u kompaniji OpenAI, dao je otkaz u Anthropicu u februaru 2024. godine. Umjesto tihog odlaska, odlučio se na javni istup, objavljujući pismo u kojem detaljno obrazlaže svoje motive. U pismu navodi da je postao uvjeren da bi nekontrolisana "eksplozija inteligencije" – tačka u kojoj AI postaje sposobna da samostalno i eksponencijalno unapređuje vlastiti kod – mogla nastupiti do kraja ove decenije.

Svoju zabrinutost je dodatno artikulisao gostujući u programu voditelja Andersona Coopera na televiziji CNN. Tokom intervjua, Coxon je iznio preciznu i alarmantnu procjenu:

"Smatram da postoji između 10 i 20 posto šanse da potraga za samopoboljšavajućom vještačkom inteligencijom dovede do toga da svi umremo”, izjavio je Coxon, specificirajući vremenski okvir “unutar ove decenije".

Ova procjena nije iznesena kao daleka hipotetička mogućnost, već kao konkretan rizik zasnovan na trenutnoj putanji razvoja. Coxonov ključni argument je da je trka za komercijalnim i strateškim primatom između kompanija kao što su Anthropic, OpenAI i Google DeepMind stvorila okruženje u kojem se sigurnosna istraživanja sistemski podređuju brzini razvoja i lansiranja novih, moćnijih modela.

Institucionalni odgovor i interni signali

Kompanija Anthropic, koja je osnovana od strane bivših uposlenika OpenAI-ja upravo sa naglaskom na etiku i sigurnost, reagovala je na Coxonovu ostavku zvaničnim saopštenjem. U njemu se navodi da kompanija "ozbiljno shvata zabrinutost u vezi sa rizicima od vještačke opšte inteligencije (AGI)" i da je "posvećena pionirskim tehnikama za AI sigurnost kako bi se osiguralo da su modeli usklađeni sa ljudskim vrijednostima".

Međutim, ono što Coxonov istup čini sistemskim, a ne izolovanim incidentom, jeste reakcija koja je uslijedila unutar samog Anthropica. Evan Hubinger, šef tima za usklađivanje (Alignment Lead) u kompaniji, javno je na društvenim mrežama podržao suštinu Coxonovog upozorenja, napisavši: "Slažem se sa duhom onoga što Jacob ovdje govori."

Činjenica da je vodeći stručnjak za sigurnost unutar kompanije potvrdio validnost zabrinutosti jednog mlađeg kolege ukazuje na to da egzistencijalni rizik više nije tema o kojoj se raspravlja samo na marginama industrije. To je postala centralna tačka neslaganja između onih koji razvijaju tehnologiju i korporativnih struktura koje upravljaju njenim razvojem.

Sistemski kontekst: Profit ispred predostrožnosti

Coxonova ostavka nije usamljeni čin protesta, već simptom šireg trenda. On je dio rastuće grupe sadašnjih i bivših uposlenika AI laboratorija koji upozoravaju na opasnosti. Njihova argumentacija se svodi na fundamentalni konflikt interesa: kompanije su finansijski motivisane da budu prve na tržištu sa naprednijim AI sistemima, dok rigorozne sigurnosne provjere nužno usporavaju taj proces.

Ovaj pritisak dovodi do fenomena koji Coxon opisuje kao "kockanje". Vjerovatnoća katastrofalnog ishoda od 10-20% u bilo kojoj drugoj industriji – avijaciji, nuklearnoj energiji ili farmaciji – dovela bi do momentalne obustave rada i regulatorne intervencije. U AI industriji, međutim, takav rizik se prihvata kao cijena napretka.

Problem je dodatno usložnjen prirodom same tehnologije. Samopoboljšavajući sistemi, po definiciji, mogli bi dostići nivo inteligencije koji njihovi kreatori više ne bi mogli kontrolisati niti razumjeti. Upozorenja se ne odnose na scenarije iz naučne fantastike o "zlim robotima", već na tehnički problem "usklađivanja" (alignment): kako osigurati da ciljevi superinteligentnog sistema ostanu trajno usklađeni sa ljudskim blagostanjem. Trenutno, za taj problem ne postoji pouzdano rješenje.

Ostavka Jacoba Coxona i njegov medijski istup označavaju prelazak debate o egzistencijalnom riziku iz zatvorenih tehničkih krugova u javnu sferu. Njegov čin razotkriva opasan raskorak između privatnih procjena rizika od strane istraživača koji direktno rade na AI sistemima i optimističnih javnih saopštenja njihovih poslodavaca.

Dok se milijarde dolara ulažu u ubrzanje AI sposobnosti, resursi i vrijeme posvećeni razumijevanju i ublažavanju potencijalno katastrofalnih posljedica ostaju neproporcionalno mali. Slučaj Coxon nije priča o jednom nezadovoljnom uposleniku, već dokumentovani signal da je interna uzbuna unutar ključnih svjetskih tehnoloških laboratorija dostigla tačku ključanja. Pitanje koje ostaje bez odgovora jeste da li će regulatorna tijela i društvo u cjelini reagovati na ova upozorenja prije nego što se procjene rizika pretvore u stvarnost.