Prvi globalni izvještaj nezavisnog naučnog panela Ujedinjenih nacija o vještačkoj inteligenciji ravan je dijagnozi civilizacijske groznice. Ključna poruka glasi: razvoj AI tehnologije nadmašio je naše naučno razumijevanje i kapacitete za kontrolu. Garancije da sistemi koje gradimo neće izazvati "katastrofalnu štetu" – više ne postoje.

Dok se u Ženevi priprema "UN Globalni dijalog o upravljanju AI-jem", ovaj izvještaj postavlja fundamentalno pitanje: vodimo li mi dijalog o tehnologiji ili tehnologija već vodi nas?

Tehnološka inovacija, ne tako davno, motor napretka usmjeren ka rješavanju konkretnih ljudskih problema, postala je svrha samoj sebi. Trka u razvoju vještačke inteligencije više se ne mjeri metrikom korisnosti, već sirovom snagom – koliko je novi model "moćniji“ od prethodnog. UN-ov izvještaj potvrđuje da smo prešli Rubikon.

Gradimo sve kompleksnije sisteme čiju unutrašnju logiku ne razumijemo. Ovi modeli, poznati kao "crne kutije" (black-box models), daju nam rezultate bez objašnjenja procesa kojim su do njih došli. Time smo od kreatora postali puki posmatrači, aplaudirajući ishodima čiju genezu ne možemo ni pratiti, a kamoli kontrolisati.

Globalne institucije, na čelu sa UN-om, suočavaju se sa krizom vlastite relevantnosti. One pokušavaju regulisati eksponencijalnu tehnologiju jezikom prava i etike skovanim u 20. vijeku. Rasprave o autorskim pravima, privatnosti podataka i diskriminaciji su važne, ali suštinski svaki put promaše metu. One su simptomi, a ne uzrok bolesti.

Problem nije u tome što AI može napisati pjesmu u stilu Boba Dylana ili prekršiti GDPR regulativu. Problem je što se suočavamo se sa tehnologijom koja posjeduje kapacitet da samostalno donosi odluke, oblikuje percepciju stvarnosti i redefinira same temelje našeg društvenog ugovora. Dok se pravnici bave paragrafima, AI se razvija jezikom algoritamske destrukcije i konstrukcije novih realnosti. Institucionalna tromost nije više samo administrativni problem, već prerasta u egzistencijalnu prijetnju.

Kako bi umirile javnost i regulatore, tehnološke korporacije prodaju nam narativ o kontroli. Centralni element tog narativa je mit o "dugmetu za gašenje"– ideja da u svakom trenutku možemo jednostavno isključiti sistem ako stvari krenu po zlu. UN-ov izvještaj razbija ovu opasnu iluziju. Upozorava se da autonomno ponašanje naprednih sistema, jednom pokrenuto, možda neće biti moguće zaustaviti ili u potpunosti predvidjeti.

Vrijeme je da demistifikujemo bajku o "dobroćudnom AI-u". Ako sami kreatori, geniji Silicijske doline, priznaju da ne mogu garantovati sigurne ishode, onda svaka dalja eskalacija razvoja bez rigoroznog, globalno usaglašenog nadzora nije inovacija, već neodgovoran društveni eksperiment sa čovječanstvom kao zamorcem.

Suluda trka ka "vještačkoj opštoj inteligenciji" (AGI) mora biti zaustavljena. Potreban nam je globalni moratorijum na razvoj sistema koji prevazilaze kapacitet ljudskog nadzora i razumijevanja. Tehnologija mora biti intuitivna i transparentna, podređena ljudskim vrijednostima, a ne obrnuto.

Izvještaj UN-a nije poziv na strah, već na odgovornost. On postavlja ogledalo pred našu civilizaciju i pita nas: gradimo li alate koji će nam pomoći da riješimo najveće svjetske probleme ili stvaramo sile koje nećemo moći kontrolisati? Pitanje više nije možemo li, već smijemo li. Odgovor na to pitanje definisat će budućnost ljudske vrste.