Eliezer Yudkowsky, istraživač koji radi na projektima vještačke inteligencije (AI) od 2001. godine, napisao je članak kao odgovor na otvoreno pismo mnogih velikih imena u svijetu tehnologije, u kojem oni pozivaju na šestomjesečni moratorij u razvoju umjetne inteligencije.
U pismu, koje je potpisalo 1.125 osoba, uključujući Elona Muska i Appleovog suosnivača Stevea Wozniaka, zatražena je pauza u obuci AI tehnologije.
Yudkowsyjev članak pod naslovom "Pauziranje razvoja vještačke inteligencije nije dovoljno. Moramo sve ugasiti", navodi se da se suzdržao od potpisivanja pisma jer se u njemu potcjenjuje "ozbiljnost situacije" i traži "premalo za rješavanje".
Napisao je: “Mnogi istraživači zaokupljeni ovim pitanjima, uključujući i mene, očekuju da će najvjerovatniji ishod stvaranja nadljudski inteligentne vještačke inteligencije, pod bilo kojim okolnostima koje su iole nalik sadašnjim, biti to da će svi na Zemlji doslovno umrijeti.”
Yudkowsky smatra da čovječanstvo još nije spremno nositi se sa superinteligencijom moćnijom od ChatGPT-4 chat bota, jer su za njezinu kontrolu potrebne naprednije tehnologije. Teorijski, AI se može naučiti da se brine o živim bićima, ali naučnici još ne znaju kako to da urade.
Objasnio je da AI “ne mari za nas niti za razumni život općenito”, a mi smo trenutno daleko od toga da usadimo takve principe u tehnologiju.
“Ne možemo predvidjeti šta će se i kada desiti, a sada se čini mogućim da istraživačka laboratorija može da prijeđe kritičnu granicu a da to ni ne primijeti“, rekao je ovaj stručnjak.
“Ako neko napravi previše moćnu vještačku inteligenciju u sadašnjim uslovima, očekujem da će svaki pripadnik ljudske rase i sav biološki život na Zemlji uskoro nestati.”
On je naveo da je vjerovatan rezultat suočavanja čovječanstva sa suprotstavljenom nadljudskom inteligencijom potpuni ljudski poraz.
“Da biste vizuelizirali neprijateljsku nadljudsku vještačku inteligenciju, nemojte zamišljati beživotnog mislioca koji boravi na internetu i šalje loše namjere. Zamislite čitavu vanzemaljsku civilizaciju, koja razmišlja milion puta većim brzinama od ljudskih – u početku ograničena na kompjutere – u svijetu ljudskih stvorenja koja su, iz njene perspektive, veoma glupa i veoma spora. Dovoljno inteligentna AI neće dugo ostati ograničena na računare. U današnjem svijetu možete poslati e-poruku DNK nizovima laboratorija, koje će proizvoditi proteine na zahtjev, omogućavajući vještačkoj inteligenciji, koja je prvobitno ograničena na Internet, da izgradi vještačke oblike života ili da se pokrene direktno na postbiološku molekularnu proizvodnju”, napisao je.
Ovaj teoretičar smatra da biznismeni Elon Musk i Steve Wozniak ne shvataju situaciju dovoljno ozbiljno. On je naglasio da vještačka inteligencija uopće ne brine o inteligentnom životu, a da čovječanstvo još nije sazrelo za uvođenje ovakvih tehnologija.
Predložio je da se zabrani korištenje vještačke inteligencije na neodređeno vreme i širom sveta, uključujući vlade i oružane snage.
Pozvao je na uništavanje moćnih centara podataka za obuku vještačke inteligencije, ako treba i bombardiranjem.
Yudkowsky je predložio da se zabrana učini neograničenom za sve zemlje sveta, uključujući i oružane snage, zaključivanje međunarodnog sporazuma, praćenje upotrebe GPU-a i kažnjavanje organizacija koje razvijaju vještačku inteligenciju uprkos moratoriju, ako treba i preciznim bombardiranjem.
“Ako obavještajni podaci izvijeste da zemlja koja nije dio sporazuma gradi GPU klaster, ne plašite se toliko pucnjave između zemalja koliko kršenja moratorija. Budite spremni da uništite centar podataka zračnim napadom”, napisao je Yudkowsky.
