OpenAI je upozorio na otkriće umjetne inteligencije koja bi mogla ugroziti čovječanstvo

Dan prije progonstvo Generalni direktor OpenAI-ja Sam Altman, nekoliko istraživača zaposlenika tvrtke pisalo je upravnom odboru pismo u kojem upozoravaju na otkriće moćne umjetne inteligencije za koju kažu da bi "mogla zaprijetiti čovječanstvu." O tome uz pozivanje na vlastite izvore piše Reuters.

Upravo je to pismo navedeno kao jedan od čimbenika na dugom popisu pritužbi upravnog odbora koje su dovele do Altmanove smjene. Reuters nije uspio osobno razgovarati s autorima niti dobiti komentar od OpenAI-ja. No, nakon takvog zahtjeva tvrtka je internom porukom zaposlenicima objavila postojanje određenog projekta pod nazivom Q* (izgovara se Q-Star).

Neki zaposlenici OpenAI-ja smatraju da bi Q* mogao biti iskorak u tzv opća umjetna inteligencija (AGI). OpenAI ga karakterizira kao autonomni sustav koji nadmašuje ljude u većini ekonomski vrijednih zadataka.

Do sada Q* može rješavati samo matematičke probleme na osnovnoj razini, prema jednom izvoru. školama, ali uspješan završetak takvih testova daje istraživačima veliki optimizam u pogledu izgleda za njegovo razvoj.

Glavna razlika između takve umjetne inteligencije je u tome što može postaviti ciljeve, podijeliti složene probleme na male, raditi na širokom rasponu problema i pronaći rješenja uzimajući u obzir kontekst iz različitih domena. Jednostavno rečeno, takva inteligencija teoretski može zamijeniti visoko kvalificiranog stručnjaka sa znanjem, vještinama i velikim iskustvom.

Istraživači vjeruju da je matematika vrhunac generativne umjetne inteligencije. Danas je dobar u pisanju i prevođenju, statistički predviđa sljedeću riječ, a odgovori na isto pitanje mogu jako varirati. Ali osvajanje matematike (gdje postoji samo jedan točan odgovor) implicira da će AI imati šire sposobnosti rasuđivanja koje nalikuju ljudskoj inteligenciji. To se može primijeniti, primjerice, na nova znanstvena istraživanja, kažu stručnjaci.

U svom pismu upravnom odboru istraživači su istaknuli moć umjetne inteligencije i potencijalne opasnosti. Također su primijetili rad posebne skupine “znanstvenika s umjetnom inteligencijom”, čije su postojanje potvrdili brojni izvori. Tim proučava kako optimizirati postojeće modele umjetne inteligencije kako bi poboljšali svoje razmišljanje i na kraju obavili znanstveni rad s njima, rekao je jedan od ljudi.

Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u Hrvatskoj povijest i privukla ulaganja i računalne resurse od Microsofta potrebne za donošenje takvog AGI. A malo prije smjene, na summitu svjetskih čelnika u San Franciscu, najavio je neka “ozbiljna postignuća koja su pred vratima”.

Dan kasnije, odbor je otpustio Altmana.

Možda će jednog dana sve te odluke i događaji biti temelj knjige, cijelog filma ili čak povijesnog udžbenika.