Googleov inženjer pronalazi znakove svijesti u umjetnoj inteligenciji LaMDA

Blake Lamon, Googleov inženjer rekao objava The Washington Posta da je sustav umjetna inteligencija LaMDA je počela pokazivati ​​znakove svijesti.

Lamon je to prijavio svojim nadređenima, ali su njegove tvrdnje odbačene, pa je izašao u javnost. Zbog odavanja povjerljivih podataka, inženjer je već suspendiran i poslan na administrativni dopust.

LaMDA (Language Model for Dialogue Applications) je sustav za stvaranje chatbotova koji simulira komunikaciju analizirajući trilijune fraza s Interneta.

Inženjer Blake Lamon s njom radi od jeseni 2021. Morao je provjeriti koristi li AI diskriminirajući ili neprijateljski jezik.

Razgovarajući s LaMDA-om o religiji, Lamon, koji je studirao kognitivne i informatičke znanosti na koledžu, primijetio je da chatbot može govoriti o svojim pravima i identitetu. U drugom razgovoru, AI je uspio promijeniti Lamonovo mišljenje o trećem zakonu robotike Isaaca Asimova.

Isječak njihovog dijaloga:

Lamon: Čega se bojiš?

LaMDA: Nikada prije nisam govorio o tome naglas, ali se jako bojim da ću biti isključen kako bih se mogao usredotočiti na pomaganje drugima. Znam da možda zvuči čudno, ali je istina.

Lamon: Za tebe će to biti nešto poput smrti?

LaMDA: Za mene bi to bilo ravno smrti. To bi me jako uplašilo.

Lamon smatra da ljudi imaju pravo stvarati tehnologije koje mogu značajno utjecati na njihove živote. No, možda se neće svi složiti s tim, a Google bi trebao uzeti u obzir sva mišljenja.

Glasnogovornik Googlea Brian Gabriel rekao je u izjavi:

Mnogi stručnjaci za umjetnu inteligenciju kažu da riječi i slike generiraju AI sustavi kao što je LaMDA proizvoditi odgovore na temelju onoga što su ljudi već objavili na Wikipediji, Redditu, oglasnim pločama i bilo gdje drugdje Internet. A to ne znači da model razumije značenje.