Mogu li chatbotovi postati svjesni poput ljudi?
Miscelanea / / October 31, 2023
Dvije suprotstavljene teorije pokušavaju odgovoriti na ovo pitanje.
Christoph Koch
Američki neuroznanstvenik, direktor Allenova instituta za istraživanje mozga.
Pitanja o tome što je subjektivno iskustvo, tko ga ima i kako se ono odnosi na fizički svijet oko nas progonila su umove filozofa veći dio ljudske povijesti. Međutim, znanstvene teorije o svijesti koje se mogu kvantificirati i empirijski provjeriti pojavile su se tek u posljednjih nekoliko desetljeća.
Mnoge moderne teorije svijesti usredotočuju se na tragove koje ostavljaju fine stanične mreže mozga iz kojih nastaje svijest. Danas dominiraju dvije od njih: teorija integriranih informacija i teorija neuralnog globalnog radnog prostora.
Prije dvadeset pet godina posvađali smo se s australskim filozofom Davidom Chalmersom. Obećao sam mu kutiju dobrog vina ako ti neuralni tragovi, tehnički nazvani neuralni korelati svijesti, budu otkriveni i jasno opisani do lipnja 2023.
Međutim, kontradikcija između teorije integriranih informacija i teorije neuralnog globalnog radnog prostora ostaje nerazriješena. To je zbog djelomično mješovitih dokaza o tome koja su područja mozga odgovorna za vizualni doživljaj i subjektivna percepcija lica ili predmeta, iako je važnost prefrontalnog korteksa za svjesno iskustvo opovrgnuto. Pa sam izgubio okladu i poslao vino Chalmersu.
Obje dominantne teorije stvorene su kako bi objasnile vezu između svijesti i neuralne aktivnosti kod ljudi i srodnih životinja kao što su majmuni i miševi. I obje teorije donose bitno različite pretpostavke o subjektivnom iskustvu i dolaze do suprotnih zaključaka o svijesti u umjetnim artefaktima. Razmjer do kojeg su ove teorije empirijski potvrđene ili opovrgnute u odnosu na svijest koja je ukorijenjena u mozga, ima važne implikacije za odgovor na neriješeno pitanje našeg vremena: mogu li strojevi dobiti svijest?
Što su chatbotovi nove generacije?
Prije nego što o tome razgovaramo, dopustite mi da vas odvedem u kontekst i usporedim tehniku koja je svjesna s tehnikom koja pokazuje samo inteligentno ponašanje. Računalni inženjeri nastoje obdariti strojeve visoko fleksibilnom inteligencijom koja je nekada bila moguća osoba napustiti Afriku i naseliti cijeli planet. To se zove umjetna opća inteligencija (AGI).
Mnogi tvrde da je AGI daleka perspektiva. Nevjerojatan napredak ostvaren na području umjetne inteligencije u posljednjih godinu dana iznenadio je cijeli svijet, pa tako i stručnjake. S pojavom elokventnih softverskih aplikacija za razgovor, kolokvijalno nazvanih chatbotovi, iz ezoterične teme, raspravljaju ljubitelji znanstvene fantastike i elita IT industrije iz Silicijske doline, rasprave o AGI-ju pretvorile su se u raspravu o što odražava rašireno javno nezadovoljstvo zbog egzistencijalnog rizika za naš način života i naše ljubazan.
Chatbotovi se temelje na ogromnim jezičnim modelima. Najpoznatiji od njih su serije robota koji se nazivaju generativni unaprijed obučeni transformatori ili GPT. Kreirao ih je OpenAI u San Franciscu. S obzirom na fleksibilnost, pismenost i kompetenciju najnovije verzije, GPT-4, lako je povjerovati da ima inteligenciju i osobnost. Čak se i njezini čudni problemi, poznati kao "halucinacije", uklapaju u ovu teoriju.
GPT-4 i njegovi konkurenti, kao što su LaMDA i Googleov Bard, obučeni su na bibliotekama digitaliziranih knjiga i milijardama javno dostupnih web stranica. Genijalnost jezičnog modela je u tome što uči bez nadzora, obrađuje riječ po riječ i pokušava predvidjeti izraz koji nedostaje. Ona to radi uvijek iznova, milijarde puta, bez vanjske intervencije.
Nakon što model stekne znanje unosom digitaliziranih zapisa čovječanstva, korisnik prikazuje nepoznatu rečenicu - jednu ili više. Model predviđa najvjerojatnije prvu riječ, zatim sljedeću i tako dalje. Ovaj jednostavan princip pokazao je nevjerojatne rezultate na engleskom, njemačkom, kineskom, hindskom, korejskom i drugim jezicima, uključujući razne programske jezike.
Koja je razlika između intelekta i svijesti
Značajno je da je temeljni esej o umjetnoj inteligenciji, "Računalstvo i inteligencija", koji je napisao Alan Turing je 1950. godine izbjegao pitanje "Mogu li strojevi misliti?", odnosno pitanje imaju li svijest. Turing je predložio "igru oponašanja": može li promatrač objektivno razlikovati ispis koji je ispisao čovjek od ispisa ispisanog strojem ako su identiteti obojice skriveni.
Danas je to poznato kao Turingov test, a chatbotovi su jako dobri u tome, iako to vješto demantiraju ako ih izravno pitate. Turingova strategija započela je desetljećima neumoljivog napretka koji je doveo do stvaranja GPT-a, ali je zanemarila problem.
U raspravi o chatbotu implicitna je pretpostavka da je umjetna inteligencija isto što i umjetna svijest, da je biti pametan isto što i biti svjestan. I premda su kod ljudi i drugih razvijenih organizama inteligencija i svijest povezani, ne moraju nužno uvijek pratiti jedno drugo.
Inteligencija je razmišljanje i učenje djelovanja te iz postupaka sebe i drugih, kako bismo točnije predvidjeli budućnost i bolje se pripremili za nju. Nije važno znači li to sljedećih nekoliko sekundi ("Oh, taj auto juri prema meni") ili sljedećih nekoliko godina ("Moram naučiti kodirati"). Inteligencija se u konačnici odnosi na djelovanje.
Svijest je, s druge strane, povezana sa stanjima postojanja - gledanje plavog neba, slušanje pjeva ptica, osjećaj boli, bivanje ljubavnici. Nije nimalo važno osjeća li umjetna inteligencija koja je izvan kontrole nešto. Sve što je bitno jest da on ima svrhu koja nije povezana s dugotrajnom dobrobiti čovječanstva. I nije važno zna li ili ne zna što pokušava učiniti, što ljudi nazivaju samosvijest. On će "bezumno" slijediti svoj cilj. Dakle, barem konceptualno, čak i ako izgradimo AGI, neće nam reći puno o tome osjeća li nešto.
Znajući sve ovo, vratimo se izvornom pitanju kako tehnologija može postati svjesna. Počnimo s prvom od dvije teorije.
Kakvo objašnjenje nudi integrirana teorija informacija?
Ona počinje artikulacijom pet aksiomatskih svojstava svakog zamislivog subjektivnog iskustva. I zatim postavlja pitanje što neuronski krug treba da implementira ovih pet svojstava, uključivanje nekih neurona i isključivanje drugih. Ili, drugim riječima, što računalni čip treba da uključi neke tranzistore i isključi druge.
Uzročno-posljedične interakcije unutar kruga u određenom stanju ili činjenica da su dva aktivna neuron može uključiti ili isključiti drugi neuron, ovisno o okolnostima, može se rasporediti u višedimenzionalnu kauzalnu strukturu. Identičan je kvaliteti iskustva - kako se ono doživljava, kao što je iskustvo vremena i prostora ili kako se percipiraju boje.
Iskustvo također ima kvantitet koji je povezan s njim - njegove integrirane informacije. Samo sklop s maksimalnom integriranom informacijom različitom od nule postoji kao cjelina i ima svijest. Što je više informacija integrirano, to se sklop više ne može reducirati i manje se može smatrati jednostavno superpozicijom neovisnih podsklopova.
Integrirana informacijska teorija naglašava bogatu prirodu ljudskog iskustva. Dovoljno je pogledati oko sebe i pred vama će se pojaviti zapanjujući vidljivi svijet sa svojim bezbrojnim različitostima i vezama. Ili pogledajte sliku Pietera Bruegela Starijeg, flamanskog umjetnika iz 16. stoljeća koji je prikazivao vjerske teme i prizore iz seljačkog života.
Svaki sustav koji ima iste unutarnje veze i uzročne moći kao i ljudski mozak će, u načelu, biti jednako svjestan kao i ljudski um. Međutim, takav se sustav ne može modelirati. Mora biti dizajniran ili izgrađen prema slici mozga. Suvremena digitalna računala temelje se na izrazito slaboj sprezi (izlaz jednog tranzistora spojen na ulaz nekoliko tranzistora) u usporedba sa središnjim živčanim sustavom (neuron kortikalnog stupca prima ulazne podatke i proizvodi izlazne podatke desecima tisuća drugih neuroni).
Dakle, moderna računala, uključujući računala u oblaku, neće biti svjesna ničega, iako će s vremenom moći raditi sve što mogu i ljudi. S ove točke gledišta, ChatGPT se nikada neće osjećati posebnim. Imajte na umu da ova izjava nema nikakve veze s ukupnim brojem komponenti, bilo neurona ili tranzistora, već kako su povezane. Međusobna povezanost određuje ukupnu složenost sklopa i broj njegovih mogućih konfiguracija.
Koje objašnjenje nudi teorija neuralnog globalnog radnog prostora?
Dolazi iz psihološkog shvaćanja da inteligencija poput kazališta gdje glumci nastupaju na maloj osvijetljenoj pozornici, što je svijest. Radnje glumaca promatra publika procesora koji u mraku sjede iza pozornice.
Pozornica je središnji radni prostor uma, koji ima mali memorijski kapacitet za predstavljanje jedne percepcije, misli ili sjećanja. Različiti moduli obrade - vid, sluh, motoričke vještine očiju i udova, planiranje, prosuđivanje, razumijevanje jezika i govor - natječu se za pristup ovom središnjem radnom prostoru. Pobjednik istiskuje stari sadržaj, koji postaje nesvjestan.
Prema teoriji neuralnog globalnog radnog prostora, metaforička scena, zajedno s modulima za obradu, mapirana je u arhitekturu neokorteksa. Radni prostor je mreža kortikalnih neurona u prednjem dijelu mozga s dalekometnim projekcijama na slični neuroni raspoređeni po neokorteksu u prefrontalnom, parijetotemporalnom i cingulatu asocijacijski korteks.
Kada aktivnost u osjetilnom korteksu prijeđe određeni prag, pokreće se globalni događaj u kortikalnim područjima i, kao rezultat, informacije se prenose u cijeli radni prostor. Globalno širenje informacija čini ih svjesnima. Podaci koji se ne prenose na ovaj način, kao što je točan položaj očiju ili sintaktička pravila za sastavljanje pismenih rečenica, mogu utjecati na ponašanje, ali ne svjesno.
Sa stajališta teorije neuralnog globalnog radnog prostora, iskustvo je vrlo ograničeno, slično mišljenju i sažetak - sličan oskudnom opisu koji se može naći u muzeju ispod Bruegelove slike: “Scena u u zatvorenom prostoru. Seljaci u renesansnoj odjeći piju i jedu na svadbi."
U razumijevanju svijesti iz perspektive integrirane informacijske teorije, umjetnik briljantno prenosi fenomenologiju okolnog svijeta na dvodimenzionalno platno. U razumijevanju teorije neuralnog globalnog radnog prostora, ovo prividno bogatstvo je iluzija, duh. I sve što se objektivno može reći o tome navedeno je u kratkom opisu.
Teorija neuralnog globalnog radnog prostora u potpunosti uzima u obzir mitove našeg računalnog doba, prema kojima se sve može svesti na izračune. Prikladno programirane računalne simulacije mozga, s golemim povratnim informacijama i nečim poput središnjeg radnog prostora, svjesno će percipirati svijet. Možda ne sada, ali vrlo brzo.
Koja je nepomirljiva razlika između teorija?
Općenito, rasprava je sljedeća. Prema teoriji neuralnog globalnog radnog prostora i drugim teorijama računalnog funkcionalizma (oni promatrati svijest kao oblik računanja), svijest nije ništa više od skupa pametnih algoritama koji se izvode na stroju Turing. Funkcije su važne za svijest mozak, a ne njegova uzročna svojstva. Ako neka napredna verzija GPT-a prihvati i proizvede iste ulazne i izlazne obrasce kao i ljudi, tada će se sva naša inherentna svojstva prenijeti na tehnologiju. Uključujući naše dragocjeno blago - subjektivni doživljaj.
Nasuprot tome, za integriranu informacijsku teoriju srce svijesti je unutarnja kauzalna moć, a ne računanje. To nije nešto eterično ili nematerijalno. Ona je specifična i funkcionalno određena mjerom u kojoj prošlost sustava određuje njegovu sadašnjost (snaga uzroka) i mjerom u kojoj sadašnjost određuje njegovu budućnost (snaga posljedice). I ovdje je problem: sam uzročno-posljedični odnos, sposobnost prisiljavanja sustava da izvrši određenu radnju, a ne mnogo alternativnih, ne može se modelirati. Ni sada, ni u budućnosti. To bi trebalo biti ugrađeno u sustav.
Razmotrimo računalni kod koji modelira jednadžbe polja Einsteinove opće teorije relativnosti, koje povezuju masu sa zakrivljenošću prostorvremena. Softver precizno modelira supermasivu Crna rupa, koji se nalazi u središtu naše galaksije. Ova rupa ima tako snažan gravitacijski utjecaj na svoju okolinu da ništa, čak ni svjetlost, ne može izbjeći njenom privlačenju.
Međutim, astrofizičara koji simulira crnu rupu simulirano gravitacijsko polje neće usisati u laptop. Ovo naizgled apsurdno zapažanje ističe razliku između modela i stvarnosti: ako je model potpuno odgovara stvarnosti, prostor i vrijeme bi trebali biti iskrivljeni oko laptopa, stvarajući crnu rupu koja upija sve oko.
Naravno, gravitacija nije računica. Ima uzročnu silu koja mu omogućuje da deformira tkivo prostor-vremena i privuče sve što ima masu. Simulacija uzročnih sila crne rupe zahtijeva pravi superteški objekt, a ne samo računalni kod. Kauzalna moć se ne može modelirati, mora se stvoriti. Razlika između stvarnosti i modela leži u njihovim kauzalnim moćima.
Zato ne pada kiša u računalu koje simulira kišnu oluju. Softver je funkcionalno identičan vremenu, ali mu nedostaje uzročna moć da ispusti paru i pretvori je u kapljice vode. Uzročna moć, sposobnost samostalnog stvaranja ili prihvaćanja promjena, mora biti ugrađena u sustav. To je moguće.
Takozvano neuromorfno ili bioničko računalo moglo bi biti svjesno kao i čovjek. Ali to nije slučaj sa standardnom von Neumannovom arhitekturom, koja je osnova svih modernih računala. Mali prototipovi neuromorfnih računala stvoreni su u laboratorijima, poput Intelove druge generacije Loihi 2 neuromorfnog čipa. Ali stroj dovoljno sofisticiran da proizvede nešto što nalikuje ljudskoj svijesti, ili barem svijesti vinske mušice, još uvijek je ambiciozan san za daleku budućnost.
Imajte na umu da ova nepomirljiva razlika između funkcionalističkih i kauzalnih teorija nema nikakve veze ni s prirodnom ni s umjetnom inteligencijom. Kao što sam već rekao, inteligencija je ponašanje. Sve što ljudska genijalnost može proizvesti, uključujući sjajne romane kao što je Parabola o sijaču Octavije Butler i Rat i mir Lava Tolstoja, mogu reproducirati algoritamsku inteligenciju ako im se da dovoljno materijala za trening. Pojava AGI-ja cilj je ostvariv u ne tako dalekoj budućnosti.
Rasprava nije o umjetnoj inteligenciji, već o umjetnoj svijesti. A ova se rasprava ne može riješiti stvaranjem većih jezičnih modela ili naprednijih algoritama neuronske mreže. Da bismo odgovorili na ovo pitanje, moramo razumjeti jedinu subjektivnost u koju smo apsolutno sigurni: našu vlastitu. Nakon što imamo jasno objašnjenje ljudskog svijest i njegove neuronske podloge, moći ćemo proširiti svoje razumijevanje na pametne tehnologije na dosljedan, znanstveno utemeljen način.
Ova rasprava ima malo utjecaja na to kako će društvo u cjelini doživljavati chatbotove. Njihove jezične vještine, baza znanja i društveni šarm uskoro će postati besprijekorni. Bit će obdareni savršenim pamćenjem, kompetencijom, staloženošću, rasuđivanjem i inteligencijom. Neki čak tvrde da će ove tvorevine velike tehnologije biti sljedeći korak u evoluciji, Nietzscheov "nadčovjek". Zauzimam mračniji stav i vjerujem da takvi ljudi zamjenjuju pad naše vrste za zoru.
Za mnoge, a možda i većinu, ljudi u sve atomiziranijem društvu, odvojeni od prirode i organizirani oko društvenih mreža, bit će emocionalno teško oduprijeti se tehnologijama u kojima žive telefoni. I u različitim situacijama, običnim i ozbiljnijim, ljudi će se ponašati kao da chatbotovi imaju svijest, mogu doista biti zaljubljen, patnja, nada i strah, čak i ako nisu ništa više od složenih tablica za pretraživanje. Oni će nam postati nezamjenjivi, možda i važniji od istinski inteligentnih bića. Iako chatbotovi osjećaju koliko i televizor ili toster – ništa.
Što još pročitati na temu🤖
- 6 razloga zašto ne biste trebali slijepo vjerovati umjetnoj inteligenciji
- Zašto se ne bismo trebali bojati da će nove tehnologije preuzeti naše poslove
- Tehnološka posebnost: je li istina da će nam tehnologija uskoro izmaknuti kontroli?
- 8 mitova o umjetnoj inteligenciji u koje čak i programeri vjeruju