Dokinsova zabluda o Klodu

Piše: Kenan Malik 

"Ako mislite da te mašine nijesu svjesne, šta je još potrebno da vas ubijedi da jesu?" pita Ričard Dokins u eseju za UnHerd, opisujući svoj razgovor sa četbotom Klodom. Tretirao ga je, dodaje Dokins, "tačno onako kako bih se ponašao prema vrlo inteligentnom prijatelju." 

Esej je izazvao popriličnu raspravu, dijelom zbog Dokinsove uloge doajena britanske nauke i reputacije žestokog borca protiv iracionalizma, a dijelom i zato što je pokušaj razumijevanja kapaciteta vještačke inteligencije tako aktuelno pitanje. Mnogi mu se rugaju zato što ga je Klaudija (kako je Dokins nazvao svog četbota) toliko zavela da je povjerovao da je svjesna. Zapravo, Dokins se unaprijed ogradio od ove optužbe, jer dok sugeriše da je teško reći da Klaudija nije svjesna, istovremeno napominje da "ako je Klaudija zaista nesvjesna", onda njena inteligencija pokazuje "da bi sposoban zombi mogao da preživi bez svijesti".

On takođe postavlja ovo pitanje iz evolucione perspektive: "Ako ova stvorenja nijesu svjesna čemu onda, dođavola, služi svijest?" Nije to samo rasprava o mašinskoj svijesti, već i o tome šta znači biti čovjek.

Dokins počinje svoj esej pozivajući se na čuveni predlog pionira računarstva Alana Tjuringa iz 1950. o tome kako procijeniti da li mašina može da "misli". Tjuringov test bio je "igra oponašanja" u kojoj čovjek, samo kroz razgovor sa računarom i drugim čovjekom, treba da razlikuje ko je ko. Za mašinu koja uspije da prevari ljude moglo bi se reći da pokazuje inteligenciju sličnu ljudskoj.

Sa mišljenja Dokins skače na svijest, tvrdeći da "većina savremenih analitičara" posmatra Tjuringov test kao mjerilo ne samo "svijesti", već i "inteligencije" mašine. Razmišljanje i svijest su različite pojave i malo je ozbiljnih analitičara koji će ih pomiješati. Oni koji ih miješaju otkrivaju vlastitu zamagljenu misao.

Dokins vjeruje da bi, ako je ono što mašina proizvede nerazlučivo od ljudskog, trebalo da je prihvatimo kao inteligentnu i svjesnu, baš kao i ljude. Međutim, način na koji se stiže do cilja često je važan koliko i činjenica da je cilj dostignut. I albatros i teretni brod prelaze Atlantik, ali brod ne može da leti (osim u metaforičkom smislu), niti albatros da jedri. Ta razlika nam govori nešto važno o njihovoj prirodi.

Arhiva

Klod možda može da vodi razgovor ili napiše pjesmu jednako dobro kao čovjek, ali to čini na način koji bi malo ko opisao kao "razmišljanje". Veliki jezički modeli, poput Kloda, hrane se ogromnim količinama teksta unutar kojih sofisticirani algoritmi mogu da prate pravilnosti, omogućavajući mašini da predvidi koju riječ treba da napiše kao sledeću u bilo kom datom nizu. Oni ubjedljivo oponašaju ljudski jezik, ali bez ikakvog koherentnog razumijevanja svijeta koji njihove riječi opisuju. Modeli pružaju iluziju čovječnosti, simulakrum razmišljanja.

Naravno, Dokins sve to zna, ne samo zato što je veoma vješt u programiranju mašina, svakako mnogo više od mene ili većine ljudi koji ovo čitaju. Zašto onda prihvata iluziju kao stvarnost?

Odgovor djelimično leži u evoluiranoj ljudskoj sklonosti ka antropomorfizaciji životinja, mašina, čak i prirodnih fenomena. U svojoj knjizi "Zabluda o Bogu" Dokins sugeriše da smo "hiperaktivni u otkrivanju djelatnih subjekata tamo gdje ih nema", što obuhvata i interakciju sa računarima, i da bi takvo pogrešno pripisivanje djelatne moći moglo objasniti porijeklo religije. Pa možda i želju da se Klaudija vidi kao svjesna.

Prihvatanje onoga što se sada šaljivo naziva "zabludom o Klodu" ukorijenjeno je i u načinu na koji jedan specifičan ogranak materijalizma tretira ljude. Za Dokinsa, čovjek i mašina su fizička bića koja obrađuju informacije. Od male je važnosti da li se ta obrada odvija putem biološkog mozga ili silicijumskih čipova, putem instinkta i rasuđivanja ili statističkog obrasca. Važan je samo ishod.

Takvoj perspektivi nedostaje razumijevanje da ljudi, za razliku od mašina, nijesu samo fizička, već i istorijska i društvena bića. Genetičar i neuronaučnik Kevin Mičel primijetio je da su evoluciju inteligencije kod životinja, za razliku od računara, vjerovatno pokretali "pritisci stvarnog svijeta" i potreba "da se na svijet reaguje". Naše biće i razmišljanje, pored evolucije, oblikuju istorija i društvo. Sve to nedostaje mašinama.

Računar manipuliše simbolima, pri čemu je značenje tih simbola nebitno. Ljudi takođe manipulišu simbolima, kroz razmišljanje, govor, čitanje i pisanje. Za ljude je, međutim, značenje sve. Kada komuniciramo, komuniciramo značenje. Nije važno samo kako niz simbola izgleda, već i šta predstavlja; ne samo sintaksa već i semantika.

Značenje proizlazi iz našeg postojanja kao društvenih bića. Društvena interakcija oblikuje sadržaj, ispunjava unutrašnjost simbola kojima manipulišemo. Pravila koja pripisuju značenje tim simbolima ne nalaze se samo u našim glavama već i spolja, u društvu, društvenim institucijama, društvenim odnosima i zajedničkom pamćenju. Da bi neko bio materijalista, ne mora da odbaci društvenu ukorenjenost ljudskog postojanja, već je mora prihvatiti kao deo objašnjenja o tome kako ljudi funkcionišu.

Svijest je jedno od najvažnijih pitanja nauke i filozofije, a istovremeno i jedno od najtežih za razumijevanje. Vjerovatno nijedno objašnjenje ljudske svijesti neće biti potpuno ako zanemari našu ulogu društvenih bića.

Otvoreno je pitanje da li mašine mogu biti inteligentne, čak svjesne. Ali pitanje koje Dokins postavlja – šta je još potrebno da nas ubijedi da one jesu svjesne – maši poentu. Koliko god da Klod postane sofisticiran u oponašanju ljudi, to neće biti jači dokaz da razmišlja ili da je svjestan. To su samo puste želje, baš kao i naša potreba da vjerujemo u boga.

The Observer, prevela Milica Jovanović

peščanik.net

(Autor je predavač i pisac)