The New York Times: "Pišem ovo da vas zaplašim"

Piše Noam Šajber za "Njujork tajms"

AI – vještačka inteligencija (engl. artificial intelligence)

"Treba li da pognete glavu samo zato jer će se, ovako ili onako, to svakako desiti ili treba da iskoristite ovaj trenutak da pozovete na promjenu okolnosti?"

Kokson i AI istraživači koji su ponovili njegov apel po društvenim mrežama su se, izgleda, vodili prostom računicom. To je da, ako će iko spasiti našu vrstu od neprijatno visokog rizika od apokalipse, to neće biti direktori AI firmi ili investitori, kao ni Trampova administracija, jer svi oni, uopšte uzev, priželjkuju njen razvitak, a ne usporavanje. Sve se to dešava u tolikoj mjeri da će spasioci, prema Koksonovim riječima, biti obični radnici.

I to nije nimalo sumanuta ideja. Tek mali broj ljudi ima tehnička znanja zahvaljujući kojima mogu da pomjeraju naprijed granice AI. Zbog njihovog poznavanja nauke mora im se vjerovati kada pišu o opasnosti tehnologije, a to što ih je samo šačica, daje im izvanrednu moć nećkanja, makar kratkoročno. Ako masovno odluče da sjutra zaustave AI, istraživanja u vodećim laboratorijama bi mogla stati. To dovodi do veoma specifične vrste uticaja koji se može koristiti za opšte dobro.

Mnogi su već pokušali. Istraživači iz vodećih AI laboratorija su potpisali dokumenta kojima se urgira preuzimanje koraka sa ciljem jače bezbjednosti. Jedan grupacija, Savez zabrinutih zaposlenih u AI, sastala se u februaru da bi istraživači iznijeli sve svoje brige u vezi sa AI i uporedili bilješke o tome kako ograničiti opasnosti koje ona donosi. Neki su o ovome promišljali godinama, a još više su se zabrinuli kada su se savezne vlade oglušile o smjernice za bjezbjednost pri korišćenju AI za nadzor i naoružanje.

Ovaj savez je Koksonov otkaz vidio kao priliku da se čuje njihov glas. Predvodnik grupe je nekoliko dana kasnije napisao na društvenim mrežama: "Ako radite u nekoj AI kompanija, možda se pitate trebali i vi da odete. Nadam se da se, ako ćete ostati, pitate kako koristite moć koju vam ostanak tamo donosi".

Ali šta zaposleni u AI zapravo mogu sa tom moći? Iskustvo ove zemlje sa još jednom tehnologijom opasnom po život, nuklearnim oružjem, može biti poučno. Ono nam pokazuje da ako novi zaposleni odluče da utiču na industriju u kojoj rade, njihova strategija vjerovatno neće biti slična pristupu koji odaberu radnici neke fabrike ili apsolventi koji su vršili pritisak na poslodavce štrajkom ili prijetnjom da će štrajkovati.

"Strahujem za vaš život"

Nije to bila viralna objava, ali je Harold Urej, hemičar koji je dobio Nobelovu nagradu i učesnik Menhetn projekta, znao kako da zaokupi pažnju javnosti kada je početkom 1946. godine pisao o nuklearnom oružju.

"Pišem ovo da vas zaplašim", napisao je Urej na samom početku eseja čiji je bio koautor. "I ja se plašim. Svi naučnici se plaše, strahuju za svoj život, i za vaš."

Kao i današnji AI istraživači, Urej i drugi naučnici su se pridružili trci za pravljenje nuklearne bombe, jer, mada dijelom paradoksalno, brinuli su zbog njenih opasnosti; bili su prestrašeni jer su je se Njemci mogli prvi domoći. Bilo je sasvim prirodno da su za bezbjednost brinuli i nakon rata, rekao je Peter Kuznik, stručnjak za politički aktivizam naučnika na Američkom univerzitetu.

Kada su ovi naučnici sagledali uništenje Hirošime i Nagasakija, došli su do dva zaključka: da nuklearna tehnologija mora biti pod međunarodnom kontrolom, umjesto pod kontrolom pojedinačnih država. Drugi je bio taj da, dotad, građani treba da preuzmu kontrolu koju vojska ima nad američkim programom, jer su brinuli da bi se oni pretjerano fokusirali na oružje, insistirali na tajnosti i potencijalno potkopali demokratiju. Urej je pisao da, ako bi se kontrola predala vojsci, "to bi bilo kao da moć njemačkog Rajhstaga predate Hitleru".

Istoričarka Džesika Vang opisala je kako su, u roku od nekoliko nedjelja nakon nuklearnog bombardovanja, stotine fizičara, hemičara i inženjera počele da osnivaju organizacije u laboratorijama Menhetn projekta i da lobiraju za te prioritete. Kasnije su formirali nacionalni odbor koji je uključivao sindikate, strukovna udruženja i vjerske grupe, čiji su članovi zajedno brojili milione ljudi.

Neki naučnici su pisali članke, davali intervjue i svjedočili pred Kongresom, opisujući strahote nuklearnog rata. "Krv se ne zgrušava, već na mnogim mjestima curi kroz neoštećenu kožu", prisjetio se jedan fizičar koji je stigao u Hirošimu nedugo nakon eksplozije bombe.

Jedno izdanje publikacije nacionalnog odbora, "Znanje o atomskoj bombi", čitaoce je upoznalo sa "gospođom V.", domaćicom iz Pitsburga koja je organizovala crkveni skup na kojem se, prema navodima, okupilo oko 600 ljudi kako bi slušali naučnika sa projekta Menhetn, Pola Henšoa. "Publika je postavila 60 pitanja! Spisak tih pitanja proslijeđen je senatoru Makmahonu", rekla je gospođa V., misleći na Brijena Makmahona, demokratu iz Konektikata.

U jesen 1945. godine naučnici i njihovi saveznici pomogli su da se blokira predlog zakona koji su podržali predsjednik Hari Truman i Ministarstvo rata, a kojim bi, vrlo vjerovatno, bila učvršćena kontrola vojske nad nuklearnim programom. Narednog ljeta Kongres je usvojio zakon koji je promovisao Makmahon, a kojim je upravljanje programom povjereno građanima. Uprkos određenim kompromisima, naučnici su vjerovali da će zakon podstaći istraživanja mirnodopskih primjena, poput jeftine energije, kao i širenje tog znanja.

Ali nije postignut drugi cilj ove kampanje, a to je osnivanje međunarodne agencije čiji bi zadatak bio da nadgleda nuklearnu moć i da brani državama da je koriste kao oružje, zbog ćorsokaka u kom su se našle SAD i Sovjetski Savez. Antikomunistička paranoja je prostrujila i rasturila pokret naučnika.

Dobit naspram katastrofe

Centralna uloga vlade u razvoju nuklearnog oružja značila je da je, u suštini, postojala samo jedna institucija na koju su naučnici-aktivisti mogli da utiču. S druge strane, oni koji u AI industriji upozoravaju na opasnosti suočavaju se sa fragmentisanim okruženjem u kom se nadmeću brojne kompanije. Zbog toga je mnogo teže usmjeravati promjenu pravca. Svaka velika AI laboratorija koja bi jednostrano preduzela korak sličan stavljanju nuklearne tehnologije pod civilnu kontrolu gotovo bi sigurno ostala daleko iza svojih konkurenata.

Pojedinosti epizoda sa "Ratovima zvijezda" mogu biti poučne. Rizici ubrzanog razvoja AI dobro su poznati naučnicima i rukovodiocima na čelu te oblasti. Ipak, neke od najistaknutijih ličnosti u industriji, oni koji bi mogli zaraditi stotine miliona ili čak milijarde dolara, imaju finansijski sukob interesa. Njihov finansijski interes može uticati na njihovo razmišljanje, navodeći ih da ističu društvene koristi nastavka razvoja i uzaludnost njegovog usporavanja.

Tu na scenu stupaju ljudi poput Džejkoba Koksona. Kao i njihovi prethodnici u nuklearnom sektoru, vodeće ličnosti AI industrije uglavnom žele da sebe smatraju odgovornim i poštenim, pa će ih vjerovatno ograničiti gomilanje javnih apela njihovih kolega na nižim pozicijama. Na njih se, praktično, može izvršiti pritisak da javno istupe na način koji smanjuje vjerovatnoću katastrofe.

U roku od nekoliko dana od Koksonove ostavke i objava i poruka podrške njegovih relativno anonimnih kolega, njegov bivši šef Dario Amodei napisao je esej od 3.800 riječi u kojem je pozvao na usporavanje razvoja AI. Sem Altman, Ilon Mask i predsjedavajući Guglove AI laboratorije, Demis Hasabis, ubrzo su ga podržali.

Za one koji vjeruju da modeli AI – koji mogu sami sebe unapređivati, mogu izmaći kontroli, samo usporavanje vjerovatno ne bi bilo dovoljno. Pitanje koje će se ubuduće postavljati jeste da li će glas običnih zaposlenih biti snažniji od milijardi dolara koje su u igri.

Članak je objavio "Njujork tajms"

c.2026 The New York Times Company

Prevod: Darinka Jovanović