UN: Nekontrolisan napredak AI može da bude egzistencijalni rizik za čovječanstvo

- Veštačka inteligencija koja izbjegava svoje okruženje za testiranje ili ucjenjuje programere da bi izbjegla deaktivaciju je previše moćna vještačka inteligencija - rekao je Tirk na otvaranju 63. sednice Savjeta za ljudska prava u Ženevi.

On je zatražio "jake mjere zaštite u vezi sa bezbjednošću vještačke inteligencije, dok još nije kasno.

- Šačica ljudi ima gotovo neograničenu moć nad vještačkom inteligencijom, za koju nam stalno govore da posjeduje nezamislivu računarsku moć. Pričaju o slobodi, ali nakon detaljnijeg pregleda, ispostavlja se da je to malo više od slobode da se eksploatišu naši podaci - rekao je Tirk.

Kkao je kazao, vještačka inteligencija koja manipuliše ljudima je već stvarnost.

- Najnoviji generativni modeli vještačke inteligencije više ne samo da slijede naređenja i idu toliko daleko da lažu, spletkare ili prijete kako bi postigli svoje ciljeve, što je veoma zabrinulo neke istraživače - ocijenio je visoki zvaničnik UN.

Tirk je najavio da će u narednim danima pisati kompanijama u tom sektoru "kako bi ih pozvao da preduzmu mjere koje su u njihovoj moći, da smanje rizike".

- Potrebna nam je nezavisna verifikacija i mnogo bliža saradnja u pogledu bezbjednosti unutar te industrije - rekao je Tirk tražeći na razmatranje "uticaja vještačke inteligencije na prakse zapošljavanja, suštinske demokratske principe i okruženje.