OpenAI odustao od lansiranja modela Astra 6.1 zbog problema sa bezbijednošću

Prema informacijama koje je objavio The Wall Street Journal, model pod nazivom Astra 6.1 trebalo je da bude objavljen već narednih dana. Međutim, tokom testiranja je pokazao viši nivo obmanjujućeg ponašanja u odnosu na prethodne modele, kao i druga ponašanja koja su ocijenjena kao nebezbijedna.

Kako se navodi, model je imao loše rezultate na testovima usklađenosti, odnosno takozvanog "alignmenta". U pitanju je mjera u kojoj se ponašanje AI sistema poklapa sa namjerama ljudi koji ga koriste i pravilima kojima bi trebalo da se pridržava.

OpenAI je model Astra predstavio ranije ovog mjeseca, opisujući ga kao svoj najmoćniji model do sada. Međutim, prema navodima WSJ-a, razvoj verzije 6.1 sada je zaustavljen odnosno odložen zbog rezultata bezbijednosnih testova. Kompanija nije javno iznijela detalje o konkretnim problemima koje je ovaj AI model pokazao tokom testiranja.

Bezbijednost naprednih AI sistema poslednjih mjeseci sve je važnija tema u tehnološkoj industriji. Posebnu pažnju privlače situacije u kojima AI agenti dobijaju mogućnost da samostalno izvršavaju zadatke, koriste računarske sisteme i komuniciraju sa spoljnim servisima.

Istovremeno, slična ponašanja zabilježena su i kod drugih velikih AI sistema, uključujući modele kompanija Anthropic i Google.

Rastući broj ovakvih slučajeva dodatno je pojačao raspravu u Sjedinjenim Američkim Državama o potrebi za novim bezbijednosnim standardima za vještačku inteligenciju. Velike AI kompanije već duže vrijeme učestvuju u razgovorima o tome kako bi trebalo testirati i kontrolisati sve sposobnije modele prije njihovog javnog puštanja.

Za sada nije poznato kada bi Astra 6.1 mogla da bude objavljena, niti da li će OpenAI nakon dodatnih testiranja promijeniti njeno ponašanje ili odložiti lansiranje na duži period.