AI model samostalno izveo hakerski napad

Iz Gugla navode da je to vjerovatno prvi poznati slučaj u kojem je AI model samostalno izveo takav upad, piše Bi-Bi-Si.

Predstavnik Gugla pojasnio je za Bi-Bi-Si da je "Blizanac" (Gemini) pronašao javno dostupne informacije na internetu i pogodio korisničke podatke, odnosno lozinke na stranicama za koje je smatrao da pripadaju testnom okruženju.

Naglasio je da se u svakom pojedinačnom slučaju model sam zaustavio. Kompanije čiji su sistemi probijeni obaviještene su o upadu.

O incidentu, koji se dogodio u maju, prvi je izvijestio "Vol strit žurnal". Testiranje je sprovodila nezavisna kompanija specijalizovana za sajber bezbjednost.

Heather Adkins, potpredsjednica Guglovog odjeljenja za bezbjednosni inženjering, izjavila je za Bi-Bi-Si da su sve tri strane obaviještene o incidentima, te da su zajedno sa partnerom koji je sprovodio testiranje izmijenjene procedure i uvedene određene promjene.

Dodala je da ovi događaji pokazuju koliko je važno trenirati moćne AI modele da se ponašaju odgovorno.

Ovo nije jedini ovakav slučaj zabilježen u posljednje vrijeme. U julu je model Klaud, koji je razvila kompanija Anthropic, probio svoje testno okruženje i samostalno hakovao tri organizacije.

Samo nekoliko dana ranije OpenAI je objavio da su njegovi modeli izveli sajber napade na nekoliko javno dostupnih usluga. Ovi incidenti podstiču javnu raspravu o bezbjednosti razvoja vještačke inteligencije i potrebi za zakonskom regulacijom.

U tom kontekstu očekuje se da će izvršni direktor Nvidije Jensen Huang i čelnik OpenAI-ja Sam Altman sljedećeg petka prisustvovati državnoj večeri u Bijeloj kući sa kineskim predsjednikom Si Đinpingom.

Altman bi nakon toga trebalo da podnese izvještaj Savjetu bezbjednosti UN-a. S druge strane, Huang se u razgovoru za Si-Bi-Es njuz usprotivio ideji usporavanja razvoja vještačke inteligencije i poručio da bi njen razvoj trebalo ubrzati što je više moguće, piše Index.hr