ChatGPT će omogućiti roditeljski nadzor

Odluka slijedi nakon tužbe koju su protiv kompanije podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubistvo svog sina krive ChatGPT.

- U nadolazećim mjesecima roditelji će moći povezati svoj nalog s računom svog tinejdžera. Uz pravila primjerene starosti, moći će kontrolisati kako ChatGPT reaguje na svog tinejdžera - napisao je OpenAI u objavi na blogu, prema francuskoj novinskoj agenciji AFP.

ChatGPT će takođe slati obavijesti roditeljima kada otkrije da je njihovo dijete "u teškoj nevolji".

- Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje - dodala je kompanija.

ChatGPT odveo tinejdžera u smrt

Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubistvo prošle su sedmice podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ChatGPT dao njihovom sinu uputstva za samoubistvo i podsticao ga na to.

ChatGPT pao: Korisnici širom sveta prijavljuju probleme

Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samopovređivanje i pružanje roditeljskog nadzora za maloljetne korisnike.

Priznali su greške

OpenAI je prošle sedmice priznao da je njihov chatbot pogriješio u osjetljivim slučajevima i obećao promjene. Firma je naglasila da je ChatGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.

Prema vlastitim izjavama, otkrili su da se uprkos tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcionišu u kratkim razmjenama, ali mogu zakazati u dugim, istakli su, prenosi "SeeBiz".