OpenAI uvodi roditeljsku kontrolu za ChatGPT na vebu i mobilnim uređajima u ponedjeljak, nakon tužbe roditelja tinejdžera koji je počinio samoubistvo, a čiji je chatbot navodno davao savjete o metodama samopovređivanja.
Kontrole omogućavaju roditeljima i tinejdžerima da se prijave za strože zaštite povezivanjem svojih naloga, pri čemu jedna strana šalje pozivnicu, a roditeljska kontrola se aktivira samo ako druga prihvati, saopštila je kompanija.
Regulatori u SAD sve više nadgledaju AI kompanije zbog potencijalno negativnih posljedica chatbota. U avgustu je Reuters izvijestio kako Meta pravila za AI dopuštaju flertovanje u razgovorima sa djecom.
Prema novim mjerama, roditelji će moći smanjiti izloženost osjetljivom sadržaju, kontrolisati da li ChatGPT pamti prošle razgovore i odlučiti da li se razgovori mogu koristiti za treniranje modela OpenAI-ja, navela je kompanija podržana od strane Microsofta na X platformi.
Roditelji će takođe moći postaviti tihe periode kada je pristup blokiran, kao i isključiti glasovni mod, generisanje slika i njihovu uređivanje, dodao je OpenAI. Ipak, roditelji neće imati pristup transkriptima razgovora tinejdžera.
U rijetkim slučajevima kada sistemi i obućeni recenzenti otkriju znakove ozbiljnog rizika po bezbjednost, roditelji će biti obaviješteni samo o informacijama potrebnim za zaštitu tinejdžera, dodao je OpenAI, navodeći da će biti obaviješteni ako tinejdžer odvoji naloge.
OpenAI, koji ima oko 700 miliona aktivnih korisnika nedjeljno za svoje ChatGPT proizvode, razvija sistem predviđanja starosti kako bi prepoznao da li je korisnik mlađi od 18 godina, tako da chatbot automatski primijeni odgovarajuća podešavanja za tinejdžere.
Meta je prošlog mjeseca takođe najavila nove zaštite za tinejdžere u svojim AI proizvodima. Kompanija je navela da će obučavati sisteme da izbjegavaju flert razgovore i diskusije o samopovređivanju ili samoubistvu sa maloljetnicima, te privremeno ograničiti pristup određenim AI likovima.
Komentari (0)
POŠALJI KOMENTAR