Ketvirtadienį „OpenAI“ paskelbė apie naują funkciją, pavadintą „Patikimas kontaktas“, skirtą įspėti patikimą trečiąją šalį, jei pokalbio metu išsakoma mintis apie savęs žalojimą. Ši funkcija leidžia suaugusiam ChatGPT vartotojui priskirti kitą asmenį kaip patikimą kontaktą savo paskyroje, pvz., draugą ar šeimos narį. Tais atvejais, kai pokalbis gali virsti savęs žalojimu, OpenAI dabar paskatins vartotoją susisiekti su tuo kontaktu. Ji taip pat siunčia automatinį įspėjimą kontaktui, skatindama juos prisiregistruoti su vartotoju.
OpenAI susidūrė su daugybe ieškinių iš šeimų, nusižudžiusių po pokalbių su savo pokalbių robotu. Daugeliu atvejų šeimos teigia, kad „ChatGPT“ skatino jų mylimąjį nusižudyti arba net padėjo tai suplanuoti.
Šiuo metu „OpenAI“ naudoja automatizavimo ir žmogaus peržiūros derinį potencialiai žalingiems incidentams valdyti. Tam tikri pokalbio paleidikliai įspėja įmonės sistemą apie mintis apie savižudybę, kuri vėliau perduoda informaciją žmonių saugos komandai. Bendrovė teigia, kad kiekvieną kartą, kai ji gauna tokį pranešimą, įvykį peržiūri žmogus. „Stengiamės peržiūrėti šiuos saugos pranešimus greičiau nei per vieną valandą“, – teigia bendrovė.
Jei OpenAI vidinė komanda nusprendžia, kad situacija kelia rimtą pavojų saugai, „ChatGPT“ siunčia patikimam kontaktui įspėjimą el. paštu, tekstiniu pranešimu arba pranešimu programoje. Įspėjimas sukurtas taip, kad būtų trumpas ir paskatintų kontaktinį asmenį susisiekti su atitinkamu asmeniu. Jame nėra išsamios informacijos apie tai, kas buvo aptariama, kaip priemonė apsaugoti vartotojo privatumą, teigia bendrovė.
Patikimo kontakto funkcija atitinka apsaugos priemones, kurias bendrovė pristatė praėjusį rugsėjį ir kurios suteikė tėvams teisę šiek tiek prižiūrėti savo paauglių paskyras, įskaitant saugos pranešimų priėmimą, skirtą įspėti tėvą, jei OpenAI sistema mano, kad jų vaikas susiduria su „rimta saugumo rizika“. Jau kurį laiką „ChatGPT“ taip pat įtraukė automatinius įspėjimus dėl profesionalių sveikatos priežiūros paslaugų, jei pokalbis kiltų apie savęs žalojimo temą.
Svarbiausia, kad pasitikėjimo kontaktas yra neprivalomas ir net jei tam tikroje paskyroje suaktyvinta apsauga, bet kuris vartotojas gali turėti kelias ChatGPT paskyras. „OpenAI“ tėvų kontrolė taip pat yra neprivaloma, todėl tai yra panašus apribojimas.
„Patikimas kontaktas yra dalis platesnių OpenAI pastangų sukurti AI sistemas, kurios padėtų žmonėms sunkiais momentais“, – rašė bendrovė. „Mes ir toliau dirbsime su gydytojais, tyrėjais ir politikos formuotojais, siekdami pagerinti AI sistemų reakciją, kai žmonės gali patirti nelaimių.
Techcrunch renginys
San Franciskas, Kalifornija
|
2026 m. spalio 13-15 d
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
