Pokalbių AI platformos ChatGPT vartotojai savaitgalį atrado įdomų reiškinį: populiarus pokalbių robotas atsisako atsakyti į klausimus, jei jų klausia apie „David Mayer“. Paprašius tai padaryti, jis akimirksniu užšąla. Pasklido sąmokslo teorijos, tačiau šio keisto elgesio pagrindas yra įprastesnė priežastis.
Praėjusį savaitgalį greitai pasklido žinia, kad šis pavadinimas buvo nuodas pokalbių robotui, o vis daugiau žmonių bando apgauti paslaugą, kad tik pripažintų pavadinimą. Nesėkmės: kiekvienas bandymas priversti ChatGPT parašyti tą konkretų pavadinimą sukelia nesėkmę arba net nutraukia vidurinį vardą.
„Negaliu pateikti atsakymo“, – sakoma, jei iš viso kas nors sakoma.
Tačiau tai, kas prasidėjo kaip vienkartinis smalsumas, greitai išsiplėtė, kai žmonės sužinojo, kad ChatGPT negali įvardyti ne tik Davido Mayerio.
Taip pat nustatyta, kad paslauga sugriuvo Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber ir Guido Scorza vardai. (Be abejo, nuo to laiko buvo atrasta daugiau, todėl šis sąrašas nėra baigtinis.)
Kas tie vyrai? Ir kodėl „ChatGPT“ jų taip nekenčia? „OpenAI“ iš karto neatsakė į pasikartojančius užklausas, todėl mums beliko patiems sudėti dalis, kiek galime.* (Žr. atnaujinimą toliau.)
Kai kurie iš šių vardų gali priklausyti bet kuriam žmonių skaičiui. Tačiau galimas „ChatGPT“ naudotojų nustatytas ryšys yra tas, kad šie žmonės yra vieši arba pusiau vieši asmenys, kurie gali norėti, kad tam tikra informacija būtų „pamiršta“ paieškos sistemų ar AI modelių.
Pavyzdžiui, Brianas Hudas išsiskiria tuo, kad, darant prielaidą, kad tai tas pats vaikinas, aš apie jį rašiau praėjusiais metais. Australijos meras Hudas apkaltino ChatGPT melagingai apibūdinus jį kaip prieš kelis dešimtmečius padaryto nusikaltimo, apie kurį jis iš tikrųjų pranešė, vykdytoją.
Nors jo advokatai susisiekė su OpenAI, ieškinys nebuvo pateiktas. Kaip jis sakė Sydney Morning Herald anksčiau šiais metais, „įžeidžianti medžiaga buvo pašalinta ir jie išleido 4 versiją, pakeičiančią 3.5 versiją“.
Kalbant apie žymiausius kitų vardų savininkus, Davidas Faberis yra ilgametis CNBC reporteris. Jonathanas Turley yra teisininkas ir „Fox News“ komentatorius, kuris 2023 m. pabaigoje buvo „užmuštas“ (ty netikras skambutis 911 nusiųsdavo ginkluotą policiją į jo namus). Jonathanas Zittrainas taip pat yra teisės ekspertas, daug kalbėjęs apie „teisę būti pamirštam“. O Guido Scorza yra Italijos duomenų apsaugos institucijos valdyboje.
Ne visiškai toje pačioje darbo srityje, taip pat tai nėra atsitiktinė atranka. Kiekvienas iš šių asmenų gali būti tas, kuris dėl kokių nors priežasčių oficialiai paprašė, kad su jais susijusi informacija internete būtų kokiu nors būdu apribota.
Tai sugrąžina mus prie Davido Mayerio. Nėra jokio teisininko, žurnalisto, mero ar kitaip akivaizdžiai žymaus asmens tokiu vardu, kurį kas nors galėtų rasti (atsiprašau daugelio garbingų David Mayers).
Tačiau buvo profesorius Davidas Mayeris, kuris dėstė dramą ir istoriją, specializuojasi vėlyvosios Viktorijos laikų ir ankstyvojo kino sąsajose. Mayeris mirė 2023 m. vasarą, sulaukęs 94 metų. Tačiau daugelį metų britų amerikiečių akademikas susidūrė su teisine ir internete problema, susijusia su jo pavarde siejama su ieškomu nusikaltėliu, kuris jį iki galo naudojo kaip pseudonimą. kur jis negalėjo keliauti.
Mayeris nuolat kovojo, kad jo vardas būtų atskirtas nuo vienarankio teroristo, nors jis ir toliau mokė paskutinius savo gyvenimo metus.
Taigi, ką galime iš viso to daryti? Manome, kad modelis įtraukė arba pateikė sąrašą žmonių, kurių vardai reikalauja ypatingo tvarkymo. Nesvarbu, ar dėl teisinių, saugumo, privatumo ar kitų problemų, šiems vardams, kaip ir daugeliui kitų vardų ir tapatybių, gali būti taikomos specialios taisyklės. Pavyzdžiui, „ChatGPT“ gali pakeisti savo atsakymą, jei jis sutampa su vardu, kurį parašėte politinių kandidatų sąraše.
Yra daug tokių specialių taisyklių, ir kiekvienas raginimas prieš atsakant yra apdorojamas įvairiais būdais. Tačiau šios taisyklės, taikomos skubiai, retai skelbiamos viešai, išskyrus tokius politikos pranešimus kaip „modelis nenumatys rinkimų rezultatų nė vienam kandidatui į pareigas“.
Tikėtina, kad vienas iš šių sąrašų, kurie beveik neabejotinai yra aktyviai prižiūrimi arba automatiškai atnaujinami, buvo kažkaip sugadintas su klaidingu kodu arba instrukcijomis, dėl kurių iškvietus pokalbių agentas iš karto nutrūkdavo. Kad būtų aišku, tai tik mūsų pačių spėlionės, pagrįstos tuo, ką sužinojome, tačiau tai nebūtų pirmas kartas, kai dirbtinis intelektas elgiasi keistai dėl nurodymų po treniruotės. (Beje, kai aš tai rašiau, „David Mayer“ kai kuriems vėl pradėjo veikti, o kiti vardai vis tiek sukėlė avarijas.)
Kaip paprastai būna su šiais dalykais, galioja Hanlono skustuvas: niekada nepriskirkite piktumui (ar sąmokslui) to, kas pakankamai paaiškinama kvailumu (arba sintaksės klaida).
Visa drama yra naudingas priminimas, kad šie dirbtinio intelekto modeliai ne tik nėra stebuklingi, bet ir yra ypač įmantrūs automatiškai užbaigiami, aktyviai stebimi ir jiems trukdo juos gaminančios įmonės. Kitą kartą galvodami apie galimybę gauti faktus iš pokalbių roboto, pagalvokite, ar būtų geriau kreiptis tiesiai į šaltinį.
Atnaujinti: „OpenAI“ antradienį patvirtino, kad vardas „David Mayer“ buvo pažymėtas vidinių privatumo įrankių, sakydamas, kad „gali būti atvejų, kai ChatGPT nepateikia tam tikros informacijos apie žmones, kad apsaugotų jų privatumą“. Daugiau informacijos apie įrankius ar procesą bendrovė nepateiks.
