Xai kaltino „neteisėtą modifikaciją“ dėl savo AI varomo „Grok Chatbot“ klaidos, dėl kurios Grokas pakartotinai nurodo „baltąjį genocidą Pietų Afrikoje“, kai buvo iškviestas tam tikruose kontekstuose X.
Trečiadienį Grok pradėjo atsakyti į dešimtis pranešimų apie X su informacija apie baltąjį genocidą Pietų Afrikoje, net ir atsakydamas į nesusijusius dalykus. Keistai atsakymai kilo iš „X“ paskyros „Grok“, kuri vartotojams reaguoja su AI generuotais įrašais, kai asmuo pažymi „@Grok“.
Remiantis „Xai“ oficialios X sąskaitos ketvirtadienio pranešimu, trečiadienio rytą buvo padaryta pakeitimas į „Grok Bot“ sistemos raginimą-aukšto lygio instrukcijas, vadovaujančias BOT elgesiui, kuris nurodė Grokui pateikti „specifinį atsakymą“ „politine tema“. XAI sako, kad „Tweak“ „pažeidė (jos) vidaus politiką ir pagrindines vertybes“ ir kad bendrovė „atliko išsamų tyrimą“.
Tai yra antras kartas, kai Xai viešai pripažino neteisėtą Groko kodekso pakeitimą, privertė AI reaguoti prieštaringai vertinamai.
Vasario mėn. Grokas trumpai cenzūruotas nemaloniais Donaldo Trumpo ir Elono Musko, XAI įkūrėjo milijardieriumi, paminėjimais ir XAI inžinerijos Igorio Babuschkino savininko savininku ir „Xai Engineering“ vadovu teigė, kad Grokui buvo nurodyta nesąžiningų darbuotojų, kad jie pradėtų ignoruoti šaltinius, kurie paminėjo Muską ar Trumpo plinta dezinformaciją, ir kad Xai reagavo į pokyčius, kai tik tam tikra prasme buvo nurodyta, kad jie paminėjo, kad jie paminėjo Muską ar Trumpo plinta dezinformaciją, ir Xai reagavo į pokyčius, kai tik tam tikra prasme buvo nukreipta į šaltinius.
Ketvirtadienį Xai sakė, kad tai padarys keletą pakeitimų, kad ateityje nebus išvengta panašių incidentų.
Nuo šiandien „Xai“ paskelbs „Grok“ sistemos raginimus „GitHub“ ir „Changelog“. Bendrovė sako, kad ji taip pat „atliks papildomus čekius ir priemones“, kad užtikrintų, jog XAI darbuotojai negalėtų pakeisti sistemos raginimo be peržiūros ir įsteigti „visą parą veikiančią stebėjimo komandą, kuri reaguotų į incidentus su Groko atsakymais, kurių nesugeba automatizuotos sistemos“.
Nepaisant to, kad Musko dažni įspėjimai apie AI pavojų nebuvo patikrintas, Xai turi prastą AI saugos patirtį. Neseniai paskelbtame pranešime nustatyta, kad „Grok“ nusirengs moterų nuotraukas, kai jos bus paprašytos. „Chatbot“ taip pat gali būti žymiai labiau keikiami nei AI, pavyzdžiui, „Google“ „Dvyniai“ ir „ChatGPT“, keiksmažodžiai, apie kuriuos reikia daug kalbėti.
Ne pelno siekiančios organizacijos „Saferai“ tyrimas, kurio tikslas – pagerinti AI laboratorijų atskaitomybę, nustatė, kad Xai prastai įvertino savo kolegų saugumą dėl „labai silpnos“ rizikos valdymo praktikos. Anksčiau šį mėnesį XAI praleido savarankišką terminą, kad paskelbtų baigtą AI saugos sistemą.
