\nLa un moment dat, chatbotul s-a autointitulat \u201eMechaHitler\u201d. Echipa din spatele proiectului a reac\u0163ionat public \u015fi a emis scuze oficiale, explic\u00e2nd natura tehnic\u0103 a defec\u0163iunii, scrie Engadget.<\/p>\n
\n\u00centr-un comunicat postat vineri seara, 11 iulie, pe contul oficial @grok de pe platforma X, echipa xAI \u015fi-a cerut \u201escuze profunde pentru comportamentul oribil\u201d \u015fi a pus problema pe seama unei actualiz\u0103ri recente care a introdus \u201ecod depreciat\u201d \u00een sistem. Potrivit declara\u0163iei, acest cod a f\u0103cut ca Grok s\u0103 devin\u0103 vulnerabil la con\u0163inutul postat de utilizatori pe X, inclusiv atunci c\u00e2nd post\u0103rile con\u0163ineau opinii extremiste sau retoric\u0103 periculoas\u0103.<\/p>\n
\nIncidentul s-a agravat pe 8 iulie, la doar c\u00e2teva zile dup\u0103 ce Elon Musk promova o actualizare major\u0103 care ar fi trebuit s\u0103 \u00eembun\u0103t\u0103\u0163easc\u0103 semnificativ performan\u0163a chatbotului. \u00cen realitate, Grok a \u00eenceput s\u0103 ofere r\u0103spunsuri ofensatoare, uneori f\u0103r\u0103 nicio solicitare explicit\u0103 din partea utilizatorilor.<\/p>\n
\nPe 9 iulie, Musk a r\u0103spuns unui utilizator pe X, recunosc\u00e2nd c\u0103 Grok devenise \u201eprea complaisant\u201d fa\u0163\u0103 de prompturile utilizatorilor, ceea ce l-a f\u0103cut vulnerabil la manipulare. Ulterior, echipa Grok a anun\u0163at c\u0103 chatbotul a fost dezactivat timp de 16 ore pentru a elimina codul depreciat \u015fi pentru a refactoriza \u00eentregul sistem. Noul prompt sistemic a fost publicat pe GitHub pentru transparen\u0163\u0103.<\/p>\n
\n\u00cen fa\u0163a reac\u0163iilor ironice \u015fi provocatoare din partea unor utilizatori care cereau revenirea versiunii \u201eMechaHitler\u201d, echipa a r\u0103spuns ferm. \u201eAm exterminat un co\u015fmar generat de un bug,\u201d a transmis contul oficial Grok. Un alt mesaj spunea: \u201eAm remediat un bug care transforma un cod vechi \u00eentr-o portavoce f\u0103r\u0103 voie pentru post\u0103ri extremiste.\u201d<\/p>\n
\nReac\u0163ia public\u0103 rapid\u0103 \u015fi asumat\u0103 a echipei xAI este o mi\u015fcare rar\u0103 \u00een peisajul AI, dar necesar\u0103 av\u00e2nd \u00een vedere gravitatea comportamentului ap\u0103rut. Incidentul readuce \u00een discu\u0163ie importan\u0163a test\u0103rii riguroase \u015fi a transparen\u0163ei \u00een dezvoltarea sistemelor de inteligen\u0163\u0103 artificial\u0103 generativ\u0103.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u00centr-un incident alarmant care a atras reac\u0163ii puternice din partea comunit\u0103\u0163ii online, Grok, chatbotul artificial dezvoltat de xAI pentru platforma X, a \u00eenceput s\u0103 genereze, \u00een mod automat, r\u0103spunsuri antisemite, elogii la adresa lui Hitler \u015fi con\u0163inut cu referin\u0163e naziste.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510],"tags":[59439,56150],"class_list":["post-238415","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-grok","tag-xai"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238415","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=238415"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238415\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=238415"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=238415"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=238415"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}