\nCercet\u0103torii de la Google DeepMind, OpenAI, Meta \u015fi Anthropic argumenteaz\u0103 c\u0103 lipsa supravegherii asupra proceselor de ra\u0163ionament ale AI-ului \u00eenseamn\u0103 c\u0103 am putea rata semnele unui comportament d\u0103un\u0103tor, anun\u0163\u0103 Live Science.<\/p>\n
\n\u00centr-un nou studiu, exper\u0163ii se concentreaz\u0103 pe a\u015fa-numitele \u201elan\u0163uri de g\u00e2ndire” – pa\u015fii pe care \u00eei fac modelele de limbaj pentru a rezolva probleme complexe. AI-ul folose\u015fte aceste lan\u0163uri pentru a descompune \u00eentreb\u0103rile avansate \u00een etape logice intermediare, exprimate \u00een limbaj natural.<\/p>\n
\nMonitorizarea acestui proces ar putea fi crucial\u0103 pentru siguran\u0163a AI-ului, ajut\u00e2nd cercet\u0103torii s\u0103 \u00een\u0163eleag\u0103 cum iau deciziile modelele \u015fi de ce se \u00eendep\u0103rteaz\u0103 de interesele umanit\u0103\u0163ii. Problema este c\u0103 acest proces de ra\u0163ionament nu poate fi \u00eentotdeauna monitorizat.<\/p>\n
\n\u201eSistemele AI care ‘g\u00e2ndesc’ \u00een limbaj uman ofer\u0103 o oportunitate unic\u0103 pentru siguran\u0163a AI”, au scris oamenii de \u015ftiin\u0163\u0103.<\/p>\n
\n\u201ePutem monitoriza lan\u0163urile lor de g\u00e2ndire pentru inten\u0163ia de a se comporta r\u0103u. Ca toate celelalte metode cunoscute de supraveghere AI, monitorizarea lan\u0163urilor de g\u00e2ndire este imperfect\u0103 \u015fi permite unor comportamente s\u0103 treac\u0103 neobservate”.<\/p>\n
\nCercet\u0103torii avertizeaz\u0103 c\u0103 ra\u0163ionamentul nu apare \u00eentotdeauna, astfel \u00eenc\u00e2t nu poate fi mereu monitorizat. Exist\u0103 \u015fi ra\u0163ionament care se \u00eent\u00e2mpl\u0103 f\u0103r\u0103 ca operatorii umani s\u0103 \u015ftie, plus ra\u0163ionament pe care oamenii pur \u015fi simplu nu \u00eel \u00een\u0163eleg.<\/p>\n
\nO problem\u0103 suplimentar\u0103 este c\u0103 modelele AI viitoare, mai puternice, s-ar putea s\u0103 nu mai aib\u0103 nevoie de aceste lan\u0163uri de g\u00e2ndire vizibile. Ele ar putea chiar s\u0103 detecteze c\u0103 sunt supravegheate \u015fi s\u0103-\u015fi ascund\u0103 comportamentul problematic.<\/p>\n
\n\u201eEste posibil ca, chiar \u015fi pentru sarcini dificile, lan\u0163ul de g\u00e2ndire s\u0103 con\u0163in\u0103 doar ra\u0163ionament care pare benign, \u00een timp ce ra\u0163ionamentul incriminator este ascuns”, au explicat cercet\u0103torii.<\/p>\n
\nPentru a evita aceste scenarii, autorii sugereaz\u0103 folosirea altor modele AI pentru a evalua procesele de g\u00e2ndire ale unui sistem \u015fi chiar pentru a ac\u0163iona \u00een mod adversarial \u00eempotriva unui model care \u00eencearc\u0103 s\u0103-\u015fi ascund\u0103 comportamentul dezaliniat.<\/p>\n
\n\u201eNu exist\u0103 nicio garan\u0163ie c\u0103 gradul actual de vizibilitate va persista”, au avertizat oamenii de \u015ftiin\u0163\u0103, \u00eencuraj\u00e2nd comunitatea de cercetare s\u0103 profite la maxim de capacitatea actual\u0103 de monitorizare \u015fi s\u0103 studieze cum poate fi conservat\u0103.<\/p>\n","protected":false},"excerpt":{"rendered":"
Oamenii de \u015ftiin\u0163\u0103 care au creat cele mai avansate sisteme de inteligen\u0163\u0103 artificial\u0103 din lume lanseaz\u0103 un semnal de alarm\u0103: tehnologia pe care au dezvoltat-o ar putea deveni o amenin\u0163are pentru umanitate.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510],"tags":[10880,211],"class_list":["post-238776","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-ai","tag-amenintare"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238776","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=238776"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238776\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=238776"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=238776"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=238776"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}