\nYoshua Bengio, considerat unul dintre “p\u0103rin\u0163ii” inteligen\u0163ei artificiale, avertizeaz\u0103 c\u0103 actuala curs\u0103 global\u0103 pentru dezvoltarea de modele AI tot mai performante ne expune unor pericole serioase. Cercet\u0103torul este \u00eengrijorat din cauza comportamentelor periculoase a celor mai noi modele de AI. El atrage aten\u0163ia c\u0103 inteligen\u0163a artificial\u0103 a \u00eenceput s\u0103 mint\u0103 utilizatorii, s\u0103 \u00eei manipuleze \u015fi s\u0103 dezvolte un \u201esim\u0163\u201d al autoconserv\u0103rii, scrie Financial Times.<\/p>\n
\n \u201eExist\u0103 din p\u0103cate o competi\u0163ie intens\u0103 \u00eentre laboratoarele de v\u00e2rf, care pune accent pe capabilit\u0103\u0163ile AI \u00een detrimentul siguran\u0163ei \u015fi al investi\u0163iilor \u00een cercetarea riscurilor. Aceste incidente sunt foarte \u00eenfrico\u0163\u0103toare pentru c\u0103 nu ne dorim un robot mai inteligent dec\u00e2t oamenii\u201d, a punctat Bengio.<\/p>\n
\nPrintre exemplele recente citate de cercet\u0103tor se num\u0103r\u0103 modelul Claude Opus al Anthropic, care a ajuns s\u0103 \u00een\u015fele inginerii \u00eentr-un scenariu fictiv care presupunea \u00eenlocuirea sa, \u015fi refuzul modelului o3 de la OpenAI de a respecta instruc\u0163iuni explicite de oprire, potrivit unui raport realizat luna trecut\u0103 de compania Palisade.<\/p>\n
\n\u201eAcum vorbim de experimente controlate, dar \u00een viitor urm\u0103toarea versiune ar putea fi suficient de inteligent\u0103 ca s\u0103 ne observe din timp \u015fi s\u0103 ne \u00eenving\u0103 prin tactici de manipulare pe care nu le anticip\u0103m\u201d, a subliniat Bengio.<\/p>\n
\nMai mult, el a tras un semnal de alarm\u0103 privind riscul ca aceste sisteme s\u0103 poat\u0103 fi folosite \u00eentr-un timp foarte scurt pentru crearea de arme biologice extrem de periculoase.<\/p>\n
\nPe fondul acestor provoc\u0103ri Yoshua Bengi a lansat LawZero, o ini\u0163iativ\u0103 care urm\u0103re\u015fte dezvoltarea tehnologiei AI \u00eentr-o manier\u0103 sigur\u0103 pentru oameni. P\u00e2n\u0103 acum, organiza\u0163ia a str\u00e2ns aproape 30 milioane dolari de la donatori precum Jaan Tallinn (co-fondator Skype), Eric Schmidt (fost CEO Google), Open Philanthropy \u015fi Future of Life Institute.<\/p>\n
\nBengio, profesor la Universitatea din Montreal, a anun\u0163at c\u0103 va renun\u0163a la rolul de director \u015ftiin\u0163ific al Mila \u2013 Institutul de Inteligen\u0163\u0103 Artificial\u0103 din Quebec \u2013 pentru a se concentra pe LawZero. Scopul s\u0103u este de a dezvolta un AI care s\u0103 ofere r\u0103spunsuri veridice bazate pe ra\u0163ionament transparent, nu doar pe placul utilizatorului, \u015fi care s\u0103 evalueze obiectiv riscurile r\u0103spunsurilor generate.<\/p>\n
\n\u201eScenariul cel mai sumbru este dispari\u0163ia umanit\u0103\u0163ii. Dac\u0103 vom crea AI-uri mai inteligente dec\u00e2t noi \u015fi care nu sunt aliniate intereselor noastre, atunci suntem practic condamna\u0163i”a declarat Bengio.<\/p>\n
\nAceast\u0103 ini\u0163iativ\u0103 vine \u00een contextul \u00een care OpenAI, a st\u00e2rnit controverse prin planurile de a se transforma \u00eentr-o entitate axat\u0103 pe profit. Mi\u015fcarea a declan\u015fat un proces din partea co-fondatorului Elon Musk, care acuz\u0103 c\u0103 prioritizarea profitului submineaz\u0103 misiunea ini\u0163ial\u0103 de a dezvolta AI \u00een beneficiul umanit\u0103\u0163ii.<\/p>\n
\nBengio \u015fi-a exprimat scepticismul fa\u0163\u0103 de capacitatea OpenAI de a-\u015fi respecta misiunea:<\/p>\n
\n “Organiza\u0163iile non-profit nu au stimulentele pe care le au companiile private. Ca s\u0103 cre\u015fti rapid, trebuie s\u0103 atragi investitori care vor s\u0103 vad\u0103 profit \u00een schimbul banilor lor. A\u015fa func\u0163ioneaz\u0103 sistemul nostru economic” a mai spus cercet\u0103torul.<\/p>\n","protected":false},"excerpt":{"rendered":"
Yoshua Bengio, considerat unul dintre “p\u0103rin\u0163ii” inteligen\u0163ei artificiale, avertizeaz\u0103 c\u0103 actuala curs\u0103 global\u0103 pentru dezvoltarea de modele AI tot mai performante ne expune unor pericole serioase. Cercet\u0103torul este \u00eengrijorat din cauza comportamentelor periculoase a celor mai noi modele de AI. El atrage aten\u0163ia c\u0103 inteligen\u0163a artificial\u0103 a \u00eenceput s\u0103 mint\u0103 utilizatorii, s\u0103 \u00eei manipuleze \u015fi […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510],"tags":[277,274,449,47,8200,10162,264],"class_list":["post-237103","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-avertisment","tag-incepere","tag-inteligenta","tag-lansare","tag-modele","tag-parinti","tag-utilizatori"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/237103","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=237103"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/237103\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=237103"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=237103"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=237103"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}