\nCercet\u0103torul-\u015fef al companiei Anthropic, care a creat Claude, Jared Kaplan, face unele predic\u0163ii sumbre despre viitorul umanit\u0103\u0163ii \u00een rela\u0163ia cu inteligen\u0163a artificial\u0103, scrie un articol publicat pe platforma futurism.com. <\/p>\n
\n\u00cen viziunea sa, alegerea ne apar\u0163ine. Deocamdat\u0103, soarta noastr\u0103 este \u00eenc\u0103, \u00een mare m\u0103sur\u0103, \u00een m\u00e2inile noastre, spune Kaplan \u2014 cu excep\u0163ia cazului \u00een care decidem s\u0103 pred\u0103m, metaforic vorbind, \u015ftafeta ma\u015finilor.<\/p>\n
\nUn astfel de moment se apropie rapid, afirm\u0103 el \u00eentr-un interviu recent acordat publica\u0163iei The Guardian<\/em>. P\u00e2n\u0103 \u00een 2030 \u2014 sau chiar mai devreme, \u00eencep\u00e2nd cu 2027 \u2014 omenirea va trebui s\u0103 decid\u0103 dac\u0103 \u00ee\u015fi asum\u0103 \u201eriscul suprem\u201d de a permite modelelor de inteligen\u0163\u0103 artificial\u0103 s\u0103 se antreneze singure. Explozia de inteligen\u0163\u0103 care ar urma ar putea ridica tehnologia la un nou nivel, d\u00e2nd na\u015ftere unei a\u015fa-numite inteligen\u0163e artificiale generale (AGI), capabil\u0103 s\u0103 egaleze sau chiar s\u0103 dep\u0103\u015feasc\u0103 inteligen\u0163a uman\u0103 \u015fi s\u0103 aduc\u0103 beneficii majore umanit\u0103\u0163ii, de la descoperiri \u015ftiin\u0163ifice p\u00e2n\u0103 la progrese medicale. Sau, dimpotriv\u0103, ar putea permite ca puterea AI s\u0103 scape de sub control, l\u0103s\u00e2nd omenirea la discre\u0163ia propriilor sale decizii autonome.<\/p>\n \n\u201eSun\u0103 ca un proces destul de \u00eenfrico\u015f\u0103tor\u201d, a declarat Kaplan pentru ziar. \u201eNu \u015ftii unde ajungi.\u201d<\/p>\n \nKaplan se num\u0103r\u0103 printre numeroasele voci influente din domeniul AI care avertizeaz\u0103 asupra consecin\u0163elor poten\u0163ial dezastruoase ale acestei tehnologii. Geoffrey Hinton, unul dintre cei trei a\u015fa-numi\u0163i \u201ena\u015fi\u201d ai inteligen\u0163ei artificiale, a declarat public c\u0103 regret\u0103 munca de o via\u0163\u0103 \u015fi a avertizat \u00een repetate r\u00e2nduri c\u0103 AI ar putea destabiliza sau chiar distruge societatea. Sam Altman, CEO OpenAI, a prezis c\u0103 inteligen\u0163a artificial\u0103 va elimina categorii \u00eentregi de locuri de munc\u0103. Iar superiorul lui Kaplan, CEO-ul Anthropic, Dario Amodei, a avertizat recent c\u0103 AI ar putea prelua peste jum\u0103tate dintre joburile de birou entry-level \u015fi i-a acuzat pe competitori c\u0103 \u201e\u00eendulcesc\u201d amploarea real\u0103 a impactului social.<\/p>\n \nKaplan pare s\u0103 fie de acord cu evaluarea \u015fefului s\u0103u privind pia\u0163a muncii. Inteligen\u0163a artificial\u0103 va putea realiza \u201ecea mai mare parte a muncii de birou\u201d \u00een urm\u0103torii doi-trei ani, a spus el \u00een interviu. De\u015fi este optimist c\u0103 AI poate fi men\u0163inut\u0103 aliniat\u0103 intereselor umane, Kaplan se declar\u0103 profund \u00eengrijorat de perspectiva \u00een care sisteme AI puternice ar ajunge s\u0103 antreneze alte sisteme AI \u2014 o decizie cu \u201emize extrem de mari\u201d pe care omenirea va trebui s\u0103 o ia \u00een viitorul apropiat.<\/p>\n \n\u201eAceasta este, probabil, cea mai mare decizie sau cel mai \u00eenfrico\u015f\u0103tor lucru pe care \u00eel putem face\u2026 din momentul \u00een care nimeni nu mai este implicat \u00een proces, nu mai \u015ftii ce se \u00eent\u00e2mpl\u0103\u201d, a spus Kaplan pentru The Guardian<\/em>. \u201eSe pierde controlul? Mai \u015ftim m\u0103car ce fac aceste AI-uri?\u201d<\/p>\n \n\u00centr-o anumit\u0103 m\u0103sur\u0103, modele AI mai mari sunt deja folosite pentru a antrena modele mai mici, \u00eentr-un proces numit distilare, care le permite acestora din urm\u0103 s\u0103 ajung\u0103 din urm\u0103 \u201eprofesorul\u201d lor. \u00cengrijorarea lui Kaplan vizeaz\u0103 \u00eens\u0103 ceea ce este cunoscut drept auto-\u00eembun\u0103t\u0103\u0163ire recursiv\u0103, un scenariu \u00een care AI-urile \u00eenva\u0163\u0103 f\u0103r\u0103 interven\u0163ie uman\u0103 \u015fi fac salturi semnificative \u00een capacit\u0103\u0163ile lor.<\/p>\n \nDecizia de a permite sau nu acest lucru ridic\u0103 unele dintre cele mai grele \u00eentreb\u0103ri filozofice legate de tehnologie.<\/p>\n \n\u201e\u00centrebarea principal\u0103 este: sunt AI-urile bune pentru umanitate?\u201d, spune Kaplan. \u201eSunt ele utile? Sunt inofensive? \u00cen\u0163eleg oamenii? Le vor permite oamenilor s\u0103 \u00ee\u015fi p\u0103streze controlul asupra propriilor vie\u0163i \u015fi asupra lumii?\u201d<\/p>\n \nDe\u015fi pericolele AI sunt reale, avertismentele lui Kaplan necesit\u0103 o analiz\u0103 atent\u0103. Ele pornesc de la premisa c\u0103 inteligen\u0163a artificial\u0103 este deja una dintre cele mai importante \u015fi influente tehnologii create vreodat\u0103, indiferent dac\u0103 sistemele actuale de AI reprezint\u0103 cu adev\u0103rat ma\u015finile autonome extrem de puternice descrise \u00een numeroasele scenarii science-fiction sau doar un pas intermediar c\u0103tre acestea. Se spune adesea c\u0103 nu exist\u0103 publicitate negativ\u0103, iar \u00een cazul industriei AI, discursurile apocaliptice pot deveni ele \u00eensele o form\u0103 de promovare. Viziunile despre sf\u00e2r\u015fitul lumii pot distrage aten\u0163ia de la efectele mult mai concrete ale AI: impactul s\u0103u major asupra mediului, \u00eenc\u0103lcarea drepturilor de autor sau efectele cognitive adictive \u015fi generatoare de iluzii.<\/p>\n \n\u00cen plus, mul\u0163i exper\u0163i \u00een inteligen\u0163\u0103 artificial\u0103, inclusiv figuri fondatoare ale domeniului precum Yann LeCun, nu cred c\u0103 arhitectura modelelor lingvistice de mari dimensiuni (LLM), care st\u0103 la baza chatboturilor AI, este capabil\u0103 s\u0103 evolueze \u00een sisteme omnipotente \u015fi autonome, a\u015fa cum se tem Kaplan \u015fi al\u0163ii. Nici m\u0103car nu este clar dac\u0103 AI cre\u015fte, \u00een mod real, productivitatea la locul de munc\u0103, unele studii suger\u00e2nd chiar contrariul \u2014 \u00een linie cu mai multe cazuri notabile \u00een care managerii au \u00eenlocuit angaja\u0163i cu agen\u0163i AI, pentru ca apoi s\u0103 \u00eei reangajeze dup\u0103 ce aceste instrumente s-au dovedit ineficiente.<\/p>\n \nKaplan admite c\u0103 este posibil ca evolu\u0163ia capacit\u0103\u0163ilor AI s\u0103 stagneze. \u201ePoate c\u0103 cea mai bun\u0103 inteligen\u0163\u0103 artificial\u0103 care va exista vreodat\u0103 este cea pe care o avem chiar acum\u201d, a spus el. \u201eDar nu credem c\u0103 acesta este scenariul. Credem c\u0103 va continua s\u0103 devin\u0103 din ce \u00een ce mai bun\u0103.\u201d<\/p>\n \n <\/p>\n","protected":false},"excerpt":{"rendered":" Cercet\u0103torul-\u015fef al companiei Anthropic, care a creat Claude, Jared Kaplan, face unele predic\u0163ii sumbre despre viitorul umanit\u0103\u0163ii \u00een rela\u0163ia cu inteligen\u0163a artificial\u0103, scrie un articol publicat pe platforma futurism.com. \u00cen viziunea sa, alegerea ne apar\u0163ine. Deocamdat\u0103, soarta noastr\u0103 este \u00eenc\u0103, \u00een mare m\u0103sur\u0103, \u00een m\u00e2inile noastre, spune Kaplan \u2014 cu excep\u0163ia cazului \u00een care decidem […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510],"tags":[32328,15146,13195,272,9899,449,22547,13251,80,4466],"class_list":["post-243386","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-apropiere","tag-avertizare","tag-cercetator","tag-companie","tag-condamnare","tag-inteligenta","tag-permisiune","tag-rapid","tag-refuz","tag-sef"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/243386","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=243386"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/243386\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=243386"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=243386"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=243386"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}