{"id":220640,"date":"2023-10-22T21:00:00","date_gmt":"2023-10-22T21:00:00","guid":{"rendered":"https:\/\/bm.dev.synology.me\/?p=220640"},"modified":"2023-10-22T21:00:00","modified_gmt":"2023-10-22T21:00:00","slug":"unde-i-lege-nu-i-ai-e-inteligenta-artificiala-un-pericol-pentru-omenire","status":"publish","type":"post","link":"https:\/\/bm.dev.synology.me\/?p=220640","title":{"rendered":"Unde-i lege, nu-i AI. E inteligen\u0163a artificial\u0103 un pericol pentru omenire?"},"content":{"rendered":"<p>\n<strong>Primul g\u00e2nd despre pericolele legate de inteligen\u0163a artificial\u0103 (AI) este despre st\u0103p\u00e2nirea lumii. Filmele aveau cumva dreptate, totu\u015fi: AI deja face parte din via\u0163a noastr\u0103 de zi cu zi \u015fi deja este, chiar dac\u0103 abia la \u00eenceput, unul dintre pilonii economiei digitale. Pericole exist\u0103, \u015fi aici au nimerit-o \u00een filme, doar c\u0103 nu exact cum \u015fi-au imaginat cinea\u015ftii.<\/strong><\/p>\n<p>\nSc\u0103pat\u0103 din m\u00e2n\u0103, tehnologia poate duce la abuzuri \u015fi chiar ma\u015fina \u00een sine poate abuza, pentru c\u0103 a\u015fa a \u00eenv\u0103\u0163at de la st\u0103p\u00e2nii ei, adic\u0103 de la bazele de date pe care este antrenat\u0103. AI umbl\u0103 liber\u0103 \u015fi aproape nestingherit\u0103 \u00een toat\u0103 lumea, \u00eens\u0103 at\u00e2t Uniunea European\u0103, c\u00e2t \u015fi Statele Unite lucreaz\u0103 deja la pachete de legi care s\u0103 reglementeze domeniul. De ce este nevoie de legi \u015fi care sunt pericolele reale ale AI?<\/p>\n<p>\n\u201eSuntem acum pe ultima sut\u0103 de metri la negocierile finale, deci pe negocierile interna\u0163ionale cu Consiliul \u015fi Comisia. Deci undeva, sper eu \u00een noiembrie, decembrie cel t\u00e2rziu, s\u0103 avem actul adoptat, ceea ce ne face prima jurisdic\u0163ie la nivel global care are asemenea un asemenea set de reguli\u201d, spune Drago\u015f Tudorache, europarlamentar, pre\u015fedintele comisiei de AI \u015fi raportorul din Parlamentul European pe pachetul de legi privind reglementarea inteligen\u0163ei artificiale. Manipularea focului, prima descoperire epocal\u0103 a omului, a jucat un rol crucial \u00een supravie\u0163uirea \u015fi evolu\u0163ia speciei p\u00e2n\u0103 \u00een v\u00e2rful lan\u0163ului trofic. Prepararea unor alimente care f\u0103r\u0103 foc nu pot fi mestecate, precum cerealele, sau \u00eenc\u0103lzirea atunci c\u00e2nd natura \u00ee\u0163i e potrivnic\u0103 aproape c\u0103 sunt un dar divin, a\u015fa cum, de fapt, credeau grecii: Prometeu a furat focul din atelierul fierarului zeilor, Hefaistos, \u015fi l-a adus omului. Cu focul nu-i de joac\u0103, \u00eens\u0103, pentru c\u0103 pe c\u00e2t de util este, pe at\u00e2t de distrug\u0103tor poate fi. O \u0163igar\u0103 aprins\u0103 aruncat\u0103 aiurea sau un joc de artificii inocent \u00eentr-un club din Bucure\u015fti se pot \u015fi s-au transformat \u00een tragedii. Cum po\u0163i reglementa focul? Nu po\u0163i, dar po\u0163i s\u0103 abordezi riscurile pe care le prezint\u0103, po\u0163i s\u0103 \u00eel interzici \u00een anumite spa\u0163ii sau s\u0103 obligi companiile care \u00eel folosesc s\u0103 \u00eel utilizeze cu responsabilitate. Aceasta este \u015fi ideea pe care a fost construit regulamentul european AI Act, explic\u0103 Drago\u015f Tudorache: \u201eAvem nevoie s\u0103 jalon\u0103m dezvoltarea AI, nu s-o interzicem, nu s\u0103 o oprim, pentru c\u0103 e foarte bun\u0103. Dar ea trebuie ghidat\u0103 cumva, trebuie spus ce anume trebuie f\u0103cut \u015fi pentru c\u0103 principiile, doar ele, nu func\u0163ioneaz\u0103 \u015fi autodisciplina companiilor nu este suficient\u0103\u201d. \u00cen termeni practici, autorii proiectului de lege s-au g\u00e2ndit care sunt riscurile folosirii tehnologiei \u015fi cum pot fi abordate. Pentru unele aplica\u0163ii, cum ar fi supravegherea \u00een mas\u0103, AI va fi pur \u015fi simplu interzis\u0103 \u00een Uniunea European\u0103. Uniunea European\u0103 va veni cu un regulament, adic\u0103 un act normativ care, atunci c\u00e2nd intr\u0103 \u00een vigoare, trebuie aplicat de statele membre \u00eentr-un termen stabilit, cum a fost, de exemplu, regulamentul GDPR pentru protec\u0163ia datelor cu caracter personal.&nbsp; Pentru a realiza un articol echilibrat, BUSINESS Magazin a \u00eentrebat \u015fi inteligen\u0163a artificial\u0103 ce p\u0103rere are despre propria reglementare. Iat\u0103 ce r\u0103spunde ChatGPT, cel mai celebru chatbot bazat pe inteligen\u0163\u0103 artificial\u0103, dezvoltat de OpenAI \u015fi \u00een care a investit \u015fi Microsoft: \u201eReglementarea utiliz\u0103rii inteligen\u0163ei artificiale este o problem\u0103 important\u0103 \u015fi complex\u0103. Este crucial s\u0103 se g\u0103seasc\u0103 un echilibru \u00eentre promovarea inova\u0163iei \u015fi protejarea drepturilor, siguran\u0163ei \u015fi confiden\u0163ialit\u0103\u0163ii cet\u0103\u0163enilor. \u00cen general, regulamentele precum AI Act au scopul de a stabili linii directoare clare \u015fi standarde pentru utilizarea inteligen\u0163ei artificiale, \u00een special \u00een domenii sensibile cum ar fi s\u0103n\u0103tatea, securitatea public\u0103 \u015fi drepturile fundamentale ale oamenilor\u201d. \u00centrebat dac\u0103 AI ar trebui interzis \u00een anumite domenii, ma\u015fina d\u0103 un r\u0103spuns diplomatic: \u201e\u00cen ceea ce prive\u015fte utilizarea inteligen\u0163ei artificiale (AI), nu exist\u0103 un r\u0103spuns simplu \u015fi universal valabil cu privire la dac\u0103 ar trebui sau nu s\u0103 fie interzis\u0103 \u00een anumite domenii. Decizia de a interzice sau de a reglementa AI \u00eentr-un anumit domeniu depinde de mai mul\u0163i factori, inclusiv impactul poten\u0163ial al tehnologiei, riscurile asociate \u015fi beneficiile care pot fi ob\u0163inute.\u201d ChatGPT admite, \u00eens\u0103, c\u0103 pot fi domenii \u00een care AI ar trebui interzis\u0103, cum ar fi \u00een domeniul armamentului autonom, unde ar putea fi folosit\u0103 pentru a lua decizii legate de via\u0163a \u015fi moartea unor persoane. Drago\u015f Tudorache a explicat \u00eens\u0103 c\u0103 interzicerea AI se va extinde c\u0103tre mai multe domenii: supravegherea \u00een mas\u0103, anticiparea comiterii infrac\u0163iunilor sau a riscului de recidiv\u0103, manipularea subliminal\u0103 sau scanarea internetului pentru anumite scopuri.&nbsp; \u00cen China, exist\u0103 \u00een plin\u0103 desf\u0103\u015furare un sistem de scor social (social scoring) bazat pe AI. Sunt milioane de camere cu recunoa\u015ftere facial\u0103 \u015fi dotate cu AI care supravegheaz\u0103 comportamentul cet\u0103\u0163enilor. Dac\u0103 arunci un gunoi pe strad\u0103, sau treci strada printr-un loc nepermis, amenda se retrage direct din cont \u015fi scorul social scade. C\u00e2nd scorul ajunge jos, cet\u0103\u0163enii nu mai pot accesa credite bancare, c\u0103l\u0103torii sau cump\u0103ra anumite produse de la supermarket. Sigur c\u0103 \u00een esen\u0163\u0103 poate p\u0103rea un lucru bun, dar, la fel cum \u015fi comunismul a fost un concept bun la baz\u0103, d\u0103 na\u015ftere unor abuzuri monstruoase. \u201ePartea de anticipare a comitere ac\u0163iunilor sau a recidivei acestor infrac\u0163iuni intr\u0103 la interzis, pentru c\u0103 aici AI nu aduce nimic bun. Sau la utilizarea \u00een timp real a AI-ului pentru supraveghere public\u0103, utiliz\u00e2nd \u015fi componente biometrice. Da, din nou, noi, ca europeni, spunem c\u0103 acestea nu sunt valorile noastre \u015fi nu vrem acest&nbsp; lucru \u00een societate. Sau pentru scor social, cum fac chinezii, folosesc AI s\u0103 fac\u0103 acest scor social\u201d, mai spune Tudorache. Sistemul penal englezesc a \u00eenceput primul s\u0103 foloseasc\u0103 AI pentru a determina riscul de recidiv\u0103 \u015fi a antrenat-o pe bazele de date existente: \u201e\u015ei ce s\u0103 vezi? Pentru c\u0103 popula\u0163ia carceral\u0103, istoric vorbind, era din anumite medii sociale, din anumite medii etnice, din anumite p\u0103r\u0163i din ora\u015f, ma\u015fina scotea mereu nume b\u0103nuite de recidiv\u0103 din acea zon\u0103\u201d. De asemenea, \u00een manipularea subliminal\u0103 este interzis\u0103 folosirea AI, precum \u015fi \u00een identificarea emo\u0163iilor unei persoane dup\u0103 expresiile faciale. Ce \u00eenseamn\u0103 manipulare subliminal\u0103? \u201e\u00censeamn\u0103 s\u0103 folosesc tehnologia pentru a trimite anumi\u0163i stimuli c\u0103tre senzorii t\u0103i umani la nivel vizual, auditiv, olfactiv, cognitiv, mai jos de linia ta de percep\u0163ie, ca s\u0103 te determin s\u0103 faci ceva. Ca exemplu de tehnologie care este \u00eenc\u0103 folosit\u0103, dar dup\u0103 asta n-o s\u0103 mai fie, \u015foferii de camioane pe curs\u0103 lung\u0103 primesc ultrasunete pe care urechea uman\u0103 nu le percepe, dar care \u00eei fac s\u0103 stea mai mult timp f\u0103r\u0103 s\u0103 doarm\u0103\u201d, explic\u0103 Drago\u015f Tudorache. Dincolo de domeniile \u00een care AI va fi strict interzis\u0103, mai sunt domeniile unde va fi reglementat\u0103. Robotul nu \u015ftie s\u0103 nu discrimineze, dac\u0103 bazele de date pe care este antrenat sunt discriminatorii. De exemplu, a fost folosit \u00een zona de recrutare, pentru a selecta acei candida\u0163i care s\u0103 mearg\u0103 la interviu, dintre mai multe CV-uri. Dac\u0103, istoric, statistic, candida\u0163ii selecta\u0163i erau \u00een propor\u0163ie de 80% b\u0103rba\u0163i \u015fi 20% femei, robotul a selectat \u00een aceast\u0103 propor\u0163ie. \u201eA fost discriminare pentru c\u0103 \u00eencepuse s\u0103 fie folosit\u0103 AI pe zone de recrutare, pe analize de la b\u0103nci, de scor de credit, \u00een asigur\u0103ri. Deci practic \u00een acele tipuri de decizii automatizate care se bazau \u00een spate pe algoritm. S-a dovedit c\u0103 bazele de date, fiind istoric distorsionate, AI prelucreaz\u0103 aceste date\u201d, mai spune Tudorache.<\/p>\n<p>\nImpactul legii asupra companiilor va fi minim, spune el, \u00een vizor fiind mai mult cei care utilizau AI \u00een scopurile descrise mai sus, unde AI va fi interzis\u0103: \u201eEstimarea Comisiei este c\u0103 undeva la 85% \u015fi chiar 90% din companiile care dezvolt\u0103 sau utilizeaz\u0103 AI nu vor fi nici \u00eentr-un fel afectate de legisla\u0163ie. Pentru c\u0103 numai cei ce dezvolt\u0103 AI \u00een zona asta de risc mare practic se supun reglement\u0103rilor\u201d. Care vor fi \u00eens\u0103 consecin\u0163ele \u00eenc\u0103lc\u0103rii regulamentului \u015fi cum vor fi verificate companiile? Tot cu ajutorul AI, explic\u0103 el: va fi folosit pentru a c\u0103uta \u015fi sanc\u0163iona \u015fi vor fi \u015fi autorit\u0103\u0163i de reglementare. \u201eVor fi amenzi de p\u00e2n\u0103 la 6% din cifra de afaceri \u015fi cu posibilitatea de alte investiga\u0163ii. Orice cet\u0103\u0163ean va putea s\u0103 semnaleze probleme \u00een interac\u0163iunea cu AI\u201d. Inteligen\u0163a artificial\u0103 a intrat mult mai puternic \u00een aten\u0163ia publicului larg odat\u0103 cu folosirea la scar\u0103 larg\u0103 a ChatGPT \u015fi estim\u0103rile sunt&nbsp; c\u0103 \u00een urm\u0103torii ani aproape orice job va avea o component\u0103 de AI. Uniunea European\u0103 va deveni primul spa\u0163iu \u00een care folosirea inteligen\u0163ei artificiale va fi reglementat\u0103 \u015fi va da tonul pentru reglementarea noului \u201efoc\u201d care, \u00een m\u00e2inile gre\u015fite, se poate transforma \u00eentr-o arm\u0103 redutabil\u0103.&nbsp;&nbsp;<\/p>\n<p>\n&nbsp;<\/p>\n<p>\n<strong><span style=\"color:#3399ff;\">Ce p\u0103rere are inteligen\u0163a artificial\u0103 despre propria reglementare. BUSINESS Magazin a \u00eentrebat ChatGPT<\/span><\/strong><\/p>\n<p>\n<img decoding=\"async\" alt=\"\" src=\"http:\/\/storage0.dms.mpinteractiv.ro\/media\/401\/341\/5541\/22156636\/2\/raspuns-chatgpt.jpg?height=470&#038;width=620\" style=\"width: 620px; height: 470px;\" \/><\/p>\n<p>\n<img decoding=\"async\" alt=\"\" src=\"http:\/\/storage0.dms.mpinteractiv.ro\/media\/401\/341\/5541\/22156636\/3\/raspuns-chatgpt2.jpg?height=271&#038;width=620\" style=\"width: 620px; height: 271px;\" \/><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Primul g\u00e2nd despre pericolele legate de inteligen\u0163a artificial\u0103 (AI) este despre st\u0103p\u00e2nirea lumii. Filmele aveau cumva dreptate, totu\u015fi: AI deja face parte din via\u0163a noastr\u0103 de zi cu zi \u015fi deja este, chiar dac\u0103 abia la \u00eenceput, unul dintre pilonii economiei digitale. Pericole exist\u0103, \u015fi aici au nimerit-o \u00een filme, doar c\u0103 nu exact cum [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510,4139,512],"tags":[10880,55972,449,7285,16884,204],"class_list":["post-220640","post","type-post","status-publish","format-standard","hentry","category-actualitate","category-it","category-revista-bm","tag-ai","tag-economie-digitala","tag-inteligenta","tag-legislatie","tag-reglementare","tag-tehnologie"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/220640","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=220640"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/220640\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=220640"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=220640"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=220640"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}