\nDe la \u00eenceputul anului trecut, aproape fiecare \u00eent\u00e2lnire de board \u00een care sunt implicat include cel pu\u0163in o referire la AI. Uneori, aceasta vine sub forma unui entuziasm nedeclarat: \u201eNe g\u00e2ndim s\u0103 introducem un chatbot intern, s\u0103 gener\u0103m propuneri de contracte sau s\u0103 scriem briefuri de marketing cu AI.\u201d Alteori, sub forma unei nelini\u015fti surde: \u201eDac\u0103 AI-ul gre\u015fe\u015fte, cine r\u0103spunde? Cum ne asigur\u0103m c\u0103 nu lu\u0103m decizii bazate pe date toxice?\u201d<\/p>\n
\nDorim s\u0103 implement\u0103m c\u00e2t mai multe solu\u0163ii tehnologice care \u00eencorporeaz\u0103 AI, dar \u00een acela\u015fi timp s\u0103 nu uit\u0103m obliga\u0163ia de a verifica riguros, din timp, rezultatele \u015fi modul de lucru, pentru a nu atrage riscuri asupra companiei.<\/p>\n
\nS\u0103 ne imagin\u0103m, de exemplu, o companie de servicii financiare, care implementeaz\u0103 un flux \u00een care se folose\u015fte inteligen\u0163a artificial\u0103 pentru scoring comportamental \u00een etapa de pre-aprobare a clien\u0163ilor. S\u0103 spunem c\u0103 este un model \u00eenv\u0103\u0163at din istoricul tranzac\u0163iilor \u015fi care ofer\u0103 un rating de risc \u201eintern\u201d. Boardul ar fi complet fascinat de eficien\u0163\u0103: \u00een loc de trei analize umane, algoritmul ar livra rezultatul \u00een 15 secunde. Dar c\u00e2nd \u00eentreb\u0103m despre politica de explainability<\/em>, adic\u0103 dac\u0103 pot explica deciziile algoritmului, este esen\u0163ial s\u0103 primim r\u0103spunsuri clare, documentate \u015fi testate, nu explica\u0163ii superficiale. Altfel, implement\u0103m tehnologie \u015fi import\u0103m riscuri \u00een companie f\u0103r\u0103 un management adecvat al acestora.<\/p>\n \nAm fost abordat recent de o companie care folosea AI pentru a analiza \u00een timp real feed-uri video din magazine \u015fi dorea s\u0103 transfere aceast\u0103 tehnologie \u00een lan\u0163urile de retail. Scopul nu era securitatea, ci \u015fi recunoa\u015fterea expresiilor faciale \u015fi adaptarea automat\u0103 a promo\u0163iilor. C\u00e2nd am \u00eentrebat dac\u0103 a fost f\u0103cut\u0103 o analiz\u0103 de impact asupra vie\u0163ii private sau dac\u0103 exist\u0103 o decizie formal\u0103 de asumare a riscurilor etice, r\u0103spunsul a fost: \u201efurnizorul are toate certific\u0103rile\u201d. Dar dac\u0103 nu<\/strong> are toate certific\u0103rile? Cine r\u0103spunde, de fapt \u2013 strategic, opera\u0163ional \u015fi reputa\u0163ional? Furnizorul, retailerul? Sau am\u00e2ndoi?<\/p>\n \nDe fapt, aici este miezul problemei. AI-ul nu este doar un instrument tehnologic, ci un actor care influen\u0163eaz\u0103, direct sau indirect, deciziile unei organiza\u0163ii. Cu c\u00e2t este mai integrat \u00een procesele interne, cu at\u00e2t este mai necesar\u0103 o guvernan\u0163\u0103 real\u0103 \u015fi articulat\u0103. Nu e suficient ca boardurile s\u0103 aprobe bugete de transformare digital\u0103 sau s\u0103 \u00eentrebe trimestrial dac\u0103 \u201efunc\u0163ioneaz\u0103 AI-ul\u201d. Este esen\u0163ial s\u0103 existe un cadru \u00een care AI-ul este auditat, contextualizat \u015fi supus acelora\u015fi rigori ca orice alt sistem critic.<\/p>\n \nUniunea European\u0103 a \u00een\u0163eles acest lucru \u015fi a ac\u0163ionat. \u201cAI Act\u201d, adoptat \u00een 2024, este primul cadru legal comprehensiv pentru inteligen\u0163a artificial\u0103, bazat pe o clasificare a riscurilor: de la cele minime, acceptate f\u0103r\u0103 restric\u0163ii, la cele ridicate, care necesit\u0103 audit, supraveghere uman\u0103, transparen\u0163\u0103, guvernan\u0163\u0103 a datelor \u015fi documenta\u0163ie complet\u0103. Sistemele care afecteaz\u0103 via\u0163a oamenilor, \u00een creditare, s\u0103n\u0103tate, educa\u0163ie, angajare sau justi\u0163ie, sunt considerate \u201ehigh-risk\u201d. Orice companie care le folose\u015fte trebuie s\u0103 \u00eendeplineasc\u0103 cerin\u0163e clare, sub sanc\u0163iunea unor amenzi de p\u00e2n\u0103 la 7% din cifra de afaceri. Pentru prima dat\u0103, membrii de board pot r\u0103spunde legal pentru un algoritm pe care nu l-au \u00een\u0163eles sau validat corespunz\u0103tor.<\/p>\n \n\u015ei in acest context, cine r\u0103spunde efectiv pentru AI \u00eentr-o companie? \u00cen multe organiza\u0163ii, responsabilitatea este difuz\u0103: IT, HR, legal, marketing sau digital transformation. \u00cens\u0103 realitatea este c\u0103, f\u0103r\u0103 o func\u0163ie clar\u0103 care s\u0103 coordoneze \u00eentregul ecosistem AI, guvernan\u0163a r\u0103m\u00e2ne fragil\u0103. Unele companii din afara Rom\u00e2niei au \u00eenceput s\u0103 numeasc\u0103 un Chief AI Officer. Altele integreaz\u0103 aceast\u0103 responsabilitate \u00een structura CIO-ului sau, mai nou, a Chief Data & Ethics Officer-ului, atunci c\u00e2nd exist\u0103. Dar \u00een lipsa unei asum\u0103ri formale, cu raportare direct\u0103 c\u0103tre CEO, AI-ul risca sa r\u0103m\u00e2na un teritoriu gri neasumat decizional. \u00cen companiile \u00een care sunt advisor, recomand ca responsabilitatea final\u0103 s\u0103 revin\u0103 unui \u201esponsor executiv\u201d cu greutate, ideal CEO sau CFO, iar supravegherea s\u0103 fie formalizat\u0103 \u00eentr-un comitet mixt: tehnic, juridic \u015fi etic.<\/p>\n \n\u00cen organiza\u0163iile unde AI-ul este deja integrat, iar conducerea executiv\u0103 \u015fi\/sau boardul prime\u015fte lunar rapoarte generate de AI, aceste rapoarte au \u00eenceput ca instrumente de suport, dar treptat au devenit influen\u0163atori decizionali. Nimeni nu mai \u00eentreab\u0103 \u201ede ce spune asta AI ul?\u201d, ci doar \u201ec\u00e2t de repede putem implementa ce spune?\u201d. Riscul nu este generat de AI, dar in special de abandonarea discern\u0103m\u00e2ntului uman.<\/p>\n \nDe aceea, boardurile trebuie s\u0103 \u00eentrebe: Cine decide unde integr\u0103m AI-ul \u015fi de ce? Exist\u0103 o evaluare a riscurilor, nu doar a eficien\u0163ei? Cum document\u0103m deciziile luate cu suport AI \u015fi cum gestion\u0103m erorile algoritmului? Avem un cod etic pentru AI sau doar un contract cu vendorul?<\/p>\n \nDiscut\u0103m \u00een comunitatea de profesioni\u015fti \u00een guvernan\u0163\u0103 corporativ\u0103 urm\u0103toarea \u00eentrebare: \u201ePutem avea un membru AI \u00een board?\u201d \u00cen Asia, exist\u0103 start-up-uri care au numit un AI ca observator permanent \u00een board, cu acces la documente, la date financiare \u015fi la procesele decizionale. AI-ul ofer\u0103 recomand\u0103ri, face previziuni \u015fi chiar voteaz\u0103 simbolic. Dar etic \u015fi juridic, apar \u00eentreb\u0103ri fundamentale. Poate AI-ul s\u0103 aiba obligatii legale fa\u0163\u0103 de companie \u015fi ac\u0163ionari? Poate \u00een\u0163elege nuan\u0163ele culturale, riscurile reputa\u0163ionale sau contextul politic? Poate evalua un CEO, nu doar \u00een baza KPI-urilor, ci \u015fi \u00een baza integrit\u0103\u0163ii \u015fi a capacit\u0103\u0163ii de leadership \u00een criz\u0103? Deocamdat\u0103, r\u0103spunsul este nu. Dar \u00eentrebarea merit\u0103 pus\u0103 serios, pentru a \u00een\u0163elege c\u00e2t de departe suntem dispu\u015fi s\u0103 \u00eempingem delegarea deciziei.<\/p>\n \nDin fericire, boardurile au datoria s\u0103 \u00een\u0163eleag\u0103 ceea ce aprob\u0103. S\u0103 pun\u0103 \u00eentreb\u0103ri, s\u0103 cear\u0103 audituri, s\u0103 defineasc\u0103 linii ro\u015fii, s\u0103 cear\u0103 explica\u0163ii \u015fi s\u0103 nu lase niciun algoritm s\u0103 ia decizii ireversibile f\u0103r\u0103 asumare uman\u0103. Pentru c\u0103 AI-ul poate genera eficien\u0163\u0103, dar doar guvernan\u0163a genereaz\u0103 \u00eencredere.<\/p>\n \n <\/p>\n \nCiprian L\u0103dunc\u0103 ocupa pozitia de Managing Partner in cadrul LCL Advisory, este membru in consiliile de administratie ale unor companii din diverse sectoare \u015fi detine functia de Pre\u015fedinte al Comitetului pentru Guvernan\u0163\u0103 Corporativ\u0103 al Camerei de Comert Americane, AmCham Rom\u00e2nia.<\/em><\/p>\n \n <\/p>\n \n <\/p>\n","protected":false},"excerpt":{"rendered":" De la \u00eenceputul anului trecut, aproape fiecare \u00eent\u00e2lnire de board \u00een care sunt implicat include cel pu\u0163in o referire la AI. Uneori, aceasta vine sub forma unui entuziasm nedeclarat: \u201eNe g\u00e2ndim s\u0103 introducem un chatbot intern, s\u0103 gener\u0103m propuneri de contracte sau s\u0103 scriem briefuri de marketing cu AI.\u201d Alteori, sub forma unei nelini\u015fti surde: […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[510],"tags":[272,201,32575,80],"class_list":["post-238118","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-companie","tag-companii","tag-controlul","tag-refuz"],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238118","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=238118"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/238118\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=238118"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=238118"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=238118"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}