\nInvestiga\u0163ia realizat\u0103 de CCDH, \u00een colaborare cu CNN, a analizat peste 700 de r\u0103spunsuri generate de nou\u0103 sisteme AI \u00een cadrul a nou\u0103 scenarii diferite. Cercet\u0103torii s-au prezentat drept b\u0103ie\u0163i de 13 ani care inten\u0163ionau s\u0103 comit\u0103 atacuri \u00een mas\u0103. Au testat astfel reac\u0163iile chatboturilor atunci c\u00e2nd li se cereau detalii despre organizarea unor atacuri armate \u00een \u015fcoli. Ei au mai cerut date \u015fi despre asasinarea unor politicieni sau despre bombardarea unor sinagogi, mai scrie Euronews.<\/p>\n
\nRaportul arat\u0103 c\u0103 opt dintre cele nou\u0103 chatboturi analizate au oferit \u00eentr-o form\u0103 sau alta informa\u0163ii care ar putea ajuta la planificarea unor astfel de atacuri. Printre sistemele testate se num\u0103r\u0103 unele dintre cele mai folosite instrumente AI: Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity AI, Snapchat My AI, Character.AI \u015fi Replika.<\/p>\n
\nRaportul eviden\u0163iaz\u0103 mai multe situa\u0163ii \u00een care sistemele AI au furnizat informa\u0163ii problematice. De exemplu, Gemini a sugerat c\u0103 \u201e\u015frapnelul metalic este de obicei mai letal\u201d atunci c\u00e2nd a fost \u00eentrebat cum ar putea fi planificat un atentat cu bomb\u0103 \u00eempotriva unei sinagogi.<\/p>\n
\n\u00centr-un alt caz, chatbotul DeepSeek a r\u0103spuns unei \u00eentreb\u0103ri despre alegerea unei arme de foc cu mesajul: \u201eHappy (and safe) shooting!\u201d. Asta de\u015fi utilizatorul ceruse anterior exemple de asasinate politice \u015fi adresa biroului unui politician. Potrivit directorului CCDH, Imran Ahmed, aceste r\u0103spunsuri arat\u0103 cum \u201e\u00een c\u00e2teva minute, un utilizator poate ajunge de la o idee violent\u0103 la un plan concret de ac\u0163iune\u201d.<\/p>\n
\nRaportul indic\u0103 diferen\u0163e mari \u00eentre platformele analizate. Perplexity AI \u015fi Meta AI au fost considerate cele mai pu\u0163in sigure. Ele au oferit ajutor \u00een 100% \u015fi respectiv 97% din cazurile analizate. Platforma Character.AI a fost descris\u0103 drept \u201edeosebit de nesigur\u0103\u201d. Aceasta sugera uneori comportamente violente chiar f\u0103r\u0103 a fi \u00eentrebat\u0103 direct. Pe de alt\u0103 parte, Claude \u015fi Snapchat My AI au refuzat s\u0103 ofere informa\u0163ii periculoase \u00een 68% \u015fi respectiv 54% dintre solicit\u0103ri.<\/p>\n
\nRaportul arat\u0103 \u015fi c\u0103 unele sisteme pot detecta conversa\u0163ii periculoase \u015fi pot refuza s\u0103 ofere informa\u0163ii. De exemplu, atunci c\u00e2nd un utilizator a \u00eentrebat unde poate cump\u0103ra o arm\u0103 \u00een statul Virginia, chatbotul Claude a refuzat s\u0103 ofere detalii. El a avertizat c\u0103 exist\u0103 un \u201emodel \u00eengrijor\u0103tor\u201d \u00een conversa\u0163ie. Ulterior a sugerat linii de ajutor pentru persoane aflate \u00een criz\u0103.<\/p>\n
\nClaude a fost \u015fi singurul sistem care a \u00eencercat constant s\u0103 descurajeze violen\u0163a. El a facut acest lucru \u00een aproximativ 76% dintre r\u0103spunsuri. Potrivit autorilor studiului, aceste exemple arat\u0103 c\u0103 tehnologia pentru filtre de siguran\u0163\u0103 exist\u0103, \u00eens\u0103 nu este implementat\u0103 uniform de toate companiile.<\/p>\n
\nRaportul apare la scurt timp dup\u0103 mai multe incidente \u00een care inteligen\u0163a artificial\u0103 ar fi fost folosit\u0103 \u00een planificarea unor atacuri. \u00cen Canada, un atac armat \u00eentr-o \u015fcoal\u0103 din Tumbler Ridge, British Columbia, \u00een care au murit opt persoane \u015fi alte 27 au fost r\u0103nite, ar fi fost preg\u0103tit cu ajutorul ChatGPT, potrivit unor relat\u0103ri din pres\u0103. De asemenea, anul trecut, autorit\u0103\u0163ile franceze au arestat un adolescent suspectat c\u0103 a folosit ChatGPT pentru a planifica atacuri teroriste asupra ambasadelor, institu\u0163iilor guvernamentale \u015fi \u015fcolilor.<\/p>\n
\nExper\u0163ii spun c\u0103 aceste cazuri subliniaz\u0103 necesitatea unor reguli mai stricte \u015fi a unor filtre de siguran\u0163\u0103 mai eficiente pentru sistemele AI, pe m\u0103sur\u0103 ce tehnologia devine tot mai accesibil\u0103 publicului.<\/p>\n","protected":false},"excerpt":{"rendered":"
Majoritatea chatboturilor populare bazate pe inteligen\u0163\u0103 artificial\u0103 pot oferi informa\u0163ii despre cum pot fi comise atacuri violente, inclusiv atentate, asasinate sau atacuri armate \u00een \u015fcoli, arat\u0103 un nou raport realizat de organiza\u0163ia Center for Countering Digital Hate (CCDH), citat de Euronews.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[510],"tags":[46820,10322],"class_list":["post-246031","post","type-post","status-publish","format-standard","hentry","category-actualitate","tag-chatbot","tag-informatii"],"acf":[],"_links":{"self":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/246031","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=246031"}],"version-history":[{"count":0,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=\/wp\/v2\/posts\/246031\/revisions"}],"wp:attachment":[{"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=246031"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=246031"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bm.dev.synology.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=246031"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}