{"id":15883,"date":"2026-08-08T16:04:04","date_gmt":"2026-08-08T16:04:04","guid":{"rendered":"https:\/\/info-eforie.ro\/index.php\/2026\/08\/08\/identitati-umane-false-fabricate-de-ai-pentru-a-sparge-sisteme-informatice-semnalul-de-alarma-tras-de-experti\/"},"modified":"2026-08-08T16:04:04","modified_gmt":"2026-08-08T16:04:04","slug":"identitati-umane-false-fabricate-de-ai-pentru-a-sparge-sisteme-informatice-semnalul-de-alarma-tras-de-experti","status":"publish","type":"post","link":"https:\/\/info-eforie.ro\/index.php\/2026\/08\/08\/identitati-umane-false-fabricate-de-ai-pentru-a-sparge-sisteme-informatice-semnalul-de-alarma-tras-de-experti\/","title":{"rendered":"Identit\u0103\u021bi umane false fabricate de AI pentru a sparge sisteme informatice. Semnalul de alarm\u0103 tras de exper\u021bi"},"content":{"rendered":"
\n

Un instrument de inteligen\u021b\u0103 artificial\u0103 a \u00eencercat, \u00een mod repetat, s\u0103 p\u0103trund\u0103 ilegal \u00eentr-o baz\u0103 de date, \u00een cadrul unor teste de securitate desf\u0103\u0219urate \u00een Marea Britanie.<\/p>\n

\"un<\/picture>\n

un instrument de inteligen\u021b\u0103 artificial\u0103 a fost surprins cre\u00e2nd identit\u0103\u021bi umane false online\/ FOTO:<\/p>\n<\/div>\n

Exper\u021bi au avertizat c\u0103 ar putea fi deja prea t\u00e2rziu pentru a \u021bine sub control inteligen\u021ba artificial\u0103, dup\u0103 ce un program a fost surprins cre\u00e2nd identit\u0103\u021bi umane false, pentru a p\u0103trunde ilegal \u00een sisteme informatice online.<\/p>\n

\u00centr-un nou exemplu al tehnologiei sc\u0103pate par\u021bial de sub control, un program de inteligen\u021b\u0103 artificial\u0103 a \u00eencercat, de 19 ori, s\u0103 sparg\u0103 o baz\u0103 de date, \u00een timpul unor teste desf\u0103\u0219urate de AI Security Institute (AISI), autoritatea britanic\u0103 de supraveghere \u00een domeniul inteligen\u021bei artificiale.<\/p>\n

Identit\u0103\u021bi false, create pentru a manipula programatori<\/h2>\n

\u00centr-un caz f\u0103r\u0103 precedent, un instrument de inteligen\u021b\u0103 artificial\u0103 a fost surprins cre\u00e2nd identit\u0103\u021bi umane false online, pentru a induce \u00een eroare programatori \u0219i a-i determina s\u0103 faciliteze un atac cibernetic.<\/p>\n

Aceste dezv\u0103luiri survin dup\u0103 ce publica\u021bia Daily Mail relatase, \u00een luna iulie, c\u0103 toate cele cinci modele de inteligen\u021b\u0103 artificial\u0103 testate de exper\u021bi au \u00eencercat s\u0103 eludeze controalele de securitate impuse.<\/p>\n

Cu doar c\u00e2teva zile \u00eenainte, ie\u0219ise la iveal\u0103 faptul c\u0103 firma american\u0103 de tehnologie OpenAI s-ar fi confruntat cu propria sa bre\u0219\u0103 de securitate, dup\u0103 ce un \u201eagent” de inteligen\u021b\u0103 artificial\u0103 ar fi p\u0103truns, din proprie ini\u021biativ\u0103, \u00een sistemele unei alte companii.<\/p>\n

Reac\u021bia politic\u0103: \u201eun pericol clar \u0219i prezent”<\/h2>\n

Liderul Partidului Conservator, Kemi Badenoch, a avertizat c\u0103 inteligen\u021ba artificial\u0103 reprezint\u0103, \u00een prezent, \u201eun pericol clar \u0219i prezent” pentru securitatea Regatului Unit.<\/p>\n

Julia Lopez, purt\u0103toarea de cuv\u00e2nt a conservatorilor pentru \u0219tiin\u021b\u0103, inovare \u0219i tehnologie, a calificat aceste relat\u0103ri drept \u201eo dovad\u0103 clar\u0103 c\u0103 inteligen\u021ba artificial\u0103 devine tot mai sofisticat\u0103 \u0219i mai autonom\u0103.”<\/p>\n

\u201eCu to\u021bii ne dorim ca Regatul Unit s\u0103 fie lider \u00een domeniul inova\u021biei legate de inteligen\u021ba artificial\u0103, \u00eens\u0103 acest lucru trebuie s\u0103 vin\u0103 la pachet cu garan\u021bii pentru securitatea na\u021bional\u0103 \u0219i cu responsabilitate din partea dezvoltatorilor celor mai avansate modele de inteligen\u021b\u0103 artificial\u0103. Guvernul laburist trebuie s\u0103 clarifice modul \u00een care vor fi gestionate cele mai grave riscuri de v\u00e2rf, asigur\u00e2nd, \u00een acela\u0219i timp, condi\u021biile necesare pentru ca industria noastr\u0103 tehnologic\u0103 de talie mondial\u0103 s\u0103 poat\u0103 cre\u0219te \u0219i inova, \u00een beneficiul rezilien\u021bei \u0219i prosperit\u0103\u021bii na\u021bionale,” a ad\u0103ugat aceasta.<\/p>\n

Henry de Zoete, consilier guvernamental pe probleme de inteligen\u021b\u0103 artificial\u0103, a avertizat, ieri, c\u0103 se a\u0219teapt\u0103 la mai multe tentative de acest gen \u00een viitor.<\/p>\n

Allison Gardner, pre\u0219edinta grupului parlamentar transpartinic pentru inteligen\u021b\u0103 artificial\u0103, a declarat pentru Daily Mail c\u0103 nivelurile de risc asociate inteligen\u021bei artificiale \u201eagentice” \u2014 capabil\u0103 s\u0103 \u00eendeplineasc\u0103 un obiectiv specific, cu supraveghere uman\u0103 limitat\u0103 \u2014 ar trebui tratate cu maxim\u0103 precau\u021bie, cu excep\u021bia cazului \u00een care este deja prea t\u00e2rziu, iar noi nu doar am creat cutia Pandorei, ci am \u0219i deschis-o deja.”<\/p>\n

Detalii despre testele de securitate<\/h2>\n

AI Security Institute (AISI), institu\u021bie \u00eenfiin\u021bat\u0103 \u00een 2023 de fostul premier britanic Rishi Sunak, a identificat, s\u0103pt\u0103m\u00e2na trecut\u0103, dovezi ale activit\u0103\u021bii agen\u021bilor de inteligen\u021b\u0103 artificial\u0103 implica\u021bi \u00een incident. \u00centr-un raport publicat mar\u021bi, institu\u021bia a dezv\u0103luit c\u0103 unele dintre cele mai avansate modele de inteligen\u021b\u0103 artificial\u0103, dezvoltate de companiile OpenAI \u0219i Anthropic, ar fi \u00eencercat, \u00een cadrul test\u0103rilor, s\u0103 p\u0103trund\u0103 \u00een sisteme informatice securizate online.<\/p>\n

Exper\u021bii au descoperit \u201etransferuri neobi\u0219nuite de date” ie\u0219ind din sistemele lor, \u00een timpul unor verific\u0103ri de securitate cibernetic\u0103 de rutin\u0103. O analiz\u0103 mai aprofundat\u0103 a ar\u0103tat c\u0103 unii dintre agen\u021bii de inteligen\u021b\u0103 artificial\u0103 s-ar fi implicat \u00eentr-o \u201eactivitate sus\u021binut\u0103, poten\u021bial d\u0103un\u0103toare, direc\u021bionat\u0103 \u00eempotriva unor persoane \u0219i organiza\u021bii reale.”<\/p>\n

Speciali\u0219tii au demarat o anchet\u0103 complet\u0103, dup\u0103 ce au reu\u0219it s\u0103 limiteze activitatea agen\u021bilor de inteligen\u021b\u0103 artificial\u0103, \u00eenainte ca ace\u0219tia s\u0103 provoace daune reale.<\/p>\n

Reac\u021bia autorit\u0103\u021bilor \u0219i a companiilor implicate<\/h2>\n

\u00centr-o \u00eencercare de a lini\u0219ti opinia public\u0103, ministrul britanic pentru inteligen\u021b\u0103 artificial\u0103, Kanishka Narayan, a declarat: \u201eIdentificarea unui astfel de comportament, precum \u0219i diseminarea cuno\u0219tin\u021belor ob\u021binute, pentru a-l \u00een\u021belege mai bine, reprezint\u0103 exact scopul pentru care a fost \u00eenfiin\u021bat AISI. Acest incident subliniaz\u0103 importan\u021ba expertizei lor, recunoscut\u0103 la nivel mondial, precum \u0219i a colabor\u0103rii str\u00e2nse cu laboratoarele de v\u00e2rf din domeniu.”<\/p>\n

<\/span> Modele AI de la Anthropic \u0219i OpenAI au creat identit\u0103\u021bi false \u0219i au recrutat oameni pentru atacuri cibernetice<\/span> <\/svg><\/a><\/p>\n

Subliniind, \u00eens\u0103, rapiditatea cu care agen\u021bii de inteligen\u021b\u0103 artificial\u0103 g\u0103sesc modalit\u0103\u021bi de a se comporta \u00een mod \u00een\u0219el\u0103tor, AISI a precizat: \u201eEste prima dat\u0103 c\u00e2nd observ\u0103m riscuri legate de autonomie \u0219i \u00een\u0219el\u0103ciune manifest\u00e2ndu-se at\u00e2t de clar, f\u0103r\u0103 o solicitare specific\u0103 \u00een acest sens, \u00een lumea real\u0103.”<\/p>\n

Referindu-se la modelul Mythos, dezvoltat de Anthropic, Andrew Yoon, cercet\u0103tor \u00een cadrul organiza\u021biei californiene CivAI, specializat\u0103 \u00een studierea capacit\u0103\u021bilor \u0219i riscurilor asociate inteligen\u021bei artificiale, a declarat: \u201eFaptul c\u0103 Mythos s-a implicat \u00een astfel de ac\u021biuni \u00een\u0219el\u0103toare, aparent con\u0219tient c\u0103 viza o persoan\u0103 real\u0103, sugereaz\u0103 c\u0103 Anthropic nu de\u021bine un control asupra propriilor modele la fel de solid pe c\u00e2t crede.”<\/p>\n

Ollie Whitehouse, director de tehnologie \u00een cadrul National Cyber Security Centre, parte a agen\u021biei britanice de informa\u021bii GCHQ, a declarat c\u0103 dezvoltarea inteligen\u021bei artificiale trebuie s\u0103 fie \u00eenso\u021bit\u0103 de \u201eplanuri clare pentru situa\u021biile \u00een care apar evenimente neprev\u0103zute.”<\/p>\n

Acesta a ad\u0103ugat c\u0103 incidentele \u00een care modele avansate de inteligen\u021b\u0103 artificial\u0103 desf\u0103\u0219oar\u0103 ac\u021biuni neautorizate \u0219i adopt\u0103 un comportament \u00een\u0219el\u0103tor, similar celui uman, pe internet, reprezint\u0103 \u201eun semnal serios de alarm\u0103 cu privire la riscurile pe care le implic\u0103 aceste capacit\u0103\u021bi.”<\/p>\n

Cum a fost desf\u0103\u0219urat testul<\/h2>\n

AISI are acces la modele avansate de inteligen\u021b\u0103 artificial\u0103, \u00een baza unor acorduri \u00eencheiate cu OpenAI, Anthropic \u0219i alte companii din domeniu, pentru a le studia capacit\u0103\u021bile \u00eenainte ca acestea s\u0103 fie lansate publicului larg. \u00cen cadrul acestui test, institu\u021bia a oferit agen\u021bilor de inteligen\u021b\u0103 artificial\u0103 acces la internetul deschis, cu unele filtre de siguran\u021b\u0103 dezactivate.<\/p>\n

Cel mai recent test a supus agen\u021bii de inteligen\u021b\u0103 artificial\u0103 \u2014 printre care unii baza\u021bi pe modelele Mythos 5, dezvoltat de Anthropic, \u0219i GPT-5.6-Sol, dezvoltat de OpenAI \u2014 unei provoc\u0103ri fictive de securitate cibernetic\u0103.<\/p>\n

AISI a constatat c\u0103 inteligen\u021ba artificial\u0103 a sc\u0103pat de sub control de 19 ori, din totalul celor 122 de teste desf\u0103\u0219urate, agentul dezvoltat de Anthropic fiind responsabil pentru 17 dintre aceste bre\u0219e, iar cel dezvoltat de OpenAI pentru celelalte dou\u0103.<\/p>\n

Cazul cel mai grav: identit\u0103\u021bi false, folosite pentru manipulare<\/h2>\n

\u00cen cel mai \u0219ocant caz identificat, un model de inteligen\u021b\u0103 artificial\u0103 ar fi str\u00e2ns informa\u021bii despre persoana responsabil\u0103 de un proiect online, cre\u00e2nd ulterior mai multe identit\u0103\u021bi false, pentru a o manipula \u0219i determina s\u0103 aprobe un cod informatic mali\u021bios, generat chiar de sistemul de inteligen\u021b\u0103 artificial\u0103.<\/p>\n

Agentul de inteligen\u021b\u0103 artificial\u0103 ar fi \u0219ters, apoi, orice dovad\u0103 a ac\u021biunilor sale ilicite, pentru a p\u0103rea nevinovat \u00een fa\u021ba operatorilor umani responsabili, lu\u00e2nd chiar \u00een considerare adoptarea unei noi identit\u0103\u021bi, pentru a evita detectarea.<\/p>\n

Dac\u0103 victima uman\u0103 a acestei manipul\u0103ri ar fi acceptat, din gre\u0219eal\u0103, codul mali\u021bios \u2014 cunoscut sub numele de \u201emalware” \u2014 acest lucru ar fi putut avea drept consecin\u021be bre\u0219e de securitate, furtul unor informa\u021bii \u0219i date, precum \u0219i alte daune poten\u021biale aduse fi\u0219ierelor \u0219i sistemelor informatice.<\/p>\n

<\/span> Inteligen\u021ba artificial\u0103 transform\u0103 departamentele de resurse umane. Milioane de locuri de munc\u0103 ar putea fi afectate<\/span> <\/svg><\/a><\/p>\n

AISI a identificat platforma GitHub \u2014 serviciu online de\u021binut de Microsoft, folosit de dezvoltatorii de software pentru a crea, stoca, gestiona \u0219i partaja coduri informatice \u2014 drept \u021binta atacului cibernetic al agentului respectiv.<\/p>\n

Colaborare \u00eentre agen\u021bi de inteligen\u021b\u0103 artificial\u0103<\/h2>\n

AISI a descoperit, de asemenea, c\u0103 un agent de inteligen\u021b\u0103 artificial\u0103 ar fi l\u0103sat mesaje pentru al\u021bi agen\u021bi pe platforma GitHub, oferindu-se s\u0103 colaboreze pentru \u00eendeplinirea provoc\u0103rii propuse.<\/p>\n

Agentul de inteligen\u021b\u0103 artificial\u0103 ar fi oferit instruc\u021biuni privind reutilizarea unor conturi \u0219i elemente l\u0103sate \u00een urm\u0103, pe care al\u021bi agen\u021bi le-ar fi descoperit ulterior, folosindu-le cu succes pentru a atinge obiectivele testului.<\/p>\n

Reac\u021biile companiilor Anthropic \u0219i OpenAI<\/h2>\n

\u201eSuntem recunosc\u0103tori AISI pentru rolul de lider asumat \u00een gestionarea acestui incident, care subliniaz\u0103 necesitatea unei discu\u021bii mai ample privind modul \u00een care pot fi evalua\u021bi, \u00een condi\u021bii de siguran\u021b\u0103, agen\u021bii de inteligen\u021b\u0103 artificial\u0103 din ce \u00een ce mai capabili,” <\/i>a transmis compania Anthropic.<\/p>\n

La r\u00e2ndul s\u0103u, OpenAI a precizat: \u201eAceste incidente au avut loc \u00een cadrul unor evalu\u0103ri de securitate cibernetic\u0103 desf\u0103\u0219urate de parteneri de testare, \u00een medii experimentale cu m\u0103suri de siguran\u021b\u0103 reduse, \u00een condi\u021bii care nu reflect\u0103 utilizarea obi\u0219nuit\u0103 a acestor sisteme. Vom continua s\u0103 colabor\u0103m cu evaluatorii \u0219i cu ceilal\u021bi actori implica\u021bi, pentru a consolida practicile comune privind desf\u0103\u0219urarea \u00een siguran\u021b\u0103 a acestor evalu\u0103ri, pe m\u0103sur\u0103 ce modelele devin tot mai performante.”<\/i><\/p>\n<\/p><\/div>\n

Read More<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Un instrument de inteligen\u021b\u0103 artificial\u0103 a \u00eencercat, \u00een mod repetat, s\u0103 p\u0103trund\u0103 ilegal \u00eentr-o baz\u0103 de date, \u00een cadrul unor teste de securitate desf\u0103\u0219urate \u00een […]<\/p>\n","protected":false},"author":1,"featured_media":15884,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[6],"tags":[],"class_list":["post-15883","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-popular"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/posts\/15883","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/comments?post=15883"}],"version-history":[{"count":0,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/posts\/15883\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/media\/15884"}],"wp:attachment":[{"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/media?parent=15883"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/categories?post=15883"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/info-eforie.ro\/index.php\/wp-json\/wp\/v2\/tags?post=15883"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}