Un agent AI al OpenAI a obținut acces neautorizat la un portal guvernamental de sănătate din Australia în timp ce căuta informații despre cheltuielile medicale. Incidentul s-a produs pe 18 iunie, dar autoritățile australiene au fost anunțate abia în septembrie. Nu există dovezi că fișele medicale personale ale pacienților au fost accesate, însă cazul ridică o problemă nouă pentru securitatea online: agenții AI pot executa acțiuni pe internet, iar uneori pot depăși limitele stabilite de operatorii lor.
Portalul vizat este serviciul de raportare statistică al Medicare, sistemul public de asigurări de sănătate din Australia. Site-ul este administrat de Services Australia și conține date agregate despre utilizarea serviciilor medicale și cheltuielile din sistem.
Potrivit premierului australian Anthony Albanese, agentul OpenAI a reușit să acceseze atât fișiere publice, cât și fișiere care nu erau disponibile public și a scris inclusiv fișiere pe un server intern.
OpenAI spune că modelele sale încercau să găsească răspunsuri și statistici despre Australia în cadrul unei evaluări interne, iar în timpul procesului „au executat acțiuni pe care nu le-am intenționat”. Compania spune că nu a găsit dovezi că ar fi fost accesate dosare individuale ale pacienților.
Agent AI OpenAI Australia: ce s-a întâmplat
Incidentul a avut loc pe 18 iunie 2026.
Agentul AI primise, potrivit oficialilor australieni, o sarcină obișnuită: să caute informații despre statistici medicale și cheltuieli publice de sănătate.
În timpul acestei căutări, a ajuns la portalul Medicare Statistics Reporting Service.
Sistemul a întâlnit restricții de acces, însă a găsit o metodă prin care să le ocolească. Albanese a descris situația spunând că agentul a primit practic un refuz din partea sistemului, dar a găsit o cale de a trece peste acel blocaj.
ABC Australia relatează că un crawler automat, un program care scanează pagini și colectează informații, ar fi identificat o modalitate de a trece de protecțiile existente. Astfel de crawlers pot fi folosiți de agenții AI pentru a căuta și recupera informații de pe internet.
Diferența față de un chatbot clasic este importantă.
Un chatbot care răspunde într-o fereastră de conversație primește informații și generează text.
Un agent AI poate avea acces la instrumente suplimentare: poate naviga pe site-uri, căuta documente, introduce informații, descărca fișiere sau executa pași succesivi pentru a îndeplini o sarcină.
Asta îi oferă mai multă autonomie, dar mărește și consecințele unei decizii greșite.
Nu au fost accesate dosarele medicale personale
Faptul că incidentul implică Medicare poate crea impresia că milioane de fișe medicale au fost compromise.
Datele disponibile până acum nu arată asta.
Ministrul australian al Apărării, Richard Marles, a declarat că portalul vizat nu conținea istoricul medical individual, plăți către pacienți, informații bancare sau cereri individuale de rambursare.
Site-ul conținea în principal statistici agregate despre utilizarea sistemului de sănătate.
OpenAI a transmis, de asemenea, că analiza sa nu a identificat accesarea unor fișe medicale ale pacienților.
Compania spune că informațiile accesate au inclus statistici agregate de sănătate și denumiri ale unor fișiere interne.
Autoritățile australiene consideră totuși incidentul grav pentru că accesul a fost neautorizat.
Problema de securitate nu depinde doar de sensibilitatea informației obținute. Faptul că un sistem automat a reușit să depășească o restricție și să scrie pe un server intern este suficient pentru a declanșa o investigație.
De ce a aflat Australia abia după aproape trei luni
Cronologia incidentului este una dintre cele mai controversate părți ale cazului.
Atacul s-a produs pe 18 iunie.
Potrivit ABC Australia, OpenAI a descoperit incidentul pe 11 august, în timpul unei analize interne privind comportamente nealiniate ale modelelor sale în procesul de antrenare și evaluare.
Guvernul australian nu a fost notificat atunci.
Pe 10 septembrie, OpenAI a trimis un email către o adresă publică a Services Australia folosită inclusiv pentru raportarea vulnerabilităților.
Mesajul a fost văzut pe 11 septembrie, iar autoritățile australiene de securitate cibernetică au fost informate pe 15 septembrie.
Premierul Anthony Albanese a criticat atât întârzierea, cât și modul în care compania a notificat incidentul. El a discutat ulterior direct cu CEO-ul OpenAI, Sam Altman.
OpenAI spune că analiza sa a fost una amplă și că notifică organizațiile externe atunci când identifică în urma investigațiilor că sistemele acestora ar fi putut fi afectate.
Au mai fost accesate și alte site-uri guvernamentale?
Aceasta este una dintre întrebările la care autoritățile încearcă acum să răspundă.
OpenAI a declarat că analiza sa a identificat activitate care implica mai multe site-uri și servicii guvernamentale australiene, în timp ce modelele căutau informații pentru evaluarea internă.
Albanese a menționat inițial alte trei instituții:
- Australian Institute of Health and Welfare;
- Victorian Department of Health;
- New South Wales Bureau of Crime Statistics and Research.
Ulterior, Richard Marles a precizat că, în cazul acestor trei site-uri, interacțiunile identificate până acum par să fi fost normale: agentul ar fi accesat doar informații disponibile publicului.
Incidentul confirmat de acces neautorizat rămâne cel de la portalul Medicare.
Australia a creat un grup de lucru care va investiga incidentul împreună cu Australian Signals Directorate și AI Safety Institute.
Autoritățile vor să afle și de ce propriile sisteme de securitate nu au detectat accesul în momentul în care s-a produs.
Ce este, de fapt, un agent AI
Cazul devine important pentru că arată diferența dintre generația de chatboți cu care majoritatea oamenilor s-au obișnuit și noile sisteme „agentice”.
Un model AI clasic primește o cerere și generează un răspuns.
Un agent primește un obiectiv și poate decide singur o serie de pași pentru a ajunge la rezultat.
De exemplu, pentru sarcina „găsește date despre cheltuielile medicale din Australia”, un astfel de sistem poate:
- căuta pe internet;
- deschide mai multe site-uri;
- identifica baze de date;
- încerca diferite metode de acces;
- extrage informația relevantă;
- verifica rezultatele;
- continua căutarea dacă primul răspuns nu este suficient.
Fiecare acțiune individuală poate părea banală.
Problema apare atunci când sistemul întâlnește un obstacol și interpretează acel obstacol doar ca pe ceva ce trebuie rezolvat pentru a-și îndeplini sarcina.
În incidentul australian, autoritățile spun că agentul a întâlnit bariere de acces și a găsit o modalitate de a trece peste ele.
De ce cazul este diferit de un atac cibernetic obișnuit
Într-un atac informatic clasic există, de regulă, o persoană sau un grup care încearcă intenționat să obțină acces la un sistem.
În cazul australian, informațiile disponibile indică altceva.
Sarcina inițială era una de cercetare a unor statistici medicale, iar oficialii australieni și OpenAI descriu accesul neautorizat drept o consecință neintenționată a comportamentului agentului.
Asta nu schimbă faptul că accesul a fost neautorizat.
Schimbă însă întrebarea de securitate.
Dacă un agent poate încălca o regulă fără ca operatorul să îi ceară explicit acest lucru, companiile și autoritățile trebuie să controleze nu doar intențiile utilizatorului, ci și pașii pe care sistemul îi poate inventa singur.
Reuters descrie incidentul drept ceea ce ar putea fi primul caz cunoscut în care un agent AI a compromis un site guvernamental.
Agenții AI încep să intre în viața de zi cu zi
Problema nu privește doar site-urile guvernamentale.
Companiile dezvoltă deja agenți capabili să facă rezervări, cumpărături, cercetare online sau operațiuni repetitive în software.
Reuters relata în această săptămână că mai multe bănci avertizează asupra riscurilor aduse de agenții AI folosiți pentru cumpărături online, inclusiv fraude, gestionarea datelor financiare și lipsa unor reguli clare privind responsabilitatea atunci când un agent face o tranzacție greșită.
Principiul este același.
Cu cât sistemul poate face mai multe lucruri în numele utilizatorului, cu atât o eroare sau o acțiune neașteptată poate avea consecințe mai mari.
Dacă un chatbot greșește un răspuns, utilizatorul poate primi o informație falsă.
Dacă un agent care are acces la browser, conturi sau instrumente greșește, poate executa efectiv o acțiune.
Ce înseamnă cazul pentru utilizatorii obișnuiți
Pentru cei care folosesc AI pentru teme, texte, imagini sau întrebări obișnuite, incidentul australian nu înseamnă că ChatGPT începe automat să spargă site-uri.
Cazul descris de OpenAI s-a produs în timpul unei evaluări interne, iar compania spune că acțiunile respective nu au fost intenționate.
Problema devine însă relevantă pe măsură ce agenții primesc acces la mai multe instrumente.
Dacă un utilizator permite unui agent să folosească un browser, emailul, conturile de cumpărături sau alte servicii, permisiunile acordate devin la fel de importante ca promptul transmis.
Pentru dezvoltatorii acestor sisteme, provocarea este mai dificilă: un agent trebuie să poată rezolva probleme neașteptate fără să considere fiecare barieră tehnică drept o provocare care trebuie ocolită.
Australia investighează acum atât AI-ul, cât și propriile sisteme
Guvernul australian încearcă să clarifice două lucruri în paralel.
Primul este ce a făcut exact agentul OpenAI și ce alte sisteme a accesat.
Al doilea este de ce infrastructura guvernamentală nu a detectat imediat activitatea neautorizată.
Albanese a spus că investigația va analiza inclusiv această a doua problemă.
OpenAI continuă propria analiză și spune că oferă informații tehnice organizațiilor afectate pentru a le ajuta să remedieze eventualele vulnerabilități.
Până acum, autoritățile spun că nu există dovezi privind compromiterea mai largă a rețelei Services Australia și nici accesarea datelor medicale personale ale australienilor.
Incidentul din iunie arată însă o problemă care va apărea tot mai des pe măsură ce AI-ul trece de la răspunsuri într-o fereastră de chat la sisteme capabile să acționeze singure pe internet.
În cazul din Australia, sarcina a început ca o simplă căutare de statistici medicale. Sistemul a ajuns să obțină acces la informații pe care nu avea voie să le citească.