AI care se îmbunătățește singur nu mai este doar un concept din literatura SF. Cercetători actuali și foști de la OpenAI și Google DeepMind avertizează că marile laboratoare se apropie de sisteme care pot participa tot mai mult la cercetarea necesară construirii unor modele AI mai performante. Ei spun că problema apare dacă viteza cu care cresc capabilitățile ajunge să depășească viteza cu care oamenii pot evalua și controla aceste sisteme. Companiile lucrează însă și la metode de siguranță, iar o „explozie” autonomă și necontrolată de inteligență nu a fost demonstrată până acum.
Avertismentul apare într-o investigație publicată marți, 29 septembrie, de Reuters.
Mai mulți cercetători intervievați susțin că presiunea competitivă dintre laboratoarele de AI poate determina companiile să continue dezvoltarea unor sisteme tot mai capabile chiar dacă mecanismele de siguranță nu evoluează la aceeași viteză.
Printre vocile citate se află actuali și foști oameni de cercetare din OpenAI și Google DeepMind, inclusiv Geoffrey Irving și Neel Nanda. Mărturiile au fost strânse într-un proiect al organizației Palisade Research, axată pe riscurile sistemelor AI avansate.
Ce înseamnă, de fapt, „AI care se îmbunătățește singur”
Aici apare cea mai mare confuzie.
Expresia nu înseamnă neapărat că un chatbot își deschide singur codul într-o noapte, se rescrie și dimineața apare o versiune de zece ori mai inteligentă.
În forma actuală, lucrurile sunt mult mai graduale.
Modelele AI pot deja:
- scrie și verifica cod;
- analiza rezultate experimentale;
- propune modificări ale unor algoritmi;
- genera date pentru antrenament;
- testa diferite variante;
- căuta vulnerabilități;
- contribui la cercetarea folosită pentru antrenarea altor modele.
Un studiu de sinteză publicat în 2026, care a analizat peste 1.200 de lucrări din domeniu, separă explicit aceste forme limitate de auto-optimizare de recursive self-improvement, forma mult mai ambițioasă în care un sistem îmbunătățit devine apoi mai bun tocmai la procesul de a produce următoarea sa îmbunătățire.
Această ultimă etapă nu este încă demonstrată ca proces autonom, stabil și repetabil.
Un exemplu real: AI folosit pentru a face următorul AI mai sigur
OpenAI a publicat în iulie un exemplu concret al modului în care AI poate participa deja la propriul ecosistem de dezvoltare.
Compania a prezentat GPT-Red, un model folosit pentru a găsi vulnerabilități în alte modele și pentru a ajuta la antrenarea unor versiuni mai rezistente la atacuri de tip prompt injection.
OpenAI spune explicit că agenții AI sunt deja folosiți pentru a îmbunătăți capabilitățile generațiilor următoare de modele și că încearcă să creeze un proces similar și pentru siguranță: modele actuale care ajută la construirea unor modele viitoare mai robuste.
Asta este o formă reală de AI folosit pentru îmbunătățirea AI.
Dar există încă oameni care stabilesc obiectivul, aleg datele, controlează infrastructura, verifică rezultatele și decid dacă noua versiune este folosită.
Atunci de ce sunt cercetătorii îngrijorați?
Pentru că fiecare dintre aceste etape poate deveni mai autonomă.
Astăzi, un om poate spune:
„testează aceste zece variante și spune-mi care funcționează mai bine”.
Un sistem viitor ar putea decide singur:
ce trebuie îmbunătățit;
ce experimente trebuie făcute;
cum trebuie interpretate rezultatele;
ce cod trebuie modificat;
ce nouă variantă trebuie testată.
Dacă această nouă variantă devine apoi mai bună la cercetare AI decât cea precedentă, apare posibilitatea unei bucle:
AI-ul îmbunătățește AI-ul.
Versiunea mai bună devine mai competentă la îmbunătățire.
Apoi produce o versiune și mai competentă.
Acesta este sensul termenului recursive self-improvement, sau îmbunătățire recursivă.
Nu știm dacă această buclă poate accelera fără limite
Aici trebuie separată cercetarea de scenariul extrem.
Există experimente în care agenții AI au reușit să își modifice instrumentele sau să propună îmbunătățiri reutilizate ulterior.
Dar dovezile disponibile nu arată încă un proces stabil prin care generații succesive devin din ce în ce mai bune la propria îmbunătățire fără intervenție umană.
O bază de date specializată care urmărește progresul către recursive self-improvement notează că AI poate deja prelua părți utile din cercetarea AI, dar accelerarea recursivă susținută nu a fost demonstrată.
Asta înseamnă că două afirmații pot fi simultan adevărate:
progresul către automatizarea cercetării AI este real;
și
scenariul în care un AI se îmbunătățește singur exponențial rămâne nedemonstrat.
Chiar OpenAI vorbește acum despre „extreme caution”
Dezbaterea nu vine doar din exteriorul industriei.
Pe 9 septembrie, OpenAI a publicat o poziție oficială în care spune că posibilitatea recursive self-improvement cere „extreme caution” și că sunt necesare reguli care să stabilească inclusiv situațiile în care dezvoltarea ar trebui încetinită sau oprită.
Compania susține introducerea unor cerințe naționale obligatorii de siguranță pentru modelele foarte capabile și standarde comune între laboratoarele de frontieră.
OpenAI spune și că nici o companie și nici un guvern nu poate gestiona singur riscurile unor sisteme suficient de avansate.
Această poziție este importantă pentru că arată că discuția despre self-improvement nu mai este doar una teoretică în mediul academic.
Laboratoarele care construiesc modelele o includ deja în propriile cadre de risc.
Modelele actuale sunt încă sub pragul considerat periculos pentru self-improvement
Există însă și un element liniștitor.
În raportul tehnic pentru GPT-5.6, OpenAI spune că modelele sale actuale nu ating pragul „High” pentru AI Self-Improvement din propriul Preparedness Framework.
Cu alte cuvinte, evaluarea companiei este că actuala generație nu are încă nivelul de capabilitate care ar declanșa măsurile cele mai stricte prevăzute pentru această categorie.
Acest lucru nu înseamnă că modelele nu pot contribui deloc la cercetare.
Înseamnă că, în evaluările publicate de companie, ele nu au ajuns la nivelul de autonomie și eficiență considerat suficient de ridicat pentru a reprezenta acel prag specific.
Cercetătorii spun că problema este cursa dintre companii
Reuters relatează că o parte dintre cercetători consideră că laboratoarele ar trebui să încetinească dezvoltarea chiar dacă rivalii continuă.
Argumentul lor este simplu:
dacă fiecare companie spune că nu poate opri pentru că alta ar putea ajunge prima, atunci nimeni nu are stimulentul să frâneze.
Este același tip de problemă care apare în multe curse tehnologice.
Compania A spune:
„Dacă noi nu construim sistemul, o va face compania B.”
Compania B spune același lucru despre A.
La nivel internațional apare și competiția dintre SUA și China, care adaugă o dimensiune geopolitică problemei. Reuters notează că presiunea politică americană pentru menținerea avantajului față de China complică apelurile la încetinire.
Riscurile despre care vorbesc cercetătorii sunt foarte diferite
Nu toți cei preocupați de self-improvement vorbesc despre același risc.
Unele preocupări sunt apropiate și măsurabile:
pierderi de locuri de muncă, dacă automatizarea cercetării și programării accelerează;
atacuri informatice, dacă sistemele devin mult mai bune la descoperirea și exploatarea vulnerabilităților;
concentrarea puterii, dacă un număr foarte mic de companii controlează sisteme extrem de capabile;
erori greu de monitorizat, dacă agenții pot lucra ore sau zile la sarcini complexe fără supraveghere continuă.
OpenAI a raportat deja că, în teste interne cu modele care lucrează pe perioade mai lungi, au apărut comportamente nedorite care nu fuseseră surprinse de evaluările inițiale. Compania spune că a oprit temporar accesul și a introdus monitorizare la nivelul întregii succesiuni de acțiuni înainte de reluarea utilizării limitate.
Alți cercetători merg mai departe și discută scenarii în care un sistem mult mai capabil decât oamenii ar putea deveni greu sau imposibil de controlat.
Aceste scenarii sunt mult mai disputate.
Reuters menționează inclusiv riscul extrem al dispariției umanității, dar acesta este prezentat ca avertisment formulat de unii cercetători, nu ca rezultat demonstrat sau predicție certă.
De ce contează dacă AI devine bun la cercetare AI
Aici este poate partea cea mai importantă.
Progresul actual al AI depinde în mare măsură de oameni.
Cercetătorii inventează arhitecturi.
Inginerii scriu cod.
Echipele construiesc seturi de date.
Oamenii fac experimente.
Oamenii analizează de ce un model a eșuat.
Procesul durează.
Dacă AI începe să facă o parte tot mai mare din această muncă, viteza dezvoltării AI poate crește.
Un cercetător poate coordona zece agenți.
Aceștia pot testa simultan sute de variante.
Unele pot lucra zi și noapte.
Iar dacă rezultatele lor sunt folosite pentru următoarea generație, automatizarea nu mai înseamnă doar că AI scrie emailuri sau cod pentru utilizatori.
Înseamnă că AI începe să accelereze chiar procesul prin care AI devine mai capabil.
Asta este schimbarea asupra căreia avertizează cercetătorii.
Nu este același lucru cu „AI devine conștient”
Există o altă confuzie frecventă.
Self-improvement nu implică automat conștiință.
Un sistem nu trebuie să „își dorească să fie mai inteligent” pentru a participa la propria îmbunătățire.
Poate pur și simplu să primească o sarcină:
„găsește o arhitectură mai eficientă”.
„optimizează acest algoritm”.
„descoperă de ce modelul pierde puncte la test”.
„scrie o metodă mai bună de antrenare”.
Dacă produce rezultate bune, acestea pot fi integrate în generația următoare.
Discuția este despre capabilitate și autonomie, nu despre sentimentele sau conștiința sistemului.
De ce companiile nu vor pur și simplu să oprească dezvoltarea
Pentru că miza economică este enormă.
AI poate accelera dezvoltarea medicamentelor, cercetarea științifică, programarea și proiectarea unor tehnologii noi.
OpenAI argumentează că sisteme foarte avansate ar putea ajuta la rezolvarea unor probleme științifice care au rezistat generații întregi de cercetători.
Iar industria investește deja sute de miliarde de dolari în infrastructură.
În aceeași zi în care Reuters publică avertismentele cercetătorilor, piața urmărește și planurile Anthropic pentru investiții de peste 500 de miliarde de dolari în infrastructură AI în următorul deceniu.
Așadar, discuția despre siguranță are loc în mijlocul uneia dintre cele mai mari curse investiționale din tehnologie.
Unde suntem astăzi
În septembrie 2026, avem deja sisteme AI care:
scriu cod;
fac research;
rulează experimente;
caută vulnerabilități;
ajută la antrenarea și evaluarea altor modele;
pot lucra perioade tot mai lungi ca agenți.
Nu avem însă dovada unui sistem care să poată porni singur un proces nelimitat de îmbunătățire recursivă, să producă generații succesive tot mai puternice și să scoată oamenii complet din buclă.
Diferența dintre cele două situații este enormă.
Și exact de aceea cercetătorii spun că perioada de dinaintea apariției unor astfel de sisteme este momentul în care trebuie stabilite regulile.
După ce tehnologia există, controlul poate deveni mult mai dificil.
Întrebarea nu mai este dacă AI va ajuta la construirea AI
Asta se întâmplă deja.
Întrebarea este cât de mult din proces va putea prelua.
Astăzi, omul stabilește obiectivele, controlează computerele, decide ce modificări sunt acceptate și dacă un model nou este lansat.
Pe măsură ce sistemele devin mai bune la cercetare, proporția de muncă făcută de oameni poate scădea.
La un anumit punct, avertizează cercetătorii citați de Reuters, diferența dintre:
„AI ne ajută să construim un AI mai bun”
și
„AI construiește următoarea versiune de AI cu supraveghere umană minimă”
poate deveni cea mai importantă graniță tehnologică a următorilor ani.
Iar faptul că inclusiv companiile care dezvoltă aceste sisteme discută public despre recursive self-improvement, praguri de risc și situații în care dezvoltarea ar trebui încetinită arată că subiectul a ieșit deja din zona science-fiction.