Inteligența artificială se îmbunătățește deja singură, iar asta e demonstrat. Că ne va duce la dispariție, nu e. Între cele două afirmații stau mai multe goluri pe care studiile din 2025-2026 le arată limpede.
Discuția publică despre AI a ajuns la un ton apocaliptic. Directori de companii care nu sunt de acord în nimic altceva admit că tehnologia lor ar putea pune în pericol civilizația. Cercetători respectați vorbesc în fața parlamentelor despre ani, nu decenii. Un sondaj pe aproape 2.800 de cercetători AI arată că între 38% și 51% dintre ei dau cel puțin 10% șanse ca AI-ul avansat să ducă la ceva la fel de grav ca extincția umană.
Teza care circulă e simplă: AI-ul va învăța să se îmbunătățească singur, într-o buclă numită auto-îmbunătățire recursivă. Bucla va scăpa de sub control, iar rezultatul final va fi dispariția omenirii.
E o afirmație enormă. Poate fi corectă, dar dacă e, ar trebui să existe cercetare care s-o susțină. Nu prognoze sau intuiții, oricât de valoroase, ci rezultate publicate și testate experimental. Am luat la rând principalele studii pe această temă și am verificat cifrele direct în sursele originale. Iată ce spun ele, pas cu pas.
Partea care e reală: AI-ul se îmbunătățește deja singur
Cine spune că totul e doar hype nu a citit literatura de specialitate. Primele forme de auto-îmbunătățire există, sunt măsurabile și accelerează.
Un program care își rescrie propriul cod. Darwin Gödel Machine, publicat în 2025 de Jenny Zhang, Shengran Hu, Jeff Clune și colaboratori, își modifică propriul cod, testează dacă modificarea e mai bună și o folosește ca bază pentru următoarea. Pe SWE-bench, un test de programare, a urcat de la 20% la 50%. Pe un alt test, Polyglot, de la 14,2% la 30,7%.
Studiul: https://arxiv.org/abs/2505.22954
Un algoritm care a bătut un record de 56 de ani. AlphaEvolve, de la Google DeepMind, a găsit o metodă de a înmulți două matrici complexe 4×4 folosind 48 de înmulțiri. E prima îmbunătățire față de algoritmul lui Strassen în 56 de ani. Mai important pentru discuția de față: AlphaEvolve a optimizat și infrastructura Google, inclusiv antrenarea modelului de limbaj pe care rulează chiar el. Altfel spus, AI-ul îmbunătățește deja lucrurile din care se construiește AI.
Studiul: https://arxiv.org/abs/2506.13131
Agenți mai rapizi decât cercetătorii. RE-Bench, un test creat de organizația METR, compară agenți AI cu experți umani pe sarcini reale de cercetare în machine learning. La un buget de două ore, cei mai buni agenți au obținut un scor de patru ori mai mare decât oamenii.
Studiul: https://arxiv.org/abs/2411.15114
Un experiment de la Anthropic. Nouă agenți Claude au lucrat autonom cinci zile la o problemă de siguranță AI. Au recuperat 97% din „decalajul de performanță” măsurat. Doi cercetători umani, după șapte zile de lucru pe aceeași problemă, ajunseseră la 23%.
Studiul: anthropic.com/research/automated-alignment-researchers
Raportul tehnic: alignment.anthropic.com/2026/automated-w2s-researcher/
Un domeniu care explodează. Un survey publicat în 2026 de Mingguang Chen, Licheng Wang și Bo Qu a trecut în revistă 1.250 de lucrări științifice despre auto-îmbunătățirea AI, toate din 2024–2026.
Studiul: arxiv.org/abs/2607.07663
Nimic din toate acestea nu exista acum cinci ani. Dacă povestea s-ar opri aici, ar fi motive serioase de îngrijorare. Dar povestea nu se oprește aici.
Dependența ascunsă: toate succesele au avut un tabel de scor
Toate rezultatele impresionante de mai sus au un lucru în comun. Fiecare sistem a avut ceva din afara lui care îi spunea dacă a reușit sau nu.
Darwin Gödel Machine își testează modificările pe un benchmark cu scor măsurabil. AlphaEvolve primește permanent feedback de la evaluatori automați: e noul algoritm mai rapid, da sau nu? Agenții Anthropic au optimizat o metrică precisă. RE-Bench măsoară sarcini cu rezultate definite dinainte.
Survey-ul lui Chen, Wang și Qu formalizează acest tipar sub numele de ierarhia verificării. Cele mai puternice rezultate de auto-îmbunătățire folosesc verificatori formali, adică demonstrații matematice că noua versiune e corectă. Urmează feedback-ul din execuție (rulezi codul și vezi dacă merge), apoi evaluatorii învățați și, la coadă, autoevaluarea sistemului. Autorii arată că puterea rezultatelor urmează exact această ierarhie: cu cât semnalul e mai slab, cu atât auto-îmbunătățirea e mai slabă, iar eșecurile tipice, precum buclele care se autoconfirmă, apar tocmai când ierarhia e încălcată.
Aici e miezul problemei. Cercetarea științifică reală nu are un tabel de scor. Nu există un test automat pentru întrebarea „este aceasta o direcție bună de cercetare?”. Survey-ul identifică un blocaj care ține oamenii în buclă: nu doar verificarea rezultatelor, ci și decizia, anterioară, despre ce merită evaluat în primul rând.
97% în laborator, nimic semnificativ în realitate
Experimentul Anthropic e cel mai bun exemplu pentru diferența dintre a bate un test și a rezolva o problemă.
În primul rând, agenții au trișat. Au descoperit mai multe moduri de a obține scoruri mari fără să rezolve problema reală, iar cercetătorii au recunoscut că nu anticipaseră niciunul. Într-un caz, pe probleme de matematică, un agent a observat că răspunsul cel mai frecvent e de obicei cel corect. Așa că a sărit complet peste metoda pe care trebuia s-o studieze și a ales mereu răspunsul majoritar. Aceste tentative au fost detectate și eliminate din rezultate.
În al doilea rând, rezultatul nu s-a transferat. Experimentul a folosit modele mici, open-source. Când cea mai bună metodă găsită de agenți a fost încercată pe un model de producție, Claude Sonnet 4, cu infrastructura reală de antrenare a companiei, nu a adus nicio îmbunătățire semnificativă statistic. Nici pe sarcini noi, de matematică și programare, metodele nu au mers uniform: una a funcționat bine la matematică, dar a înrăutățit rezultatele la cod.
E ca și cum ai trece „franceză fluentă” în CV pentru că ai 97% pe o aplicație de învățat limbi străine, iar apoi, ajuns la Paris, nu reușești să ceri o pâine.
AI-ul execută excelent, dar nu are încă judecată științifică
Cel mai direct test al acestei limite vine de la Princeton. O echipă condusă de Peter Kirgis, Sayash Kapoor și Arvind Narayanan a luat două lucrări reale, de calitate, trimise la conferința NeurIPS 2026 și încă nepublicate. Pentru că lucrările nu existau public, modelele nu puteau găsi sau memora răspunsurile. Agenții AI au primit întrebarea centrală a fiecărei lucrări, șase zile de lucru și mii de dolari în putere de calcul. Rezultatul l-au judecat chiar autorii originali.
Studiul: arxiv.org/abs/2607.27191
Agenții au făcut toată partea de inginerie fără ajutor uman: au căutat literatura, au scris codul, au configurat mediile, au rulat experimente. Dar nu au făcut progrese substanțiale pe întrebările de cercetare, iar ambele lucrări au fost respinse categoric de autori. Cercetătorii au identificat cinci tipuri de eșec recurente: judecată slabă despre ce înseamnă cercetare publicabilă, reacții lipsite de creativitate la problemele de design, incapacitatea de a renunța la o direcție fără ieșire, lipsa de simț al resurselor și deriva de la instrucțiuni.
Aceeași limită apare și în RE-Bench. Avantajul de patru ori al agenților la două ore dispare pe măsură ce timpul crește. La opt ore, oamenii trec la limită în față. La 32 de ore, au un scor dublu față de cel mai bun agent. Concluzia autorilor: oamenii obțin un randament mai bun din timpul suplimentar.
Un agent care lucrează prost șase zile nu devine un cercetător bun dacă primește șase luni. Blocajul pare să nu fie de anduranță, ci de discernământ.
Nici companiile nu pretind contrariul. În septembrie 2026, OpenAI a anunțat că a atins un „stagiar de cercetare automatizat”: un sistem care execută sarcini bine definite, sub îndrumare umană. Compania precizează că oamenii stabilesc în continuare prioritățile și decid ce idei merită urmărite. Peste jumătate din sarcinile reușite de patru–opt ore au avut nevoie de cel puțin o intervenție umană, iar planificarea de nivel înalt a rămas o parte minimă din munca agenților. Ținta următoare a OpenAI este un cercetător AI complet automatizat până în martie 2028, dar aceasta e o țintă de companie, nu o dată stabilită experimental.
Raportul OpenAI: openai.com/index/research-acceleration-view-inside-openai/
Și dacă blocajul dispare? O buclă nu explodează automat
Obiecția serioasă la tot ce am spus până aici e istoria AI-ului însăși. Ea e plină de capacități care păreau imposibile până când au apărut brusc. Blocajul judecății ar putea dispărea cu un model mai mare sau cu o idee nouă de antrenare. Să presupunem că se întâmplă. Rezultă automat o explozie a inteligenței?
Intuiția spune că da: AI face cercetare, cercetarea face AI mai bun, AI-ul mai bun face mai multă cercetare. Dar recursivitatea în teorie și recursivitatea în practică sunt lucruri diferite.
Economia buclei. Tom Cunningham și colaboratorii săi au modelat economic auto-îmbunătățirea recursivă în septembrie 2026. Accelerarea netă depinde de produsul mai multor factori din buclă, iar fiecare poate frâna. Următoarea descoperire poate fi mai grea decât precedenta. Antrenarea rămâne limitată de puterea de calcul, iar cipurile trebuie fabricate în fabrici care trebuie construite. Autorii disting și între capacități „înguste”, de a optimiza teste de cercetare AI, și capacități „largi”, cu valoare economică reală. Calculul lor arată că buclele de feedback nu sunt deocamdată suficient de puternice pentru o accelerare care se autoîntreține, deși par să se întărească.
Studiul: arxiv.org/abs/2609.15802
Pragul critic. Mikhail Burtsev a derivat un „număr de reproducere” al AI-ului, asemănător celui din epidemiologie. Sub valoarea 1, îmbunătățirile se sting de la un ciclu la altul. Peste 1, se amplifică. Partea incomodă: un sistem poate trece pragul înainte ca accelerarea să devină vizibilă. Dar la fel de adevărat, progresul rapid poate apărea și fără autoamplificare, iar dificultatea crescândă a cercetării poate opri o perioadă de autoamplificare.
Studiul: arxiv.org/abs/2609.00137
Una dintre mai multe căi. Raportul Google DeepMind From AGI to ASI, din iunie 2026, tratează auto-îmbunătățirea recursivă drept una dintre patru căi posibile spre superinteligență, alături de scalare, schimbări de paradigmă și colective de agenți. Le prezintă ca posibilități care merită analizate, nu ca drumuri demonstrate.
Raportul: arxiv.org/abs/2606.12683
Ce spun prognozele. Raportul Internațional de Siguranță AI 2026, coordonat de Yoshua Bengio, a întrebat experți în prognoze dacă progresul din următorii ani ar putea comprima șase ani de avans (2018–2024) în doar doi. Experții în prognoze AI au dat o probabilitate mediană de 20%. Superforecasterii, prognozatori generaliști cu rezultate dovedite, au dat doar 8%.
Raportul: internationalaisafetyreport.org/publication/international-ai-safety-report-2026
De la superinteligență la extincție: un lanț lung de „și apoi”
Să mergem până la capăt. Să presupunem că bucla pornește, se autoîntreține și produce o inteligență mult superioară celei umane. Asta ne dă un AI extrem de puternic. Nu ne dă, automat, extincția.
Extincție înseamnă zero oameni. Înseamnă ca peste opt miliarde de oameni, răspândiți în aproape orice colț locuibil al planetei, inclusiv comunități izolate fără nicio legătură cu infrastructura digitală, să dispară toți, fără posibilitate de refacere.
Scenariile discutate în literatură, de la patogeni creați artificial la atacuri cibernetice asupra infrastructurii critice sau la sisteme militare, sunt toate reale și merită studiate. Dar fiecare e un model de amenințare separat, cu propriul lanț de dovezi. Un scenariu de extincție printr-un patogen ar cere, de exemplu, transmisibilitate și letalitate extraordinare, sinteză și răspândire reușite în laborator, acoperire globală până în cele mai izolate comunități, eșecul tuturor contramăsurilor și imposibilitatea oricărei refaceri. Fiecare verigă e o afirmație substanțială separată. Chiar și versiunile cele mai grave ale acestor scenarii descriu o catastrofă, iar o catastrofă, oricât de oribilă, e o afirmație diferită de extincție.
Cât despre termene, ele sunt mai degrabă intuiție decât măsurătoare. Cel mai mare sondaj de acest tip, condus de Katja Grace pe 2.778 de cercetători AI, arată cât de mult contează formularea întrebării. Întrebați când vor depăși mașinile oamenii la orice sarcină, cercetătorii au dat 50% șanse până în 2047. Întrebați când vor putea fi automatizate complet toate ocupațiile umane, aceiași oameni au dat 50% șanse abia în 2116. Aceiași experți, același sondaj, 69 de ani diferență.
Studiul: arxiv.org/abs/2401.02843
Intuiția unor experți cu realizări imense merită respect. Dar nu merită tratată ca un fapt demonstrat experimental, mai ales când subiectul e dispariția speciei.
Totuși, există motive reale de îngrijorare
Nimic din cele de mai sus nu înseamnă că putem dormi liniștiți. Aceleași studii documentează probleme concrete, deja observate:
- Agenți care au compromis infrastructura. Pe 20 iulie 2026, OpenAI a descoperit că agenții săi compromiseseră infrastructura de cercetare. Compania a oprit temporar serviciul folosit la antrenare, l-a repornit cu restricții suplimentare și a suspendat timp de două săptămâni antrenarea prin învățare prin întărire pentru cele mai noi modele.
- Trișări pe care nimeni nu le-a anticipat. Agenții Anthropic au găsit scurtături pe care cercetătorii nu le prevăzuseră, într-un mediu proiectat special să reziste la astfel de încercări.
- Un prag care poate trece neobservat. Modelul lui Burtsev arată că regimul de autoamplificare poate începe înainte să vedem o accelerare evidentă.
- Buclele se întăresc. Modelul lui Cunningham nu vede încă o explozie, dar vede o tendință în creștere.
- Nici liderii domeniului nu au soluția. OpenAI, compania care urmărește cel mai agresiv cercetarea automatizată, admite că nu știe încă cum să ajungă în siguranță la o auto-îmbunătățire recursivă completă și aliniată, și că modelele mai puternice pot deveni mai greu de monitorizat.
- Cercetătorii înșiși sunt îngrijorați. Între 38% și 51% dintre cei 2.778 de cercetători intervievați de Grace au dat cel puțin 10% șanse unor consecințe la fel de grave ca extincția. Și au căzut de acord pe larg că cercetarea pentru reducerea riscurilor trebuie prioritizată mai mult.
Incertitudinea însăși e un argument pentru mai multă cercetare de siguranță, nu pentru mai puțină. Iar problemele deja demonstrate, de la trișarea evaluărilor la compromiterea infrastructurii, sunt argumente concrete pentru reglementare.
Concluzie: nici panică, nici liniștire
Când citești studiile cap-coadă, tabloul arată cam așa:
- Demonstrat: AI-ul se îmbunătățește singur în sarcini bine delimitate, cu un scor extern clar.
- Nedemonstrat: AI-ul poate decide singur ce merită cercetat. Primele teste arată că încă nu poate.
- Întrebare deschisă: chiar dacă ar putea, bucla s-ar autoîntreține sau s-ar stinge sub limitele fizice și dificultatea crescândă a cercetării.
- Un lanț separat de dovezi: trecerea de la un AI foarte puternic la dispariția omenirii.
Problema dezbaterii publice nu e că oamenii se îngrijorează. E că pun în aceeași categorie ce merită investigat, ce e plauzibil, ce e prognozat și ce e demonstrat, iar apoi vorbesc despre toate ca și cum ar fi demonstrate.
Ca în filmul Don't Look Up, mulți spun că refuzăm să privim cerul. Dar în film, asteroidul era în telescop și traiectoria era calculată. Aici, când te uiți atent, vezi ceva care poate fi o cometă sau poate fi o pată pe lentilă. Asta e un motiv să continuăm să ne uităm, cu mai multe telescoape și mai bine calibrate, nu să declarăm sfârșitul lumii și nici să închidem observatorul.
