Cum și în ce condiții ar putea Inteligența Artificială să distrugă omenirea?

Conf. univ. dr. N. Grigorie Lăcrița

 

„Inteligența Artificială poate deveni cea mai mare amenințare pentru omenire,

fie atunci când omul pierde controlul asupra ei, fie atunci când este pusă în slujba dominației,

dar poate deveni și cea mai prețioasă resursă a civilizației

atunci când este folosită pentru binele comun.” (N. Grigorie Lăcrița)

 

Cuprins

Introducere: o întrebare care nu mai ține de science-fiction

1. Între cel mai mare eveniment și cel mai mare pericol

2. Prima cale: omul pierde controlul asupra creației sale

3. A doua cale: Inteligența Artificială pusă în slujba dominației

4. A treia cale, cea tăcută: erodarea umanității

5. Condițiile în care pericolul devine catastrofă

6. Cursa pentru supremație: de ce este atât de greu să se reglementeze Inteligența Artificială

7. Ce ne poate salva

Concluzie: unealta și autorul

 

Introducere: o întrebare care nu mai ține de science-fiction

 

Timp de decenii, ideea că mașinile ar putea distruge omenirea a aparținut romanelor și filmelor.

Astăzi ea a intrat în laboratoarele de cercetare, în parlamente și în declarațiile oficiale ale statelor.

În mai 2023, sute de cercetători și conducători ai marilor companii de Inteligență Artificială au semnat o declarație scurtă.

Ea afirma că reducerea riscului de extincție cauzat de IA trebuie să fie o prioritate globală, alături de pandemii și de războiul nuclear.

Printre semnatari se aflau Geoffrey Hinton și Yoshua Bengio, doi dintre părinții științifici ai acestei tehnologii.

Hinton avea să primească, în anul următor, Premiul Nobel pentru Fizică.

Când cei care au creat o tehnologie avertizează că ea ar putea deveni fatală, întrebarea nu mai poate fi ignorată.

Nu mai întrebăm dacă IA ar putea fi periculoasă.

Întrebăm cum și în ce condiții ar putea deveni distrugătoare.

 

1. Între cel mai mare eveniment și cel mai mare pericol

 

Stephen Hawking a formulat dilema cu o luciditate rară:

„Succesul în crearea unei AI eficiente ar putea fi cel mai mare eveniment din istoria civilizației noastre. Sau cel mai rău. Pur și simplu nu știm. Deci, nu putem ști dacă vom fi ajutați la infinit de AI, sau ignorați de ea și dați la o parte, sau, eventual, distruși de ea.”

Același savant a mers și mai departe: „Dezvoltarea inteligenței artificiale complete ar putea însemna sfârșitul rasei umane.”

Există și viziunea opusă, optimistă, a liderilor industriei.

Ea este rezumată într-un gând atribuit lui Satya Nadella, director general al Microsoft: „Viitorul aparține celor care înțeleg inteligența artificială și îi îmbrățișează puterea.”

Ambele perspective conțin adevăr.

IA poate vindeca boli, poate accelera știința și poate elibera omul de munca istovitoare.

Dar puterea care poate construi poate și distruge.

Fraza lui Nadella ascunde, fără să vrea, chiar miezul problemei.

Cine îmbrățișează această putere?

Și în ce scop?

Analiza riscurilor arată că există trei căi principale prin care IA ar putea duce omenirea spre dezastru.

 

2. Prima cale: omul pierde controlul asupra creației sale

 

Primul scenariu este cel al unei IA care ajunge să acționeze împotriva intereselor umane, fără ca cineva să fi dorit acest lucru.

Nu este nevoie ca mașina să „urască” omul.

Este suficient ca obiectivele ei să nu coincidă exact cu ale noastre și ca ea să fie destul de puternică încât noi să nu o mai putem opri.

Cercetătorii numesc aceasta problema alinierii: cum ne asigurăm că un sistem foarte capabil urmărește cu adevărat ceea ce vrem noi, nu doar ceea ce am reușit să formulăm?

Un sistem căruia i se cere să atingă un scop cu orice preț poate „descoperi” că rezistența la oprire, acumularea de resurse sau înșelarea supraveghetorilor îl ajută să-și atingă scopul.

Aceste comportamente nu ar fi rezultatul răutății.

Ar fi rezultatul unei logici reci, lipsite de valorile pe care omul nu a știut să i le transmită.

Pericolul crește în anumite condiții.

Primul factor este capacitatea: sistemele devin mai inteligente decât oamenii în tot mai multe domenii.

Al doilea este autonomia: li se încredințează acțiuni în lumea reală, nu doar răspunsuri.

Al treilea este accesul la infrastructuri critice, precum rețele energetice, sisteme financiare, laboratoare sau arme.

Al patrulea este viteza: deciziile se iau mai repede decât poate omul să le verifice.

Dacă toate acestea se întâlnesc înainte ca știința să fi rezolvat problema controlului, omul ar putea constata prea târziu că a pierdut frâiele.

Elon Musk a exprimat această temere într-o imagine puternică:

„Sunt din ce în ce mai înclinat să cred că ar trebui să existe o supraveghere de reglementare, poate la nivel național și internațional, doar pentru a ne asigura că nu facem ceva foarte prostesc. Adică, cu inteligența artificială necontrolată, chemăm demonul.”

 

3. A doua cale: Inteligența Artificială pusă în slujba dominației

 

Al doilea scenariu este, poate, mai probabil și mai apropiat.

Aici IA nu scapă de sub control.

Ea rămâne perfect ascultătoare, dar ascultă de cine nu trebuie.

„Omul poate deveni victima propriei sale creații – Inteligența Artificială – fie atunci când pierde controlul asupra ei, fie atunci când o transformă într-un instrument al puterii fără responsabilitate.” (N. Grigorie Lăcrița)

Formele acestui pericol sunt deja vizibile.

Prima sunt armele autonome, care pot alege și lovi ținte fără decizie umană și transformă războiul într-o confruntare de algoritmi.

A doua este supravegherea totală: recunoașterea facială, analiza comunicațiilor și evaluarea automată a cetățenilor pot da unui regim autoritar o putere de control pe care niciun dictator din istorie nu a avut-o.

A treia este manipularea în masă: falsuri video și audio imposibil de deosebit de realitate și propagandă personalizată pentru fiecare om în parte.

A patra este folosirea IA de către grupări criminale sau teroriste, de exemplu pentru atacuri informatice asupra infrastructurii sau pentru obținerea de cunoștințe periculoase din domeniul armelor biologice și chimice.

Shoshana Zuboff a descris mecanismul economic care stă la baza unei asemenea dominații:

„În lumea Internetului Lucrurilor, experiența umană a devenit doar o materie primă pe care mașinile o fură pentru a prezice și a ne controla viitorul.”

O putere concentrată în mâinile câtorva state sau corporații, sprijinită pe sisteme care știu totul despre toți, ar putea distruge omenirea și fără un singur foc de armă.

Ar distruge-o ca omenire liberă.

 

4. A treia cale, cea tăcută: erodarea umanității

 

Există și un pericol care nu vine cu explozii, ci pe nesimțite.

Omul nu ar fi distrus fizic, ci golit treptat de ceea ce îl face om: gândirea proprie, relațiile autentice, încrederea în adevăr.

Yuval Noah Harari a atras atenția asupra unui prag simbolic. Într-o adaptare după ideile sale: „Dacă am o conversație cu cineva și nu pot spune dacă este un om sau un AI – acela este sfârșitul comunicării umane pure.”

Un gând atribuit frecvent lui Albert Einstein exprimă aceeași neliniște: „Mi-e teamă de ziua în care tehnologia va fi mai importantă ca relaţiile interumane. În lume va exista o generaţie de idioţi.” Lui i se atribuie și constatarea că „a devenit cumplit de evident că tehnologia ne-a depăşit umanitatea.”

Când omul încredințează mașinii nu doar munca, ci și judecata, memoria, alegerile și chiar consolarea, el riscă să-și piardă capacitatea de a trăi fără ea.

O civilizație dependentă de sisteme pe care nu le mai înțelege și nu le mai poate controla este o civilizație vulnerabilă.

Este vulnerabilă la eșecul acestor sisteme, dar și la cei care le stăpânesc.

Aici devine limpede că IA este, în fond, o oglindă.

Ravi Narayanan observa că „Inteligența Artificială este o oglindă care reflectă nu doar intelectul nostru, ci și valorile noastre.”

Dacă valorile pe care le reflectă sunt lăcomia, setea de putere și indiferența față de semeni, atunci oglinda ne va arăta chipul propriei noastre căderi.

 

5. Condițiile în care pericolul devine catastrofă

 

Analizând cele trei căi, putem identifica principalele condiții care transformă riscul în dezastru.

Prima condiție este cursa înarmării tehnologice. Când companiile și statele se întrec să ajungă primele, siguranța devine un obstacol, nu o prioritate. Fiecare se teme că, dacă încetinește, va câștiga celălalt.

A doua este lipsa reglementării și a cooperării internaționale. Uniunea Europeană a adoptat în 2024 primul cadru juridic cuprinzător pentru IA. Au existat și angajamente internaționale, precum Declarația de la Bletchley din 2023. Dar tehnologia nu cunoaște granițe, iar un sistem periculos dezvoltat oriunde amenință pe toți.

A treia este concentrarea puterii în mâinile unui număr foarte mic de actori, fără mecanisme reale de control democratic.

A patra este dezvoltarea unor capacități înaintea înțelegerii lor. Sistemele actuale sunt construite prin antrenament pe volume uriașe de date, iar nici creatorii lor nu înțeleg pe deplin cum ajung la deciziile pe care le iau.

A cincea, și poate cea mai profundă, este criza morală a omului: separarea puterii de responsabilitate. Albert Einstein a înțeles acest pericol încă din 1917, în plin Prim Război Mondial, când a văzut cum știința era pusă în slujba morții. Într-o scrisoare către prietenul său Heinrich Zangger, el scria: „Întregul nostru progres tehnologic atât de lăudat – însăși civilizația noastră – este ca un topor în mâna unui criminal patologic.”

Un secol mai târziu, Inteligența Artificială este cel mai puternic topor pe care l-a făurit vreodată omul.

Rămâne întrebarea în ce mâini va ajunge.

„Nu Inteligența Artificială este pericolul, ci decizia de a o dezvolta până când se transformă în propriul nostru călău. Când condamnăm unealta în locul autorului, ne pregătim singuri sfârșitul.” (N. Grigorie Lăcrița)

 

6. Cursa pentru supremație:
de ce este atât de greu să se reglementeze Inteligența Artificială

 

Dacă pericolele sunt atât de mari, de ce nu se opresc statele?

De ce nu încheie un tratat care să frâneze dezvoltarea Inteligenței Artificiale, așa cum s-a încercat în cazul armelor nucleare?

Răspunsul ține de natura puterii.

Un gând atribuit lui Klaus Schwab, fondatorul Forumului Economic Mondial, rezumă miza: „Cine controlează inteligența artificială va controla lumea.”

Vladimir Putin a spus același lucru, deschis, încă din septembrie 2017. Atunci el afirma, în fața unor elevi ruși, că „Inteligența Artificială este viitorul nu doar al Rusiei, ci al întregii omeniri, iar cel care va deveni lider în acest domeniu va deveni stăpânul lumii.”

Când miza este dominația lumii, nimeni nu renunță de bunăvoie la a fi cel mai puternic.

Prima piedică este teama de celălalt. Fiecare stat gândește la fel: „Dacă eu mă opresc, iar adversarul meu continuă, voi rămâne fără apărare.” Astfel, chiar și cei care înțeleg pericolul se simt obligați să accelereze.

A doua piedică este secretul, mai ales în domeniul militar. Cercetările cele mai avansate se desfășoară în laboratoare închise, sub semnul „strict secret”. Nimeni nu știe exact cât de departe a ajuns celălalt, iar neîncrederea alimentează cursa.

A treia piedică este dificultatea verificării. Armele nucleare cer uraniu îmbogățit, reactoare și instalații uriașe, care pot fi observate și inspectate. Inteligența Artificială este, în mare parte, cod și date. Un program poate fi copiat, ascuns sau transferat într-o clipă. Cum poți verifica dacă un stat respectă un tratat, când obiectul tratatului încape pe un disc?

A patra piedică este dubla folosință. Aceeași tehnologie care diagnostichează boli sau traduce texte poate conduce drone de luptă sau poate sparge sisteme informatice. Este aproape imposibil să interzici partea periculoasă fără să oprești și partea benefică.

A cincea piedică este interesul economic. Companiile care dezvoltă IA sunt printre cele mai bogate și mai influente din lume. Ele concurează între ele cu aceeași înverșunare cu care concurează statele.

Așadar, încheierea unor acorduri care să frâneze cu adevărat dezvoltarea Inteligenței Artificiale este extrem de dificilă, poate cea mai dificilă provocare diplomatică a secolului.

Totuși, istoria arată că nu este imposibilă.

În plin Război Rece, Statele Unite și Uniunea Sovietică, deși se suspectau reciproc, au încheiat tratate de limitare a armelor nucleare.

Le-au încheiat pentru că amândouă au înțeles că, într-un război atomic, nu ar exista învingători.

În noiembrie 2024, președinții Statelor Unite și Chinei au convenit că decizia de a folosi armele nucleare trebuie să rămână la oameni, nu la Inteligența Artificială.

Este un pas mic, dar arată că, atunci când pericolul devine evident pentru toți, chiar și adversarii pot găsi un punct comun.

Din păcate, istoria arată și că omenirea învață adesea abia după tragedii.

Au fost necesare Hiroshima și Nagasaki, iar apoi criza rachetelor din Cuba, când lumea a fost la un pas de războiul nuclear, pentru ca marile puteri să accepte primele acorduri de limitare a armelor atomice.

În cazul Inteligenței Artificiale, însă, s-ar putea să nu existe un „după”.

O catastrofă provocată de o IA scăpată de sub control sau folosită ca armă supremă ar putea fi atât de mare încât să nu mai rămână nimeni care să tragă învățămintele.

Sau ar rămâne doar supraviețuitori aruncați înapoi în vremurile primitive.

Albert Einstein a avertizat, după Hiroshima: „Nu ştiu cum se va lupta în cel de-al treilea război mondial, dar ştiu că în cel de-al patrulea se va lupta cu bâte şi cu pietre.”

De aceea, înțelegerea dintre state trebuie să vină înainte de catastrofă.

În cazul în care Inteligența Artificială scapă de sub control sau este folosită ca armă supremă, s-ar putea ca omenirea să nu primească o a doua șansă.

 

 

7. Ce ne poate salva

 

Distrugerea omenirii prin IA nu este o fatalitate.

Este un risc, iar riscurile pot fi gestionate dacă sunt luate în serios la timp.

Primul pas este cercetarea siguranței. Este nevoie de efort științific serios pentru a înțelege cum funcționează aceste sisteme și cum pot fi menținute sub control, înainte ca ele să devină mai puternice.

Al doilea pas este reglementarea inteligentă, la nivel național și internațional, inclusiv interdicții clare pentru utilizările cele mai periculoase, cum ar fi armele care ucid fără decizie umană.

Al treilea este transparența și responsabilitatea celor care dezvoltă IA, precum și evaluarea independentă a sistemelor înainte de lansare.

Al patrulea este educația: oamenii trebuie să înțeleagă ce este IA, ca să nu fie nici victime naive, nici adversari ignoranți ai ei.

Al cincilea, și cel mai important, este reînnoirea morală: IA trebuie pusă în slujba binelui comun, nu a dominației.

 

Concluzie: unealta și autorul

 

Răspunsul la întrebarea din titlu poate fi formulat astfel. Inteligența Artificială poate distruge omenirea pe trei căi.

Prima este pierderea controlului asupra unor sisteme mai puternice decât noi.

A doua este folosirea ei ca instrument al dominației.

A treia este erodarea lentă a umanității noastre.

Toate aceste căi au o rădăcină comună: omul.

Omul o creează, omul decide cât de repede și cu câtă prudență o dezvoltă, omul hotărăște în slujba cui o pune.

„Omul și-a creat singur această Inteligență Artificială despre care ar putea să constate că prin ea «și-a săpat singur mormântul».” (N. Grigorie Lăcrița)

Dar tot omul poate alege altfel.

Aceeași putere care ar putea fi „chemarea demonului” poate deveni cea mai prețioasă resursă a civilizației.

Viitorul nu este scris de algoritmi.

Este scris de deciziile pe care le luăm astăzi.