Transparența Algoritmică și Suveranitatea Digitală

Conf. univ. dr. N. Grigorie Lăcrița

 

1. Transparența algoritmică

 

„Inteligența artificială trebuie să fie un instrument care servește omenirea,

 nu unul care o manipulează din umbră. Fără explicații, nu există încredere.”

(Tim Berners-Lee, inventatorul World Wide Web)

 

Transparența algoritmică este un principiu de etică și guvernanță digitală, care ne spune:

1) „Să înțelegem «mintea» mașinii”, și

2) că procesele și logica din spatele deciziilor luate de o Inteligență Artificială (IA) trebuie să fie vizibile și pe înțelesul tuturor.

Aceasta vizează deschiderea „cutiei negre” a algoritmilor prin auditare independentă și garantarea dreptului cetățeanului la o explicație logică în cazul deciziilor automatizate care îl afectează direct (ex. credite, angajări).

Reprezintă un mecanism esențial de apărare împotriva manipulării prin sisteme de IA de tip roi (swarm AI).

Deschiderea „cutiei negre” – Multe sisteme de IA sunt opace – nici chiar creatorii lor nu înțeleg exact cum s-a ajuns la un rezultat. Transparența urmărește să facă acest proces explicabil.

Verificarea (Auditarea) – Experții independenți trebuie să poată verifica codul și datele pentru a se asigura că sistemul nu este nedrept, discriminatoriu sau ilegal.

Dreptul la explicație – Orice cetățean are dreptul să primească o explicație logică atunci când un algoritm îi respinge, de exemplu, o cerere de credit sau un dosar de angajare.

 

2. Suveranitatea Digitală

 

„Suveranitatea digitală nu înseamnă izolare, ci capacitatea de

a alege propriul destin tehnologic și de a proteja datele cetățenilor sub propria lege.”

(Fragment din Strategia Digitală a Uniunii Europene)

 

Suveranitatea Digitală exprimă capacitatea unui stat, a unei organizații sau a unui individ de a exercita controlul deplin asupra propriilor date, infrastructuri și identități online, fără dependență excesivă de entități externe.

Implică stocarea datelor sensibile sub jurisdicție națională, autonomia tehnologică prin dezvoltarea de software propriu și protecția împotriva sistemelor străine de monitorizare socială.

Funcționează ca un scut împotriva supravegherii totale.

Suveranitatea Digitală: Cine stăpânește datele noastre?

Se referă la capacitatea de a păstra controlul asupra propriilor date și infrastructuri, fără a depinde excesiv de puteri externe.

Paza datelor – Garanția că informațiile noastre sensibile (medicale, fiscale, judiciare etc.) sunt stocate pe servere protejate de legile noastre, nu lăsate la discreția altor state.

Independența tehnologică – Să nu depindem de programele străine ale furnizorilor externi de tehnologie sau de guvernele statelor de origine ale acestora, care pot opri sau folosi aceste programe pentru presiune politică și spionaj.

Dependența controlată presupune utilizarea tehnologiilor străine doar în zone care nu pot afecta securitatea națională, asigurând în paralel o capacitate de rezervă proprie sau utilizarea de soluții cu cod deschis (Open Source), care nu pot fi „închise” de la distanță.

Soluția: dezvoltarea de programe software naționale pentru sectoarele cheie (securitate națională, apărare, energie, administrație) și impunerea unor clauze juridice de continuitate, care să garanteze funcționarea serviciilor chiar și în cazul unor sancțiuni sau restricții comerciale externe.

Identitatea proprie – Fiecare om trebuie să dețină controlul deplin asupra identității sale online, decizând singur ce date oferă și cui, fără a fi urmărit pas cu pas de intermediari tehnologici.

De ce sunt aceste concepte vitale?

Fără transparență, nu putem ști dacă suntem manipulați de sisteme de IA care lucrează în haită (tip roi) pentru a ne influența comportamentul la nivel de masă.

Fără suveranitate, datele noastre devin combustibil pentru sisteme străine de supraveghere, precum creditul social.

Transparența Algoritmică și Suveranitatea Digitală funcționează ca un scut de apărare a informațiilor noastre sensibile împotriva unei lumi în care am putea fi monitorizați și controlați total.

„Cea mai mare amenințare nu este că mașinile vor începe să gândească precum oamenii, ci că oamenii vor fi forțați să acționeze după logica opacă a mașinilor.” (Shoshana Zuboff, autoarea lucrării Capitalismul de supraveghere)

 

Bibliografie orientativă:

 

 Zuboff, Shoshana – Epoca capitalismului de supraveghere: Lupta pentru un viitor uman la noua frontieră a puterii (The Age of Surveillance Capitalism), 2019.

Comisia Europeană – O Europă pregătită pentru era digitală: Suveranitate și încredere (A Europe fit for the digital age: Sovereignty and Trust), 2020.

Berners-Lee, Tim – Web-ul pe care ni-l dorim: Contractul pentru Web (The Web We Want, Contract for the Web), 2019.

Russell, Stuart – Compatibil cu oamenii: Inteligența artificială și problema controlului (Human Compatible: Artificial Intelligence and the Problem of Control), 2019. [1]