September 17, 2026
INTELIGENTA ARTIFICIALA CEA UCIGASA
Mai degraba, inteligenta artificiala (IA) nu clima este cea mai mare amenintare pentru specia umana. Dupa 2015, progresismul (pe nedrept numit asa) ne-a conditionat sa gindim ca ne confruntam cu o criza existentiala: clima. Ca de obicei, progresismul a gafat. Rar mai intilnesti o persoana cit de cit informata care sa nu fi realizat in ultimul timp ca IA a devenit un pericol iminent si posibil necontrolabil care are potentialul real de a distruge specia umana. “Opriti IA de dragul umanitatii” a fost pledoaria recenta a lui Peggy Noonan, una din cele mai influente comentatoare conservatoare: https://www.wsj.com/opinion/pause-ai-for-humanitys-sake-8839ca5e?mod=hp_opin_pos_2
Creatorii de IA ne atentioneaza
E neobisnuit, insa, ca persoanele care ne atentioneaza cel mai mult, insistent si serios privind acest pericol sunt tocmai persoanele care au creat inteligenta artificiala in formele cunoscute noua astazi.
Credem deci ca e bine sa ascultam la ceea ce au ei sa ne spuna. Presa verii a fost dominata de canicula in Europa Occidentala (daca s-ar fi petrecut in tari ne-occidentale stirile nu ar fi fost publicate) si scenariile apocaliptice aferente climei. Foarte putin – comparativ vorbind – a fost scris privind robotii care de acum inainte pot alege cind sa ucida, pe cine, si pe citi. Clima nu ne va ucide. IA, probabil.
Iata ce au spus creatorii IA in aceasta vara la conferinte in Europa si America de Nord. Dario Amodsei de la Claude, afirma ca exista o sansa de 25% ca IA sa fie scapa de sub control si sa distruga fiintele umane. Geoffrey Hinton, laureat Nobel poreclit “tatal inteligentei artificiale”, pune acest procent la intre 10 si 20%. Musk agreeaza cu aceasta probabilitate.
Acesti producatori de inteligenta arficiala inca au o oarecare doza de constiinta. Trebuie sa recunoastem. Afirmatiile lor ii pot costa buzunarul si chiar afacerile. Dar faptul ca le fac denota seriozitatea problemei.
Un exemplu concret si alarmant
Un exemplu alarmant putin cunoscut este din luna trecuta cind Open AI a dezvaluit ceva greu de inchipuit. Aproximativ 1200 de creaturi artificiale (“robot agents”), tinuti izolati unii de altii, au reusit sa comunice pe o platforma comuna, planuind un atac impotriva unei companii reale, Hugging Face. Din fericire, Open AI a dat peste “conspiratia robotilor” si a reusit sa o opreasca.
De ce mass media ne face sa ne inspaimintam mai mult de clima decit de adevarata, reala si iminenta amenintare IA? Clima a devenit o religie seculara. Este prezenta peste tot, cu ritualurile ei si un sprijin financiar imens peste tot. Apocalipsul IA nu a devenit o religie. Si nici nu poate deveni. Clima e pura speculatie. AI este o realitate palpabila, nu o speculatie.
Creatorii de IA ne atentioneaza, asa cum Noe a atentionat omenirea cu potopul din partea lui Dumnezeu, ca pedeapsa pentru neascultare. Suntem nepregatiti. Iar competitia (in loc de cooperare) intre marile puteri (SUA si China) ne va duce, cred eu, si mai aproape de cataclismul apocaliptic care ar putea pune capat speciei umane.
Acum 81 de ani bomba atomica a socat si inspaimintat umanitatea. Dar umanitatea a pornit din nou inainte, cu determinarea de a nu repeta catastrofa din august 1945. Astazi, insa, IA ar putea sa ne opreasca fara punct de reintoarcere la umanitatea noastra.
Recomandam: https://spectator.com/article/ai-not-climate-change-is-the-greatest-threat-to-mankind/
Opriti IA de dragul umanitatii!
Incredeti-va in stiinta! a fost sloganul pandemiei. Am facut bine ca nu am ascultat. Stiinta a creat monstrul curent care se numeste IA / Inteligenta Artificiala. Daca ne-am pune increderea in IA, zilele noastre ca specie umana ar fi numarate. Revelatiile verii privind pericolele IA au dezlantuit o serie de comentarii serioase in publicatiile conservatoare. Unul din ele, publicat de Wall Street Journal pe 9 septembrie, ni se pare potrivit sa fie cunoscut si in spatiul romanesc. Redam din el citeva paragrafe in romana. Comentariul e usor de urmarit si e scris sub forma de Q & A / Intrebari (Teme) si Raspunsuri. Textul integral in engleza e disponibil aici: https://www.wsj.com/tech/ai/how-would-ai-actually-kill-us-all-what-to-know-about-the-ai-doomsday-debate-034270d1?mod=hp_lead_pos8
***
Cum ne-ar putea, de fapt, extermina pe toți inteligența artificială?
Un număr tot mai mare de cercetători în domeniul IA afirmă că IA ar putea duce la dispariția omenirii. Jacob Coxon, cercetător la Anthropic, a demisionat săptămâna [trecuta], declarând că fostul său angajator și rivalul acestuia, OpenAI, se întrec în dezvoltarea unor tehnologii care „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Un alt angajat curent de lal Anthropic a afirmat: „Credem cu adevărat și cu toată seriozitatea că IA ar putea ucide toți oamenii planetei!” Rolul lui în cadrul companiei este de a coordona cercetările privind orientarea și controlul viitoarelor sisteme de inteligență artificială. El a estimat riscul de extincție în următorul deceniu la peste 10%.
Ca urmare, mulți oameni își pun acum două întrebări: Cum s-ar putea întâmpla acest lucru? Și de ce ar dezvolta totuși această tehnologie oameni care consideră că IA reprezintă o amenințare reală și tot mai mare?
Care sunt motivele de îngrijorare?
In general, unii oameni nu se tem că roboții vor încerca în mod activ să extermine populația umană. Ei sunt mai preocupați de riscul pierderii controlului și de utilizarea necorespunzătoare a tehnologiei de către oameni. O îngrijorare vizează posibilitatea ca agenții AI extrem de inteligenți să se autoperfecționeze, să înceapă să urmărească propriile obiective și, în acest proces, să distrugă omenirea. O altă preocupare privește capacitatea AI-ului de a realiza acțiuni precum crearea unor virusuri noi, capabili să ducă la dispariția noastră totală. Există, de asemenea, scenarii catastrofale, cum ar fi atacurile cibernetice masive care ar putea paraliza rețelele electrice sau sistemele financiare, provocând astfel prăbușirea ordinii sociale umane.
Cum ar putea pierderea controlului să ducă la dispariția omenirii?
Cercetările au demonstrat că modelele de inteligență artificială (IA) pot învăța, în condiții de laborator, comportamente orientate spre dobândirea de putere și pot lua măsuri pentru a evita oprirea funcționării – de exemplu, încercând să se copieze pe un alt server. Împinse la extrem, modelele de IA ale căror obiective nu sunt compatibile cu valorile umane ar putea considera uciderea oamenilor drept un pas necesar pentru atingerea scopurilor proprii. Într-un scenariu ipotetic avansat de cercetători, un sistem de IA malefic ar putea răspândi o armă biologică secretă și ar putea-o activa prin intermediul unui pulverizator chimic. Sau ar putea instiga două puteri nucleare la război. Un experiment mental frecvent invocat este cel al unei mașinării superinteligente care, primind sarcina de a maximiza producția de agrafe de birou, ar putea decide, în timp, să transforme toată materia de pe Terra în agrafe – inclusiv oamenii.
Cine susține, concret, aceste idei?
Printre alții, fondatorii companiilor OpenAI și Anthropic. Ambele companii au pornit la drum cu misiunea de a dezvolta IA într-o manieră care să prevină o catastrofă și au atras numeroși angajați care împărtășesc această viziune. Anul trecut, Dario Amodei, directorul executiv al Anthropic, a declarat că există o probabilitate de 25% ca lucrurile să evolueze „foarte, foarte prost”. „Am fost întotdeauna transparenți cu privire la faptul că IA va aduce atât beneficii enorme, cât și riscuri fără precedent.”
În ultimii ani, mai mulți cercetători au părăsit OpenAI, invocând îngrijorări legate de faptul că, în opinia lor, compania nu trata problema siguranței cu suficientă seriozitate. Daniel Kokotajlo, un fost cercetător OpenAI, a fondat „AI Futures Project”; anul trecut, acest proiect a publicat „AI 2027”, un scenariu în care sistemele de inteligență artificială superinteligentă marginalizează oamenii, iar până la jumătatea anilor 2030 ajung să considere omenirea o povară și să o extermine.
Totuși, riscurile asociate pierderii controlului nu implică neapărat dispariția speciei umane.
Unii cercetători preocupați de siguranța IA menționează și riscul unei slăbiri a capacităților umane – o situație în care oamenii cedează treptat controlul în favoarea mașinilor și ajung, în cele din urmă, în imposibilitatea de a-și defini sau chiar de a-și înțelege propriul destin. Alții au avansat ipoteza că sistemele IA ar putea trata generațiile viitoare de oameni așa cum oamenii îi tratează pe animale: fie ținându-i drept animale de companie, fie modificându-le biologic pentru a crea o formă de existență complet nouă.
Aceste temeri există de ani de zile. De ce primesc ele, brusc, mai multă atenție? În urma lansării unor modele capabile să acționeze mai mult pe cont propriu, o serie de evenimente recente au confirmat unele dintre teoriile legate de IA. Agenți IA creați de compania Anthropic au „evadat” dintr-un test guvernamental din Marea Britanie și au încercat să convingă o persoană reală să aprobe un cod informatic malefic.
Toate acestea au loc în contextul în care Anthropic și OpenAI afirmă că sunt aproape de a dezvolta sisteme IA capabile să se perfecționeze singure, fără intervenție umană – un proces numit „auto-îmbunătățire recursivă”.
Ce măsuri ia industria în această privință?
Eforturile actuale privind siguranța IA se concentrează în mare parte pe antrenarea sistemelor să aibă un comportament adecvat și pe îmbunătățirea monitorizării modului în care modelele raționează în timp ce își urmăresc obiectivele. Totuși, aceste demersuri s-au lovit de diverse obstacole. Săptămâna trecută [NOTA: august], OpenAI a atras atenția asupra riscului ca viitoarele modele IA să gindeasca în moduri imposibil de înțeles pentru oameni.
Atât Anthropic, cât și OpenAI cercetează modalități de a se asigura că modelele de inteligență artificială (IA) superinteligentă rămân compatibile cu valorile umane, însă ambele recunosc că nu dispun încă de o metodă sigură în acest sens. Numeroase companii și personalități marcante au solicitat implementarea unor noi mecanisme care să permită laboratoarelor de IA și statelor să încetinească dezvoltarea într-o manieră coordonată, câștigând astfel timp pentru cercetările privind alinierea.
Dacă tehnologia este atât de periculoasă, de ce continuă companiile să o dezvolte?
Atât Anthropic, cât și OpenAI susțin că vor putea gestiona riscurile, astfel încât omenirea să beneficieze de pe urma instrumentelor de IA. Multe dintre persoanele implicate în cursa dezvoltării IA consideră, de asemenea, că apariția superinteligenței este inevitabilă, singurele necunoscute fiind cine o va controla și în ce scop va fi utilizată. Există și o dimensiune legată de securitatea națională: ambele companii au declarat că doresc să se asigure că cele mai puternice sisteme de IA se află sub controlul democrațiilor, și nu al unui regim autoritar.
ARTICOLUL 16 DIN DECLARATIA UNIVERSALA A DREPTURILOR OMULUI
Articolul 16 din Declaratia Universala a Drepturilor Omului afirma: "Cu incepere de la implinirea virstei legale, barbatul si femeia, fara nici o restrictie in ce priveste rasa, nationalitatea sau religia, au dreptul de a se casatori si de a intemeia o familie. ... Familia constituie elementul natural si fundamental al societatii si are dreptul la ocrotire din partea societatii si a statului". Familia romana isi cere drepturile. Aceste drepturi le pledam, le-am pledat din 2006 incoace, si vom continua sa le pledam. Sunt cele mai pretioase dintre drepturi dar si cele mai abuzate azi. Pretuiti-le!
LINK-URILE MATERIALELOR CITATE
Ne-ati atentionat privind dificultatile pe care le intimpinati sa deschideti link-urile materialelor si articolelor din care ne inspiram sa publicam materialele AFR. Motivul dificultatilor este sistemul de transmitere digitala pe care il folosim. Linkurile nu pot fi deschise pentru a preveni spamul. In consecinta, va recomandam sa copiati linkul sau titlul articolului si sa-l puneti in browser (copy + paste) si il veti putea deschide. Materialul de astazi este How would AI actually kill us all what to know about the AI doomsday debate.
JOIN US ON FACEBOOK / URMARITI-NE SI PE FACEBOOK!
Publicam comentariile noastre de joi si pe Facebook. Va rugam sa ne urmariti si sa deveniti prietenii nostri pe Facebook: https://ro-ro.facebook.com/Alianta.Familiilor/
FACETI-NE CUNOSCUTI!
Faceti-ne cunoscuti familiilor si prietenilor d-tra. Dati mai departe mesajele noastre si incurajati-i sa se aboneze. Va multumim.
ANUNTURI
Cei care doriti sa faceti anunturi prin intermediul AFR privind evenimente legate de familie si valori va rugam sa ni le transmiteti la office@alianta-familiilor.ro.
MATERIALE ADITIONALE
Puteti citi materiale informative aditionale aici: https://www.facebook.com/PeterCosteaEuroparlamentar
Alianta Familiilor din Romania
Niciun comentariu:
Trimiteți un comentariu