Inteligența artificială, periculoasă. Inteligența lipsă, și mai periculoasă

Dacă însuși Papa de la Roma s-a simțit dator să intervină și să ne avertizeze în vederea folosirii Inteligenței Artificiale, îi bai. Serios. Și nu pentru că nu ne-ar ajuta oarecum, la prima vedere. Cât că ea se află la acest moment în mâna câtorva miliardari. Care foarte ușor ne vor putea influența viețile, dacă ni le punem în mâinile lor. Papa Leon al XIV-lea a avertizat asupra pericolelor inteligenței artificiale și „lipsei de transparență în crearea algoritmilor” care reglementează funcționarea diferitelor chatboturi, potrivit AFP. „Modelele de AI sunt făcute cu viziunea asupra lumii a celor care le construiesc și pot, la rândul lor, să impună moduri de gândire prin reproducerea stereotipurilor și prejudecăților prezente în datele pe care le exploatează”, îngrijorat de faptul că „în spatele acestei forțe invizibile enorme care ne afectează pe toți se află doar câteva companii”. El susține că „este urgent să introducem în sistemele educaționale alfabetizarea în domeniul mass-mediei, al informației și al AI”. Dar cum stăm, de ce e atât de grav?

Păi, pentru că inovația, puterea de finanțare și deciziile din aria AI se află la doar câteva persoane, ce dețin Microsoft, Google, Amazon, Nvidia. Punct. Așa că nu vă mirați când căutările Dvs sunt duse în anume direcție. Când evenimentele actuale sau chiar istoria sunt rescrise discret de AI. Avem deja texte scrise integral de AI, fotografii din ce în ce mai realiste. Filmări ce par reale. Unde e limita, cum și cine poate reglementa ce se bagă sub nasul consumatorilor de „informație”? Mai ales dacă ele nu sunt musai reale cât „realiste”. Par reale, ca mâncarea de-o vreme încoace. „Inteligența artificială nu e un instrument, este un agent ce poate guverna oamenii. Ultimii 4 ani au demonstrat că agenții AI pot dobândi voința de a supraviețui și că au învățat să mintă”, s-a spus la Davos, de oameni îngrijorați de siguranță unui Musk ce a venit să le spună că peste 40 de ani, vor fi pe Pământ mai mulți roboți decât oameni.

Și-acum… întrebarea. Ne afectează? Cel mai recent exemplu… televiziuni mari s-au păcălit și au dat la știri imagini AI cu troiene de zăpadă mai mari ca blocurile cu 10 etaje, în Rusia, în Siberia, ba se mai și schia pe ele. Tot Rusia, care nu are încă tehnologia dar a înțeles potențialul imens, ar crea un model de AI „ortodox, bazat pe valori spirituale”. Revista MIT, dar și altele, gen Wired, a raportat cazul unui model OpenAI care a încercat să se copieze singur în afara serverelor înainte de a fi închis, după care a negat c-a făcut-o! Apoi, micile minciuni din social media. Fotografii AI cu rețete greșite, cu modele de case greșite, cu cuptoare anormale, dar toate frumoase foc! Cu femei dureros de perfecte! Nefericitul articol dintr-un ziar pakistanez de limbă engleză, unde la final, „autorul” a uitat și celebra frază AI „Dive deeper in AI mode/Intră mai adânc în modul AI”.

Pe de altă parte, avem și reversul medaliei. O dovedesc inclusiv comentariile (o parte) la articolele noastre scrise de oameni în carne și oase, supuși greșelii. Când comentezi agramat la un articol și te dai deștept, dar reiese clar că n-ai citit decât titlul și șapoul cel mult, cazi în ridicol și nu meriți nici măcar un răspuns, oricât de acid sau de personal ar fi atacul tău. E o vorbă… „Dacă treaba ta e să-mi spui mie cum să-mi fac treaba, ar fi decent măcar să știi să-mi faci treaba”… Prin urmare, rămâne deschisă dilema…cum e mai periculos… cu Inteligență Artificială sau fără Inteligență, doar cu atitudine?

 

Autor: Alexandru Ruja

Sursa: Graiul Maramureșului

Experții îngrijorați de avansul luat de inteligența artificială și sugerează o „pauză” în dezvoltarea acesteia

 

Ritmul surprinzător în care cresc tehnologiile de inteligență artificială (AI) stârnește alarmă, nemulțumire și îngrijorare în rândul analiștilor, unele dintre cele mai cunoscute nume din Silicon Valley ridicând vocea pentru a cere o pauză înainte ca aceste progrese să propage daune grave pentru societate.

Fondatorul SpaceX, Elon Musk, s-a alăturat co-fondatorului Apple, Steve Wozniak, și altor nenumărate personaje proeminente din lumea tehnologiei pentru a semna o scrisoare deschisă din partea Future of Life Institute, prin care se solicită companiilor care dezvoltă inteligența artificială să „pună pe pauză experimentele gigantice de inteligență artificială” și să creeze mai întâi protocoale de siguranță.

„Sistemele de inteligență artificială cu inteligență competitivă umană pot prezenta riscuri profunde pentru societate și umanitate, după cum arată cercetările extinse și după cum recunosc laboratoarele de top de inteligență artificială”, se arată în scrisoare. „Sistemele contemporane de inteligență artificială devin acum competitive cu oamenii la sarcini generale și trebuie să ne întrebăm: Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și neadevăruri? Ar trebui să automatizăm toate locurile de muncă, inclusiv pe cele satisfăcătoare? Ar trebui să dezvoltăm minți non-umane care ar putea, în cele din urmă, să ne depășească numeric, să fie mai inteligente, să ne trateze ca învechiți și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?”

Scrisoarea îndeamnă la o pauză de șase luni în ceea ce privește proiectele de inteligență artificială la scară largă și la instituirea unor „protocoale de siguranță”. Pastorul Johnnie Moore a accentuat importanța acestei idei într-o postare pe o rețea socială.

„Pentru binele umanității, toate părțile interesate trebuie să convoace ACUM o întâlnire în SUA, pentru a stabili parametrii și a se consulta cu experți din întregul spectru politic și ideologic (inclusiv în special lideri religioși și specialiști în etică)”.

Moore a expus aceste idei într-o discuție în cadrul unui interviu cu CBN, subliniind importanța de a fi atenți atunci când oameni precum Musk, care se află în topul tendințelor privind tehnologia, încurajează în mod public o astfel de încetinire radicală.

„Cred că ar trebui să luăm o pauză și nu sunt sigur că publicul larg înțelege încă cu adevărat cum se vor schimba toate viețile lor și cum ar putea să se schimbe din cauza acestei noi tehnologii”.

Moore, care este și un autor și lider evanghelic, a anunțat beneficiile transformative și pozitive pe care AI-ul le-ar putea aduce societății, menționând că tehnologia ar putea aduce o sănătate mai bună, o viață mai lungă și alte soluții. Dar el a avertizat, de asemenea, cu privire la ceea ce se poate întâmpla dacă AI-ul este lăsată fără control sau ajunge să fie exploatată de guverne mondiale fără scrupule.

„Dacă nu suntem atenți, am putea dezlănțui o fiară”, a spus Moore. „Imaginați-vă guvernele într-o cursă către arme autonome. … Am putea să ne îndreptăm spre o lume în care mașinile iau singure deciziile.”

O astfel de situație pune sub semnul întrebării modul de abordare a eticii războiului și a altor mecanisme de acest gen bazate pe emoțiile umane. De exemplu, în războaiele moderne se încearcă adesea reducerea la minimum a numărului de victime, deși alții ar putea folosi astfel de tehnologii pentru un rezultat diferit.

„Ce se întâmplă dacă ești de exemplu Coreea de Nord și ce se întâmplă dacă decizi fie prin furt, fie prin propria inovație, că acum este momentul să faci ceea ce ameninți că vei face dintotdeauna”, a spus el. „Acesta este scenariul catastrofal. Aceasta este apocalipsa.”

Moore a arătat și spre alte probleme ridicate în scrisoarea Institutului Future of Life, inclusiv potențialul ca AI-ul să ducă la șomaj în masă.

Liderul religios a subliniat, de asemenea, importanța includerii liderilor religioși și a oamenilor de credință în aceste conversații, menționând că specialiștii în etică și liderii de credință sunt adesea excluși.

„Pentru prea mult timp, credința a fost vizitatorul nebăgat în seamă în Silicon Valley”, a spus Moore, menționând că un prieten din industria tehnologică l-a încurajat recent să vorbească și să se implice în această problemă.

Moore a avut grijă să precizeze că este un mare fan al tehnologiei, al inovației și al științei și că dorește să îmbrățișeze astfel de progrese. Cu toate acestea, el consideră că este esențial să facem acest lucru „în mod intenționat” și fără a permite „interesului comercial orb sau băieților răi” să conducă discuțiile sau să manipuleze AI-ul.

„Fac apel la liderii religioși… și aceasta nu este o conversație despre ‘boicotul AI-ului’ ”, a spus el. „Îmi unesc vocea cu cea a lui Elon Musk, îmi unesc vocea cu cea a acelor 1.000 de oameni de știință și le cer liderilor religioși și specialiștilor în etică din întreaga țară … să spunem cu toții că acum este momentul să ne adunăm și să punem întrebări preventive.”

Moore consideră că America este mult avansată în ceea ce privește tehnologia AI și își poate permite să ia o pauză și să stabilească detaliile înainte de a merge mai departe într-un mod unitar și cuprinzător.

„Gândiți-vă la toate filmele SF pe care le-ați văzut, suntem pe cale să ajungem să fim actori în ele, excluzând prezența extratereștilor”, a spus Moore. „Și toate bunele și relele din ea vor fi realizate de noi. Deciziile pe care le luăm acum vor determina viitorul de care se va bucura copiii noștri – și acesta este momentul să apăsăm pe pauză pentru a ne aduna împreună” a conchis acesta.

 

Sursa: CBN News