Inteligența artificială (III)

Simplificând, poate nepermis de mult, am zice că, în prezent, IA este un foarte elaborat truc statistic. Cantitatea uriașă de informație pe care poate să o înmagazineze, să o prelucreze și să o structureze mașina, oferindu-ne soluții uimitor de asemănătoare cu cele naturale, ne poate înșela, dar IA este, în realitate, un mecanism care culege „statistici despre relațiile dintre cuvinte“ și care generează, pe baza acestora, un limbaj similar celui uman. Pe scurt, dintr-un milion de fraze care descriu același lucru, supercalculatoarele Google și Microsoft aleg acele relații dintre cuvinte (cifre, date etc.) care se întâlnesc mai des. Inexactitățile pe care le comit sunt, prin urmare, erori statistice, nu „intelectuale“. Erori care tind către zero pe măsură ce numărul acestor fraze, texte, relații între cuvinte și tipare de exprimare crește. Altfel spus, cu cât mai amplă e cunoașterea datelor la intrare (input), cu atât mai probabil e ca mașina să ne ofere versiunea cea mai acceptată sau generalizată a „adevărului“ la ieșire (output).

Tocmai aici se coace însă buba cea mare: dacă majoritatea textelor din lume care vizează un subiect oarecare îl tratează eronat, atunci mașina va prezenta drept „adevărată“ o interpretare falsă, dar, statistic, mai frecventă a acestuia. Totul depinde, în consecință, de modul în care se etichetează datele în cadrul „învățării supravegheate“. Un proces ținut azi sub control, dar cine știe ce se va întâmpla atunci când codul IA va încăpea pe mâna răufăcătorilor? [Andrei Cornea, filozof și editorialist la „Dilema veche“, a observat, de exemplu, că răspunsurile la întrebările sensibile – problemele de gen, de identitate culturală etc. – sunt în deplină conformitate cu regulile „corectitudinii politice“. Asta nu înseamnă că aceste opinii prevalează, ci doar că răspunsurile „corecte“ au fost etichetate ca atare în procesul „învățării supravegheate“.]

Definiția statistică a IA, citată mai sus, îi aparține lui Gary Marcus, profesor la Universitatea din New York, specializat în psihologie și în neuroștiințe, dar și fost antreprenor în domeniul IA. El recunoaște că un asemenea instrument poate spori productivitatea în numeroase domenii, dar, în același timp, este în stare să „distrugă textura însăși a societății“. În acest caz, afirmă Marcus, „IA nu merită osteneala“ și e mai bine să renunțăm cu totul la el.

Argumente de același gen au îndemnat peste o mie de cercetători și ingineri IT de frunte să întocmească o scrisoare deschisă, prin care să ceară instituirea unui moratoriu de cel puțin șase luni în dezvoltarea noilor sisteme, întrucât tehnologiile IA prezintă „riscuri majore pentru societate și omenire“. Scrisoarea a fost urmată de un apel asemănător, lansat de 19 membri ai Asociației pentru Dezvoltarea Inteligenței Artificiale – o societate academică înființată acum 40 de ani –, printre care și Eric Horowitz, unul dintre cei care au contribuit la implementarea tehnologiei IA în motorul de căutare Bing. Mai mult, însuși pionierul IA, Geoffrey Hinton, a părăsit Google după ce acesta a oferit acces neîngrădit la Chat GPT-4. Progresele Google în domeniu ar fi fost imposibile dacă megacompania nu cumpăra, în 2012, start-up-ul fondat de Hinton și de doi studenți ai săi, creatori ai sistemului pe care s-a construit întreaga tehnologie. Dar asta nu l-a împiedicat pe Hinton să critice decizia Google de a oferi acces public la posibilitățile GPT după ce Microsoft și-a lansat propriul lui chatbot în cadrul Bing. Din acel moment, „cei doi giganți IT s-au angrenat într-o competiție care ar putea fi imposibil de oprit“, a declarat Hinton, dezamăgit de direcția în care au luat-o lucrurile.

Thomas L. Friedman, editorialist la „The New York Times“, explică problema în termeni mai populari. Comentatorul ne reamintește cât de tare au subminat rețelele sociale structurile de rezistență ale societății libere – adevărul și încrederea. Căci nimeni nu și-a putut imagina, în anul în care apărea Facebook, cum avea să fie folosit acesta, ca și altele asemenea, pentru distorsionarea realității în scopuri malefice. Convins că IA va iuți procesul cunoașterii, ajutându-ne să rezolvăm probleme stringente precum densitatea bateriilor, obținerea energiei prin fuziunea nucleară etc., Friedman ne îndeamnă, totodată, să fim conștienți de pericolele inevitabile ale unei tehnologii ce s-ar putea dovedi „cu neputință de gestionat“. Concluzia editorialistului newyorkez este grăitoare: „Unul Dumnezeu ne mai poate salva dacă, dobândind o putere ca a Lui, vom ajunge să despărțim apele Mării Roșii, dar ne vor scăpa Cele Zece Porunci“.

Publicistul Friedman, ca și inginerii pomeniți mai sus, atinge punctul nevralgic al chestiunii: marea primejdie pe care o prezintă IA acum nu este preluarea puterii globale, ca în seria de filme Terminator, ci apariția unui instrument și mai puternic decât rețelele sociale de manipulare a oamenilor. Cel puțin în forma ei actuală, IA nu are cum să pună stăpânire pe omenire. Unealta se va dezvolta vertiginos – repet: nimeni nu va fi în stare să oprească procesul –, dar mecanismul ei de acumulare cantitativă și de disociere analitică nu conduce, deocamdată, spre generarea unui conștiințe de sine – condiția primă pentru apariția unui Skynet care decide, dintr-un anumit moment, că oamenii sunt inutili pe planetă.

Se spune că IA de azi mai curând „papagalizează“ limbajul produs de mintea umană, dar este departe de acea inteligență artificială pe care ne-am închipuit-o citind cărțile SF sau lucrările științifice din veacul trecut. Afirmația este adevărată, dar cu o precizare: GPT-urile au totuși la bază mecanisme de învățare asemănătoare celor de care se călăuzește creierul uman. Un creier care învață și el oarecum statistic limbaje de tot felul, reținând, luând drept valabil și reproducând doar ceea ce aude, citește și vede mai des. Creierul asimilează tipare (lingvistice, comportamentale etc.), de aceea limbajul este plin de clișee – un factor extrem de important, întrucât o gândire și o exprimare originală generalizată ar îngreuna masiv procesul de învățare și de clasificare în cazul unui GPT/LLM.

Iar într-o lume dominată de clișee, în care logica unei gândiri stereotipizate pe placul mulțimii impune surogate de originalitate și creativitate, o tehnologie ca IA riscă să anihileze nu atât specia, cât însăși mintea umană. Azi încă mai suntem obligați să gândim, să ne mai încrețim din când în când frunțile, căutând un răspuns sau încercând să rezolvăm o problemă. O versiune viitoare a GPT/LLM ne-ar putea scuti de orice efort, lăsându-ne cu totul la dispoziția celor care posedă sau îi manipulează codul.

IA de acum e un bebeluș. Pare simpatic, curios, mic și nevinovat. Dar nimeni nu știe ce va crește din el. Și Hitler, și Churchill arătau la fel de dolofani și drăguți în pozele lor din copilărie, dar unul a încercat să nimicească milioane de oameni, pe când celălalt a încercat să-i salveze. Ca și în cazul oamenilor, viitorul IA depinde de părinții săi și de mediul în care se va dezvolta. Cu alte cuvinte, de cei șapte ani de acasă, care s-ar putea dovedi cruciali. Ținut în frâu și educat în spiritul adevărului, va acorda o nouă șansă omenirii. Lăsat de capul lui ori pe mâini rele, o va arunca în haos.