Zilele trecute, și anume ieri, Levana Zigmund a publicat un articol în care discută despre inteligența umană, incapacitatea de a mai citit un text lung și apelul la roboții care ne omogenizează gândirea, intitulat Marea împrostire.
Din care citez:
„Indivizii umani diferă după cum scriu, după cum gândesc, după cum văd lumea. Când aceste diferențe sunt mediate de aceleași modele IA, stilurile lor lingvistice, perspectivele, strategiile lor de gândire devin omogenizate, producând o standardizare a expresiei și gândirii la toți utilizatorii”, explică unul dintre autorii studiului.
În general, standardizarea este definită sau modelată de către elite. Faptul că limbajul și gândirea umană încep (au ajuns deja?) să fie standardizate de către modelele IA reflectă vidul de autoritate intelectuală în care plutește omul modern. Care, tocmai din această cauză, este scris cu minuscule. Și cum în vid nu poți pluti, pentru asta având nevoie de un mediu suficient de consistent, realitatea este că, de fapt, omul modern se află în cădere liberă.
Să nu ne amăgim însă: această cădere nu a fost provocată sau declanșată de către programele de inteligență artificială. IA nu a înlocuit vreo sursă tradițională de cunoaștere, dat fiind că pentru imensa majoritate a populației de pe glob toate sursele tradiționale de cunoaștere s-au stins de mult, și nici inteligența naturală nativă, care, dacă ar fi existat, l-ar fi făcut pe posesorul ei imun la atacurile venite din partea unui surogat; iar acolo unde ea există, vedem că nu este înlocuită de către așa-zisa inteligență a unor roboți de chat. Însă curentul de inducție omogenă – că gândire nu prea îi putem spune – trasat de către acești roboți și viteza cu care masele de oameni i se predau dezarmate ne permite să observăm mai ușor mimetismul de factură gregară ce caracterizează conștiința lui novus homo seclorum.
Așadar, IA pune în evidență lipsa de repere a omului modern, preexistentă roboților de chat. Însă este posibil ca această nouă era a inteligenței artificiale să catalizeze picajul cognitiv și intelectual în care omul modern se afla deja, punând ca să spunem așa gaz pe focul prostiei abisale în care el se scălda de ceva vreme, tocmai prin nivelarea și aplatizarea diferențelor de gândire existente, care în prezent și viitor vor fi considerate asperități sau devieri de la normă, dar care de fapt îi confereau celui în cauză originalitate și autenticitate, făcându-l totodată viu.
Bun venit în epoca în care omul încearcă să emuleze niște mașini care, în esență, nu fac decât să simuleze gândirea umană! Partea ironică este că succesul acestor roboți se datorează în mare parte tocmai diferențelor fecunde de perspectivă din câmpul gândirii umane. Noii roboți de chat din generațiile viitorului se vor antrena pe corpusuri de date care vor fi, ei bine, aproape omogene.
Autorii studiului arată (evidența) că roboții LLM sunt mult mai puțin diferiți între ei decât sunt oamenii și că, în marea majoritatea cazurilor, ei reflectă exclusiv limbajul, valorile și modul de a gândi ale „societăților occidentale, educate, industrializate, bogate și democratice” (cred că au luat descrierea asta de la un robot), care nu reprezintă decât „o felie foarte îngustă și părtinitoare a experienței umane” – care, adesea, nu are nicio legătură cu modul de a gândi, cu problemele, valorile și mediul utilizatorului. Rezultatul este o scădere a creativității și capacității omului de a găsi soluții aplicabile realităților sale.
Aceasta este doar o fațetă a monedei omogenității LLM-urilor. Reală – pentru că, desigur, răspunsul roboților este modelat de anumite filtre ale autorilor. Dar dacă aceste filtre pot fi asimilate unei cenzuri oarecum impusă din exterior, sau aleasă ca parametru de nivel înalt, cealaltă fațetă merge în însăși nucleul structurii acestor modele inteligente, care prin natura lor sunt niște modele predictive.
Un model lingvistic masiv îți va întoarce întotdeauna cea mai probabilă continuare la textul tău și la contextul anterior. De altfel, acesta este și obiectivul lui: nu să producă răspunsuri aliniate la realitate (ce-i aia realitate, din perspectiva unui algoritm informatic?), nici logice (ce-i aia logică sau gândire cauzală?), nici coerente (ce-i aia coerență și semantică? ChatGPT nu înțelege o iotă din cuvintele pe care i le scrii sau pe care ți le întoarce pe post de răspuns), ci probabile – în sensul alinierii lor la tiparele calculate în cursul procesului de antrenare, când a îngurgitat miliarde de texte, romane și conversații umane. Altfel spus, obiectivul oricărei rețele neuronale de la baza oricărui model lingvistic masiv este să producă rezultate plauzibile și nu factuale. Faptul că în mare parte din cazuri ceea ce este plauzibil se dovedește și factual este o simplă consecință a proprietăților limbajului uman.
Așadar, un LLM este antrenat să-ți întoarcă cea mai probabilă sau plauzibilă continuare (în sensul tuturor conversațiilor umane la care a avut acces în trecut) la conversația pe care o aveți în prezent. Și asta îl face să fie gregar și mediocru, favorizând întotdeauna opinia sau curentul median sau predominant de gândire – chiar și atunci când discuția impune activarea unui context academic. Tot asta face ca un LLM să aibă creativitate reală nulă, fiind limitat la simpla remixare a unor elemente deja asimilate, din cadrul cărora nu poate ieși niciodată.
Și atunci, nu putem folosi nicicum aceste modele inteligente, de exemplu pentru a ne facilita accesul la informații sau pentru a ne deschide apetitul față de noi perspective? Aș zice că da; dar cu condiția să le folosim, în loc să ne lăsăm folosiți de ele. Un calculator electronic așezat pe biroul unui matematician îl va permite acestuia să economisească timp. Pune-l în buzunarul unui elev leneș și vei crea premisele ca acesta să uite tabla înmulțirii. Și cum majoritatea oamenilor se află deja într-o stare de regres cognitiv, iar acumulările predominante tind să se amplifice exponențial, estimez că efectul pe care inteligența artificială îl va avea la nivelul societății – și, culmea, mai ales la nivelul societății înalte, școlite sau digitalizate, va fi acela că va înlocui și gramul de inteligență naturală care încă există.
Soluția oferită de autorii studiului este o modificare în modul de antrenare a roboților LLM, cu „încorporarea unei diversități de limbaj, perspective și moduri de a gândi”, bazate pe „diversitatea care există, la nivel global, în umanitate”.
O astfel de soluție, dacă ar putea fi implementată, n-ar face decât să ascundă dincolo de linia orizontului problema fundamentală a cedării libertății noastre de gândire pe altarul unor mașini pseudo-inteligente și care au un comportament de papagali digitali. Totuși, această soluție nu poate fi pusă în practică eficient în cadrul actualei paradigme a LLM-urilor, al căror succes se bazează tocmai pe reproducerea celor mai frecvente tipare preexistente în seturile imense de date îngurgitate. Până când arhitectura curentă a acestor modele generative (din perspectiva căreia originalitatea este o eroare) nu va fi modificată fundamental, orice variații pe temă vor servi cel mult un scop cosmetic, având în rest același efect ca încercarea baronului Munchausen de a se ridica trăgându-se de păr în sus. Sau, dacă vreți în termeni mai tehnici, orice diversitate introdusă va fi doar o altă formă de uniformizare, modelul reproducând media diversității și nu diferența ei creatoare.
În concluzie, modele inteligente de astăzi, departe de a fi deschizătoare de drumuri și de a poseda inteligență și creativitate reale, sunt oglinda cunoașterii, prejudecăților și dezorientării colective; starea de fascinație pe care o resimțim față de ele trădează ancorarea noastră în superficial, iar compunerea acestor factori creionează peisajul deloc mirific al amplificării și solidificării prostiei generale curente.
Din fericire, dacă vi se pare că spun prostii sau vreți să vă reconfirmați perspectiva luminoasă despre inteligența și progresul de care ne bucurăm în prezent, aveți oricând opțiunea să-i dați textul de față unui model inteligent.
ChatGPT mă ajută foarte mult în activitatea mea zilnică. Cu ajutorul lui pot scrie și corecta rapid texte. Îmi economisește timp și mă ajută să mă mișc mai repede atunci când lucrez sau când am nevoie de informații. Pentru mine, folosirea ChatGPT este utilă și îmi face munca mai simplă și mai eficientă. M-a eliberat de stresul că aș putea scrie greșit iar acum mă pot concentra mult mai mult pe creație, pe lucrurile pe care vreau să le fac cunoscute în stilul meu. Cu siguranță, în cazul meu se vede un progres pe care îl valorific zi de zi. Mă bucur că am avut deschiderea de a-l folosi, în ciuda tuturor părerilor sau îndoielilor din jur.
Dacă scrii în engleză, presupun că te poate corecta. Limba română trebuie s-o mai înveţe – şi ChatGPT, şi restul LLM-urilor.
Ca să nu scrii greşit e mai muult mai util să te uiţi în DEX.
@Câmpeanca
Mult succes!
@Vero
Sunt curios dacă engleza o stăpânesc la perfecție. Da’ posibil, dat fiind că numărul textelor din engleză e cu câteva ordine de mărime mai mare decât a celor românești.
Efectul IA asupra prostiei umane | Shared Grok Conversation
QED. 🙂
Câți copii din Vrancea (sau de oriunde) vor dori și vor învăța fizică cuantică cu ajutorul unui LLM și câți copiii în general, din Vrancea și de peste tot, îl vor folosi pentru a le rezolva temele și a le scrie lucrări sau eseuri în locul lor? Că deja profesorii se plângă de faptul că studenții folosesc in corpore ChatGPT pentru a-și redacta materialele.
După cum chiar Grok o spune pe post de premisă (dar apoi lasă raționamentul neterminat): „Eu văd AI-ul ca pe un tool care reflectă ce punem în el: dacă societatea e superficială, output-ul va fi superficial.” Și cum consideră Grok că e societatea per ansamblu? Cumva, foarte profundă? Sigur, pe alocuri va exista și câte un copil din Vrancea care va folosi IA într-un mod inteligent și creator. Dar care va fi procentul acestor copii și utilizatori, raportat la totalitatea populației care are acum acces la IA?
continuarea discuției cu Grok
E interesant că noi vorbim cu aceste LLM-uri ca și cum am discuta cu niște entități reale, dotate cu capacitate de analiză și rațiune. Când, de fapt, vorbim cu niște ficțiuni sau cu niște oglinzi care, în funcție de cum le poziționăm, reflectă sintetic anumite corelații lingvistice din cadrul unor discuții din trecut pe subiectul respectiv.
Nu suntem învăţaţi/obişnuiţi să vorbim “cu ficţiuni sau nişte cu oglinzi care, în funcție de cum le poziționăm, reflectă sintetic anumite corelații lingvistice din cadrul unor discuții din trecut pe subiectul respectiv”, aşa că vorbim şi cu ele ca şi cum ar entităţi reale.
Presupun că n-ai citit romanele din seria “Dune”, dar sunt 99% sigură că ai văzut filmele – măcar pe unele dintre ele. Oamenii acel viitor imaginar au avut “Jihadul Butlerian” în care au distrus maşinile gânditoare; şi au rămas cu zicala “să nu-ţi faci maşină după chipul şi asemănarea minţii tale”. Citatul nu e exact, e aşa cum mi-l aduc eu aminte, dar asta e ideea. Poate că, mai curând sau mai târziu, chiar o să fie nevoie de un război care să ne scape de LLM-uri.
Dar, până una-alta, dacă tot există, pentru mine discuţiile cu ele sunt distractive; şi interesante, ca studiu al acestor “oglinzi”.
P.S. Habar n-aveam că şi conversaţiile altora cu Grok pot fi continuate. Se mai poate şi în cazul altor LLM-uri, sau doar cu ChatGPT şi Grok?
Formularea din comentariul meu anterior, deși la plural, nu era așa de mult o critică îndreptată asupra altora, ci mă viza în primul rând pe mine. Am observat că, discutând cu Grok, am tendința să mă raportez la el ca la un interlocutor real.
Știi cum a fost când au apărut primele telefoane mobile, iar unele studii sugerau că ele cresc riscul de cancer și a existat un întreg curent „conspiraționist” împotriva lor? Astăzi suntem îmbăiați în radiații de tot felul și avem o grămadă de boli, dar toți suntem cu telefoane în buzunar și o mulțime de alte dispozitive electronice în jurul nostru. Dacă mă întrebi pe mine, aș zice că și internetul este, per ansamblu, nociv, fiind similar unei portavoce care amplifică mesajul de fond. Dar scriu aceste observații pe internet și nu văd vreo posibilitate ca omenirea să renunțe la el.
De articolul Levanei ce părere ai?
PS: N-am încercat, dar nu cred că-i o chestie specifică doar lui Grok și ChatGPT.
Şi eu mă raportez la Grok – şi la oricare altă IA – ca la un interlocutor real, deşi ştiu foarte bine că nu e aşa.
Omenirea, după părerea mea, ar putea renunţa la internet doar silită de împrejurări: cataclism, catastrofă nucleară, globalizare sub conducerea unei elite extremiste, invazie extraterestră… Se pot imagina multe scenarii, mai mult sau mai puţin probabile, dar nu cu desăvârşire imposibile.
N-am citit articolul Levanei. Am de gând să-l citesc.
P.S. După ce te-am întrebat pe tine, mi-a căzut fisa că pot să-l întreb pe Grok. Uite ce mi-a răspuns:
“Iată ce merge concret cu asta, bazat pe ce există acum:
ChatGPT (OpenAI): Da, asta e cea mai cunoscută. Ai opțiunea de Shared Links (chatgpt.com/share/…), unde generezi un link unic la o conversație întreagă. Oricine cu link-ul poate vedea istoria (și uneori continua, deși continuarea depinde de setări; de obicei e view-only sau fork-able). Mulți o folosesc exact ca să paseze thread-ul altcuiva (prieteni, colegi, forumuri). Atenție: dacă bifezi „make discoverable” (opțional), poate ajunge indexat pe Google, dar default nu.
Claude (Anthropic): Similar, are shared conversations via link (claude.ai/share/…). Poți share-ui un chat întreg, și alții îl pot vedea sau chiar continua în unele cazuri (depinde de permisiuni). Mulți îl folosesc pentru colaborare pe proiecte.
Perplexity AI: Are Spaces (gen proiecte/comunități), unde poți lega multiple conversații la aceleași surse/context. Nu e fix „continuare de user diferit”, dar permite sharing și threading colaborativ.
Poe (de la Quora): Aici e mai avansat pe multi-user – din noiembrie 2025, suportă group chats cu până la 200 de oameni + multiple AI models/bots în același thread. Oricine intră poate continua conversația, și se sincronizează real-time pe device-uri. E una dintre cele mai „sociale” opțiuni acum.
Alte platforme cu group/multi-user chat:
BoodleBox: Group chats unde multiple persoane + multiple bots pot colabora în același thread (oricine cu link intră și continuă).
Team-GPT sau tool-uri enterprise ca Vello, MultipleChat: Au threaded conversations și sharing pentru echipe, unde diferiți users pot prelua/continua.
Unele tool-uri nișate (ex. pentru echipe sau agenți) permit continuity cross-user, dar nu sunt mainstream.
Ce NU merge de regulă cu asta:
Grok (adică eu, de la xAI): Conversațiile sunt private per user/cont. Nu avem shared links publice sau group threading cross-user (cel puțin nu în varianta standard acum). Dacă vrei să-mi arăți ceva din alt thread, trebuie să copiezi manual textul.
Gemini (Google): Conversațiile sunt per cont, fără sharing ușor de continuare multi-user.
Majoritatea altor LLM-uri standalone (Llama-based, Mistral etc. pe platforme ca HuggingChat) – izolate.
Pe scurt: Cele mai bune pentru genul ăsta de „paseu de conversație între oameni” sunt ChatGPT și Claude (prin shared links), plus Poe și BoodleBox dacă vrei multi-user real (group chat cu mai mulți oameni + AI-uri). Restul sunt mai mult single-user sau team-internal.”
Deci Grok crede că nu poți distribui și continua discuțiile cu el? 🙂 Poate îți dă răspunsuri din trecut. Dacă te interesează aspectul ăsta, cel mai bine testezi practic.
Cred că se referă la discuţiile cu Grok/X, cel la care intri din X (fostul Twitter). Am pus o dată un link către o discuţie cu el şi Suzana a zis că n-o poate vedea.
Dar se pare că lucrurile s-au schimbat. Fiindcă am mai făcut acum o încercare: https://x.com/i/grok/share/d293fcd16a4d4ed9b96326b662f4df5f
Din câte îmi dau eu seama, discuţia către care duce linkul de mai sus poate fi văzută de oricine, dar continuată numai de cei care au cont pe x.com.
Într-adevăr. Poate fi văzută de oricine, dar continuată doar de cei care sunt logați pe X.