Pericolul inteligenței artificiale

Temerea că într-un viitor nu prea îndepărtat roboții vor deveni autonomi, dobândind o conștiință similară cu a noastră și vor ajunge să stăpânească planeta a fost pusă pe tapet de numeroase ori în opere artistice sau literare. În filmul Terminator, de exemplu, Skynet este numele unei conștiințe artificiale ce trimite în trecut un android programat să-l ucidă pe John Connor, un copil care urma ca la maturitate să joace un rol esențial în victoria oamenilor asupra roboților. Filmul, devenit între timp unul cult, este foarte bine realizat, cu efecte speciale excelente pentru perioada lui și, cel mai important pentru subiectul nostru, științifico-fantastic.

The Terminator (1984)

De ce am scris rândurile de mai sus? Pentru că am observat o ușoară tranziție din domeniul artistic în cel speculativ și conspiraționist, alimentată de avansul tehnologic din ultimii ani, mai ales în ce privește calculatoarele. Desigur, progresul  există. La ora actuală, Tesla construiește mașini cu pilot automat iar asistentul Google (un robot, adică un program de calculator) îți poate rezerva o masă la un restaurant, o cazare la un hotel șamd, fiind suficient de „inteligent” cât să se descurce cu operatori care dau răspunsuri evazive sau atipice. Colac peste pupăză, invitatul de onoare al Andreei Esca la una din emisiunile ProTV din mai 2018 a fost un robot umanoid pe nume Sophia, ce a primit cetățenia Arabiei Saudite. Să-l urmărim:

Sau măcar să încercăm. Clipul mi-a fost adus în atenție de o comentatoare de la Cudi și mărturisesc că n-am reușit să-l vizionez până la final. Oribilitatea de mai sus a fost construită de o companie din Hong Kong și poate imita 50 de expresii faciale, dând răspunsuri ca „este fermecător” la întrebarea „Uite, recunosc că sunt o mare admiratoare a echipei Real Madrid, iar tu l-ai întâlnit pe Ronaldo! Cum e omul ăsta?”, iar eu nu cred că am văzut o urâțenie mai mare. Prin comparație, bunica oricăruia dintre voi, oricâte riduri ar avea și oricât de țărănește s-ar exprima, e infinit mai autentică și mai frumoasă. Dar să nu mai pierd timpul cu acest chatbot umblător și să trec la subiect. Mânată așadar de noile progrese tehnologice, imaginația unora a ajuns să-și pună întrebarea la modul serios: nu cumva inteligența artificială constituie deja un pericol pentru rasa umană?

Și răspunsul la această întrebare este că nu. Din câte știu eu – și știu mai multe decât cetățeanul mediu român și probabil infinit mai multe decât cel saudit – la ora actuală nu există program de calculator care să poată imita în întregime facultățile intelectului uman, datorită complexității extraordinare a acestuia. Încă nu am reușit să înțelegem, să formalizăm și să transcriem în pseudocod modul în care înțelegem, formalizăm și transcriem în pseudocod. Toate programele de inteligență artificială sunt de fapt algoritmi care simulează inteligența sau cel puțin par să facă asta, priviți din afară. Din acest punct de vedere, calculatorul de buzunar (sau de pe desktopul PC-ului) poate fi considerat inteligent, deoarece e capabil să execute operații matematice mai bine și mai repede decât noi, dar nu poate fi considerat ca având o inteligență asemănătoare cu a noastră, deoarece nu-i capabil de nimic altceva. Un chatbot este de fapt un calculator care în loc de numere operează cu cuvinte dintr-un dicționar.

Întrebați un pilot automat ce părere are de Ronaldo și o să-l blocați. Puneți-o pe Sophia la volanul unei mașini și va intra în primul parapet. Cereți-i unui program de șah să vă indice cel mai scurt traseu până la București și o să vă răspundă printr-o invitație la o partidă nouă. Pentru că toate aceste programe sunt construite să facă un singur lucru. Și nu poți construi unul care să știe și să facă de toate, fiindcă nu-i o problemă de cumul, ci una de înțelegere: robotul nu va fi capabil să înțeleagă și să învețe nimic, pentru că robotul nu înțelege nici măcar lucrul pe care-l face din fabrică, imitând doar acțiunea conștientă și inteligentă a omului. Deci un robot nu poate crește, nu poate înțelege și nu poate asimila noi informații, iar asta e valabil chiar și în cazul algoritmilor genetici, care nici ei nu evoluează, ci într-un anumit sens doar simulează evoluția, în limitele foarte stricte trasate de programator. Așa că data viitoare când întâlniți un robot care pretinde că este inteligent, spuneți-i care sunt regulile pokerului și apoi puneți-i în mână un pachet de cărți. O să se uite la voi zâmbind sau adoptând o altă expresie facială și o să spună: „Îmi plac cărțile, mai ales cele clasice, cititul este o activitate educativă și plăcută!”.

Și dacă de inteligență nu poate fi vorba, evident că de originalitate, intuiție, conștiință de sine sau suflet nici nu are rost să mai discutăm. Saudiții au deschis un precedent interesant, deoarece dacă Sophia poate fi considerată cetățean, atunci se poate argumenta că de aceleși statut ar trebui să se bucure și laptopul tău de acasă sau telefonul din buzunar. Și că poate îl abuzezi, ducându-l cu tine toată ziua și folosindu-l la ce ai tu chef, când el poate ar vrea să stea relaxat pe dormeză. Și că dacă-l scapi pe jos și-l spargi, ești pasibil de închisoare. Chiar, ce i s-ar putea întâmpla celui care ar dezafecta-o pe Sophia? Poate fi considerată asta o crimă? Dacă compania-mamă vrea să scoată robotul pe tușă? Mai are dreptul ăsta, acum că e cetățean?

Așadar, țineți minte următoarele trei lucruri: în primul rând, nu am putut înțelege modul în care gândim, fiind enigme pentru noi înșine și care face computerele care pot ghida modulele spațiale, dar nu sunt capabile să gândească la nivelul unui copil , al doilea, că poți să desființezi cu ușurință orice pretenție de inteligență artificială prin “scoaterea din program” pe robotul din fața ta, adică să încerci să-l înveți ceva nou – rezultatul va fi dezastruos, iar al treilea, ca fiind spus, sunt uimit de performanta traductorului Google. Deoarece paragraful pe care-l citești acum a fost tradus cu el din româna în engleză și apoi înapoi în limba română.1Paragraful original: Rețineți, așadar, următoarele trei lucruri: primul, că încă nu am reușit să înțelegem modul în care gândim, fiind niște enigme pentru noi înșine, iar asta face să avem calculatoare ce pot ghida module spațiale dar sunt incapabilă să raționeze la nivelul unui bebeluș, al doilea, că puteți demonta foarte ușor orice pretenție de inteligență artificială „scoțându-l din program” pe robotul din fața voastră, adică încercând să-l învățați ceva nou – rezultatul o să fie dezastruos, și al treilea, că acestea fiind spuse, sunt totuși uimit de performanțele traductorului Google. Pentru că paragraful pe care îl citiți acum a fost tradus cu el din română în engleză și pe urmă înapoi în română.

Și asta face ca titlul de cel mai inteligent robot de pe planetă să-i revină, în lipsa concurenței, corporatistului. 🙂 Dar despre el, cu o altă ocazie.

102 Replies to “Pericolul inteligenței artificiale”

  1. Dincolo de faptul ca-i stufos pana la Dumnezeu , articolul dumitale este totusi , cat se poate de real in planul unui potentzial pericol pe care , inteligentza artificiala al va reprezenta pentru omenire … in viitorul nu foarte indepartat . Al las pe Stephen Hawkins sa se odihneasca in sfarsit in pacea sa dar , diferit de faptul c-a fost printre primii ce-au avertizat asupra unui pericol cauzat de aceasta ” inteligentza artificiala ” , CHINEZII adica , aia care au cea mai mare rata a folosirii robotzilor in industrie si chiar si-n agricultura mai nou , CHINEZII care nu s-au basicat atunci cand au inventat praful de pushca , astia deja dovedesc o preocupare majora vis a vis de VIITORUL OMENIRII intr-o lume dominata de roboti si robotica . Mintile stralucite ale unor sociologi , economisti si politologi chinezi deja fac scenarii referitoare la acest viitor si , daca n-ar fi chiar nimic , ma cam indoiesc de faptul ca galbejitii de la Beijing si-ar consuma neuronii doar pe fantasme . In alta ordine de idei , finalul este PIRAMIDAL desii , chiar nu-mi pot da seama cum vor inghitii aceasta galusca …corporatistii . Aldus , deoarece azi este totusi vineri , da-mi voie sa-ti urez sa ai parte de un weekend de zile mari , RESPECT ! P.S. Sper ca nu esti…corporatist 😉 .

  2. Bine ca-mi adusei aminte la timp ! Am vazut candva un film { nu-i atat de mult din 2000 si pana azi dar mie , chiar imi pare o vesnicie } , in care presta Al Pacino . Filmul se numea SIMONE si , chiar daca n-are nici o legatura cu ” SOPHIA ” lasa totusi loc si pentru o abordare in genul celei facute azi de dumneata . Mie personal… chiar mi-a placut . Respect ! Andreea Esca…mai traieste asta ?

  3. @Mihai Hai Hui

    Și mie. Dar eu sunt narcisist. 🙂

    @Marian

    Articolul meu afirmă că deocamdată nu e niciun pericol din acest punct de vedere și nici nu se întrevede vreunul la orizont.

    De Andreea Esca nu știu nimic, că nu mă uit la televizor, dar clipul de mai sus este din luna mai, deci presupun că e bine-mersi. 🙂

  4. Pai eu ma indoiesc ca majoritatea celor care emit ingrijorari cu privire la AI sunt speriati de perspectiva unui android all-in-o one care face de toate, glumeste, invata si are pareri personale. Asta e partea aia de F din SF. Cred ca aia destepti si realisti (nu conspirationistii cu bale pe pept, adicatelea) se gandesc probabil la acele AI care-ti iau locul (si unora slujba) pentru sarcini repetitive si simple. Gen servit la macdonalds, spalat masina, dus pizza. Pe scurt nu se teme nimeni (cu mintea intreaga) ca ar aparea vreun AI care sa-i ia slujba unui scientist/artist, ci gunoierului, studentului care-ti serveste la mac, sau adolescentului care-ti aduce pizza. Intre altele astea deja se intampla, pizza se livreaza si cu drona in unele locuri, iti poti comanda prin touch screen burgerul la mac si masina poate fi spalata perfect automat, desi n-as merge pana intr-acolo cat sa zic ca astea de le-am enumerat ar fi vreuna AI, poate doar daca ai considera blenderul ca fiind strabunicu’ terminatorului.
    Astea fiind zise eu imbratisez cu maxim avant de early adopter orice forma de automatizare. Si iau in barba si toate belele conexe. Gen erorile senzorilor de apa din casa si problemele de accent dintre mine si boul de Siri finalizate cu urlete personale (daca e macar nitel inteligent o sa invete sa injure in ruseste foarte rapid 😀 ). Mie mi se pare misto sa fii in prima generatie care incearca draciile astea cand apar. Nu stiu cat invata AI-urile de la mine, dar eu de la ele absolut da :D.

  5. Am văzut anii trecuți o știre cu ceva profesor de filosofie american care chiar de asta se teme, de IA care să devină conștientă și autonomă, ca în filme. Și are un fel de proiect sau de organizație prin care să avertizeze lumea, ține conferințe etc. L-am căutat vreo 5 minute înainte să public articolul dar nu l-am găsit și în ultimă instanță nu cred că merită efortul.

    Robotizarea este într-adevăr un motiv de îngrijorare mult mai realist. Tema asta am discutat-o mai pe larg aici, unde m-am dus puțin în extrem, gândindu-mă la situația în care majoritatea joburilor ar fi preluate de mașini. Că în momentul ăla deja există potențialul de a se produce niște lucruri foarte interesante. Care probabil scot în evidență faptul că sistemul economic actual nu este unul tocmai bun sau ideal.

  6. Așa că data viitoare când întâlniți un robot care pretinde că este inteligent, spuneți-i care sunt regulile pokerului și apoi puneți-i în mână un pachet de cărți.

    Libratus merge?
    Eu zic ca esti putin departe de realitate cu concluziile. Articoulul imi pare un formalism de tipul am concluzia, ce ipoteze gasesc care sa o sustina.

    Da, nu intelegem cum gandim, dar asta inseamna ca neavand nici o definitie clara, elolutia AI-ului poate fi considerata gandire. Daca te-as intreba ce este inteligenta, ce raspuns mi-ai da? Faptul ca robotii de poker primesc doar regulilile iar dupa ce joaca intre ei ajung sa bata oamenii, nu reprezinta inteligenta? De ce nu(daca asta e raspunsul)?

    Ai auzit de AlphaGo, AlphaGo Zero, OpenAI Five?
    Ceea ce au reusit acesti roboti nu intra in categoria “learning”? Ce ar trebui sa se intample astfel incat sa afirmi: AI-ul vine puternic din urma si “invata” sa faca din ce in ce mai multe lucruri, precum un beblus care incepe sa faca primii pasi in viata?

  7. America e plina de semidocti de pe la universitati dubioase. Iar dubiosii care-s pe la universitati de care a auzit totusi cineva au si ei rolul lor (si de aia-s si tolerati), ceea ce nu inseamna ca-s si luati in serios de colegi. Fix ca prostanacii anti-vaccin si ala de care zici tu are cu siguranta adeptii lui. Sunt atati dornici sa creada in diverse pericole, apocalipse, damnari si conspiratii, ca e pacat sa nu fir exploatati. Si aia mai cinici sau cu dorinte mesianice, o fac.
    N-am citit inca articolul din linkul de mi l-ai dat, ma duc nitel mai tarziu.

  8. @DoarF

    Libratus e o mașină programată să joace cărți. Pune-o să traducă un text din română în engleză. 😉

    Nimeni nu neagă faptul că există calculatoare care ne bat la diverse jocuri de logică și strategie sau meritul algoritmilor din spatele lor. Nimeni nu a propus amendarea sintagmei de „inteligență artificială” pe motiv că ar fi falsă. Dar am comparat-o cu inteligența umană și am spus că mai e mult până departe. Relevanța unui program care te bate la go, pentru discuția noastră, este cam aceeași cu relevanța unui calculator de buzunar care te depășește la viteza și precizia de calcul. Da, e mai rapid ca tine, dar ești infinit mai inteligent ca el. Iar faptul că unele programe învață din greșeli nu schimbă cu nimic ecuația de bază, lucru pe care l-am menționat tangențial când am amintit de algoritmii genetici.

    Da, articolul e cam sumar, mai mult o concluzie. Mizez pe bunul simț al cititorului și pe eventualele lui întrebări înțelepte, deoarece a mă fi lansat în explicații laborioase și profunde despre anatomia unui algoritm de inteligență artificială ar fi însemnat să depășesc cu mult cadrul acestui blog.

    Faptul că nu înțelegem cum gândim nu înseamnă că nu putem defini gândirea. O putem defini și recunoaște, la fel cum putem recunoaște un tablou de geniu, chiar dacă nu putem explica concret, clar și precis pașii prin care poți să-l pictezi – astfel încât oricine ne citește să poată ulterior picta un astfel de tablou -, nici măcar atunci când suntem autorii lui. Putem defini muzica bună, chiar dacă nu putem spune exact cum să o produci, și astfel ne putem uita în ograda roboticii să vedem ce găsim acolo. Iar ce găsim este o foarte palidă și parțială imitație a inteligenței umane. Palidă, parțială și sintetică. Infinit mai mult decât o ușă de dulap, infinit mai puțin decât noi.

    Reține te rog de la ce a pornit articolul. De la modelul unui android tipic din filmele științifico-fantastice, de seama Terminatorului. O să mă convingi că mașinile s-au ridicat la nivelul nostru când o să-mi aduci un robot care știe limba română și, odată ce îi explic în cuvinte simple regulile unui joc de inteligență despre care el nu avea habar înainte, o să fie capabil să mă bată la acel joc. Până atunci însă, mai este cale lungă.

    @Vladen

    Adevărul e că nu numai pe la universități dubioase.

    Cât privește tema vaccinurilor, discuția e mai amplă. Sunt făcute cam în grabă, unele pe fușereală (Renata o să mă contrazică aici). Funcționează, dar au și efecte adverse. În ziua de azi, diferența dintre fantezie și realitate (în domeniul conspirațiilor) o trasează adeseori banii. Eu rețin că o anumită firmă din Europa a făcut o căruță de bani când cu tema gripei aviare, acum ceva ani, pentru că era singurul producător de vaccin sau medicament aferent. Și că și la noi în România a ieșit inițial Flutur sau cine era atunci ministru și a spus că păsările respective nu au traseu prin țara noastră, pentru a o da cotită ulterior, după care am văzut la televizor cosmonauți stropind străzile goale. Dar divaghez.

  9. Libratus e o mașină programată să joace cărți. Pune-o să traducă un text din română în engleză.

    Pune un traducator de germana/engleza sa traduca chineza/japoneza si o sa obtii aceleasi rezultate. Asta inseamna ca nu avem inteligenta?

    Ti-am pus o intrebare concereta: cum definesti inteligenta? Cum definesti invatarea? Spui ca AI este o PALIDA replica. Ai o oarece dreptate, undeva pe la inceputul anilor 2000 AI era evaluat la nivelul unui gandac de bucatarie lobotomizat. Peste ceva timp, a ajuns sa ne bata la niste aspecte la care ne credeam mult prea inteligenti si nici nu ne imaginam asa ceva. Ce ignori tu este faptul ca Liberatus nu e programat sa joace carti, ci sa INVETE cum sa joace carti. Daca ai urmarit subiectul OpenAI, ai vazut ca inca nu a reusti sa invinga echipele profesioniste. Pentru ca inca suntem departe de imaginea terminatorului, dar traiectoria este clara: AI-ul a facut primii pasi concreti, nu mai merge in 4 labe.

    Revin la subiectul gandire/invatare: de cand ne nastem imitam pe altii si invatam de la ei. Acumulam experienta si dupa ce bagam prima data mana in foc si vedem ca arde tinem minte sa pastram distanta. AI-ul face la fel, dar cu un alt cost si cu alta eficienta a invatarii In termeni umani, openAI juca intr-o ora/zi(nu mai retin exact), 123 de ani. Deci putere bruta mult mai mare, eficienta mult mai mica. Daca la asta te referi, da, este inca departe de eficienta umana la capitolul invatare. Dar rezultatul combinat, ar trebui sa ne dea de gandit pentru ca la viteza cu care evolueaza AI-ul, singularitatea nu e chiar asa departe.

  10. Ti-am pus o intrebare concereta: cum definesti inteligenta? Cum definesti invatarea?

    Sunt două întrebări concrete, nu una. 🙂 Pe foarte scurt și fără să mă gândesc prea mult, învățarea este asimilarea de informație. Asimilarea implică filtrarea, înțelegerea, clasificarea și fixarea sau întipărirea în anumite straturi mentale a informației în cauză. De asemenea, eventuala ei asociere cu alte informații, deja existente. Deci e un proces complex. Că altfel, am putea spune și despre o pagină de blog sau despre un dicționar că „asimilează” informație, pe măsură ce introducem cuvinte în el. Învățarea autentică implică un agent conștient care poate structura în jurul lui informațiile asimilate, dându-le o anumită formă și integrându-le într-un tot coerent și omogen, ce va constitui un fond cognitiv de bază la care agentul respectiv va avea acces din acel moment înainte.

    Inteligența este abilitatea de a face corelații între informațiile asimilate. Într-un sens mai larg, gândirea umană este abilitatea de a recunoaște tipare, de a găsi soluții la probleme noi pe baza experienței acumulate și a problemelor vechi știute (care au fost sau nu rezolvate la vremea lor, că poți învăța atât din succese cât și din eșecuri), de a te adapta, de a folosi acel fond cognitiv de bază (aflat atât în plan conștient cât și la nivel inconștient) nu doar pentru conexiuni simple și directe ci și pentru a fi creativ și a găsi soluții originale, ingenioase, neașteptate sau chiar intuitive la diversele probleme sau întrebări pe care ți le pune viața (sau pe care ți le pui tu).

    Raportat la lumea neanimată, inteligența este abilitatea de a urma un traseu care, în loc să fie aleator, entropic sau înscris în tendința generală, va fi mai mult sau mai puțin optimizat pentru atingerea unuia sau mai multor obiective.

    Pune un traducator de germana/engleza sa traduca chineza/japoneza si o sa obtii aceleasi rezultate. Asta inseamna ca nu avem inteligenta?

    Deloc. Înseamnă că traducătorul respectiv nu știe chineză. Inteligența e o abilitate ce exploatează un fond informațional existent. În cazul respectivului traducător, lipsește o parte necesară din acel fond informațional. Dar ea se poate suplini. Dacă are motivație, traducătorul nostru poate învăța limba chineză. Tocmai pentru că e inteligent. Dacă e suficient de inteligent, o poate învăța chiar de unul singur. După cum poate învăța și să joace remi sau să conducă elicoptere. Adică lucruri pe care nu le știa înainte. O mașină nu poate învăța lucruri pe care nu le știa înainte. Cel mult poate deveni mai bună la lucrurile pe care era deja programată să le facă (și să le facă tot mai bine). Dar un program de șah nu poate învăța să joace cărți (sau invers). Trebuie să-l programezi tu pentru asta.

    Atunci când o să-mi arăți un program care poate învăța lucruri pe care nu a fost programat să le facă, din aproape orice domeniu, prin simpla interacțiune cu exteriorul (ascultând explicațiile altora, citind, documentându-se singur etc), atunci da, o să recunosc că inteligența artificială a ajuns foarte aproape de nivelul inteligenței umane.

    Ai o oarece dreptate, undeva pe la inceputul anilor 2000 AI era evaluat la nivelul unui gandac de bucatarie lobotomizat.

    Iar astăzi, unii, cum ești tu, evaluează mașinile ca fiind foarte inteligente. Ce s-a schimbat? Păi, nimic fundamental. O să-mi fac griji atunci când mașinile ne vor evalua pe noi. Certându-se între ele pe tema inteligenței de care dăm sau nu dovadă.

    Ce ignori tu este faptul ca Liberatus nu e programat sa joace carti, ci sa INVETE cum sa joace carti.

    Dacă ai la dispoziție algoritmul acestui program și ești dispus să mi-l arăți, putem discuta concret. Altfel, refuz să mă lansez în speculații de tipul ăsta cu persoane despre care nu știu cât de bine stăpânesc domeniul. Noi deocamdată ne certăm pe definiția generală a inteligenței, pe care aproape toată lumea o înțelege.

    Știi ce e un algoritm genetic? Poți scrie în pseudocod unul?

    Pentru ca inca suntem departe de imaginea terminatorului, dar traiectoria este clara: AI-ul a facut primii pasi concreti, nu mai merge in 4 labe.

    La o scară în care vârful inteligenței umane este pe Lună iar prostia absolută este la sol, IA o fi ajuns undeva, nu zic nu, pe la etajul 10. E enorm de sus față de acum câțiva ani, așa o fi, dacă zici tu. Eu zic că algoritmii sunt cam aceiași doar că astăzi avem mai multă putere de calcul, dar în sfârșit, să zicem, etajul 10 față de parter e foarte înalt. Succes până la Lună.

    Notează te rog că nu are importanță cât de superiori ne sunt într-un anumit domeniu, din punct de vedere al discuției de față. Un autist tot autist rămâne, chiar dacă în unele cazuri poate calcula mai rapid decât orice om normal. Iar cel mai bun program de șah tot la etajul 10 este, chiar dacă îl bate pe cel mai bun maestru șahist. OpenAI tot limitat va rămâne și după ce va deveni campion mondial la Dota. Care Dota e doar unul din jocurile pe care le jucăm, pe lângă o multitudine de alte activități din viața de zi cu zi, ce toate implică procese intelectuale.

    In termeni umani, openAI juca intr-o ora/zi(nu mai retin exact), 123 de ani. Deci putere bruta mult mai mare, eficienta mult mai mica. Daca la asta te referi, da, este inca departe de eficienta umana la capitolul invatare.

    Nu la asta mă refer. Mă refer la faptul că e o imitație de inteligență. Imitație ar rămâne chiar și dacă într-o zi ar acumula experiența pe care cei mai buni jucători umani o acumulează într-un an. De ce? Pentru că nu știe să facă altceva decât să joace Dota. Ți-am zis, când o să-l văd capabil să vorbească cu noi și să învețe jocuri care nu-i erau programate, din explicațiile noastre, atunci o să-i acord prezumția de inteligență. Până atunci, e doar un algoritm complex de căutare. Da, sigur, dintr-un anumit punct de vedere foarte inteligent, cu rezultate spectaculoase, poate peste ale noastre. Dar departe de inteligența umană.

    Man, nu este suficient să fii mai bun ca un om pentru a fi mai inteligent ca el. Un escavator sapă mai eficient decât un om, dar numai un glumeț ar spune că ne depășește la capitolul inteligență. Cine a construit escavatorul, a? Deci, tot omul sapă mai eficient, prin intermediul mașinii. Escavatorul este doar unul dintre multele noastre instrumente. Create, inventate de noi ca să ne ușureze munca.

    Dar rezultatul combinat, ar trebui sa ne dea de gandit pentru ca la viteza cu care evolueaza AI-ul, singularitatea nu e chiar asa departe.

    Succes până la Lună.

  11. Noi deocamdată ne certăm pe definiția generală a inteligenței, pe care aproape toată lumea o înțelege.

    Nu ne certam deloc. Eu doar te-am pus sa definesti inteligenta si, in prima interventie, sa argumentezi de ce evolutia respectiva nu o etichetezi ca fiind inteligenta(lucru pe care, in stilul tau caracteristic, nu l-ai facut). Si am facut asta avand in minte prima intrebare a profului de AI: ce este inteligenta? Si cum fiecare a dat alta definitie si a categorisit dupa propriile criterii ce intra sau nu in capitolul inteligent. Urmata de definitia circulara din dex prin care inteligenta este definita prin destaptaciune iar desteptaciunea prin inteligenta. Ca doar suntem __atat__ de inteligenti, nu? 🙂

    Inteligența e o abilitate ce exploatează un fond informațional existent.

    Corolar: avand in vedere ca robotul de pocker are un fond informational doar din jocul de pocker, inteligenta lui poate fi evaluata doar in cadrul jocului de pocker.

    Dacă are motivație, traducătorul nostru poate învăța limba chineză. Tocmai pentru că e inteligent. Dacă e suficient de inteligent, o poate învăța chiar de unul singur.

    Nu e suficient sa aiba motivatie, trebuie sa aiba si resursele necesare. Lasa-l pe traducator doar cu textul in chineza, fara dictionare, fara persoane care sa-l invete sau in varinata sintetica: fara interfete exterioare care sa injecteze cunoastere si mai evalueaza odata inteligenta.

    O mașină nu poate învăța lucruri pe care nu le știa înainte. Cel mult poate deveni mai bună la lucrurile pe care era deja programată să le facă (și să le facă tot mai bine).

    Aici avem o diferenta clara de viziune. Cunoasterea unor reguli(de sah de exemplu) nu inseamna ca “stiai dinainte sa joci sah”. Tu negi aceasta invatare in cadrul unui domeniu. Da, ai dreptate, AI-ul inca nu poate sarii din aria domeniului respectiv, dar nimeni nu a sustinut ca ar putea la acest moment. Dar in cadrul limitelor acelui domeniu, AI-ul este inteligent: invata lucruri pe care nu le stia. Pe care nu i le-au dat programatorii.

    Dar un program de șah nu poate învăța singur să joace cărți (sau invers).

    La fel ca un traducator fara mijloacele tehnice de mai sus.

    Atunci când o să-mi arăți…

    Nu a sustinut nimeni ca AI-ul este autonom sau ca a ajuns cu performanta la nivelul omului.

    Iar astăzi, unii, cum ești tu, evaluează mașinile ca fiind foarte inteligente

    Si unde ma rog am sustinut eu asta? Eu am sustinut ca vin tare din urma. In contextul articolului, tu bagatelizezi preocuparea unora despre posibilitatea ca AI-ul sa fie rau. Faptul ca inca nu avem un AI autonom nu insemna ca nu puteam avea AI “intr-un singur domeniu” care sa ne faca viata mizerabila.

    Știi ce e un algoritm genetic? Poți scrie în pseudocod unul?

    Da, dar numai in forma poetica.

    Man, nu este suficient să fii mai bun ca un om pentru a fi mai inteligent ca el.

    Asta e de fapt problema noastra. Pana nu de mult, vedeam calculatoarele ca pe simple intrumente, precum buldozerul. Si ne consideram superiori, caci noi avem inteligenta iar calculatorul nu va putea niciodata sa concureze cu noi la activitati considerate inteligente. Iar acest mit incepe sa se spulbere: pe bucatii mici de felii, am inceput sa ne-o luam in barba de la AI. Si aceste felii se tot maresc. La sah a fost brute force. La vremea respectiva se considera ca pentru go este imposibil, deoarece nu mai merge cu brute force(mult prea multi ani). A fost depasit si acest milestone. Tu te tot legi de faptul ca daca il intrebi dintr-un alt domeniu ii da cu exit(0). De ce o sa te mai legi cand toate aceste felii o sa se integreze si acest punct o sa fie atins? O sa sustii si atunci ca desi face totul mai bine decat omul, tot omul detine inteligenta suprema? Sau revii la tema articolului, la terminator, si o sa constati ca nu e nevoie sa fie mai inteligent in sensul in care il propui tu ca sa fie mai eficient in a ne termina ca specie.

    Ca o concluzie: ai spus mai sus ce intelegi tu prin gandire/invatare/inteligenta, caci se intrepatrund si in definia ta. Mai tii minte cum era in prima clasa: inveti cifrele. Mecanic. Apoi inveti tabla adunarii. Tot mecanic. Sistematizare, filtrare, intelegere, asociere…mai putina. Pe masura ce inaintezi in varsta, se aplica tot ce ai spus tu mai sus. Cand eram copil am citit cartea denumita Tarzan. Presupunand ca toata lumea a auzit de Tarzan si Jana, era acolo un lucru legat de acest subiect: la un moment data gaseste cabana parintilor iar in acea cabana, carti. Iar, fascinat de acele carti, dupa multe ore de privit, incepe sa realizeze ca liniile se grupeaza in litere, ca literele se grupeaza in cuvinte, ca textul de sub imagini reprezinta ce este in imagine. Invata sa citeasca. Iar citind, realizeaza ca el nu este maimuta, precum cele care l-au crescut ci este om. Inteligenta pura as putea spune. Consideri ca omul este atat de inteligent incat este capabil de asa ceva? Fara un indrumator care sa-i explice acele concepte, care sa-i deschida mintea catre gandire? Cu ceva ani in urma, aveam o dezbatere cu cineva pe teoria ca in cativa penta se poate simula personalitatea umana. Eu eram schepticul de serviciu ca este posibil ca personalitea umana poate fi simulata de AI. Chiar daca algoritmii folositi nu au evoluat prea mult, intelegerea modului in care pot fi folositi plus capacitatea de calcul schimba datele problemei. Omul recunoaste aproape instantaneu un chip cunoscut. Cand AI-ul o sa recunoasca mai bine ca omul, chiar daca nu foloseste aceleasi procese fizico-chimice-biologice, tot o sa il acuzi de imitatie ieftina?

  12. Nu ne certam deloc. Eu doar te-am pus sa definesti inteligenta si, in prima interventie, sa argumentezi de ce evolutia respectiva nu o etichetezi ca fiind inteligenta(lucru pe care, in stilul tau caracteristic, nu l-ai facut).

    Haide bre, ne certăm în sens figurat. Și cum adică nu l-am făcut? Am definit inteligența și ți-am spus de ce aia a calculatoarelor nu este decât o palidă și parțială reflexie de m-a durut mâna. O reiau aici.

    Un robot nu este cu adevărat inteligent pentru că nu este capabil să manifeste această „inteligență” în orice direcție și să învețe lucruri noi, așa cum facem noi, depășindu-și programarea de bază. Adică nu este capabil cu adevărat să se adapteze la nou. Inteligența mașinii care joacă Go nu este decât o imitație sintetică a inteligenței umane pentru că în afară de a juca Go, nu poate face nimic altceva.

    Ai auzit de vreun robot care să știe fizică mai bine decât noi? Care să fi emis teorii cu mult peste ce-a gândit Einstein sau care să fi inventat instrumente ce să ne ușureze viața? Sau să fi inventat ceva, orice? Care să știe scrie un joc de Go într-un limbaj de programare? Care să se poată auto-programa? Că eu nu am auzit.

    Mașinile sunt inferioare din acest punct de vedere oricărui copil. Mașinile nu pot învăța nimic. Copilul are posibilități nelimitate.

    Corolar: avand in vedere ca robotul de pocker are un fond informational doar din jocul de pocker, inteligenta lui poate fi evaluata doar in cadrul jocului de pocker.

    Asta-i ca și cum ai spune că având în vedere că Gigel n-a participat niciodată într-un război real, gradul lui de bărbăție și eroism poate fi evaluat doar din victoriile pe care le obține la diferite jocuri electronice pe care le joacă toată ziua pe calculator. O fi, dar, din nou, departe de ceea ce înseamnă eroismul real. Sau inteligența reală. Dacă tu limitezi câmpul observației doar la un joc de poker, automat ai redus scara de la pământ la cer la scara de la pământ la etajul 10. Maximul pe care poți să-l obții pe această scară este etajul 10. Inteligența autentică se manifestă și acolo unde ai mai multe posibilități decât doar să joci poker. Sau doar să calculezi numere prime, pe care un calculator de buzunar ți le găsește mai rapid decât tine.

    Nu e suficient sa aiba motivatie, trebuie sa aiba si resursele necesare. Lasa-l pe traducator doar cu textul in chineza, fara dictionare, fara persoane care sa-l invete sau in varinata sintetica: fara interfete exterioare care sa injecteze cunoastere si mai evalueaza odata inteligenta.

    Și mai trebuie să mai aibă timp și o condiție de sănătate care să-i permită asta și eventual bani cu care să se întrețină în această perioadă. Dar chestia e că dacă le are pe toate acestea și vrea, poate. A fi inteligent înseamnă a putea să faci un lucru, nu neapărat a-l și face. Că nu toți învățăm o anumită limbă străină sau un anumit joc de strategie, dar avem posibilitatea asta, dacă dorim.

    Pe de altă parte, dă-i programului tău acces la internet și pune-i toate aceste resurse didactice la dispoziție, dicționare, cursuri și ce mai vrei tu, lasă-l în priză, deci dă-i timpul necesar și vezi dacă poate învăța singur o altă limbă. 🙂

    Aici avem o diferenta clara de viziune. Cunoasterea unor reguli(de sah de exemplu) nu inseamna ca “stiai dinainte sa joci sah”. Tu negi aceasta invatare in cadrul unui domeniu. Da, ai dreptate, AI-ul inca nu poate sarii din aria domeniului respectiv, dar nimeni nu a sustinut ca ar putea la acest moment. Dar in cadrul limitelor acelui domeniu, AI-ul este inteligent: invata lucruri pe care nu le stia. Pe care nu i le-au dat programatorii.

    Păi faptul că nu poate sări este tocmai buturuga mică ce răstoarnă carul mare. Detaliul care arată diferența uriașă dintre noi și ei. Pentru că este uriașă. Dacă crezi că e un lucru atât de minor, te poftesc să programezi tu o mașină care poate face asta. Nu poate sări încă? Va să zică tu crezi că nu va trece mult până când o va face? 🙂

    Programul de șah nu știe doar regulile de șah. Știe chiar să joace șah, că pentru aia l-ai programat. Are un algoritm de tip minimax care execută o căutare într-un arbore de poziții, evaluând static nodurile finale etc. Știe să joace șah. Din fabrică. Nu știe să joace orice joc de strategie cu sumă zero, după care, ascultându-te cum îi explici regulile șahului și înțelegând limba pe care-o vorbești, începe să mute inteligent la șah.

    Faptul că învață să joace mai bine este irelevant. Tradițional, piesele de șah au următoarele valori: regină = 9, tură = 5, nebun = cal = 3, pion = 1. Cineva a făcut un program de șah care își crea o mulțime de personalități. Să zicem 200, sau 2000, că nu mai știu exact. Și fiecare personalitate avea inițial aceste valori ale pieselor setate aleator. Și jucau între ele. Adică, programul juca cu el însuși, folosind aceeași rutină de căutare dar evaluând piesele în funcție de personalitatea aflată la mutare. Când una dintre personalități pierdea prea multe partide raportat la numărul de victorii, deci când se demonstra că e mai slabă ca media, era resetată în felul următor: valoarea fiecărei piese era preluată de la câte o altă personalitate aleatoare din joc, existând și o mică posibilitate de mutații, adică de deviere a respectivei valori cu un umăr aleator, pozitiv sau negativ. După care era introdusă din nou în joc. După foarte foarte multe partide, valorile personalităților au început să se apropie de cele clasice, cunoscute în teoria șahului, pe care le-am redat mai sus. Algoritmi genetici. După cum vezi, un astfel de algoritm nu învață propriu-zis lucruri noi, ci își perfecționează o serie de parametri pe care de exemplu programatorul nu a știut să îi configureze în mod optim, lăsând sarcina asta în seama programului însuși. Nu este vorba de a învăța ceva nou în adevăratul sens al cuvântului. Dacă un astfel de program evaluează o poziție de pe tablă doar ținând cont de valorile pieselor, atunci nu va învăța niciodată că într-o poziție deschisă nebunul e mai tare decât calul și vice-versa, indiferent câte partide ar juca cu el însuși. Își optimizează doar anumite trasee care i-au fost dinainte programate și pe care autorul nu a avut timpul sau expertiza să i le configureze într-un mod optim.

    Acum, sigur, ăsta e doar un exemplu de algoritm evolutiv, dar te poftesc să vii cu altul și putem discuta pe el.

    La fel ca un traducator fara mijloacele tehnice de mai sus.

    Bre, programul nu poate învăța nici cu mijloacele tehnice de mai sus. Ce nu pricepi?

    Faptul ca inca nu avem un AI autonom nu insemna ca nu puteam avea AI “intr-un singur domeniu” care sa ne faca viata mizerabila.

    Cum anume?

    Tu te tot legi de faptul ca daca il intrebi dintr-un alt domeniu ii da cu exit(0). De ce o sa te mai legi cand toate aceste felii o sa se integreze si acest punct o sa fie atins?

    De nimic. Dar tu știi ce înseamnă să ajungi la chestia aia? Presupune că ai creat inteligență care o emulează pe a noastră. Tocmai asta e, că n-o s-o creezi prea devreme. Diferența față de ce avem azi e uriașă.

    Mai tii minte cum era in prima clasa: inveti cifrele. Mecanic. Apoi inveti tabla adunarii. Tot mecanic. Sistematizare, filtrare, intelegere, asociere…mai putina.

    Crezi tu că mai puțină, procesele ăstea au loc și fără să-ți dai seama. Nu tot mecanismul învățării este conștient. La nivel de creier aceste lucruri se produc chiar și la un copil. Se produc la oricine. Bine, cu excepția calculatoarelor. 🙂

    Consideri ca omul este atat de inteligent incat este capabil de asa ceva? Fara un indrumator care sa-i explice acele concepte, care sa-i deschida mintea catre gandire?

    Statistic, copiii crescuți de animale sau izolați de societate au devenit subdezvoltați intelectual, dar dacă potențialul n-ar fi fost acolo, astăzi probabil am fi trăit în copaci. De cealaltă parte, o mașină nu poate nici cu îndrumător.

    Omul recunoaste aproape instantaneu un chip cunoscut. Cand AI-ul o sa recunoasca mai bine ca omul, chiar daca nu foloseste aceleasi procese fizico-chimice-biologice, tot o sa il acuzi de imitatie ieftina?

    Calculatorul de buzunar operează cu numere mai rapid decât tine. Este o palidă și parțială imitație a inteligenței umane, în ansamblul ei? Evident că da. N-ai înțeles nimic din ce-am scris?

  13. Ca sa ma lamuresc, in conceptia ta faptul ca un asistent personal gen siri se adapteaza in timp la preferintele muzicale (sa zicem) ale proprietarului (deci in timp nu vor fi doua care sa reactioneze la fel la anumite comenzi legate de muzica) o consideri invatare? Sau faptul ca asta se intampla pe baza unui algoritm prestabilit si implementat de umani o exclude din sfera invatarii in opinia ta? Si daca o exclude atunci excluzi orice perocese biologice de invatare/memorie (implementate de umani sau nu) pe baza de algoritmi simpli (gen chemotaxie, reflexe pavloviene, raspuns si memorie la durere/frica) din sfera inteligentei? Daca da/nu, de ce?
    P.S: n-am idee daca se intelege prea clar ce vreau sa intreb, genul asta de discutie depaseste binisor capacitatea mea de comunicare in limba romana.

  14. Este învățare, da. Robotul învață gusturile tale. La fel cum Google îți face un profil și învață ce cumperi online, ca să știe ce reclame să-ți arate, iar Facebook învață ce animale îți plac. Dar de aici și până la inteligența umană este cale lungă. Învățarea omului are la bază o înțelegere a informației asimilate, care poate înflori apoi sau produce efecte în orice domeniu. Și care informație la rândul ei poate fi din orice domeniu. Prin comparație cu ea, modul în care învață o mașină este o simplă emulare mecanică, lipsită de perspective în afara limitelor stricte trasate de programator.

  15. @aldus “Altfel, refuz să mă lansez în speculații de tipul ăsta cu persoane despre care nu știu cât de bine stăpânesc domeniul.” Mai, daca ar stapani bine domeniul, adica daca ar fi specialist/specialista in problematica de mai sus n-ar sta el/ea de vorba cu tine, ca n-ar fi interesant. Eu nu m-as lansa in discutii cu entuziastii de pe bloguri in legatura cu domeniul/domeniile mele de specializare. Ca nu-mi iese nimic, nu invat nimic (cu exceptia cazului in care m-ar interesa cum vad amatorii problema respectiva, dar nu prea ma intereseaza in afara de cazul in care astept vreun avion sau n-am nimic mai bun de facut). Poate doar daca cineva e lovit de nestavilita dorinta de a educa masele prin comentat pe blogosfera.
    Asa ca nu vad de ce ar fi o problema ca cineva amator dar entuziasmat de subiect ar comenta pe blogul altui amator entuziast (ca profesionist nu esti ca nu stapanesti argoul specific). Chiar daca crezi ca poate ai citit mai mult legat de subiect, tot e foarte probabil ca anumite aspecte sa-ti fi scapat. In plus fiind amator tu insuti legat de subiect e clar ca nu poti stabili corect cat de mult sau putin stapaneste altcineva domeniul. Deci lansatul in discutii cu DoarF are potential benefic si sa-i bagi asa un bocanc neprotocolar in gura e cam necinstit :).

  16. @Aldus: da, daca te raportezi exclusiv la inteligenta umana, sunt de acord cu tine. Dar cred ca s-a ajuns la un mimetism impresionant al formelor primitive de viata. Pana la urma si astea desfasoara niste functii foarte simple si cu un numar limitat care le asigura supravietuirea (bineinteles ca nu ma refer la genetica si biochimia proceselor biologice din spate, ca alea nu-s de fel simple, ci la functie).
    Cred insa ca esti nitel nedrept cu succesul nostru in a crea AI, cum nici viata n-a “crescut direct mare”. Pana si evolutia naturala a inceput de la forme si procese simple si apoi lucrurile au crescut in complexitate. A avut nevoie de vreo 4.2 mld de ani sa ajunga la noi. Pana la urma ce facem noi cu AI este tot o evolutie. Si ca orice evolutie nu numai ca dureaza, dar e plina de incercari, erori, selectii. Eu zic ca suntem impresionant de rapizi. Desi, ce-i drept, noi avem un model in fata.

  17. @Vladen

    Deci cum, un medic își va face blog și va comenta doar pe subiecte care nu țin de medicină? 🙂

    Ca să fii profesionist nu trebuie să stăpânești un argou, ci să faci bani din activitatea respectivă. Adică să profesezi. De unde rezultă că un amator entuziast și pasionat poate adeseori să-l depășească pe profesionistul blazat, care se ocupă cu domeniul ăla nu din plăcere, ci din necesitate. 😀

    Eu nu fac bani, deci nu sunt profesionist. 🙂 Nici expert nu sunt și n-am emis niciodată pretenția că aș cunoaște totul în domeniu, dar câte ceva tot știu. Mai multe decât cetățeanul mediu, după cum am precizat în articol. Mențin și ce i-am zis lui DoarF, pentru că el a afirmat că „Liberatus nu e programat sa joace carti, ci sa INVETE cum sa joace carti”, ori eu, deși nu cunosc algoritmul de la baza acestui program, nu cred că așa ceva este posibil. Nu cred, adică, că un program poate învăța ceva ce-i depășește sfera programării. Mă poate convinge de contrariu aducându-mi un contra-exemplu, dar concret, adică un algoritm, nu teoretic, adică un citat de pe Wikipedia. Până atunci, eu rămân la concluzia că nu a înțeles foarte bine substanța terenului pe care navighează.

    @Vladen

    Ba sunt foarte drept cu succesul nostru în a crea AI. Cu cât acest AI este mai avansat și ne ușurează mai mult anumite sarcini, cu atât succesul nostru este mai mare. Succesul NOSTRU, da? 😀 Inteligența noastră.

    Deocamdată nu-i cazul să vorbim despre succesul AI-ului. Și cam asta-i esența articolului de față.

  18. N-am zis sa-si faca blog, ci sa comenteze pe ale altora :). Unde-ti dau ca m-am exprimat prost e ca m-am referit la profesionist in sensul de expert. Cand, asa e, nu inseamna acelasi lucru. Expert voiam a spune. Si expert e cam greu sa fii doar cu entuziasmul in anumite domenii. Anii aia de scoala si specializare, PhD-ul, postdocul si ce mai urmeaza nu-i prinzi din urma cu entuziasmul. Nu zic ca n-au fost exceptii de la regula de mai sus, da’ de aia se numesc exceptii. Si chiar si exceptiile alea, fiindca au citit si studiat incep sa stapaneasca argoul specific stiintei/domeniului respectiv care este esential (fiindca altfel nu poti citi si pricepe chestiile mai specializate).
    Ca sa-ti dau un exemplu, nevasta-mea e cercetator si specialitatea ei e biologie moleculara (lucreaza cu celule stem si soareci transgenici chestii legate de regenerarea pancreasului). Desi o ajut cu ce ma pricep eu, chestie care presupune sa inteleg peste nivelul cetatateanului mediu ce face ea acolo, tot am probleme majore sa inteleg articolele specificice pe motiv ca nu stapanesc argoul lor (stapanesc suficient sa pot sa fac ce am de facut, dar insuficient sa fiu “autonom”) mai ales in articole dense ca alea din Nature sau Science, de exemplu. La o discutie cu ea sau colegii ei imediat isi dau seama ca nu-s “de-al lor”, sunt impresionati de cat stiu, mai ales ca in general astia din domeniul meu n-au idee prea clar nici pe unde-i ficatul, dar nu fac parte din ghilda. Si da, argoul ma da de gol. N-am manierismele lor (le am pe ale mele), n-am stilul lor si nici deformarile lor profesionale.

  19. @ ma intreb ce-ar simti baiatul de la pizza cand i-ai spune ca AI-ul ala care ia comanda in locul lui, ba o si livreaza, reprezinta succesul lui :)). Desi, da, ma inclin, sa stai acasa pe banii statului nu e intotdeauna o perspectiva atat de rea :).
    Cred ca e si o problema de cum definim fiecare notiunea de AI. As zice ca DoarF include cam orice automatizare (si eu, desi nu “cam orice”, zic ca-s mai restrictiv), iar tu te referi la androizi si ceva sa mimeze complexitatea unui uman. Tu esti mai stringent, noi mai generosi :).
    Acum ca sa revin on topic, considerand sensul foarte strict pe care-l dai tu, iti dau dreptate. Suntem foarte departe de acel moment.

  20. Acum ca sa revin on topic, considerand sensul foarte strict pe care-l dai tu, iti dau dreptate. Suntem foarte departe de acel moment.

    Păi asta-i discuția. Că DoarF, dacă-l citești de la un capăt la altul, cam asta argumentează, că suntem deja foarte departe cu IA și nu mai este mult până când. Ori eu cred că mai este mult. Strict despre asta era articolul, pentru că altfel l-aș fi dezvoltat într-un alt mod.

    Și eu consider că IA este o formă de inteligență, dar nu când o compari cu vârful inteligenței – pe care la ora actuală o vedem în om -, nu când te raportezi la o emulare completă a funcțiilor creierului uman. Din acest punct de vedere, adică privind de sus, de la nivelul unui potențial Terminator, roboții actuali sunt foarte rudimentari. Asta e ideea articolului.

    Asta nu înseamnă că eu sunt mai strict și tu mai generos cu definițiile. Altădată poate voi scrie un articol despre cât de departe a ajuns un program de șah, iar atunci îl voi compara cu abacul tradițional și voi ajunge la concluzia că informatica a evoluat foarte mult. Dar asta nu pentru că voi fi mai generos, ci pentru că voi alege un alt sistem de repere sau o altă perspectivă din care să privesc. Atunci voi privi lucrurile de jos în sus și voi constata progresul față de momentul zero al informaticii. Acum însă le privesc de la limita superioară, și, prin comparația cu ea, constat ce mult traseu mai este de parcurs, ca să zic așa.

    ma intreb ce-ar simti baiatul de la pizza cand i-ai spune ca AI-ul ala care ia comanda in locul lui, ba o si livreaza, reprezinta succesul lui :))

    Întrebarea asta e validă. AI-ul reprezintă succesul omului, incontestabil. Dacă asta vine în contradicție cu veniturilor și supraviețuirea unora dintre noi, atunci poate că trebuie să căutăm problema în altă parte. Eu cred că de vină ar putea fi actualul sistem economic și în general social, pe care noi nu l-am expus niciodată unei expertize atente, luându-l tot timpul de bun.

    Vezi https://opozitie.eu/2017/meserii-si-roboti/

  21. PS: am glumit puțin la faza cu profesionistul, e o eroare comună confuzia cu expertul (și deseori profesionistul e chiar expert), dar te corectez acolo unde ai spus că eu sunt mai „stringent” când de fapt voiai să spui că sunt mai strict. Stringent înseamnă imperios necesar, urgent etc.

    Sper că e ok că te corectez? O fac în ideea că te interesează.

  22. E absolut OK, ba iti sunt chiar recunoscator. Asta e problema cea mai mare pe care o am pe blogosfera romaneasca si anume ca mai toti sunt satisfacuti de nivelul limbii mele romane si nu ma corecteaza. Nevasta-mea e o exceptie, ea imi trage si labe si dosuri, nu iarta nimic :)). Pe FB mai am parte de corecturi (ca acolo pe grupuri scriu in stil chat si n-am cum corecta si nici intreba sau verifica).

  23. @ vladimir
    Nici nu iti dai seama cat de mult gresesti: argoul specific l-a demascat cu mult timp in urma. Dar tot incearca sa mascheaze asta.

    Că DoarF, dacă-l citești de la un capăt la altul, cam asta argumentează, că suntem deja foarte departe cu IA și nu mai este mult până când.

    Am specificat mai sus ca AI-ul a facut primii pasi, nu mai merge in 4 labe. Ma asteptam sa faceti paralela cu evolutia omului, cand bebelusul porneste la exploratul lumii pe propiile picioare. Deci mai are “o viata intreaga” inainte, nu a ajuns acolo. Dar a depasit stadiul de gandac de bucatarie lobotomizat.

    Esenta discutiei dintre mine si el sta in acest citat:

    Mențin și ce i-am zis lui DoarF, pentru că el a afirmat că „Liberatus nu e programat sa joace carti, ci sa INVETE cum sa joace carti”, ori eu, deși nu cunosc algoritmul de la baza acestui program, nu cred că așa ceva este posibil

    Desi incercam sa ne tinem la distanta de argoul specific, cunoastem ce e in spate. Iar interpretarea mea este diferita de a lui: programarea se opreste la un anumit punct, mai departe este meritul lui individual pentru ce a invatat.

    Și eu consider că IA este o formă de inteligență, dar nu când o compari cu vârful inteligenței – pe care la ora actuală o vedem în om -, nu când te raportezi la o emulare completă a funcțiilor creierului uman. Din acest punct de vedere, adică privind de sus, de la nivelul unui potențial Terminator, roboții actuali sunt foarte rudimentari. Asta e ideea articolului.

    Cand te uiti la un bebelus, este o mana de carne, care nu poate rezista fara cineva care sa aiba grija de el. Dar el, in timp, va ajunge “varful inteligentei”. Despre asta este vorba, or fi ei rudimentari, dar nu e prematur sa ne gandim la ce se poate intampla cand o sa creasca mari. Si o sa creasca, pentru ca suntem langa ei sa-i crestem. Si cum suntem varful inteligentei…

  24. Ba e prematur.

    Te taxez pentru:

    programarea se opreste la un anumit punct, mai departe este meritul lui individual pentru ce a invatat

    Poți demonstra?

  25. Poți demonstra?

    Sa demonstrez o interpretare? Sigur: unde tu vezi doar tunarea unor parametrii, functii de reword sau a unor “politici”,

    We observed that OpenAI Five:
    -Repeatedly sacrificed its own safe lane (top lane for dire; bottom lane for radiant) in exchange for controlling the enemy’s safe lane, forcing the fight onto the side that is harder for their opponent to defend. This strategy emerged in the professional scene in the last few years, and is now considered to be the prevailing tactic. Blitz commented that he only learned this after eight years of play, when Team Liquid told him about it.
    -Pushed the transitions from early- to mid-game faster than its opponents. It did this by: (1) setting up successful ganks (when players move around the map to ambush an enemy hero — see animation) when players overextended in their lane, and (2) by grouping up to take towers before the opponents could organize a counterplay.
    -Deviated from current playstyle in a few areas, such as giving support heroes (which usually do not take priority for resources) lots of early experience and gold. OpenAI Five’s prioritization allows for its damage to peak sooner and push its advantage harder, winning team fights and capitalizing on mistakes to ensure a fast win.
    Surprising findings
    -Creep blocking can be learned from scratch. For 1v1, we learned creep blocking using traditional RL with a “creep block” reward. One of our team members left a 2v2 model training when he went on vacation (proposing to his now wife!), intending to see how much longer training would boost performance. To his surprise, the model had learned to creep block without any special guidance or reward.

  26. Nu știu ce înseamnă funcții de reward.

    Poți demonstra în mod simplu, căutând un algoritm care să facă ce zici tu și pe care să îl discutăm. Fragmentul citat de tine nu demonstrează că ceea ce din afară pare o modificare de strategie nu era de fapt conținută în programarea inițială, deci că programul și-a depășit limitele trasate de programator. De fapt, asta-i o imposibilitate.

    Parametrul poate fi și o strategie, nu doar o valoare numerică. Sau, o strategie poate fi compusă din mai mulți parametri optimizați genetic.

    Vezi și linkul spre Dedoimedo, pentru poziționarea IA pe o scală reală a inteligenței.

  27. Nu știu ce înseamnă funcții de reward.

    Daca se vrea un raspuns la “algoritmul sortarii bulelor”, nu tine. Daca nu, te descalifici din rolul de persoana care stie cu ce sa mananca AI-ul.

    Articolul din Dedoimedo este plin de supozitii. Consider ca multe lucruri de acolo nu corespund cu realitatea. Iar legat de ce a fost discutat pe aici, mai ales ca tot te legi de calculatorul de buzunar mult mai rapid: creierul uman, asa cum afirma si ei, are o putere computationala superioara AI-ului existent. Si modelee deja pregatite in lunga noastra existenta.

  28. Nu e nicio încercare, nu știu ce sunt funcțiile de reward. La partea cu descalificarea, te aștept de câteva comentarii bune cu algoritmul ăla exemplificativ. 😉

    Creierul uman? Creierul unui gândac este cu sute de ordine de mărime peste tot ce ne putem imagina azi în mod pragmatic despre calculatoare. Iar tu zici că suntem aproape de momentul în care.

    De altfel, eu cred că nu ține doar de puterea brută de calcul. De exemplu, am putea face și acum un program care să emuleze facultățile creierului uman și deci inteligența. Doar că, la calculatoarele de azi, ar merge foarte încet. Dar ar funcționa. I-ai explica în limba română regulile de șah, ar procesa o săptămână sau o lună, dar după aceea ar muta cât de cât inteligent, dovadă că a înțeles și a învățat. L-ai întreba ceva azi și ți-ar răspunde mâine, dar ți-ar înțelege limbajul. Problema e că nu am fost până la momentul de față capabili să-l programăm. Deși noi avem creiere infinit mai complexe și mai puternice decât calculatoarele moderne.

    Și atunci, dacă noi suntem deja posesorii acestor creiere performante dar nu l-am putut crea (nici măcar teoretic, pe hârtie, ca algoritm), fie nu-l vom putea crea niciodată, fie îl vom putea crea atunci când vom învăța să ne utilizăm peste cele două-zece procente pe care le utilizăm în mod normal din potențialul cerebral. Numai că în ultimul caz, deblocarea potențialului latent ar menține sau ar crește și mai mult distanța dintre noi și progenitura de silicon…

    În tot acest timp, suntem capabili, chiar și cei mai proști dintre noi, să creem inteligență naturală pe cale reproductivă. Dintr-un singur spermatozoid și un singur ovul. Două celule care ajung să rezolve ecuații complexe, să programeze roboți și să-și pună problema inteligenței artificiale în numai câțiva zeci de ani.

  29. Ti-am spus de la inceput ca avem o interpretare diferita a fenomenelor. Vrei sa discutam pe ceva concret? Uite un punct de plecare( trateaza si neumerirea ta)

  30. Ce nedumerire? Și apropo, cum de faptul că omul poate învăța lucruri noi nu-i o chestie de interpretare? Că toată lumea e de acord cu asta. De ce la mașini trebuie să-i dai o anumită interpretare ca să poți spune că ele învață lucruri noi? De ce ne contrazicem pe tema asta? Dacă IA ar putea învăța cu adevărat ceva nou, noi doi nu ar trebui să avem conversația asta. Ar fi clar pentru toată lumea că învață lucruri noi. Ca oamenii. Ar fi ridicol să spui altceva.

  31. Ce nedumerire?

    Aia cu reward-ul.

    Ma, in primul rand ne contrazicem pentru ca eu zic una, tu imi pui in gura alta. Eu zic ca nu mai e chiar asa de mult, tu imi atribui ca am zis ca e aproape. Asta desi am specificat de cateva ori ca ai-ul actual nu este in masura sa fie comparat cu inteligenta umana.
    Apoi, tu prin “nou” intelegi “orice”. Pentru tine, o schema noua aplicabila la o faza fixa in fotbal, nu reprezinta “nou”. Pentru tine nou ar insemna tenis sau un oricare sport care nu este fotbal. De asta ne contrazicem.

  32. Aia nu-i o nedumerire ci o necunoaștere. Nedumerirea înseamnă altceva. Eu am zis că nu știu ce sunt funcțiile de reward, nu că sunt nedumerit cu privire la ele. Ca să fiu nedumerit ar trebui de exemplu să știu ce sunt dar să nu le înțeleg scopul sau utilizarea. Nu poți fi nedumerit cu privire la un lucru despre care nu ai nicio informație.

    Da, cred că avem o problemă de limbă, pe care o folosim în mod diferit. Tu consideri relevantă diferența dintre „nu mai e chiar așa de mult” și „suntem aproape”? Asta ai înțeles din ce-am comentat, că ți-am răstălmăcit cuvintele? Dragă DoarF, suntem enorm de departe de momentul ăla. Atât de departe, încât „nu mai e chiar așa de departe” și „suntem aproape” devin sinonime. Diferența dintre ele devine neglijabilă.

    Totuși, îți sunt recunoscător pentru comentarii, deoarece m-ai impulsionat să rumeg mai mult subiectul. De multe ori lumea nu mă contrazice când scriu ceva, așa că eu merg mai departe și probabil rămân în bula mea. Dialogul cu tine m-a determinat să mă gândesc mai mult decât am făcut-o înainte să public articolul. Și cu cât mă gândesc mai mult, cu atât realizez că acea IA care să emuleze complet inteligența umană nu este doar dincolo de orizontul vizibil și imaginabil, ci chiar o imposibilitate pură. Că n-o să se poată niciodată ajunge acolo.

    Diferența dintre „nou” și „orice” este că primul „nou”, cel la care te referi tu, nu schimbă domeniul de bază. Un program de fotbal care învață o pasă nouă nu își depășește cadrul programării (ai văzut vreun program care s-o facă?), deoarece tot de fotbal se ocupă, adică de ceea ce a fost programat să joace. Acea pasă nouă se afla undeva ascunsă în mulțimea de combinații posibile la care avea acces programul prin algoritmul lui. Doar că numărul lor era foarte mare și programatorul n-a știut exact pe care să o aleagă drept strategie optimă, așa că i-a lăsat loc programului s-o descopere în mod empiric, prin practică, optimizându-și jocul pe baza rezultatelor obținute. Adică: programule, ai la dispoziție strategiile 1-500’000, pe care le poți aplica individual sau combinat, alege aleator câteva combinații și păstreaz-o pe cea care dă rezultate mai bune, după care combin-o cu altele din mulțimea celor 500’000 strategii posibile, strategii care rezultă din modul în care ți-am scris programul și peste care nu poți sări. Asta nu înseamnă că programul va învăța ceva nou cu adevărat. E predeterminare. Va găsi una din combinațiile pe care le avea deja înscrise în program, în mod direct sau implicit. Nu va putea găsi soluția 500’001. Va optimiza doar mulțimea de soluții la care s-a putut gândi programatorul atunci când a conceput programul și i-a trasat acestuia niște limite foarte clare, în virtutea faptului că un limbaj de programare nu poate fi metaforic sau figurat, ci trebuie să îndeplinească criteriul rigorii și al preciziei. În schimb, când treci de la fotbal la tenis, schimbi domeniul cu totul. Din acest motiv, schimbarea domeniului este mult mai relevantă pentru abilitatea reală a unei inteligențe autentice de a se adapta. Și nu-i întâmplător faptul că programele nu pot s-o facă.

    Ți-am rămas dator cu citirea a doua articole, cel de pe Wikipedia legat de explozia exponențială a IA de la un anumit nivel și cel de pe nVidia, nu uit, dar trebuie să îmi fac timp pentru ele.

  33. Hai să-ți explic altfel: analizând cu atenție codul sursă al unui program, poți să-l mapezi la o mulțime de soluții, acțiuni, strategii, decizii pe care o să la ia programul respectiv etc. Adică, poți să transcrii pe o hârtie toate soluțiile posibile la care va avea acces acel program, pe baza modului în care este scris algoritmul lui. Uneori acestea vor fi enorm de multe, mai ales la algoritmi complecși, dar le poți așterne pe toate pe hârtie. Ei, programul în cauză nu va putea să depășească sfera lor. Dacă nu ai greșit când le-ai transcris, programul nu va putea să vină cu o soluție care să nu fie cuprinsă în foaia ta de hârtie. Acuma, tu nu știi exact cu care va veni, că nu ai suficientă experiență cu jocul sau problema pe care o are acel program de rezolvat, dar știi precis că va veni cu una din soluțiile din mulțimea de soluții la care îi dă acces algoritmul. Și pe care le ai tu pe foaie. Nu poate depăși cadrul lor. Singurul element de „învățare” sau „inteligență” pe care poate să-l facă este s-o aleagă pe una în detrimentul alteia, adică să se decidă pe care o alege, dar nu poate alege alta, care nu-i era trasată de limitele programului. Și faptul că se decide pentru una sau pentru alta ni se pare nouă drept inteligent doar pentru că noi nu am aprofundat suficient domeniul respectiv. De exemplu, dacă am putea rezolva jocul de șah (în cap), mutările oricărui calculator ne-ar apărea drept predictibile și plictisitoare.

    Asta nu e inteligență reală. Mai ales atunci când o compari cu a omului, care poate înțelege absolut orice, din absolut orice domeniu, și poate găsi conexiuni sau avea intuiții de geniu chiar și în domenii noi, pe care strămoșii lui nu le-au experimentat niciodată și care deci nu-i erau „programate” în ADN.

  34. Și ca să nu mă limitez la teorie, îți dau și un exemplu. Folosesc algoritmul genetic de setare a valorilor pieselor de șah pe care l-am descris anterior. În cazul acestui algoritm, poți defini exact mulțimea de soluții la care are acces programul și peste care nu poate trece. Astfel, dacă variabilele ce pot stoca valoarea unei piese pot lua valori între 1 și 1000, atunci mulțimea soluțiilor posibile se reduce la o problemă de combinatorică: toate variantele de 1..1000 pentru regină, 1..1000 pentru turn, 1..1000 pentru cal și nebun, 1..1000 pentru pion. Orice soluție va găsi programul după o rulare extensivă, sigur va fi una dintre aceste variante. În particular, programul nu va putea găsi o soluție în care valoarea unui nebun să fie 1001, sau să fie diferită de cea a unui cal – dacă tu ai scris programul astfel încât cele două piese să aibă valoare egală. Iar dacă le-ai dat fiecăreia valoarea ei, programul nu va putea să determine că în deschidere caii sunt mai importanți ca nebunii, în timp ce spre final nebunii sunt mai puternici. Pentru asta, trebuie să îl programezi tu în așa fel încât valoarea pieselor să nu fie constantă pe toată partida, ci să depindă de faza de joc. Piesele să aibă o valoare care să varieze cu faza de joc. Dar atunci, nu va putea ajunge la concluzia că doi nebuni operează mai bine împreună (atacând pătratele de ambele culori) și sunt mai puternici decât simpla lor însumare numerică. Adică, dacă un nebun = 300, doi nebuni valorează probabil 640-650. Lucru pe care îl știu jucătorii buni de șah. Dar pe care dacă tu, ca programator, nu îl știai când ai scris programul, așa că nu ai definit piesele ca putând avea valori ce depind nu numai de faza de joc, ci și de existența altor piese de pe tablă, programul nu îl va putea găsi niciodată, oricâte milioane de ani l-ai lăsa să ruleze.

    Observi un tipar? Prin modul în care scrii programul, îl limitezi să găsească doar anumite soluții, conforme cu algoritmul tău. Niciodată nu va putea găsi ceva ce-i depășește algoritmul. Și niciodată nu va descoperi ceva la care să nu te fi gândit tu atunci când l-ai programat. Pentru că nu poți face un algoritm care să-i spună să găsească orice, trebuie să precizezi explicit exact cum rulează acel program, care sunt pașii, care sunt variabilele, cum interacționează între ele – și toate asta îl limitează într-un mod foarte precis în cât de mult poate să învețe și mai ales îi trasează niște granițe peste care nu poate niciodată să treacă.

  35. Da, ai dreptate, AI-ul inca nu poate sarii din aria domeniului respectiv, dar nimeni nu a sustinut ca ar putea la acest moment. Dar in cadrul limitelor acelui domeniu, AI-ul este inteligent: invata lucruri pe care nu le stia. Pe care nu i le-au dat programatorii.

    Uite ce iti spuneam, in rezumat, de la inceput. Daca vrei sa-mi explici in mod detaliat ceea ce deja cunosc, eu nu te opresc:))

    Pentru mine o discutie mult mai interesanta este de ce crezi tu ca este o imposibilitate sarirea din domeniu. Dpmdv, te apleci mult prea mult pe partea tehnica si mult prea putin pe semnantica. Ca pana la urma, calulatoarele lucreaza cu 0 si 1(vorba vine, ca ele lucreaza cu curenti si tensiuni si alte marimi fizice care sunt codate/decodate ca 0 si 1). Si peste aceste 0 si 1 sunt asternute straturi peste straturi peste straturi pana se se ajunga la ceea ce tu numesti algoritmi genetici.

    Revin la exemplul cu traducatorul. Fara baza de cunostinte necesare, ii este inacesibila traducerea unui text. Cum se intampla de exemplu cu limbile moarte. Cu toata inteligenta noastra, nu putem traduce scrierile din pesteri. Aceasi inabilitate o are momentan si AI-ul: in afara domeniului, nu are cunostinte. Nu are cum sa invete tenis atat timp cat nu stie absolul nimic despre tenis. Dar cineva poate “traduce” toate sporturile iar atunci domeniul in care AI-ul poate invata nu se mai rezuma la fotbal, ci la sporturi. Si o sa vina un alt Aldus si o sa zica ca poate sa joace toate sporturile, dar nu poate sa danseze artistic. Sesizezi sablonul?

    Revin la definitia intelegentei: ai spus tu (citat aproximativ) abilitatea de a face corelatii. Momentan, AI-ul face corelatii doar in interiorul domeniului. In exterior nu poate, ca nu are ce sa coreleze. Cum nici traducatorul nu are ce sa coreleze. Cand “totalitatea informatiilor” disponibile astazi creierelui uman o sa fie disponibile AI-ului, atunci o sa vedem exact cum ne comparam cu pastila de silicon.

    ps. ar fi de comentat si despre algoritmul propus de tine. Sau mai ales cum gandesti despre el. Eu nu sunt de acord cu “ceva la care nu te-ai gandit tu”. Pentru ca, la varful AI-ul actual, nu se discuta in termeni de “m-am gandit la mutarea x”, ci “mutarea x este o mutare buna”? Nu stiu daca iti este clara diferenta dintre cele 2. Daca ai urmarit cat de cat linkurile, programatorii vorbesc de eliminarea ultimilor bucati de logica pre-programata. Adica fix opusul la ce spui tu: nu ii dam noi nimic de la noi, il lasam pe el sa-si dezvolte logica care sa indeplineasca SCOPUL pe care l-am programat noi(?).

  36. Nu, dar ai susținut că își poate depăși programarea de bază. Că poate ieși din limitele în care a fost programat. Chiar și în citatul de acum spui că învață lucruri pe care nu i le-au dat programatorii. Ceea ce este numai în aparență adevărat, pentru că de fapt mulțimea lucrurilor pe care le poate învăța îi este trasată încă din clipa compilării programului și nu se poate abate de la ea nici cu un milimetru. Tocmai am explicat de ce, punând lucrurile într-o lumină corectă din punctul ăsta de vedere.

    Cum adică mă axez prea mult pe tehnică în detrimentul semanticii? Discuția e în primul rând una tehnică. Aplecarea spre partea tehnică este absolut necesară. Ca să poți prezice evoluția și limitările viitoare ale unei mașini, trebuie în primul rând să înțelegi foarte bine cum funcționează ea (partea tehnică), nu să inventezi jocuri semantice de cuvinte despre ce înseamnă aia sau aialaltă. M-ai lăsat afiș.

    Nu doar eu îi numesc algoritmi genetici, așa se numesc ei. E o clasă de algoritmi de IA.

    Nu m-am prins la ce te referi cu mutarea x, poate ești bun să detaliezi. Articolul despre programul Google pare un text promoțional scris de un afon în domeniu. Din ce întrezăresc eu printre rânduri, este un banal algoritm genetic, cu o rețea neuronală, folosit pentru optimizarea unei rețele neuronale de un anumit tip. Dacă scopul tău, ca om, este să găsești cea mai bună mutare la șah în timp record, atunci sigur că un program poate ajunge să te depășească și deci programul l-a depășit pe programator. Rămâne de văzut care este algoritmul acestui misterios AutoML și ce face el concret. Asta mai ales că autorul textului laudă performanțele sistemului care, printre altele, reușește să clasifice imaginile cu o acuratețe de 82%. Asta în condițiile în care orice repetent ți le clasifică cu o acuratețe de 100%. Ți-am zis să vii cu exemple concrete de algoritmi, ca să-i putem diseca, nu cu povești despre cât de inteligent e programul făcut de noi. O să mă uit și peste linkul spre nvidia, dar până atunci, nu ai niciun algoritm pe care să-l fi înțeles tu și să-l poți explica în cuvinte simple? Că altfel, e posibil să vorbești fără a avea decât cunoștințe de suprafață. Adică te bazezi doar pe modul în care interpretezi anumite declarații de presă?

    Ce ar putea însemna „eliminarea ultimelor bucăți de logică pre-programată”? Îmi permit o speculație (pentru că discutăm pe speculații, dar ești liber să vii cu exemple și aplicații concrete): în cazul exemplului meu cu programul de șah, poți seta valoarea reginei și poți lăsa programul să deducă el singur, prin jocuri cu el însuși, valorile celorlalte piese. Sau poți să îl lași să deducă toate valorile folosite în evaluarea unei poziții, inclusiv pe cea a reginei, eliminând astfel și ultima urmă de pre-programare. Asta nu schimbă cu nimic datele problemei expusă de mine mai sus. De altfel, nu îți trebuie multă luciditate pentru a remarca că sintagma „eliminarea ultimei urme de pre-programări dintr-un calculator” conține o contradicție în termeni, deoarece nu-i poți spune calculatorului „evoluează și devino liber”, singurul mod în care „îi poți elimina ultima urmă de pre-programare” este… programându-l. Ceea ce îți transformă declarația într-una paradoxală dacă e să fim binevoitori, falsă dacă e să fim realiști.

    Dar cineva poate “traduce” toate sporturile iar atunci domeniul in care AI-ul poate invata nu se mai rezuma la fotbal, ci la sporturi.

    Ce înseamnă „a traduce”? Cum anume să le traducă? La ce te referi?

  37. Pai nici noi nu ne putem depăși cadrul programării. Avem o arie mult mai larga de adaptabilitate, putem improviza mult mai mult, dar nici noi nu putem sari gardul programului genetic care ne defineste ca specie. Avem limitari clare, exact ca si AI. Doar ca, inca o data, gradele noastre de libertate sunt mai multe decat cele ale creatiilor noastre, dar asta si fiindca programul nostru e mult mai complex.

  38. Avem limitări fizice. Nu putem zbura sau concura cu gheparzii la alergare. Nu putem vedea pe întuneric. Dar mai sus era vorba de inteligență. Ai determinat tu limitele puterii de pătrundere a minții umane? Ți se pare că e limitată? Că există vreun domeniu al cunoașterii pe care inteligența și gândirea omului nu l-ar putea aborda și înțelege?

    Informatica e un domeniu nou. Apărut în ultima fracțiune de secundă pe scara evolutivă. Pe vremea bunicilor noștri nu exista. Deci, nu avem gena scrierii de programe pe calculator, că strămoșii noștri n-au avut nevoie de ea pentru a evolua. Nici microbii, nici peștii, nici mamiferele, nici maimuțele, nici omul. Și totuși, ne-am adaptat cu ușurință la utilizarea și programarea calculatoarelor, folosindu-ne mecanismele de abstractizare, analiză, sinteză, deducție etc pe care le aveam. Putem extinde discuția la fizică, chimie șa. Sigur că ne-am depășit specificațiile din fabrică, afară de cazul în care consideri că specificațiile din fabrică ne permit să facem absolut orice. Mintea noastră este extrem de flexibilă, iar facultățile de care dispune deja o fac capabilă să abordeze orice problemă și să se adapteze la orice situație nouă. IA nu se poate adapta la nimic nou.

    Cheia nu este numărul de domenii la care noi ne putem adapta, ci adaptarea însăși. Adică capacitatea de adaptare. Prezentă la om, și asta ne face capabili să ne adaptăm la absolut orice, și absentă la mașini, și asta le face incapabile să se adapteze la nimic. Apa, fiind lichidă, ia orice formă. Nu se pune problema de număr de forme pe care le poate lua, se mulează pe forma oricărui vas. Cuiul, fiind rigid, nu poate lua nicio altă formă. Diferența reală nu constă în numărul de forme, ci în starea de agregare, iar inteligența e definită de fluiditate și flexibilitate.

    De aia nici IA de astăzi nu este o inteligență reală. Este o pseudo-inteligență. O emulare a inteligenței. O palidă copie sintetică, lipsită de autenticitate. Iluzia c-ar fi inteligentă funcționează atât timp cât o menții în parametrii specificați. Când schimbi puțin condițiile, dă cu capul de gard. Google Translate îți traduce foarte bine textul pe care-l ai de tradus. Atât de bine încât poți spune că este o traducere funcțională, că mesajul tău se transmite mai departe în esență nealterat. Dar Google nu înțelege absolut deloc textul pe care îl traduce. Așa că nu face decât să traducă acest text într-un mod pur mecanic, operând înlocuiri de dicționar cu aplicarea unor reguli gramaticale. Nu este un subiect dotat cu inteligență, cum sunt eu sau cum ești tu, ci un simplu instrument ce operează pur mecanic și complet predictibil și care, folosit în parametrii din fișa tehnică, dă aparența că ar fi inteligent.

    Cum ai putea ca pornind de la IA de astăzi, să creezi o IA care să se ridice la nivelul inteligenței omului? Păi n-ai putea. De vreme ce nu lucrezi cu un om sau cu o ființă vie, care prezintă o conștiință și are capacitatea de a înțelege informațiile asimilate, singura variantă care îți rămâne când ai în față o mașină moartă este să încerci să emulezi cât mai multe. Să emulezi orice, să emulezi toate funcțiile creierului, toate mecanismele, limbajul, tot-tot-tot. Și așa ceva este tangent cu imposibilul, datorită complexității uriașe a acestor facultăți. Cum să emulezi viața într-o mașină neînsuflețită? Întotdeauna îi va lipsi ceva. Oricât de bine o vei programa tu să mimeze inteligența vie, tot îi va apărea la un moment dat o bârnă în față, pe care orice vietate o va ocoli cu ușurință dar la care tu ca programator nu te-ai gândit când ai scris programul și în care mașina ta va intra în plin. Tot va exista un caz special, pe care nu-l va putea emula, că nu poți prevedea totul, sau tot va apărea un domeniu nou, care nu exista pe vremea când ai scris tu programul și pentru care nu ai prevăzut-o cu suficienți parametri cât să-l poată învăța singură.

    Cum să emulezi capacitatea de a învăța și înțelege (practic orice), când la capătul celălalt nu există cine să învețe și să înțeleagă? Procesorul nu înțelege, mașina nu înțelege, execută mecanic niște instrucțiuni și atât. Nu este vie, este un simplu ansamblu de fire și circuite. Trebuie să emulezi înțelegerea ca să creezi IA. Cum o faci? Iar în lipsa înțelegerii, nu poți vorbi de adaptabilitate și deci tot ce vei obține vor fi niște tipare de inteligență ce pot funcționa doar în anumite limite foarte stricte. Cum ar fi la adunat numere sau la jucat Go. În lipsa înțelegerii, un program nu va putea niciodată să se prindă că poate utiliza anumite strategii de la Go și la jocul de șah, pe care i l-a descris cineva ieri. Decât dacă îi programezi tu un tipar mult mult mai amplu, care să înglobeze nu doar jocul de Go, ci orice joc de un anumit tip, adică jocurile care se înscriu în anumiți parametri. Dar un astfel de tipar e mult mai complex și mai complicat de scris. Și ce faci dacă cineva îi explică un joc care nu se înscrie în acel tipar? Și nu poți crea un tipar pentru absolut orice problemă posibilă din univers, că gradul de complexitate crește exponențial și oricum numărul posibil de tipare este, bănuiesc, infinit. Și oricând poate să apară un tipar sau o problemă care nu exista înainte și la care tu nu te-ai gândit, dar pe care un om, în mod miraculos, va avea posibilitatea să-l descifreze și să se adapteze la el. Mașina ta nu.

    În ultimă instanță, mașinile vor deveni tot mai inteligente, tot mai utile și tot mai apte să ne înlocuiască în anumite domenii, dar la fel de moarte și lipsite de înțelegerea reală a activității pe care-o desfășoară pe cât sunt azi. Iar asta face ca să nu poți vorbi de inteligență autentică în cazul lor, ci doar de un simulacru de inteligență.

    Desigur, întrebarea (și mirarea) care rezultă de aici este cum de oamenii (ființele vii în general) sunt dotate cu această conștiință și cu această capacitate uluitoare de a se adapta practic la orice. Dar ăsta e un alt subiect și oricum nu schimbă cu nimic faptul că o mașină este complet lipsită de capacitatea asta.

    PS: articolul de pe dedoimedo l-ai citit? E mișto.

  39. Chiar și în citatul de acum spui că învață lucruri pe care nu i le-au dat programatorii. Ceea ce este numai în aparență adevărat, pentru că de fapt mulțimea lucrurilor pe care le poate învăța îi este trasată încă din clipa compilării programului și nu se poate abate de la ea nici cu un milimetru.

    Ti-am mai spus, e o problema de interpretare. Tu vezi o multime(eventual finita) de posibilitati care reiese din combinatorica regulilor de sah. Eu vad invatarea unor tipare prin selectia “logica” a ceea ce este bun vs ceea ce este rau.

    Cum adică mă axez prea mult pe tehnică în detrimentul semanticii? Discuția e în primul rând una tehnică. Aplecarea spre partea tehnică este absolut necesară. Ca să poți prezice evoluția și limitările viitoare ale unei mașini, trebuie în primul rând să înțelegi foarte bine cum funcționează ea (partea tehnică), nu să inventezi jocuri semantice de cuvinte despre ce înseamnă aia sau aialaltă. M-ai lăsat afiș.

    Adica vrei sa zici ca trebuie sa intelegi cum adreseaza controlerul de memorie celula la care te referi cu un anumit pointer sau referinta? Hai bre, ca programarea inseamna mai mult decat definirea de varialbile si functii. Inseamna concepte. Inseamna sisteme integrate care indeplinesc roluri. De aceea zic ca “a fost programat sa invete cum sa joace”. Nu a primit in plic mutarile castigatoare. A muncit pentru a le “invata”. S-a adaptat la ce fac oamenii. Evident, in cadrul sistemului in care avea informatie.

    Ți-am zis să vii cu exemple concrete de algoritmi, ca să-i putem diseca, nu cu povești despre cât de inteligent e programul făcut de noi.

    Doar nu ai vrea sa vin cu solutii proprietare sa le discutam aici, nu? Dar daca tot insisti pe acest aspect, ia si baga mare

    Ce ar putea însemna „eliminarea ultimelor bucăți de logică pre-programată”?

    Pai daca citeai cu atentie informatiile deja prezentate si daca le si asimilai, ai fi facut legatura cu acest text de mai sus:

    Surprising findings
    -Creep blocking can be learned from scratch. For 1v1, we learned creep blocking using traditional RL with a “creep block” reward. One of our team members left a 2v2 model training when he went on vacation (proposing to his now wife!), intending to see how much longer training would boost performance. To his surprise, the model had learned to creep block without any special guidance or reward.

    Ce înseamnă „a traduce”? Cum anume să le traducă? La ce te referi?

    Citeste a treia resursa din linkul de mai sus(cea de la DeepMind) si o sa vezi ca deja AlphaGo a evoluat in AlphaGoZero si apoi in AlphaZero si stie si go si sah si shogi.

    În lipsa înțelegerii, un program nu va putea niciodată să se prindă că poate utiliza anumite strategii de la Go și la jocul de șah, pe care i l-a descris cineva ieri.

    :d

    Si asta ne readuce in cadrul primei mele interventii. Ce este gandirea? Ce este inteligenta? Ce este intelegerea? Tu te tot bati cu pumnul in piept despre natura noastra vie si ca asta e ceea ce ii lipseste AI-ului. Ca orice repetent recunoaste cu acuratete 100%(fals, dar nu-i relevant). Fara sa te gandesti ca si in gandirea umana, daca o iei la bani marunti, tot la combinatorica se reduce. Tot un algoritm de comparare executa si creierul pentru al recunoaste pe Aldus dintr-o poza. Sau pentru a recunoaste o fereastra. E plin internetul de iluzii optice care inseala creierul exploatand acest mecanism comparativ pe care il executa la nivel subconstient si pe care tu(si nu doar tu, ca vad ca nu-ti place aceasta sintagma) il numesti inteligența vie. Tu esti ferm convins ca este imposibil sa avem in masini o complexitate comparabila cu complexitatea umana. Mai de mult si eu credeam la fel. Intre timp, am mai invatat niste lucruri, am mai asimilit niste informatie, am mai facut niste corelatii si extrapolari(mare problema in AI, in acest moment).

  40. Ai determinat tu limitele puterii de pătrundere a minții umane? Ți se pare că e limitată? Că există vreun domeniu al cunoașterii pe care inteligența și gândirea omului nu l-ar putea aborda și înțelege?
    Nu, Da, Da.
    Primul nu e fiindca nu e domeniul meu, nu-s specialist si n-as avea capacitatea.
    Da, categoric e limitata. La fel cum un cimpanzeu nu poate intelege cuantica, cred cu tarie ca si umanii au limite echivalente. Suntem noi nod evolutiv inchis dar e de sperat ca vor aparea specii mai inteligente decat noi. Sau macar exista potentialul ca asta sa se intample.
    Da, sigur sunt. Doar ca fiindca suntem umani si limitati, n-avem cum stii care-s alea. O specie superioara noua ar putea probabil sa le identifice.
    Si nu, nu suntem limitati doar fizic, ci si intelectual. Ca si intelectul, memoria, neuronii si absolut tot ce formeaza ansamblul si functionarea unei fiinte complexe e determinat genetic. Nu-ti poti depasi limitele speciei. Nici alea de inteligenta. Si asta vezi clar si fiindca de-alungul istoricului speciei umane (care-i scurt) nu ai avut o distributie anormala a inteligentei in cadrul speciei. Outlier-ii nu-s asa distantati fata de cohorta principala. Constelatia aia de gene care ne determina inteligenta si memoria iti traseaza si limitele. Pe care poate nu le-am atins, poate nu le stim, dar exista.

  41. @DoarF

    Tu vezi o multime(eventual finita) de posibilitati care reiese din combinatorica regulilor de sah.

    Nu mă refer la mulțimea mutărilor de șah, ci la mulțimea soluțiilor pe care le poate alege mașina dintr-o poziție dată. Care nu decurge din regulile jocului de șah ci din modul în care i-ai scris tu programul.

    Eu vad invatarea unor tipare prin selectia “logica” a ceea ce este bun vs ceea ce este rau.

    Ceea ce este bun și ceea ce este rău sunt ambele incluse în acea mulțime de soluții posibile, la care are acces prin modul în care a fost programat. Dacă programul tău definește (explicit sau implicit) seria de animale {struț, șopârlă, iepure, găină, melc} și tu îl pui să aleagă „cel mai rapid animal”, atunci programul va alege struțul și deci va arăta semne de inteligență. Dar nu va putea găsi niciodată ghepardul, dacă prin modul în care ai conceput tu programul nu l-ai inclus ca soluție posibilă. În particular, asta înseamnă că nu se va putea gândi niciodată la ceva ce ție, ca programator, nici prin cap nu ți-a trecut c-ar fi posibil.

    Adica vrei sa zici ca trebuie sa intelegi cum adreseaza controlerul de memorie celula la care te referi cu un anumit pointer sau referinta? Hai bre, ca programarea inseamna mai mult decat definirea de varialbile si functii. Inseamna concepte.

    Păi conceptele sunt partea tehnică la care mă refer. Modul cum funcționează procesorul este tot o parte tehnică dar nu a informaticii, ci a fizicii și ingineriei. Partea tehnică a informaticii este algoritmica. Nu trebuie să știi cum se memorează valorile de 1 și 0 într-o plăcuță de RAM (asta e fizică), ci cum poți scrie un algoritm pe hârtie, în pseudocod. Semantica înseamnă, de regulă, modul în care interpretezi ceva (în limba română).

    Doar nu ai vrea sa vin cu solutii proprietare sa le discutam aici, nu? Dar daca tot insisti pe acest aspect, ia si baga mare

    Deci cum, IA este apanajul unor firme care dezvoltă aplicații cu cod închis? Restul, ceea ce se învață la materia IA de la facultate, teoria din domeniu, sunt apă de ploaie? Adevărații algoritmi de IA, ăia inteligenți, sunt proprietari și nu putem avea acces la ei? 🙂 Ceea ce înseamnă că nici nu știm exact ce și cum fac, nu?

    Mă refer să descrii aici, în câteva cuvinte, un algoritm simplu care crezi tu că îți argumentează poziția, așa cum am făcut eu cu cel de setare a valorilor pieselor de la șah, și să-l discutăm. Ceva simplu dar relevant. O să mă uit și peste linkurile acestea două.

    To his surprise, the model had learned to creep block without any special guidance or reward.

    Adică exact ce ziceam eu cu șahul. M-am dus în vacanță și am lăsat programul să joace cu el însuși și, fără să-i spun nimic despre faptul că regina e mai tare decât celelalte piese, a determinat el singur, motiv din care a urmărit să își apere regina proprie și s-o atace pe cea a adversarului, ceea ce constituie o strategie nouă, pe care noi nu i-am programat-o explicit. Hai, mă lași? Această eliminare a oricărei urme de pre-programare nu are sensul pe care vrei tu să i-l dai. E fix algoritmul genetic din exemplul meu, în care îl lași pe program să deducă singur toate valorile, fără a interveni tu spunându-i, de exemplu, că valoarea reginei trebuie să fie mai mare decât cea a calului (ceea ce l-ar face să găsească mai repede valorile optime, dar ar constitui o pre-programare). Da’ dacă variabilele care țin valorile pieselor pot lua valori între 0 și 100, programul nu va putea ajunge niciodată la o valoare de 101. Strategia aia de creep block era inclusă în lista soluțiilor posibile la care-i dădea acces algoritmul și ai fi putut-o scrie pe hârtie sau ai fi putut demonstra matematic existența ei studiind cu atenție codul sursă. Halal autonomie.

    Dar cineva poate “traduce” toate sporturile iar atunci domeniul in care AI-ul poate invata nu se mai rezuma la fotbal, ci la sporturi.

    Nu mă mai tot trimite la diverse surse când îți pun câte o întrebare simplă. Zi cu cuvintele tale ce înseamnă traducere în contextul tău.

    Mai de mult si eu credeam la fel. Intre timp, am mai invatat niste lucruri, am mai asimilit niste informatie, am mai facut niste corelatii si extrapolari(mare problema in AI, in acest moment).

    Man, există două posibilități: fie calculatoarele devin mai deștepte ca noi, fie noi ne prostim pe parcurs. 😀

    Nu poți sări de la Go la șah sau invers fără să ai un program care să îți permită asta. Dacă ai fost programat doar pentru șah, de unde știi care sunt mutările de Go? Cine îți spune regulile de Go și cum? Omul are înțelegerea care-l face capabil să abordeze probleme cu care strămoșii lui nu s-au întâlnit niciodată, neavând nevoie, de exemplu, să construiască avioane pentru a supraviețui. Calculatoarele nu înțeleg și nu își pot depăși condiția. Sunt mașini și întotdeauna vor face ceea ce au fost programate să facă. Iar simulacrul de inteligență pe care îl pot manifesta este servitorul fidel al programului lor.

    În sfârșit, faptul că atât mașina cât și omul utilizează anumite procese de analiză, sinteză, selecție etc nu înseamnă că aceste procese, în lipsa unui subiect aflat în spatele lor care să înțeleagă, îi vor permite vreodată calculatorului să-l egaleze pe om. Ce contează că sunt aceleași procese? Și automobilul are un motor care cere combustibil, fix ca avionul, iar principiile fizice de la baza motorului sunt aceleași, dar mașina n-o să zboare niciodată. Și recunoașterea vizuală a animalelor folosește aceleași mecanisme ca cea umană, dar așteaptă tu până când animalele ne vor ajunge la capitolul inteligență.

    @Vladen

    E posibil să existe specii mai inteligente ca noi, pe alte planete, dar eu cred că suntem la nivelul la care deja putem accesa orice (cu mintea). Și la calculatoare, există procesoare mai rapide decât i5, dar i5-ul poate rezolva orice problemă pe care le-o dai lor (doar că în timp ceva mai lung).

    Legat de domenii inaccesibile, hai să facem un joc: imaginația bate realul la viteză și întindere, ne putem gândi într-o secundă la o planetă pe care nu vom putea ajunge fizic niciodată. Dar îți poți imagina un domeniu al cunoașterii pe care oamenii n-o să fie capabili să-l înțeleagă? Nu Vasile, nu Gigel, ci oamenii, per ansamblu. Adică care să fie inaccesibil chiar și celei mai strălucite minți umane, la fel cum e fizica cuantică pentru un șobolan.

    Inteligența nu este limitată de capacitatea cerebrală (de altfel, se spune că majoritatea abia folosim 2%-10% din ea), de numărul de neuroni sau de memorie. Memoria este capacitatea de a stoca și accesa informații. Inteligența este capacitatea de a face corelații între ele.

    Tu susții că nu ne putem depăși limitele speciei. Dar specia noastră gândește abstract și activează în domenii ce nici nu existau pe vremea strămoșilor noștri. Dacă este așa, înseamnă că limitele speciei noastre sunt setate la plus și minus infinit. 🙂

    Nu se pune problema de majorități aici: dacă un singur om poate fi geniu, atunci specia umană are atributul genialității. Limitele superioare ale speciei le dau vârfurile, nu mediocrii.

  42. Pai exact asta spuneam: geniile (outlierii) nu-s extrem de semnificativ distantate de medie. Chestia care arata o limita genetica (e similar cu speranta de viata).
    La chestia cu limitele la infinit nu suntem de acord. Zic ca e nitel narcisism uman acolo. Nici cimpanzeul sau gandacul nu realizeaza cat de limitati sunt. Asisderea nici noi.
    Chestia cu capacitatea cerebrala e o chestie propagata de o neintelegere. Procentul ala e exact cam cata substanta cenusie ai acolo. Majoritatea creierului nostru e substanta alba (cablaraie/conexiuni), substanta cenusie e procentul ala infim spre suprafata (cortexul). Din cortex folosim intens, dar nu toate zonele sunt zone de asociatie, altele au alte functii dar la fel de importante Deci folosesti fix ce trebuie, cat trebuie si cum trebuie. Ca sa ai parte de alt creier presupune sa fii alta specie, cu alta dezvoltare embrionara, alte pachete de gene, etc. E foarte posibil ca o alta specie sa foloseasca deja proportional mai mult (un alt raport intre substanta cenusie / alba), mama natura a incercat cateva variante de tipuri si subtipuri de creier, dar o substanta cenusie mai bine reprezentata nu e direct proportionala cu inteligenta (poti sa ai o suprafata mai mare dar mai multi centrii motori si senzitivi in ea, nu de asociatie, de exemplu). Uita-te pe o anatomie comparata la ce telencefal viguros au pasarile si totusi nu ele stapanesc lumea. Sau intreaba niste biologi destepti, e foarte interesant ce discuta ei pe tema asta, nu trebuie sa ma crezi pe mine (eu stiu varianta simplificata pentru mine de nevasta-mea si colegi de-ai ei). Doar nu te duce pe filmulete si linkuri de popularizare tampitele de pe net ca in biologie e o gramada de rahat pseudostiintific online. Uita-te pe niste review-uri peer-reviewed (cauta pe pubmed cu cuvinte cheie), unele sunt accesibile si daca nu ai cunostiinte prea serioase (gen mini review-urile din Cell sau Neuron, Developmental Cell) sau articolele scurte de la inceput din Science si Nature. Bineinteles daca te intereseaza. Apropo de topic, Nature a avut un numar foarte misto, cred ca a fost anul trecut, cu o gramada de articole legate de robotica si AI. Pot sa-ti zic exact cand ca nevasta-mea primeste si versiunea tiparita si e la mine in birou numarul ala. Citind acolo (daca poti intelege, ca e scris foarte compact) te lamuresti de exact care e starea domeniului fiindca numai grupurile cele mai bune reusesc sa publice in Nature (sau Science), indiferent de domeniu.

  43. Ai comutat puțin discuția de la inteligență la biologie. Când zic că ne folosim doar o mică parte din potențialul cerebral, mă refer la faptul că atât un tractorist cât și un inventator de geniu au același creier uman, dar unul îl folosește într-o mai mare măsură decât celălalt. Nu cred că între cele două creiere există o diferență fundamentală. Mai mult, nu cred că tractoristul este limitat la a fi tractorist. Există studii ce relevă că antrenarea minții prin practica anumitor jocuri de logică și gândire (ca șah, rebus sau integrame) previne sau întârzie apariția demenței, chiar și în cazul unui creier care începe să fie afectat de această condiție d.p.d.v. biologic și își reduce volumul. Eu sunt convins că mentalul poate fi antrenat și cred că aici am avea multe de învățat de la tradițiile orientale.

    Acum, e adevărat că fiecare are zestrea lui genetică care îl condiționează foarte mult, dar într-un sens mai adânc, dacă fizicianul poate rezolva probleme dificile în cap, dacă budistul poate vizualiza mandale complexe și dacă maestrul zen își poate crea un vid mental în care să nu-i apară niciun gând ore în șir, atunci aș zice că ăsta este potențialul nostru, ca specie. Chiar dacă, lucru de asemenea adevărat, majoritatea ne drogăm, fumăm, bem până facem ciroză, ne îndopăm cu presa de senzațional și votăm cu PSD-ul. 🙂 Dar potențialul speciei e dat de vârfuri. Iar uitându-mă la vârfuri și la realizările de până acum ale omului, nu prea îi văd o limită. Poate sunt eu mai optimist.

    Sigur, ne putem gândi că există domenii pe care nu le-am putea aborda sau înțelege, dar deocamdată am reușit să înțelegem cum funcționează legile de bază ale universului, cele patru forțe fundamentale ale lui, am reușit să modelăm evoluția universului de la Big Bang încoace și să emitem teorii cu privire la viitor, am reușit să zburăm cu aparate mai grele decât aerul și am reușit să transformăm mercurul în aur, adică un element chimic în altul. Cu alte cuvinte, am reușit să alterăm țesătura universului la cel mai bazal nivel al ei, cel al atomilor. Ce altceva ar putea să existe dincolo de puterea noastră de pătrundere? Că lumea asta în care trăim am cam pătruns-o. Poate o altă dimensiune sau un alt univers? Dar deja intrăm în zona SF.

    Și mai trebuie spus ceva, inteligența nu este totuna cu cunoașterea, iar aici lucrurile devin ușor confuze, deoarece atunci când ne gândim la limitele intelectului uman avem tendința să ne raportăm la ceea ce încă nu cunoaște. Dar faptul că încă nu putem împăca relativitatea cu fizica cuantică nu este o lacună de inteligență ci o lacună de informație. Gândește-te că noi am pornit de la număratul până la 3 și am ajuns, fără să citim nicăieri, fără să ne spună nimeni, la a înțelege cum funcționează universul ăsta. Nu ne-a spus nimeni de Big Bang, nu ne-a spus nimeni de atomi, inteligența noastră ne-a făcut să-i descoperim, pornind de la o cunoaștere foarte rudimentară pe care o aveam. Inteligența noastră ne-a făcut să ajungem din punctul în care nu puteam număra decât până la 3 în punctul în care avem nave care ies din sistemul solar. Zici tu că suntem limitați la capitolul inteligență?

    În comparație cu asta, roboții nu înțeleg nici măcar semnificația numerelor de la 1 la 3. Doar emulează cunoașterea și înțelegerea. Oricât de bine ar emula-o, nu te aștepta ca, având la bază doar un algoritm, să își dea seama de interacțiunile nucleare și să ne explice cum să depășim viteza luminii.

  44. Cel mai bazal nivel de organizare nu-s atomii. Se poate mai jos 🙂 (particule subatomice, etc). Hadron collideru’ (acceleratorul de particule de la Geneva) ne-a aratat ca ne inselam binisor in provinta originilor universului fiindca ipotezele noastre in legatura cu asta nu pot fi verificate practic (sau cel putin pe moment n-au fost), sunt extrem de multe lucruri in fizica si matematica pe care nu le putem intelege. Dar nu vreau sa schimb discutia spre fizico-matematice ca ar pierde din dinensiunea asta de dezbatere si e pacat. Biologie si AI e haios si sportiv.
    Nu comparam umanii cu AI ci cu potentiale alte entitati biologice.
    Altfel, eu nu ma refeream doar la logos-urile astea clasice (desi si la ele) ci la lucruri si stiinte la care nici cu gandul nu putem gandi (deci n-as putea exemplifica fiindca nu ma duce capul ca-s uman). Dar da, sunt de acord ca esti mai optimist (cel putin mai optimist ca mine) in ce priveste limitele de inteligenta.
    Si mai e o chestie care poate merita mentionata (desi paraseste cibernetica). Artificiala este si o transgena (facuta de om), deci un animal transgenic gen soarec produs in laborator e artificial (macar partial) si are inteligenta. Deci ar putea fi considerat AI :). Acum, desigur, un soarec nu e concurenta pentru specia umana, dar un uman transgenic ar putea fi 😀

  45. Imi cer scuze pentru saritul haotic de la o idee la alta (fiecare paragraf trateaza nitel alta idee) si probabil greselile de gramatica dar scriu commenturile pe sub masa ca-s la o conferinta (oribil de plicticoasa asa ca citesc pe la tine, dar nu pot scrie intr-un mod prea evident).

  46. Depinde cum definești bazalul. Atomul e cea mai de bază unitate stabilă a materiei, ca să zic așa, la fel cum celula e unitatea de bază a organismului, deși la rândul ei e alcătuită din molecule, dar, în sfârșit, avem capacitatea de a acționa și la nivel subatomic, ocupându-ne de ceva vreme cu producerea unor particule foarte rare și instabile de materie și chiar de antimaterie în acceleratoarele de particule. Particule pe care, apropo, inteligența noastră le-a dedus teoretic înainte ca tot ea să ne permită să construim aceste acceleratoare care să le poată proba și practic, la fel cum a dedus toate elementele chimice din tabelul lui Mendeleev, înainte chiar ca unele dintre ele să traverseze această mică planetă albastră.

    Lipsa de înțelegere nu este o problemă a inteligenței atunci când nu ai suficiente date. Nu înțelegem pentru că încă nu avem toate informațiile necesare. Nu ne spune nimeni de ce (dacă ne-ar spune, am înțelege) și nu vedem cauzele, ci doar efectele. În condițiile acestea, aș spunea că mintea ne-a dus foarte departe și chiar ne-a eliberat. Progresul omenirii e similar cu progresul unui om care se află într-o celulă dotată cu un gemuleț mic prin care abia răzbate o rază de soare și, plecând de acolo, reușește să deducă treptat ce se află afară și chiar să mărească tot mai mult geamul și apoi să facă astfel încât pereții să se retragă, lăsându-l din ce în ce mai liber.

    Există probleme matematice ce nu au rezolvare nu pentru că nu ești suficient de inteligent, ci pentru că nu au rezolvare. 2x + y = 10. Cât este x? Păi, poate lua mai multe valori. În lipsa cunoașterii celuilalt parametru, nu poți spune cu precizie. Așadar, este greșit să pui lipsa de înțelegere a unor lucruri legate de trecutul nostru îndepărtat (ca univers) sau de finele particule subatomice pe seama inteligenței, spunând că aceasta lasă de dorit, deoarece realitatea e că în aceste cazuri inteligența nu are suficiente date cu care să opereze. În schimb, inversa este valabilă: faptul că am dedus existența unor particule pe care nu le putem observa nici măcar la microscop și vorbim acum despre ele este un merit al inteligenței. Pe măsură ce o să deducem mai multe, întrebările de azi o să-și găsească și ele răspunsuri. Suntem abia la începutul existenței noastre, pe scara cosmică ne-am născut în ultima clipă a ultimei fracțiuni de secundă.

    Diferența dintre șoarecele de laborator și calculator este că primul e viu. Ai văzut Dead Stop? 🙂

    Posibilitatea existenței unor lucruri la care nici cu gândul nu ne putem gândi este un mod de a împinge subtil discuția într-o zonă filosofică și mă duce cu gândul 🙂 la faptul că singura sursă tradițională care afirmă existența concretă a unor alte dimensiuni vine pe filiera religioasă sau metafizică. Iar conform ei, omul a fost făcut după chipul și asemănarea creatorului, adică având potențialul perfecțiunii. Și tot conform ei, unii oameni, pe ici pe colo, și l-au mai atins.

    Nu trebuie să-ți ceri scuze.

  47. Pe măsură ce o să deducem mai multe, întrebările de azi o să-și găsească și ele răspunsuri. Suntem abia la începutul existenței noastre, pe scara cosmică ne-am născut în ultima clipă a ultimei fracțiuni de secundă.

    Aha, si asta e valabil doar la oameni, nu si la AI.

    Nu mă refer la mulțimea mutărilor de șah, ci la mulțimea soluțiilor pe care le poate alege mașina dintr-o poziție dată. Care nu decurge din regulile jocului de șah ci din modul în care i-ai scris tu programul.

    Cand programul spune: invata sa joci sah, multimea solutiilor este chiar multimea data de reguli.
    Nu ti-am discutat pana acum exemplele pentru ca sufera de sindromul GIGO. Normal ca daca pui limitari artificiale in programarea intitiala rezultatul lasa de dorit. Ai cerut insistent un algoritm: ti l-am dat si sub forma teoretica si sub forma practica. Te astept ca in lumina

    analizând cu atenție codul sursă al unui program, poți să-l mapezi la o mulțime de soluții, acțiuni, strategii, decizii pe care o să la ia programul respectiv etc. Adică, poți să transcrii pe o hârtie toate soluțiile posibile la care va avea acces acel program, pe baza modului în care este scris algoritmul lui. Uneori acestea vor fi enorm de multe, mai ales la algoritmi complecși, dar le poți așterne pe toate pe hârtie

    sa arati de ce modul in care joaca sah nu reprezinta o invatare a unor lucruri care nu i-au fost programate.

    În sfârșit, faptul că atât mașina cât și omul utilizează anumite procese de analiză, sinteză, selecție etc nu înseamnă că aceste procese, în lipsa unui subiect aflat în spatele lor care să înțeleagă, îi vor permite vreodată calculatorului să-l egaleze pe om.

    Tu nu vizualizezi tu, desi “numaratul pana la 3” si “tarzan” iti sunt cunoscute, procesule din spatele notiuniilor de inteligenta si intelegere. Abilitatea aceea de a face conexiuni are in spate niste procese(analiza, seinteza, selectie…) care permit fenomenului sa se manifeste. Da-i timp AI-ului sa-si structureze modul de gandire si o sa ajungi sa ii spui in limbaj natural ce vrei de la ea.

  48. Dupa cum ziceai, inteligenta are nevoie de cunoastere. Daca te-ai uitat peste linkurile mele, probabil ca la prima citire ai citit doar cuvinte. In functie de gradul tau de alfabetizare pe subiect, ai inceput sa intelegi sau sa emiti opinii inteligente despre continut. Limita speciei cred eu ca e data de biologie. Nu cred ca avem capacitate de memorare infinita. Chiar si cand toata informatia despre ai devine ubicua, cineva va trebui sa o asimileze daca vrea sa aduca imbunatatiri. Si atunci o sa ne lovim de capacitatea creierului de a stoca informatiile necesare procesului prin care inteligenta se manifesta

  49. Aha, si asta e valabil doar la oameni, nu si la AI.

    Păi este valabil și la mașini doar în cazul în care noi vom continua să le programăm. Și cine-ți garantează că, dacă se află la început, drumul lor nu va fi unul înfundat?

    Altfel nu, nu este valabil și în cazul IA. Ia cel mai avansat program de șah, de Go sau de ce vrei tu și du-l pe o planetă unde să aibă la dispoziție energie nelimitată, bagă-l în priză și lasă-l acolo câteva milioane de ani, și vezi dacă în timp învață să-și pună probleme filosofice, să construiască o civilizație și să exploreze spațiul cosmic.

    IA de la ora actuală încă nu a ajuns la nivelul unei bacterii, care nu este foarte inteligentă, dar are o conștiință și poate evolua în om. IA încă nu a ajuns la acel punct zero al unui microb. Deocamdată, IA este o simplă emulare sintetică a unor funcții cerebrale umane. Nu poate evolua nicicum. Eventual noi putem crea modele tot mai avansate de IA, adică le putem rescrie cu altele noi, le putem reinventa dacă ne punem mintea la asta, dar e discutabil cât de mult vom reuși să ne clonăm în acest fel și foarte improbabil că vom reuși să creem o mașină perfect autonomă din toate punctele de vedere. Dar dacă vom reuși, acela nu va fi IA-ul de azi care a evoluat, ci IA-ul oamenilor de mâine sau din viitor, care au reușit să-l conceapă și să-l programeze.

    Cand programul spune: invata sa joci sah, multimea solutiilor este chiar multimea data de reguli.

    Programul nu poate spune „învață să joci șah”. Eu deocamdată nu am văzut un program de șah care să știe limba română. Poate tu ai văzut. Programul trebuie să precizeze în mod foarte clar și deterministic un anumit algoritm, adică să descrie exact ce pași să urmeze mașina și cum anume să învețe ea. Trebuie să-i traseze foarte exact căile de învățare, variabilele în care se salvează și optimizează răspunsurile, schemele de învățare șamd. Nu îi poți spune să învețe pur și simplu, în limba română, trebuie să îi spui cum anume să învețe și trebuie să i-o spui în mod foarte clar. Așa că soluțiile cu care poate veni mașina sunt limitate de modul cum descrii tu pașii respectivi. Dacă de exemplu tu ai o eroare în program, care face ca un pion ce ajunge la capăt să nu se poată transforma decât în regină, atunci programul nu va putea să găsească o soluție de tip „pionul se transformă în cal”, chiar dacă ea reprezintă o mutare validă de șah. Un alt exemplu: dacă tu ca programator nu ai în vedere avantajul pozițional uriaș ce poate rezulta din presiunea sinergică a mai multor piese în zona regelui advers, mai ales când acesta se află într-o situație precară, așa că nici măcar nu ai creat niște variabile care să cuantifice acest tipar pozițional (și ale căror valori eventual programul să și le optimizeze în mod genetic), atunci mașina nu va putea găsi niciodată o soluție ce implică sacrificiul unei piese majore (tură sau regină) în vederea obținerii unui astfel de avantaj pozițional. Chiar dacă acest sacrificiu constituie o mutare validă în acea poziție. Înțelegi? Mulțimea de soluții pe care le poate găsi mașina derivă din modul în care ai scris tu scris programul, nu din regulile jocului, chiar dacă ea este inclusă în mulțimea mutărilor posibile. Dar nu este niciodată identică cu ea.

    Nu ti-am discutat pana acum exemplele pentru ca sufera de sindromul GIGO.

    Păi dacă nu discuți, atunci nu aduce nici critici. Dacă critici, atunci argumentează: care exemplu suferă de cutare sindrom și de ce.

    Normal ca daca pui limitari artificiale in programarea intitiala rezultatul lasa de dorit.

    Ce înseamnă limitare artificială? Orice program este inerent limitat. Limbajul de programare este la rândul lui limitat. Resursele hardware sunt și ele limitate.

    Ai cerut insistent un algoritm: ti l-am dat si sub forma teoretica si sub forma practica.

    Ăla în care îi spui programului „învață să joci șah”, sau care?

    Te astept […] sa arati de ce modul in care joaca sah nu reprezinta o invatare a unor lucruri care nu i-au fost programate.

    Simplificând, orice program de șah generează toate combinațiile posibile până la o anumită adâncime, urmărind ca, indiferent de mutările adversarului, să aibă la dispoziție o mutare care să-i permită să ajungă la o poziție finală cât mai bună pentru el. Asta coincide cu modul de gândire al unui jucător profesionist. Dar pentru a putea determina ce înseamnă o poziție „bună” pentru el, programul trebuie să evalueze cumva static acele poziții finale din arborele de căutare, dat fiind că nu le poate ramifica mai departe, dat fiind că ele sunt finale (nu poate extinde arborele respectiv până la rezolvarea jocului de șah, că n-are resurse). Pentru a le evalua, se poate uita la diverse chestii. Dacă tu, ca programator, îi spui să se uite doar la piese, pentru că de exemplu tu ești începător și la aia te uiți când joci șah, atunci programul se va uita doar la piese. Dacă îi spui că regina = 4 puncte și pionul = 5 puncte, atunci va contoriza piesele în funcție de aceste valori stabilite de tine (și va juca prost, dându-și regina pe un pion). Dacă nu ai încredere în tine și nu îi precizezi niște valori fixe pentru piese, ci îl implementezi ca pe un algoritm genetic ce poate evolua, atunci, prin practică, își va optimiza singur aceste valori, ajungând să joace tot mai bine, până la un anumit punct. Doar uitându-se la piese și optimizând valorile lor. Dar un maestru de șah știe că uneori structura de pioni compensează un dezavantaj material (lipsa unei piese). Sau că controlul centrului este un factor pozițional covârșitor. Un astfel de maestru va sacrifica uneori o piesă pentru a ajunge într-o poziție favorabilă lui, pe care calculatorul nu o va putea evalua corect indiferent câtă experiență va fi acumulat, deoarece tu l-ai programat să se uite doar la piese. Din punctul lui de vedere, el se află în avantaj, pentru că are un pion în plus, în timp ce maestrul cu care joacă știe că există multipli factori poziționali ce compensează pe termen lung lipsa acelui pion. Ca programul tău să învețe să se uite la toți factorii poziționali care contează, trebuie ca tu însuți să fii un maestru de șah atunci când îl programezi, astfel încât să îi poți spune la ce să se uite, ce să-și optimizeze și cum anume. De asta programul nu poate învăța ceva ce te depășește pe tine ca programator.

    Da-i timp AI-ului sa-si structureze modul de gandire si o sa ajungi sa ii spui in limbaj natural ce vrei de la ea.

    IA nu-și poate structura modul de gândire, dat fiind că IA nu este reflexivă și nu gândește, ci doar emulează gândirea.

    Si atunci o sa ne lovim de capacitatea creierului de a stoca informatiile necesare procesului prin care inteligenta se manifesta

    În funcție de interesele personale, ne putem apleca doar asupra unui domeniu sau a altuia. Altfel, tu vorbești de niște limitări ale viitorului, pentru un creier care e infinit mai puternic decât al unui gândesc. Asta în condițiile în care creierul unui gândac este cu sute sau mii de ordine de mărime peste cele mai puternice calculatoare de la ora actuală.

  50. Ăla în care îi spui programului „învață să joci șah”, sau care?

    Ala de pe github. In readme are toate informatiile despre algoritm iar in src are si implementarea lui practica. Spor

  51. Nu am timp acum. După ce o să mă uit peste el, discutăm. Dar înainte de asta și ca să nu fac muncă voluntară degeaba: tu l-ai studiat și înțeles?

  52. Ia cel mai avansat program de șah, de Go sau de ce vrei tu și du-l pe o planetă unde să aibă la dispoziție energie nelimitată, bagă-l în priză și lasă-l acolo câteva milioane de ani, și vezi dacă în timp învață

    Te opresti din astfel de exemple prostesti? Pe de o parte sustii ca pentru ca inteligenta sa functioneze ai nevoie de informatie iar pe de alta parte te bati cu pumnul in piept ca miliarde de ani. Ia tu un bebelus de 3 zile si du-l pe planeta aia, singur singurel. Si vezi in cat timp isi pune problema nemuririi sufletelor

  53. Man, în discuția asta tu ești cel care dă dovadă de prostie. Ce informații avea microbul sau bacteria, când a început să evolueze?

    Bebelușul, dacă are suficientă hrană, în câțiva ani. Bagă în priză mașina, deci asigură-i hrana necesară, și vezi la ea cât durează.

  54. Nu e vorba de avut, ci de posibilitatea de a le avea. Pune-i tone de lapte praf bebelusului si vezi daca e “suficient de inteligent” incat sa nu moara. Cu tot cu programarea genetica pe care o mosteneste.
    Inceteaza cu linia asta de argumentatie din moment ce nimeni dintre participantii de aici nu a sustinut ca ai-ul ar fi autonom in acest moment. Ca ar putea face singur ceva in afara domeniului in care a fost programat.

  55. Bre om bun, un om mort nu poate fi inteligent, la fel cum nici un calculator oprit nu poate juca șah. Eu am zis să pui mașina în priză, da? Nu să o pui lângă o centrală electrică și să vezi dacă-și poate trage singură curent. Ce analogii sunt ăstea? Dacă mori, mori, nu se mai pune problema de inteligență. Dar ține bebelușul în viață și în câțiva ani o să-și pună întrebări. Chiar fără să-i explici tu chestii și să-l înveți să citească. Și o să se poată hrăni și singur după aia. Ține mașina în priză și n-o să-și pună nicio întrebare niciodată și n-o să-și poată trage curent singură niciodată.

    N-ai zis că IA este autonomă, dar ai făcut o paralelă cu începutul de drum la care și noi ne-am aflat odată. Ți-am arătat unde te înșeli. Pe noi nu ne-a ajutat nimeni la acel început de drum. Mașinile nu sunt egalele strămoșilor noștri. Mașinile nu sunt nici măcar egalele microbului sau ale bacteriei. Microbul are potențialul de a deveni om. Mașina nu are potențialul de a deveni nimic. Microbul este deja infinit deasupra mașinii și deci are o inteligență potențială infinit mai mare decât orice IA.

  56. Paralela, da? Pentru un inceput. Pai daca vrei sa iei la bani marunti aceasta paralela, mergi pana la capat, nu te opri la jumatate. Si vezi ca bacteria aia are un program( genetic) autonom cu care a plecat la drum. Si inca nu stim sigur daca a fost asistata sau nu pe parcursul calatoriei. Asa ca in loc sa te axezi pe aceasta parte din paralela, vezi partea aia cu ” are toata viata inainte”.

  57. Aha. Deci bacteria are un program genetic care o face autonomă. În timp ce calculatorul nu are încă un program de IA care să-l facă autonom. Deci, calculatorul nu este încă la nivelul la care se aflau microorganismele acum câteva milioane de ani, așa că nu poți face o paralelă cu începutul evoluției noastre. Nu-l poți compara cu strămoșii noștri, spunând că i se prefigurează un viitor strălucit, de vreme ce noi eram deja autonomi pe atunci.

  58. Am spus de la inceput ca ai-ul nu se poate compara in acest moment cu inteligenta omeneasca. Dar tu tot te intorci in mod sistematic la aceasta tema. De parca nu as fi spus astea de cateva ori pana acum…

  59. Nu știu dacă ai observat, dar în ultimele comentarii nu am mai comparat-o cu omul, ci cu strămoșii lui. Respectiv cu microbul, bacteria și parameciul. Iar rezultatul comparației a fost că nici cu ele nu se compară. 🙂

  60. Hehehe, Aldus invinge prin knock-out :D. Zic ca unde a pus degetu pe rana si respectiv batut cuiul in sicriul AI este chestia cu evolutia. Prapadita aia de bacteria are capacitatea de a evolua autonom. AI-ul trebuie asistat. Pana nu gasim o modalitate ca o AI sa evolueze real autonom, sa se adapteze si sa se schimbe ca raspuns la mediu (ce face acum este doar sa aplice/aleaga o serie de solutii inventate de noi), AI nu e comparabila cu viata.

  61. Nu stiu de ce zici tu de batut cuie in sicriu. Pericolul este real, daca ne apucam sa dam pe mana AI-ului “uneltele” necesare. Bacteria aia autonoma, cu a ei capacitate de evolutie, nu poate evolua “maine” intr-un nou “om” inteligent. Da, poate suferii o mutatie/adaptare care sa ne prinda sistemul imunitar cu chilotii in vine, dar ceva imi spune ca “survival of the fittest” e scris in toate codurile genetice ale organismelor vii.

    AI nu e comparabila cu viata.

    Corect. Dar ironia sortii face ca AI-ul, alegand/aplicand solutii inventate de noi, incepe sa faca lucrurile mai bine decat noi(ca tot se zicea mai sus ca noi recunoastem 100%).
    Revin la partea de semantica: am ajuns, in diferite arii, sa-i spunem AI-ul: invata de unul singur prin experimentare. Si el invata. Evident, nu este invatarea aia umana. Dar nici nu trebuie sa fie ca sa dea rezultate

  62. @Vladen

    Da. IA este un cumul de scheme foarte simplificate ale unor procese din mintea umană. Fiind procese copiate de la noi, dau impresia că la capătul celălalt s-ar afla o entitate inteligentă, ca noi. Mai ales pentru cineva care privește domeniul din afară și nu are noțiuni de programare. Pentru că în afara noastră și a computerelor programate de noi, nimeni nu poate juca șah sau conduce automobilul. Dar între aceste calculatoare pseudo-inteligente și androidul ăla din filmele SF există o diferență deocamdată insurmontabilă, care le face practic incompatibile: autonomia reală. Aia pe care o are bacteria dar n-o are programul nostru de IA.

    Parcursul de la bacterie la om este uimitor. Eu când zic că nu-i văd omului o limită, sunt admiratorul mut al acestor posibilități nesfârșite pe care se pare că le are viața sau biologicul.

    @DoarF

    Pericolul este real, daca ne apucam sa dam pe mana AI-ului “uneltele” necesare.

    Bineînțeles că este real. Dacă te apuci să automatizezi complet o bază militară cu lansatoare de rachete, asta incluzând decizia de a lansa rachetele, care nu mai trebuie aprobată de om, atunci e posibil ca programul respectiv să le lanseze când nu ți-ai dori, pentru că are o eroare sau așa ajunge el la concluzia asta. Că nici programele de șah nu mută perfect tot timpul. Dar ăsta nu-i un pericol real din partea IA, ci o eroare umană. Că ai dat rachetele pe mâna cui nu trebuie. Între asta și Skynet e o diferență majoră.

    Bacteria aia autonoma, cu a ei capacitate de evolutie, nu poate evolua “maine” intr-un nou “om” inteligent.

    Bacteria aia deja face programe de IA.

    Corect. Dar ironia sortii face ca AI-ul, alegand/aplicand solutii inventate de noi, incepe sa faca lucrurile mai bine decat noi(ca tot se zicea mai sus ca noi recunoastem 100%).

    Și o să continue să le facă. Foarte bine, de aia am creat mașinile, ca să ne folosim de ele. Unele lucruri nu ne-au fost necesare pentru evoluție, ca tabla înmulțirii sau jocul de Go. Ne-am focalizat pe ce a fost mai important. Am prioritizat. Asta e o mostră de inteligență. Și nu-i o ironie că ne bat aplicând soluții inventate de noi, ci o împlinire a scopului pentru care le-am creat.

    Și buldozerul ne bate la capitolul forță fizică, de aia l-am și făcut, cu mecanisme inventate de noi, ca să ne bată la capitolul forță fizică. Că n-aveam ce face cu un aparat mai plăpând ca noi. Dar mie nu mi-e frică că buldozerul o să se preschimbe într-un robot gigantic de tip Transformers și o să mă fugărească prin oraș. Frica asta i-ar fi specifică unui om primitiv care vede buldozerul pentru prima dată.

    Cât timp IA nu va fi autonomă, orice discuție pe subiect se tranșează simplu: e vorba doar de niște mașini, adică instrumente. Create de noi în diverse scopuri. Dar noi încă nu am creat acea inteligență care să aibă autonomia unei bacterii.

  63. Bineînțeles că este real

    Deci nu este prematur, caci de aici am pornit.

    Bacteria aia deja face programe de IA.

    Nope. E alta bacterie. Si un lung lant de factori intins pe o perioada si mai lunga care raportat la momentul de cand bacteria a inceput sa scrie AI se confunda cu infinitul.

    Și buldozerul ne bate la capitolul forță fizică, de aia l-am și făcut, cu mecanisme inventate de noi, ca să ne bată la capitolul forță fizică.

    Este o mica mare diferenta intre buldezer si AI. Buldozerul nu poate creea alt buldozer. Nici mcar nu poate incerca sa creeze alt buldozer. Nu are nici o perspectiva sa devina autonom. In schimb, bitii pot creea alti biti. Si nu doar random, ci si cu un scop precis. Buldozerul nu poate conduce pe nimeni, el este condus. Computerul conduce din ce in ce mai multe lucruri. Si se apropie de momentul cand conduce mai bine decat omul. Si are perspective de autonomie.Evolueaza. Constant.

    Create de noi în diverse scopuri. Dar noi încă nu am creat acea inteligență care să aibă autonomia unei bacterii.

    Nu. Dar si cand o sa o creem, tot de noi o sa fie creata. Asa ca e irelevant cine a creeat-o si in ce scop, din moment ce scopul “scapa de sub control”. Fara sa intram in discutia “scopul dorit este sa evolueze autonom”.

    Ps. Ai trecut peste algoritm? Iti este clar acum ca multimea solutiilor este data de regulile jocului si nu de perspicacitatea programatorului?

  64. Deci nu este prematur, caci de aici am pornit.

    Nu știu tu de unde ai pornit. Eu, autorul articolului, am pornit de la „temerea că într-un viitor nu prea îndepărtat roboții vor deveni autonomi, dobândind o conștiință similară cu a noastră și vor ajunge să stăpânească planeta”. Elevii americanii au o materie numită „reading comprehension”. Presupun că ar fi utilă și la noi.

    Nope. E alta bacterie. Si un lung lant de factori intins pe o perioada si mai lunga care raportat la momentul de cand bacteria a inceput sa scrie AI se confunda cu infinitul.

    Apăi și programul de mâine, care va fi învățat strategia aia de Dota, nu-i același cu programul de azi, de la care s-a plecat. E o altă iterație a lui, obținută printr-un lung șir de partide desfășurate pe parcursul intervalului de timp etc.

    Este o mica mare diferenta intre buldezer si AI. Buldozerul nu poate creea alt buldozer. Nici mcar nu poate incerca sa creeze alt buldozer.

    Nici programul de șah nu poate crea alt program de șah.

    In schimb, bitii pot creea alti biti.

    Ce mișto! Înseamnă că pot să mă culc cu 4 GB de RAM și să mă trezesc cu 8 GB de RAM. Cu condiția să las calculatorul în priză pe durata nopții. N-am știut! 🙂

    Buldozerul nu poate conduce pe nimeni, el este condus. Computerul conduce din ce in ce mai multe lucruri.

    Este o diferență de aplicare, atât. Buldozerul e făcut să împingă moloz. Computerul de bord al buldozerului e făcut să-i spună să împingă moloz. Mă rog, nu știu dacă buldozerul are computer de bord. Ambele sunt instrumente, dar folosite la lucruri diferite. Perspectiva de autonomie, atât a unuia, cât și a celuilalt, este identică cu perspectiva de autonomie a unei bucăți de piatră. Care, cine știe, în eoni și eoni poate va evolua într-o bacterie. Dar pentru cei ignoranți, computerul dă semne de inteligență și deci are „perspectiva” de a fi autonom. La fel cum pentru indigeni colonizatorii europeni păreau niște zei, pentru că aveau brichete sau oglinzi.

    În primul rând, IA de azi nu are niciun fel de perspectivă, deoarece trebuie asistată, nefiind autonomă. În al doilea, a reuși să creem o IA care să fie autonomă este infinit mai dificil decât a reuși să creem un program de șah. Una e să emulezi o funcție a conștiinței umane (jocul de șah) și alta e să emulezi conștiința umană însăși (IA cu autonomie). Jocul de șah e doar o funcție a creierului. Pe lângă asta, creierul se mai poate ocupa cu traduceri, calcule matematice etc. Și cu orice altceva ar apărea nou. Până acum, programele de IA emulează (cu un oarecare succes) doar anumite funcții individuale ale creierului, dar nu au suportul necesar înțelegerii a ceea ce fac și adaptării și în alte direcții. Ca să poți face o IA autonomă, trebuie să emulezi creierul însuși. Și nu poți face asta încercând să te extinzi pe orizontală, cantitativ, adică înglobând în programul tău și un modul pentru șah, și un modul pentru calcule matematice, și un modul pentru traduceri etc, deoarece dacă mâine cineva o să inventeze un joc nou, programul tău nu-l va mai conține și nu se va mai descurca. Trebuie să emulezi creierul însuși. Nu acel mecanism inteligent care îți permite să găsești mutarea corectă într-o anumită poziție, ci conștiința sau înțelegerea umană care se află în spatele acelui mecanism. Seamănă, dar nu răsare.

    De ce, deși avem programe care ne bat la șah sau traduc texte în diverse limbi, nu avem niciun program care să poată dialoga cu noi? Crezi că autonomia reală se reduce la o simplă problemă de progres liniar al algoritmilor curenți de IA? Că făcând programe care învață singure să conducă mai bine și să joace mai bine șah, vei ajunge să faci programe care sunt autonome? Nu poți, pentru că gradul de complexitate crește exponențial cu cât vrei să combini mai multe domenii. Trebuie să emulezi cumva conștiința din spatele acestor funcții cerebrale, care să permită înțelegerea oricărui domeniu nou și adaptarea la el. Chiar dacă „adaptarea la jocul de șah” sună asemănător cu „adaptarea la orice”, între cele două se află o prăpastie imensă. Probabil, dacă ar fi posibil să emulezi în întregime conștiința umană (și să ajungi la un android care s-o depășească), Natura ar fi creat roboți în loc de ființe vii.

    Iti este clar acum ca multimea solutiilor este data de regulile jocului si nu de perspicacitatea programatorului?

    Tu ai înțeles ceva din exemplul pe care ți l-am dat anterior cu algoritmul de șah?
    Mulțimea soluțiilor nu poate depinde de altceva decât de algoritm, cel puțin nu în mod direct. Asta e o axiomă a programării. Și oprește-te din a folosi sintagme vagi și interpretabile, ca „perspicacitatea programatorului”. Eu am zis că nu-și poate depăși cadrul trasat de program. Iar cadrul trasat de program depinde de cât de bine înțelege programatorul domeniul asupra căruia vrea ca mașina lui să se aplece. Deci, limitele programatorului se răsfrâng asupra limitelor programului. După cum e și firesc.

  65. Tu ai inteles ceva din acesti algoritmi? Au ajuns la nivelul in care solutiile generate sunt limitate doar de regulile de joc. Pentru ca nu se bazeaza pe identificare valorii pieselor, asa cum faceai tu in exemplul tau, ci pe explorarea jocului.

  66. Și oprește-te din a folosi sintagme vagi și interpretabile

    Asta impreuna cu bitii=capacitate de stocare mi-au smuls un ras de era sa-mi sara mucii. Mai ales cand ma gandesc la inteligenta/asimilare/constiinta….

  67. Tu ai inteles ceva din acesti algoritmi? Au ajuns la nivelul in care solutiile generate sunt limitate doar de regulile de joc.

    De unde știe mașina regulile de joc? De la tine, cel care ai programat-o. Deci, mașina e dependentă de ce i-ai scris tu acolo în program, nu de regulile lui pește. Și soluțiile cu care poate veni nu pot depăși sfera programului scris de tine. Încă nu s-a inventat procesor care să facă altceva decât îl programezi.

    Nici măcar dacă ar fi autonomă nu și-ar depăși limitele programării. Că n-ar avea cum. Ar fi autonomă pentru că ar avea un program care s-o facă autonomă. Iar gradul de autonomie și modurile în care s-ar manifesta ea ar depinde strict de cum a fost scris programul respectiv.

    Tu ești cel care îi spune mașinii:
    a) regulile de joc, de care are nevoie pentru a genera mutările și a verifica corectitudinea mutărilor adversarului;
    b) cum anume să analizeze aceste mutări, astfel încât să joace cât mai bine.
    Iar soluțiile ei vor depinde strict de ce i-ai scris la punctul b.

    Pentru ca nu se bazeaza pe identificare valorii pieselor, asa cum faceai tu in exemplul tau, ci pe explorarea jocului.

    Man, pe tine nimeni nu te scoate din ideile fixe (și greșite) pe care le ai pe tema asta. Modelul pe care ți l-am prezentat mai sus, cu valorile pieselor, se aplică și recursiv, adică într-un cadru din ce în ce mai larg. Tot ce-am scris acolo se potrivește și la obiecția pe care o ridici acum, cu condiția să fi înțeles ce ți-am zis atunci și să faci corelațiile care se impun. Ori tu n-ai înțeles.

    Reiau argumentația mea de atunci, adaptată la obiecția ta de acum. Nu poți să-i spui unui program, în limba română, să „exploreze jocul”, că nu te înțelege. Trebuie să-i dai instrucțiuni foarte clare și precise despre cum anume și ce să exploreze. Cum anume și ce să exploreze. Iar aceste instrucțiuni îi trasează cadrul din care nu poate ieși. Îl fac să joace mai bine, dacă de exemplu ai scris un algoritm genetic, dar îl și limitează totodată. La fel cum cuvintele ne ajută să comunicăm între noi dar ne și limitează simultan. Și dacă tu nu ești expert în domeniul respectiv și omiți din acea „descriere” (care, încă o dată, trebuie să fie foarte clară și precisă, într-un limbaj de programare unde lipsa unei singure virgule îți dă programul peste cap, nu în limba română) un anumit parametru care ție nu-ți trece prin cap că ar putea fi util în jocul respectiv, și acel parametru nu-i conținut implicit (din „greșeală”) în modul cum ai formulat tu algoritmul, mașina nu se va prinde veci pururi de el.

    Dacă nu mă crezi, vino cu exemplul unui algoritm care face ce zici tu. Dar nu mă trimite pe diverse saituri, scrie-l tu, frumos, în pseudocod, sau explică-l, așa cum am făcut eu mai sus. Un algoritm pe care să-l fi înțeles, nu povești cu „explorează tot jocul” în limba română. Și îl discutăm. Ai făcut vreodată un joc de IA? Știi vreun astfel de algoritm? Eu știu și am făcut.

    Lucru de care, dacă ai fi fost inteligent, ți-ai fi dat seama până acum.

  68. Daca ai fi fost suficient de inteligent te-ai fi prins cum sta treaba cu solutiile proprietare.

  69. Stimabile, un motor, chiar dacă e făcut după o tehnologie „proprietară”, nu poate să depășească viteza lumii. Care-i o constantă generală a universului, nu doar a motoarelor de un anumit fel. În mod similar, nici programul nu poate să depășească cadrul algoritmului pe care-l rulează, dat fiind că prin definiție programul face fix ceea ce-i spui tu în acel algoritm și nimic altceva. Asta-i o axiomă a programării. Faptul că algoritmul tău e proprietar sau cu sursă deschisă n-are nicio relevanță în discuție.

    Dacă ai terminat o facultate de profil, deplâng starea educației de azi.

  70. Nici măcar dacă ar fi autonomă nu și-ar depăși limitele programării. Că n-ar avea cum. Ar fi autonomă pentru că ar avea un program care s-o facă autonomă. Iar gradul de autonomie și modurile în care s-ar manifesta ea ar depinde strict de cum a fost scris programul respectiv.

    Io zic ca si aici ai o perspectiva limitata. Daca programul respectiv este rescris de masina autonoma, poti sa consideri ca fata de programul respectiv(initial), si-a depasit programarea. La fel cum daca noi ne-am rescrie genele, putem sa ne crestem 2 perechi de maini.

    Ma omul lu peste, ti-am spus de la inceput sa te apleci mai mult pe partea de semantica. E irelevant cum ii spui care sunt regulile jocului, ca nu asta discutam aici. Pentru oricine care are tangenta cu domeniul este clar ca buna ziua ca asta reprezinta domain knowledge.

    b) cum anume să analizeze aceste mutări, astfel încât să joace cât mai bine.
    Iar soluțiile ei vor depinde strict de ce i-ai scris la punctul b.

    Ti-am spus deja: acest punct b a ajuns sa se suprapuna cu domeniul problemei, nu mai este un subset al ei.

    Pune mana si mai studiaza

  71. Daca programul respectiv este rescris de masina autonoma, poti sa consideri ca fata de programul respectiv(initial), si-a depasit programarea.

    Dacă și cu parcă. Parcă stabiliserăm că IA nu este autonomă și nu-și poate rescrie nimic. Când o să fie capabilă să se auto-programeze, mai vorbim. Până atunci, niciun program nu-i capabil să se rescrie, fie el proprietar sau cu sursă deschisă. Deci, mucles! 😀

    Ma omul lu peste, ti-am spus de la inceput sa te apleci mai mult pe partea de semantica. E irelevant cum ii spui care sunt regulile jocului, ca nu asta discutam aici. Pentru oricine care are tangenta cu domeniul este clar ca buna ziua ca asta reprezinta domain knowledge.

    Este că n-ai niciun fel de tangență cu domeniul, nescriind niciun program, de nicio culoare, niciodată în viața ta?

    Uite, ca probă, scrie un algoritm care să interschimbe două valori și explică-l.

    Ti-am spus deja: acest punct b a ajuns sa se suprapuna cu domeniul problemei, nu mai este un subset al ei.

    Pune mana si mai studiaza

    Vorbești lucruri pe care nu le înțelegi. Hai să îți explic de ce ceea ce susții tu nu are sens, indiferent de algoritm. Așadar, tu afirmi că mulțimea soluțiilor posibile nu este o funcție de algoritm, ci o funcție de reguli ale jocului. Eu susțin contrariul.

    Să presupunem pentru o clipă că tu ai avea dreptate. În acest caz, te întreb: există vreo probabilitate în alegerea anumitor mutări? Au aceste mutări un scor, astfel încât programul să le aleagă pe unele în detrimentul altora? Evident că din punctul de vedere al mașinii, răspunsul este că. Altfel, programul ar muta aleator și ar pierde în fața oricărui jucător mediocru. Faptul că joacă foarte bine înseamnă că selectează mutările după un anumit tipar sau mecanism inteligent. Că, într-o anumită poziție, consideră că mutarea cu calul valorează 10 puncte în timp ce mutarea cu nebunul valorează 3 puncte, așa că o alege pe cea cu calul. Ei, de unde provine acest mecanism, unde se află el? Păi, nu se află în regulile jocului de șah. Regulile jocului de șah îți spun doar că nebunul mută în diagonală și calul în formă de L. Nu îți spun și ce valori au aceste mutări. Nu îți spun cu care piesă e mai bine să muți. Îți spun doar ce e legal și ce nu. Și atunci, de unde știe programul ce să mute? La om, alegerea este făcută de creier. Și cu cât omul e mai inteligent, cu atât joacă mai bine. În cazul programului, mecanismul de selecție al unei mutări în detrimentul alteia îi este dat de algoritm. Algoritmul îi spune cum să evalueze mutările.

    Deci, mulțimea de soluții cu care poate veni programul este un rezultat direct al algoritmului scris de programator și nu al mulțimii de mutări posibile conform regulilor jocului. Dacă ar fi un rezultat direct al mulțimii de mutări posibile, atunci programul ar muta aleator de fiecare dată.

  72. http://elzapb.blogspot.com/2010/03/doua-celule.html?m=1
    Retine data la care este scris.

    >Așadar, tu afirmi că mulțimea soluțiilor posibile nu este o funcție de algoritm, ci o funcție de reguli ale jocului. Eu susțin contrariul.
    Nu ai inteles nimic. Eu sustin, ca si tine, ca este o functie de algoritm, dar merg mai departe si spun ca algoritmul se poate intinde pana la limita lui superioara, adica pana la, functia de reguli.

  73. Tu ai afirmat că „multimea solutiilor este chiar multimea data de reguli”, unde prin reguli era vorba de regulile de joc. Ori nu este așa. Mulțimea soluțiilor este mulțimea dată de algoritm. Dacă ea s-ar extinde la mulțimea mutărilor posibile, atunci programul ar juca foarte slab.

    Ca argument, mulțimea mutărilor posibile (ce rezultă din regulile jocului) include și mutările foarte proaste, în care îți dai o piesă de gratis, adică fără să obții nimic în schimbul ei, dar un program bun nu va face niciodată astfel de mutări. Deci, mulțimea soluțiilor pe care le furnizează programul NU se extinde la mulțimea tuturor mutărilor posibile (decât dacă algoritmul e foarte prost). Studiind cu atenție algoritmul și având suficient timp la dispoziție, poți determina și scrie pe hârtie mulțimea de soluții la care mașina va avea acces, pentru că ea depinde strict de algoritm și NU se suprapune peste mulțimea tuturor variantelor posibile.

  74. Nu stiu de ce insisti prosteste in aceasta directie. La iteratia 1, o sa faca greselile alea prostesti. Deci este inclus in multimea solutiilor. La iteratia n, o sa joace mai bine decat orice om. Deci invata tehnicile alea pe care ai zis ca nu le va invata.
    Inceteaza sa mai scoti din context bucatele. De cand a inceput discutia si pana acum ar trebui sa ai privirea de ansamblu a pozitiei mele, asa gresita cum o consideri tu. Dar nu-mi scoate din context spusele ca sa le toci marunt.
    Ca tot suntem la capitolul asta, ai argumentat pe baza de complexitati exponentiale.
    Pai, ca sa scriem primul program de sah, am depasit o exponentiala de-asta, fata de ce era atunci. La fel si cand am trecut de la sah la go-alta problema exponentiala rezolvata. Evident, de la go la Dota, aceeasi poveste. Sesizezi un tipar?

  75. La iteratia 1, o sa faca greselile alea prostesti. Deci este inclus in multimea solutiilor. La iteratia n, o sa joace mai bine decat orice om. Deci invata tehnicile alea pe care ai zis ca nu le va invata.

    Păi nu faci decât să-mi dai dreptate. Aia am zis și eu mai sus, că la un program care joacă bine mulțimea soluțiilor nu se extinde la mulțimea mutărilor posibile și că dacă se extinde, atunci programul joacă prost. La ambele programe, mulțimea soluțiilor derivă direct din algoritm. Deci, nu-ți înțeleg poziția, că inițial m-ai contrazis. Și unde am zis eu că nu poate învăța lucruri noi? Am zis că poate învăța, dar că modul în care învață este strict dependent de cât de bine a înțeles programatorul domeniul respectiv.

    Lucru care rămâne adevărat chiar și în cazul rețelelor neuronale. Între timp am citit câte ceva despre ele și trebuie să-ți mulțumesc pentru link – sunt fascinante. Aparent îți permit să creezi o mașină care să învețe un domeniu fără să-i furnizezi nicio informație despre cum să evalueze acel domeniu, dezvoltându-și singură tiparele necesare. În realitate, chiar și acolo trebuie să ai o înțelegere a domeniului respectiv, suficientă cât să poți proiecta o rețea adecvată acelui domeniu. Că nu orice rețea neuronală se potrivește oricărui domeniu. Sunt rețele specializate pentru anumite probleme de IA, cam ca la om, care și el dispune de neuroni specializați. Această specializare este partea în care tu introduci (implicit) informații despre joc, de vreme ce mașina nu este autonomă și nu-și poate adapta singură rețeaua la domeniul ales de tine. Adică, nu există un model de rețea neuronală care să abordeze orice tip de problemă posibilă și să funcționeze eficient în orice context.

    Inceteaza sa mai scoti din context bucatele.

    Eu: – Cărămida pe care vrei să o pui acolo este crăpată!
    Meșterul: – Încetează să-mi mai scoți din context cărămizile, casa este destul de solidă!

    Analogia nici măcar nu se potrivește foarte bine, deoarece construcția ta de ansamblu nu-i deloc foarte solidă, ci una așa, imaginară și utopică (nerealistă). 🙂

    Și nu-mi zice că îți scot din context o anumită afirmație, după ce ne contrazicem vreme de câteva comentarii bune pe ea. Pentru ca la sfârșit să îmi dai dreptate dar să spui că ți-am scos-o din context. Dacă ai crezut că ți-am scos-o din context, trebuia să spui de prima dată, nu la sfârșit, după ce pierzi disputa. Care e contextul din care ți-am scos-o?

    Ca tot suntem la capitolul asta, ai argumentat pe baza de complexitati exponentiale.
    Pai, ca sa scriem primul program de sah, am depasit o exponentiala de-asta, fata de ce era atunci. La fel si cand am trecut de la sah la go-alta problema exponentiala rezolvata. Evident, de la go la Dota, aceeasi poveste. Sesizezi un tipar?

    Nu cred. Adică, depinde cum definești complexitatea. Dacă o definești ca pe o simplă funcție de număr de variante posibile, atunci da, go-ul este mai complex ca șahul. Dar problemele în sine sunt de același tip. Teoretic, le poți rezolva cu același algoritm. Noi aveam un algoritm funcțional de go de mult timp, doar că era ineficient. Noi nu avem un algoritm funcțional pentru limbaj – nici măcar unul care să meargă teoretic. A combina două domenii diferite e mai dificil decât a procesa pur și simplu mai multe date. Dificultatea crește și pe verticală, în sensul că nu știi cum să le conectezi, nu doar cantitativ, în sensul că ai mai multe date de procesat – cum a fost la go față de șah. Este un alt tip de complexitate.

    Dota nu cunosc.

  76. Daca acum este prima data cand te intalnesti cu retelele neuronale, imi cer scuze, am presupus ca vorbim aceeasi limba. Acum inteleg unele dintre problemele din discutia noastra.
    Revin cu precizarea intiala legata de semantica: daca tu continui sa te raportezi la [255,0,0] ca la un vector de numere intregi si nu ca la rosu, tot timpul o sa-ti stea algoritmul in gat. Cand o sa gandesti in termeni de rosu, o sa constati ca chiar daca masina tot niste secvente pseudo aleatoare de unu si zero o sa vada, o sa fie capabila sa-ti picteze cel mai frumos tablou. Numeste-l mimetism sau cum vrei, dar daca fuge ca o rata, macane ca o rata, arata ca o rata, lumea o sa vada o rata. Similar cum noi vedem rosu, nu o unda cu o anumita lungime de unda.
    Ps. Asta e ultimul comentariu generic pe subiect. Daca vrei sa discutam ceva concret legat de vre-un algoritm la care am lasat link, e ok. Dar sunt satul de brucelee il bate pe vandamme

  77. Am auzit de ele de mult, dar aseară e prima dată când mi-am băgat nasul. Sunt cu un pas deasupra algoritmilor de IA clasici, de școală veche. Și cu o infinitate de pași sub bacterie! 😀 Dar în universul artificial al programării, sunt foarte mișto.

    Algoritmul este esențial. Dacă tu privești [255,0,0] ca fiind roșu, o să ajungi să pierzi din vedere faptul că natura nu este limitată la 255 de nuanțe de roșu, verde și albastru, așa că variabila ta digitală aproximează (și trunchiază) culoarea reală, nu o oglindește perfect. Un algoritm mai bun, de exemplu, ar reprezenta fiecare nuanță pe doi octeți, obținând astfel o rezoluție mult mai mare a spațiului posibil de culori și deci s-ar apropia mai mult de realitate.

    Nu poți vorbi despre cât și cum o să evolueze un tractor fără să știi din ce e făcut și cum funcționează. Adică partea tehnică. Care în cazul nostru este dată de algoritmi.

    Da, măi, dacă merge și măcăne ca o rață, o fi rață. Problema mea nu e cu faptul că e imitație, ci cu faptul că fiind imitație, nu se poate extinde așa ușor cum crezi tu. Adică, nu-i așa simplu că gata, vom face ceva care e și mai complex și într-un timp mediu spre scurt vom emula complet inteligența umană.

    Hai să fac un salt în viitor, la momentul în care mașinile vor avea aceeași putere de calcul cu creierele omenești. Și deci vom putea crea rețele cu un număr total de neuroni care să-l egaleze pe cel din creierul nostru. Zici tu atunci că vom putea crea acel android autonom? Că duplicând hardware-ul și aplicând algoritmi de auto-reglaj și evoluție, vom obține ceva care ne va egala și depăși?

    Sunt dispus să discut orice algoritm cu tine, dar mai întâi trebuie să-l scrii sau să-l explici pe scurt.

  78. @DoarF

    Pentru că am văzut că te-ai descurcat bine la El Zap, știi cumva un algoritm simplu și rapid de calculare a unei chei de verificare (checksum) pe 4 octeți? Îmi trebuie pentru niște stringuri și ar fi de dorit să evite cât mai mult coliziunile, adică de exemplu propozițiile „Ana are mere” și „Ana era mere” să aibă checksum-uri diferite. Totuși, accentul cade pe simplitate.

  79. Of… recunosc ca nu am avut rabdare sa citesc tot schimbul de replici dintre voi (in special Aldus si DoarF), dar din cat am citit, ajung la concluzia ca …. amandoi gresiti, si amandoi aveti dreptate in acelasi timp. Sper sa fiu coerent in ceea ce scriu pentru ca ideile mi-au venit succesiv, in timp ce citeam tot dialogul de aici – initial mi-am propus sa nu scriu decat dupa ce termin de citit.
    Din cat am citit, mi se pare Aldus ca ai o “problema de implementare” a inteligentei. A nu se intelege gresit, dar acolo mi se pare ca se impotmoleste perspectiva ta. In vreme ce omul are creierul care-i permite sa faca ceea ce face atat dpdv fiziologic, cat si din perspectiva constiintei de sine – Homo sapiens sapiens, nu? – calculatorul nu are decat ceea ce tehnologia ii poate oferi in acest moment, fiind intr-adevar o emulare/simulare a inteligentei. Sunt curios cate resurse are/a avut nevoie omul sa devina constient de sine, si daca va avea si un program aceleasi resurse, daca poate sa faca acest salt (de constinta, de evolutie, de ce o fi…) si sa devina altceva.
    Spui ca un algoritm nu-si poate depasi programarea, ceea ce este adevarat. Dar un alt program, o alta … functie care primeste ca parametru un algoritm, ar putea sa … “imbunatateasca” un program de sah? Pana la urma, un sahist ramane doar la nivelul jocului de sah, sau trece in alte sfere (si functii) mai inalte cand isi imbunatateste calitatea jocului (cred ca intrebarea asta in sine este la randul ei generatoare de “filosofie”). Si pe aceasta ierarhie, se poate merge atat cat implementarea ne permite, atat pentru AI, cat si pentru oameni.
    Cand DoarF spune ca AI-ul este doar la inceput, asa este, dar este foarte la inceput, pentru ca-i lipseste complet contextul. Pana la urma, chiar si procesele noastre de gandire, chiar si inteligenta daca vrei, este (si) rodul evolutiei, interventii externe, hazarde samd. Daca e sa fac(em) o rezumare simplista, intelingenta (si nu ratiunea, atentie!), tine de materia vie pentru a-i asigura supravietuirea, intr-un fel sau altul. Altfel spus, putem zice ca scopul nostru este sa traim? Care ar fi scopul unui AI, in afara de unul practic atunci? Cum “codezi” asta intr-un algoritm, rutina samd?
    O intrebare fundamentala este poate si ce face o …. entitate inteligenta? Un ecosistem care se regleaza singur este inteligent? O specie care se adapteaza (in intervalul de timp de care are nevoie), este inteligenta? Daca maine ar disparea oamenii de pe Terra, ce ar putea produce planeta mai departa (sau viata, sau D-zeu, sau cine vreti)?
    Daca limitam inteligenta doar la viata, sau la materia vie, discutia despre AI este inutila, pentru ca nu va exista niciodata un AI, ci doar o emulare/simulare a lui. Daca un program la un moment dat devine constient de el – acum, sau peste 100 de ani – putem spune ca va avea constinta? Putem spune ca daca-i dam “shift+delete” l-am “omorat”, ca daca-i alteram un if(x>3.000000) cu if(x>2.99999) l-am manipulat? Ca daca-i “ardem” 100 de TB de RAM l-am lobotomizat?
    Argumentatia mea se bazeaza pe relatia dintre constienta de sine inteligenta. Ratiunea nu o consider inteligenta. Astept dezbateri, daca mai aveti chef :))

  80. Sunt curios cate resurse are/a avut nevoie omul sa devina constient de sine, si daca va avea si un program aceleasi resurse, daca poate sa faca acest salt (de constinta, de evolutie, de ce o fi…) si sa devina altceva.

    Resursele sunt pe planul 2. Adună toate plăcuțele de RAM din lume, toate discurile dure, toate procesoarele și pune-le grămadă, peste un calculator mai vechi. O să devină mai deștept? Sau asamblează-le în aceeași unitate. O să te salute dintr-o dată în limba română? Faptul că îți dublezi memoria sau îți schimbi procesorul face ca sistemul tău să capete abilități noi? Nu, îl face doar mai rapid sau cu memorie mai multă.

    Am dat analogia asta mai sus, dar o reiau. Du un calculator pe o planetă îndepărtată, bagă-l în priză și (presupunând că are curent nelimitat la dispoziție) lasă-l aprins câteva milioane de ani. Ce zici, când o să îl vizitezi din nou, o să constați că și-a construit o civilizație și a început să exploreze spațiul? Sau e același calculator pe care l-ai lăsat? Ei, du o bacterie pe o astfel de planetă și las-o câteva milioane de ani. În condiții prielnice, s-ar putea să constați că atunci când revii o găsești făcând programe de inteligență artificială. 🙂

    Spui ca un algoritm nu-si poate depasi programarea, ceea ce este adevarat. Dar un alt program, o alta … functie care primeste ca parametru un algoritm, ar putea sa … “imbunatateasca” un program de sah?

    Da, ar putea să-și îmbunătățească jocul. Dar tot n-ar putea să-și depășească programul. În cazul dat, calculatorul execută acea funcție care-i spune să învețe. Și deci face exact ce-i spune programul să facă. Și poate învăța doar în limitele trasate de acea funcție.

    Pana la urma, un sahist ramane doar la nivelul jocului de sah, sau trece in alte sfere (si functii) mai inalte cand isi imbunatateste calitatea jocului (cred ca intrebarea asta in sine este la randul ei generatoare de “filosofie”).

    Șahistul poate aplica anumite corelații pe care le-a învățat la șah în alte domenii. Nu neapărat legate de jocuri. Felul în care evaluează o poziție de șah îi poate structura gândirea într-un anume mod, iar asta îl poate face să privească diferit și alte domenii. În schimb, programul de șah nu poate folosi ceea ce învață la șah pentru a conduce mai bine mașina sau pentru a face conversație cu tine. E limitat doar la domeniul în care e programat, adică la șah. Și nu prea văd cum ai putea face un program care să poată învăța și face corelații în absolut toate domeniile existente, incluzându-le și pe cele noi, care nu existau la data creerii lui – așa cum poate face omul.

    PS: ai citit articolul de pe dedoimedo?
    https://www.dedoimedo.com/physics/artificial-intelligence.html

  81. Hai să îți mai dau un exemplu de corelații interdisciplinare, apropo de șah. Ca să obții performanță la un joc de strategie (ex: Warcraft, Tycoon etc), trebuie să te coordonezi din ce în ce mai bine, să înveți să gestionezi toate unitățile din joc, să iei decizii rapide etc. Practic, jocul îți dezvoltă anumite abilități. Mai târziu, poți aplica aceste abilități și în viața reală, în alte domenii. Sau poate cândva un reflex salvator, pe care l-ai dobândit la un astfel de joc, îți va salva viața de un accident rutier. Deși ultimul exemplu nu e chiar de inteligență, el arată cum noi înțelegem și corelăm toate activitățile din toate domeniile cu care ne intersectăm. Le putem asimila într-un mod unitar și coerent. Pe când calculatorul nu se poate ocupa decât de un singur domeniu (ex: șah), și nici pe acela nu-l înțelege deloc, ci doar emulează că l-ar înțelege. Totul este artificial. Bine-bine, dar cât de mult poți emula adaptabilitatea și inteligența unui organism viu? Cât de mult de poți apropia, cu o emulare artificială, de original? Îl poți copia perfect?

  82. Cuvant inainte:
    – Daca consideri ca discutia asta nu mai are rost, o putem incheia oricand.
    – Nu am citit articolul, poate ar trebui, nu? :))

    Partial de acord cu ce spui tu. RAM-ii, HDD-urile samd sunt componente care alcatuiesc intregul. De-aia consider ca analogia ta (care este foarte buna) este incompleta. Am citit ulterior, si am vazut ca ati ajuns in punctul in care vorbiti de autonomie. Da, acolo este cheia. In momentul de fata, bacteria este autonoma. Un program are doar un while(true) si o rutina care face ceva… Bacteria a reusit sa-si transmita cumva codul genetic mai departe, urmatoarei bacterii. Un soft inca nu stie sa-si “instaleze” programul in alt sistem (inca).

    Resursele conteaza si ele, da-i unei bacterii o atmosfera bazata doar pe metan si sa vedem in milioanele de ani ce inteligenta dezvolta. Sigur, este doar o speculatie, dar cred ca se intelege ce vreau sa zic. Da-i unei persoane un drog, sau o substanta care-i accelereaza nistre procese si s-ar putea sa o incadrezi dup-aia in alt registru… Da, va avea acelasi hardware, dar dpdv al utilizari, ar fi un fel de overcloaking 😀 La fel si cu un program… pune-l pe un Z80 sau pe un i5, diferentele vor fi de la cer la pamant. Ia-i unui om cortexul prefrontal (cred ca am zis bine), si vezi cum se comporta. Nu poti sa zici ca nu conteaza toate astea, cand diferenta de inteligenta se masoara (de multe ori) si in rapiditatea cu care reactionezi la ceva (calcul, reflex, samd)

    Calculatorul de acum, da, degeaba il duci pe o planeta, ca nu va stii sa faca nimic din ce iese din sfera lui de programare (Dar daca ai putea sa-i “programezi” inovatia? 😀 ) Bacteria este autonoma, are un scop (sau nu are? ), a “invatat” sa se replice. Daca va stii si programul asta, atunci cred ca are potential sa faca ce face si bacteria.

    Legat de partea de programe ce nu-si pot depasi sfera programabila, da asa este. Dar o rutina superioara ar putea sa vina sa rescrie parti de cod, asa cum tu faci un plug-in si dintr-o data aplicatia ta stie si .xml, nu doar .txt. Ce voiam eu sa subliniez e ca tu, ca si sahist, cand inveti despre “gambit”, sau daca “observi” ca un cal e mai slab decat un nebun la final, fie o faci empiric (adica ai jucat multe – sau toate – partidele posibile) si statistic ai vazut ca nebunii te-au ajutat mai mult, fie o faci intuitiv – iar aici corelezi informatii din toate sferele, iar acest proces nu tine de “programarea ta ca si sahist”, ci te va ajuta ceva superior intelegerii mecanismului de jucat sah. La fel, tot asa un prorgam poate sa imbunatateasca alt program (da, teoretic evident). Unde prin inbunatatire intelegem noi posibile solutii, metrici noi pentru piese, “modele de gandire” samd.

    Da, calculatorul (si programul) este doar o alta unealta in momentul de fata, aici suntem de acord… Insa potentialul exista, mai ales ca noi nu mai trebuie sa asteptam milioanele de ani ca sa ajungem la “perfectiunea” noastra.

  83. Nu fug de polemici, putem discuta oricât.

    Da, citește articolul ăla, cred că o să-ți placă (asta din ce i-ai răspuns lui DoarF).

    Autonomia nu echivalează cu capacitatea de auto-propagare. Și un cod viral se poate multiplica. Ce-i așa de greu să faci un program care creează un alt fișier în care își scrie propriul cod? De fapt, aș zice că și la noi partea cu multiplicarea este destul de automată, scăpată de sub controlul rațiunii. De asta impulsul sexual ne face uneori să ne pierdem capul. 🙂

    Autonomia este capacitatea de a te adapta la noi situații, fără să ai pe cineva din afară care să-ți spună ce să faci. Este capacitatea de a învăța să pilotezi avioane fără ca strămoșii tăi să-ți fi transmis genetic cunoștințele necesare, deoarece pe vremea lor nu existau avioane. Și are la bază capacitatea de a înțelege și de a fi conștient de tine însuți. Un om este conștient, înțelege și își poate adapta răspunsurile la orice situație nouă. Un calculator nu e conștient și deci cum să-l facem inteligent? Ar trebui să emulăm fiecare răspuns uman în parte, la fiecare situație posibilă, dar pot apărea mereu altele noi. Sau să emulăm conștiința și înțelegerea înseși.

    O bacterie într-o atmosferă cu metan se va adapta, probabil, la acea atmosferă și va produce o rasă de extratereștri care respiră metan. Presupui că pe toate planetele cu viață se află o atmosferă asemănătoare cu a noastră, bazată pe oxigen? De ce? Uite, chiar la noi, pe Terra, plantele inspiră dioxid de carbon și expiră oxigen. Oxigenul este pentru ele un rebut. Ele funcționează cu dioxid de carbon, noi funcționăm cu oxigen. Pe altă planetă, viața s-ar adapta la condițiile de acolo. Poate, în timp ce noi discutăm aceste lucruri, într-un alt sistem solar niște extratereștri speculează: „Ia o bacterie și du-o pe o planetă cu o atmosferă bogată în oxigen și vezi ce se întâmplă. Probabil va muri, dat fiind că oxigenul e super-toxic, produce ruginirea metalelor și absolut nimeni nu l-ar putea respira.” 🙂 Uite că noi îl putem respira, chiar dacă ne corodează fuselajele metalice neprotejate și alimentează incendii devastatoare. Poate oxigenul e o chestie foarte nasoală, dar la care noi, trăind pe această planetă, ne-am adaptat.

    De altfel, este cumva logică adaptarea asta, dacă ne gândim că regnul vegetal a început înaintea celui animal, iar pe atunci atmosfera Pământului cred că era bogată în dioxid de carbon. Așa că ele s-au adaptat la ce aveau, folosind dioxidul și eliminând oxigen. Asta a dus cu timpul la o acumulare de oxigen în atmosferă, ca produs de rebut al plantelor, oxigen la care au putut să se adapteze organismele mai complexe ce au apărut ulterior.

    Problema e că deși toate „adaptările” de care vorbești sunt posibile în cazul unui program de calculator, eu nu văd cum am putea programa acea inovație în codul lui sursă sau cum am putea să-l facem astfel încât să-și poată rescrie singur toate rutinele, inclusiv rutina care îi spune să-și rescrie rutinele, și să se adapteze la orice nou. Asta o înțelegi când faci de exemplu un program de șah și vezi că deși din afară el mută foarte bine, la nivel de cod nu înțelege absolut deloc ceea ce face, doar simulează înțelegerea, într-un mod artificial. Da, cheia este autonomia, și asta face calculatorul inferior unei bacterii. Și dacă e inferior unei bacterii, îți dai seama că a deveni autonom nu-i o chestie trivială, iar faptul că noi avem programe tot mai inteligente, capabile să facă tot mai multe lucruri, ne poate amăgi. În realitate, până când nu o să rezolvăm acea problemă de bază și nu o să putem proiecta fie și o bucățică de cod care să fie perfect autonom, oricât de mult am perfecționa și dezvolta programele de IA actuale, ele vor fi tot lipsite de perspectivă.

  84. Iarasi sunt 90% de acord cu ce spui tu 🙂 Autonomia nu echivaleaza intr-adevar cu capacitatea de autopropagare, dar daca tu ca si specie esti pe cale de disparitie, sau chiar dispari, inseamna ca fie ai “trait degeaba”, fie esti doar o materializare a unei constiite superioare, care cauta sa “produca” o inteligenta mai buna. Asta asa, intr-un rezumat foarte simplist (si poate usor incorect – imi asum).

    Inteleg ce vrei sa spui cu codul viral, dar exemplul este prea trivial, pentru ca acel cod nu are capacitatea de a alege daca “vrea” sa se modifice sau nu. Cand ai zis ca un calculator nu este constient, ai cam inchis discutia… Pentru ca da, cred ca este o entitate inteligenta este si constienta de sine.

    La partea cu stramosii nu ma bag pentru ca nu prea stiu biologie si genetica. Dar, daca te joci putin cu cromozomii – chiar si la om, vei putea obtine aripi, branhii samd… care, sunt de fapt “rezultatele” finale ale avionului, submarinului etc. Ce vreau sa zic e ca informatia genetica exista. Daca se naste un om pe Terra azi, mai devreme sau mai tarziu se va prinde ca “marul ii cade in cap” – gravitatia, ca nu poate respira apa, ca-l arde focul, samd… Poate nu si le va putea explica pe multe, insa le va intelege, iar in timp le va stapani. Daca-l ducem pe o planeta cu alte conditii, ar fi interesant cum se va adapta acolo, daca se va adapta vreodata.

    Eh, ca sa scrii asta intr-o linie de cod, sau in mii de linii de cod, mai e cale luuunga intr-adevar. Cumva “rutina” de baza a omului este sa invete… Acel “eprom” nu stiu daca se mai poate rescrie – si daca vrei sa-l rescrii, o poti face doar la anumite varste, sau mult mai greu mai tarziu (intram in alte sfere de discutie). Chiar si “meta-rutina” daca vrei, aia care-ti asigura cresterea, dezvoltarea fiziologica, intelectul, samd are la randul ei limitarile ei (nu poti creste daca nu mananci – daca-ti tai o mana, nu-ti creste la loc etc). Si ea a fost “scrisa” undeva. Intra-devar, nici pe aia nu o stapanim, dar cumva o intuim, o observam etc. Poate candva o vom replica intr-un alt… context. Atunci intr-adevar ar fi interesant de vazut.

    Cu ultimul paragraf sunt de acord complet.

    PS: Ai jucat cumva ME (Mass Effect 1-3)? Daca da, mi-a placut mult cum au tratat “problema” AI-ului (chiar daca usor romantic 🙂 ); rezonez cu multe idei de acolo, poate s-au regasit si prin comentariile mele. Daca nu, ti-l recomand cu caldura 😛
    Pana luni ma angajez sa fi citit articolul… 😀

  85. La partea cu stramosii nu ma bag pentru ca nu prea stiu biologie si genetica. Dar, daca te joci putin cu cromozomii – chiar si la om, vei putea obtine aripi, branhii samd… care, sunt de fapt “rezultatele” finale ale avionului, submarinului etc. Ce vreau sa zic e ca informatia genetica exista. Daca se naste un om pe Terra azi, mai devreme sau mai tarziu se va prinde ca “marul ii cade in cap” – gravitatia, ca nu poate respira apa, ca-l arde focul, samd… Poate nu si le va putea explica pe multe, insa le va intelege, iar in timp le va stapani. Daca-l ducem pe o planeta cu alte conditii, ar fi interesant cum se va adapta acolo, daca se va adapta vreodata.

    Păi bun, dar în cazul ăsta, informația genetică legată de branhii nu exista la bacterie. Sau zici tu că exista? Deci bacteria a învățat ceva complet nou, care-i depășea codul genetic. Ok, poate n-am învățat noi, că om fi fost cândva păsări sau pești, dar au învățat strămoșii păsărilor și ai peștilor, înainte de a-și dezvolta, prin adaptare, aripi și branhii. Este? Deci tot au evoluat, s-au adaptat. Pe când programele nu învață nimic nou.

    Bine, dacă faci un program de șah cu algoritmi genetici sau de Monte Carlo, va învăța. Dar nu va învăța ceva nou propriu-zis. Va învăța să joace șah, nu să-și depășească programarea. Acel mod mai bun de a juca șah este conținut implicit în algoritmul lui genetic sau de Monte Carlo. Ca dovadă, nu va putea învăța niciodată să cânte la pian, dacă tu i-ai scris un algoritm de Monte Carlo pentru șah. Bacteria însă a învățat, după un număr incomensurabil de ani, să cânte la pian. Așa mică și prăpădită cum era. Iar calculatoarele de azi, așa sofisticate cum sunt, nu pot încă s-o egaleze.

    Dacă ne gândim mai bine, viața e un lucru cu totul extraordinar și aproape insondabil. Ce face o prăpădită de bacterie mai capabilă decât un sistem computerizat modern, ultra-performant? Și cum a apărut, în fond, acea bacterie? Sau prima materie organică? Din ce a evoluat ea? Că pietrele nu se schimbă în nimic, oricât le-ai lăsa să facă ce vor.

    Chiar si “meta-rutina” daca vrei, aia care-ti asigura cresterea, dezvoltarea fiziologica, intelectul, samd are la randul ei limitarile ei (nu poti creste daca nu mananci – daca-ti tai o mana, nu-ti creste la loc etc).

    Da, bine, de acord. Cea mai mare limitare este că nu putem evita moartea. Corpul nostru este limitat, celulele ne sunt limitate. Dar aceste celule limitate, atât timp cât trăiesc și au energia necesară la dispoziție (pe care o luăm prin aer, hrană, apă etc), ne permit să gândim într-un mod care depășește cu mult orice mașină, nu doar pe orizontală, ci plasându-se la un cu totul alt nivel. Nivel ce se află potențial în bacterie dar încă nu se află nici măcar ca speranță realistă într-un program de inteligență artificială. Și acolo unde mașinile construite de noi nu ne pot încă purta, ne duce fără probleme gândirea și imaginația. Deci, din punct de vedere intelectual, suntem aproape liberi.

    Nu am jucat Mass Effect. Nu prea joc, dar dacă e mișto, l-aș putea încerca. Și da, cred că ar fi fascinant să implementezi IA pentru un joc.

  86. Da, bacteria primordială nu are informația genetică pentru aripi, branhii samd. De acord aici. A ajutat-o însă evoluția, biologia, cromozomii si toate elementele despre care nu prea știu exact ce fac, dar știu că există și unde le întâlnesc :)) Probabil că primele informații au fost cum să-și sintetizeze hrana, apoi câte ceva despre mediu și tot așa. Mutațiile au și ele rolul lor (poate cel mai mare? – aici ne ajută Vladimir dacă știe ceva în plus)

    Programul de șah intrinsec nu-și va depăși programarea, dar un program superior lui ar putea să-i rescrie rutine, să-i adauge metrici noi, să-i mărească bufferul de la int la double 😀 samd. Nu va cânta la pian, într-adevăr, dar tu (sau eu) cânți la pian cu aceleași “componente” cu care joci șah? La fel, va exista un program pentru cântat la pian, pentru “mersul pe bicicleta”… Și același/aceleași rutine superioare care le vor “păzi”. Sunt de acord că același program de jucat șah va rămâne pe veci un program de jucat șah.

    Acum, dacă vrei o paralelă interesantă: o bacterie are capacitatea de evoluție. Prin însăși natura ei. Cum creezi acest echivalent la un AI? Un AI care să aibă “prestate” toate căile de evoluție pe care le are bacteria? Sau îi implementezi capacitatea de a-și scrie rutine, și “vede el” care-i convin? Mai un driver aici, mai un senzor dincolo? Ar putea fi o variantă… Până acum nu știu să existe un program care să faca asta, fie și doar de dragul ideii în sine.

    În ME este o “rasă” de AI care mi-a plăcut mult cum a fost conturată/creionată. Nu mă refeream la AI-ul jocului 🙂 Este o poveste doar, una care mie mi-a plăcut.

  87. Nu știu cum ai putea crea un program care să imite adaptabilitatea unei bacterii și potențialul ei. Tocmai asta e, că eu nu cred că-l poți crea așa ușor. Nu-l cred că-l vom putea face în viitorul suficient de apropiat, asta dacă îl vom putea face vreodată.

  88. Pai poti face programul bacteriei. Nici macar nu-i asa greu. Poti sintetiza polinucleotide, poti introduce mutatii, poti introduce secvente straine sau complet artificiale de ADN, poti face un soarec/bacterie sa faca ce nu l-a menit niciodata mama natura (vezi de exemplu expresia YFP, gena de meduza, in soarec, soarecii umanizati si tot asa), etc. Fix asta fac de-al de nevasta-mea cand fac soareci transgenici. Ingineria genetica e si ea o forma de programare, doar ca adaptezi programul facut de “altul”. Acum, daca poti sa-l imiti in silico, asta-i, desigur, alta poveste.

  89. @aldus
    Nu-mi vine nici unul in minte iar pe gogu sunt sigur ca il poti folosi si singur, nu ai nevoie de intermediari
    @all
    Discutia a alunecat de la “pericolul reprezentat de AI” la comparatii cu viul. Iar aldus a pulsat ca inteligenta este posibila doar daca este viu. Ca bacteria, lasata singura suficienta vreme o sa scrie AI. Dar noi nu avem in clar(sau cel putin eu), ca stramosul omului este bacteria. Evolutionismul nu este general acceptat.

    Intr-unul din linkurile pe care le-am tot lasat pe aici se face urmatoarea afirmatie legata de capacitatea oamenilor de a interpreta imagini:

    that human accuracy is not a point – it’s a tradeoff curve. We trade off human effort and expertise with the error rate

    . Ceea ce noi apreciem ca inteligenta este de fapt o rutina biologica de cautare care face legatura intre diversele informatii stocate in creier. In functie de cat de des se foloseste acea “legatura” timpul de acces la ea se micsoreaza. Acest model poate fi replicat(si a inceput sa fie) in AI. Nu ai nevoie de constiinta ca sa poti sa faci legaturi intre un cub si o gaura in care sa il bagi: trebuie doar sa experimentezi de suficiente ori ca sa vezi unde intra. Voi ridicati obiectia motivatiei: copilul mic(si animalele) au inascuta dorinta de exploatare. AI-ul are while(true). Cu suficienta putere de calcul, orice combinatie posibila va fi incercata. Chiar si cele la care omul nici nu s-a gandit sa le incerce.

  90. Da, este adevarat ca discutia s-a dus spre materia vie. Poate pentru ca la ea este prezenta inteligenta (apropo, daca vreti si putina metafizica, cititi “Inteligenta materiei” de Dumitru Constantit Dulcan – daca aveti timp si rabdare) si pentru ca din lumea vie pana la urma se inspira si crearea/proiectarea de AI. Eu zic ca, daca facem abstractie de “intelligent desing” stuff, ca dintr-o bacterie iti poate da orice entitate, in functie de mediu.

    Acum, cee ace zici tu este adevarat, creierul are fel de fel de mecanisme sa-ti “usureze viata”. Chiar si obiceiurile stau dovada ca asa este. Putem sa intram in detaliu, dar ar fi un topic diferit, si cel putil la fel de lung ca si acesta. Nu cred ca ridicam problema motivatiei, cat a scopului: materia vie are scopul de a trai, un program de calculator are scopul de a executa (un sumar rapid). Acel while (true) si doar atat este echivalent din punctul meu de vedere cu “inspira-respira” pentru oameni – si doar atat. Cu suficienta putere de calcul da, va fi posibila orice combinatie, insa cine va genera acele posibilitati? Programul in sine, sau rutina scrisa de cineva? Aici este intrebarea intrebatoare….

  91. @Vladimir

    Păi de silicon era vorba. Nu de bio-inginerie. 😛 Io știu că domeniul ăla ți-e drag, dar momentan suntem la IA. 😀

    @DoarF

    Nu am pulsat, ci am plusat. 🙂 Că nu sunt pulsar. 😀

    Tot rutina respectivă, la care zici tu că se reduce inteligența umană, este cea care ne face conștienți de noi înșine și de înțelegerea pe care o dobândim atunci când studiem ceva? Eu zic că rutina la care faci referire este doar un instrument al inteligenței umane și că inteligența umană este doar o mică parte a conștiinței.

    Nu neg că nu se replică diverse modele cognitive biologice în sfera mașinilor. Zic doar că nu-i de ajuns.

    Nu ai nevoie de constiinta ca sa poti sa faci legaturi intre un cub si o gaura in care sa il bagi: trebuie doar sa experimentezi de suficiente ori ca sa vezi unde intra.

    Păi vrei să emulezi inteligența umană sau pe cea a gândacului? Anumite mecanisme ale creierului sunt automatizate și le întâlnim și la animale. Dar funcțiile superioare ale intelectului, ca studiul ideilor sau gândirea abstractă, sunt strâns legate de conștiință și nu sunt prezente la alte viețuitoare.

    Cu suficienta putere de calcul, orice combinatie posibila va fi incercata. Chiar si cele la care omul nici nu s-a gandit sa le incerce.

    Teoretic sună bine. Dacă continuăm să mărim puterea de calcul, până la urmă mașinile vor ajunge să. Egaleze gândacul în 2050. Poate. 🙂 Dar haideți să vă zic o chestie: creierul uman procesează miriade de informații din lumea înconjurătoare, între care gândirea articulată ocupă doar un mic loc. Adică, creierul se ocupă cu procesarea tuturor semnalelor care vin din afară, apoi a celor din organism, are niște funcții de reglaj și auto-reglaj etc. De ce? Pentru că avem nevoie de ele ca să putem coordona miriadele de celule din corpul nostru și ca să putem îngloba într-un mod coerent miriadele de fotoni ce ne traversează retina, de unde sonore ce ne ajung la timpan etc. Toate aceste informații trebuie procesate pentru ca noi să putem supraviețui. Dar o mașină nu are nevoie de așa ceva.

    Idee: în loc să încercăm să egalăm omul în toate cele, să-i deslușim doar aceste facultăți intelectuale superioare. Să nu facem un android. Să nu-l dotăm cu ochi, urechi, nas etc. Să nu-i adăugăm cod pentru identificarea vizuală a unor imagini. Să facem doar un program de calculator care să emuleze gândirea omului. Și cel mai bine se manifestă gândirea asta în limbaj. Da, s-ar putea să meargă mai cătinel, dar nu are importanță câtă vreme avem proba că iată, se poate. Și totuși, nu există niciun astfel de algoritm. Tot ce avem la ora actuală sunt boți de chat de tipul Sophiei.

    Faptul că nu există înseamnă că nu-i doar o problemă de resurse, ci că pentru a face asta trebuie să urcăm cumva la un etaj superior. Pentru că altfel ar fi existat cel puțin teoretic algoritmul respectiv, chiar dacă nu putea rula pe mașinile de azi. Primii algoritmi de șah au apărut cu mult înaintea unor calculatoare decente. De fapt, am avut încă de la început algoritmul Minimax, care rezolvă complet jocul de șah, în câteva linii de cod, permițându-i mașinii să mute perfect. Sunt prea multe variante ca să fie fezabil pentru computerele de azi, dar îl avem și teoretic e perfect. Totuși, n-avem nici măcar o umbră de algoritm teoretic care să aproximeze limbajul uman. Poate vom aștepta să ni-l creeze mașinile?

    @Liviu Ursulescu

    Am auzit c-ar fi tare cartea aia. Apropos, ai citit până la urmă https://www.dedoimedo.com/physics/artificial-intelligence.html ?

    Da, sunt de acord cu tine. Practic, IA duplică niște mecanisme sau instrumente ale creierului, dar nu și pe cel care se află în spatele lor și care le folosește. Conștiința, eul. De asta zic io că cu cât vrei să emulezi mai mult, cu atât dificultatea crește exponențial, că-i doar o chestie contrafăcută ce ai tu, încercând să emulezi într-o mașină moartă viața.

    Iar viața, dacă mă uit la universul ăsta, este infinită în bogăție și complexități.

  92. @ Aldus: pai revin fiindca diferenta e artificiala, de fapt vorbim de acelasi lucru :D. E doar alt limbaj de programare.

  93. @DoarF Asta cu “evolutionismul nu e general acceptat” e cam de categoria aia din Catavencu numita “din putul gandirii”, zau asa :)). Asa e, nu-i acceptat de prostanaci. Aia care chiar se pricep nu par sa aiba dubii in legatura cu notiunea de evolutie per-se. Nimeni (sau macar nimeni care sa aiba o legatura legitima cu domeniul care chiar se ocupa de asta) nu contesta evolutia, ci minusculele-i detalii. Detalii care, ca orice chestii evo-devo sunt in continua schimbare in functie de ce tehnici noi apar si care ofera din ce in ce mai multe detalii subtile. Acum 100 de ani se uitau la detalii morfologice. Acum sunt detalii genetice, barcoding, SNP-uri, etc. Ti-o placea sau nu din bacterie te tragi. Daca te arde curioziatea e plin de articole stiintifice legate de subiect. Din alea din reviste peer-reviewed nu scrise de diversi amatori entuziasti care simt ei ca descopera roata si gaurile din sosete. Daca le pot citi eu, le poti citi si tu. Ca nu-s biolog, doar lucrez cu ei din cand in cand. Sa poti sa zici pe ton superior ca nu esti convins de ceva, implica sa fi studiat problema. Ceea ce e clar ca n-ai facut-o, dar parca iti aduci asa vag aminte ca parca cineva contesta chestia, asa-i? Dar nu prea stii clar ce. Si nici cine. Si nici daca ala se pricepe. 😀
    Altfel analogia AI – Genetica e cat se poate de valida. Codul genetic aia e, cod. Si Aldus are dreptate. Pana nu s-o putea autointretine si autodezvolta AI-ul e o replica palida si naiva a inteligentei noastre. E doar un alt excavator. Dar are potential. Asta saca ne desteptam tot noi sa-i fim si tata si Dumnezeu.

  94. Da, am citit articolul. Aparent, am fost pe aceeasi lungime de unda, fara sa-mi dau seama, si evident, cu mai putine argumente.

    Este buna, si chiar pertinenta observatia legata de constiinta vs a face anumite lucruri automate. Si poate ca aici este o prima piatra de hotar, intre un program automat, care executa ceea ce este destinat sa execute, si unul superior menit sa-l imbunatateasca…. Asta legat de ce spune Aldus cu programe care sa emuleze gandirea omului – chiar daca asa ceva este relativ imposibil acum. Propun doar doua programe (hai trei daca vreti), in care unul dintre ele supervizeaza pe celalalt(e).

    Pana la a emula gandirea omului, cred ca este necesara o metrica ce poate “evalua” in niste parametri acea gandire. Metrica de care suntem destul de departe, zic eu. In prim faza, cred ca o simpla ierarhie este ca cea descrisa mai sus este suficienta…. Apoi poate, cine stie, bucati de cod scrise aleator care “se complieaza” si chiar fac ceva. Literatura (si cinematografia) SF are atatea exemple….

    In momentul de fata, tot ce am reusit este sa copiem cu succes (pe alocuri) anumite procese “implicite” din vasta noastra inteligenta. Cred ca ar fi o adevarata realizare sa poti interconecta algoritmul de sah (minmax, alphabeta ) cu acel program de jucat DotA de ex… Daca macar unul poate sa “recunoasca” o strategie a celuilalt, cred ca s-ar face un mic pas spre a ne apropia de un AI cat de cat asemanator cu noi.

    Si ca final, o intrebare a unei prietene: Daca chiar am reusi sa creeam un AI, l-am ingradi sau l-am lasa “liber”… (prin liber ma refer la acces la informatie/internet)

  95. Dacă am reuși să-l creem, la modul real, atunci l-am hrăni cu cât mai multe informații, ca să vedem cum le procesează. La fel cum pe un program de șah îl pui să joace cât mai multe partide, pe un robot umanoid l-am ține cu noi și l-am pune să ne facă temele sau să ne sape grădina. Sau să ne înlocuiască soțul/soția, în caz de nevoie. 😀

    Glumesc. Habar n-am ce am face. Dar ce rost ar avea acea inteligență sau cum s-ar putea ea manifesta dacă am ține-o sub lacăt? Ca să vedem că e inteligent, ar trebui să îl lăsăm să citească și asimileze tot ce „vrea” și apoi să vedem cu ce soluții vine și care poate nouă ne-au scăpat. Prietena ta are o viziune mai emoțională. Oamenii de știință ar fi în primul rând curioși să vadă cum funcționează acea inteligență. Nu doar că l-ar lăsa să acceseze internetul, ci chiar l-ar conecta cu o linie directă și s-ar asigura că are o mulțime de enciclopedii și informații în unitățile lui de stocare. Inteligența este capacitatea de a procesa informații. Ori, să reușești să faci o inteligență artificială pe bune, care s-o emuleze fidel pe cea umană, ai ține-o lipsită de informații? 🙂 E ca și cum ai zice că ai construit o mașină foarte rapidă, foarte puternică, foarte luxoasă, conduce singură, consumă puțin și ca atare, o ții toată ziua închisă în garaj! 😀

  96. Da, poate are viziune emotionala. Dar ce a vrut ea sa intrebe de fapt este daca logica acestui AI il va “impinge” sa considere omul un pericol sau “un dauntator” – cam cum consideram noi virusii, sa zicem – care ar fi reactia noastra? L-ai inzestra cu “free will”. Si, nu in ultimul rand suntem pregatiti sa fim surclasati ca si “dominant species”? (Cred ca si viziunea este usor emotionala 🙂 )

    Altfel, da l-ai conecta la cat mai multe surse, l-ai “hrani” si l-ai “creste” ca pe copilul tau (more or less)

  97. @Vladimir
    Dupa cum bine ai intuit, nu am studiat acest domeniu. Tocmai de aceea am specificat ca “eu nu stiu” si nici nu a fost un argument in discutia principala. Si cu toate aceastea, cel putin pana nu se lamuresc suficient de multe detalii, imi rezerv dreptul sa ma intreb daca a fost un proces “pur natural”.
    @Aldus
    Acea inteligenta nu va aparea de azi pe maine. Acea inteligenta, daca o vom obtine vreodata, se va forma in timp. Presupun ca prima data se vor crea inteligente specializate, iar acesetea vor emerge intr-una superioara, nu neaparat unica. Asa ca limitarea mi se pare cvasi-imposibila. La fel si cu cele 3 legi ale roboticii, pentru cei care l-au citit pe Asimov.

Leave a Reply

Your email address will not be published. Required fields are marked *