Un nou rant despre AI

Am mai avut rant-uri de genul acesta, și în general am cam cerut oamenilor cu care am mai discutat pe tema asta un rant, o opinie, pe care s-o public pe blog. O facem ca un efort de documentare a momentului curent - cum vedem lucrurile. Poate pe viitor o să ni se pară naiv, poate nu; dar cred că e important să ne zicem părerile.

Aici e al patrulea rant din serie. Primele sunt aici: 1, 2, 3. Ca de obicei păstrez anonimatul autorului (cu excepția lui #3, care e al meu), pentru consecvență.

Chestia cu AI-ul e cam așa: are și părți bune.

Are ȘI părți bune.

Și, sincer, e o jucărie foarte șmecheră, din punct de vedere tehnologic. Îți imită vorbirea umană de ai zice că vorbești cu un om. E o iluzie, desigur, la fel cum e și iluzia că AI-ul chiar crede că ai pus o întrebare foarte bună. Sau iluzia că ai o perspectivă nouă și interesantă, pentru că așa ți-a zis AI-ul.

AI-ul te face să te simți deștept: ai pus problema corect, sau aproape corect, dar ai ratat o chestie mică. AI-ul îți spune foarte frumos unde ai greșit, și de ce ai avut părerea greșită pe care ai avut-o. AI-ul te lămurește și te lingușeșete și îți spune lucrurile într-o listă frumos ordonată și deseori corectă, după care te întreabă dacă mai ai nevoie de ceva și îți oferă câteva sugestii.

AI-ul e un mic sclav care e absolut fericit să facă tot ce-i zici. Și, sincer, e așa de plăcut să ai un sclav, un prieten de nădejde care nu se supără pe tine, care crede că ești deștept și frumos și…

(Cu faze de-astea te prind toți șmenarii deștepți, gâdilându-te la mândrie. Este AI-ul șmenar? Nu. Sunt companiile de AI puse pe șmenuri? Păăăăi… nu știu, dar au mulți bani de recuperat.)

Acuma, AI-ul răspunde la unele probleme reale. Motoarele de căutare cam dau rateuri în ultima vreme, uneori nu știi ce să întrebi și poate de ajută un AI, alteori ai nevoie de niște explicații despre niște fenomene într-un limbaj natural, sau vrei să verifici că ai priceput ceva și nu ai un expert la dispoziție să-ți explice.

Lucrurile astea s-ar putea rezolva reparând motoarele de căutare și creând materiale mai bune pentru învățare. Dar momentan lucrurile făcute clasic se duc de râpă, pentru că toată concentrarea se duce pe AI. Documentație pentru proiecte? Nup, întreabă AI-ul. Cauți ceva pe net? Încearcă cu AI-ul, pentru că Google search se ocupă acum mai ales cu căutarea de chestii de vândut prin magazine.

Totul e AI, AI, AI. Risipă de energie și tehnologie pentru care o să plătim de o să ne uscăm, în loc să folosim AI-ul doar la lucruri pentru care merită cu adevărat folosit.

Dar AI-ul și creează probleme reale. Din ce în ce mai multă lume pe care o știu folosește AI până în punctul în care-și pierde abilitatea de a face lucrurile altfel - documente care ar trebui scrise la muncă, dar merg mai greu? AI, pentru că de ce să-ți bați capul să le gândești. Două lucruri care trebuie combinate? Roagă AI-ul să-ți spună cum, nu te gândi tu.

În plus, din câte remarc uitându-mă la cei din jur, procesele de învățare tind să fie fușerite în cel mai bun caz, sau evitate cu totul în cel mai rău. E ușor să întrebi AI-ul cum se rezolvă o problemă. E la fel de ușor să pui AI-ul să o și rezolve. Pe termen scurt e un lucru grozav pentru omul care nu mai trebuie să-și bată capul cu asta. Pe termen lung, e un lucru nasol pentru generațiile de studenți de azi.

Nu dau vina pe studenți pentru că folosesc AI, să ne înțelegem. AI-ul e mai rău decât păcănelele: ai parte la reclame la el peste tot, ajungi la el de pe orice dispozitiv, și nici măcar nu-ți cere (încă) bani. Poți să-l folosești etic, te poate ajuta realmente să înțelegi niște lucruri mai bine… și poți foarte, foarte ușor să cazi în cursa în care să-i ceri în fiecare zi un pic mai mult, un pic mai mult, păcălindu-te că rămâi în control, dar rămânând într-o poziție din ce în ce mai îndepărtată de produsul final.

Poți să începi cu „doar îi pun o întrebare”, apoi să-i zici „verifică” și să treci prin toate obiecțiile lui, ca să vezi dacă sunt bune. Dar la un moment dat îți dă și o soluție miiică, mică de tot la o parte din problemă, zici că e bună, și o folosești în munca ta. Altă dată, îi ceri tu să rezolve o parte din problemă. Apoi o parte mai mare. Apoi una și mai mare. Îți spui că tu păstrezi controlul, gândirea e a ta, tu supraveghezi. Dar continui - vrei și mai mult. Până la urmă, face totul, tu doar privești de sus și îți spui că verifici.

Dar cât verifici? Cât ești realmente atent la ce face AI-ul? Cât anume mai menții contactul cu problema și cât de repede îți mai dai seama că ceva a mers prost? Pentru că lucrurile devin pe nesimțite mai ușor de lăsat pe mâna mașinii, iar ție îți fug ochii. Nu mai ai parte de dificultăți, nu mai ai parte de opoziție, nu-ți mai bați capul. Totul e ușooor…

Chestia cu AI-ul e că are și părți bune. Are suficient de multe, de fapt, încât să nu-ți dai seama când pierzi controlul, să nu-ți mai dai seama că nu știi ce nu știi, să nu mai fii atent la greșeli și erori.

Ca student, asta înseamnă să nu mai devii niciodată profesionist, pentru că ai externalizat calea spre profesionalism AI-ului.

Ca profesionist, înseamnă să începi să aluneci spre mediocritate sau mai rău și să nici nu-ți mai dai seama de asta.

La scară largă, mie mi se pare că treaba asta va avea niște consecințe nu tocmai fericite - dar ce anume va fi, asta mi-e greu să spun de-acum.