Noul trend în AI sunt produse eșuate

Zilele trecute am dat de o mică glumiță legată de Bard. Cineva cerea o rețetă de răbdări prăjite, și Bard, LLM-ul făcut public de Google, începuse cu mult talent să halucineze inclusiv faptul că pentru rezultate cât mai bune răbdarea trebuie să aibă carnea rozalie și fermă (neînțelegând că răbdarea este, în esență, produs vegetarian).

E doar o mică greșeală, își spun oamenii care acum sar să adopte noul trend al folosirii AI-ului în munca de zi cu zi. Gândirea e că chiar și cu o unealtă de proastă calitate poți să-ți faci treaba; până la urmă AI-ul ți-a dat rețeta, e treaba ta de unde-ți iei răbdări ca să le prăjești. Gluma însă se termină aici: oameni vor fi concediați și înlocuiți cu acest producător de rețete de răbdări prăjite.

Și cred că lucrurile trebuie zise în clar: Modelele lingvistice masive (LLM = large language model) sunt produse eșuate. Nu ai cumpăra un televizor căruia o dată din zece porniri să-i explodeze ecranul, nu ai cumpăra un robinet de apă care la una din cinci închideri să eșueze. Tehnologia pur și simplu e incorect proiectată.

Și asta pentru că un MLM (ce dulce e prescurtarea în română!) rezolvă o problemă care nu a existat niciodată: „care e statistic cel mai bun cuvânt cu care să-mi continui fraza pornind de la nodurile informaționale care mi-au fost oferite?”

MLM-urile nu sunt inteligență artificială pentru că nu sunt inteligență, sunt mașinării de generat conținut stohastic într-un mod credibil. Nu există inteligență, nu există o simulare de idei, nu există o filosofie, nici măcar o posibilitate de a exprima o idee într-o frază corectă, pentru că MLM-urile nu fac altceva decât să însumeze niște valori statistice atașate unor cuvinte, și să-l aleagă pe cel care are suma cea mai mare pentru ce i-ai dat să-ți zică.

„Dar, Dorin, modelul funcționează! Îmi răspunde corect la întrebare, și da, eu îmi iau răbdările cu carnea rozalie și fermă!” Dar zi-mi, poate ChatGPT sau Google Bard sau oricine altcineva să-și asume responsabilitatea în caz că răbdarea îți explodează în tigaie? Dacă tu produci răbdări pentru prăjit bazându-te pe un MLM și astea explodează în tigaia omului, o să-i trimiți să se certe cu MLM-ul? Sau…

Pentru că modelul nu își asumă responsabilitatea pentru nicio halucinație. Și până în momentul în care nu există un angajament real al producătorilor de MLM-uri și o cale clară de a corecta orice informație falsă și frază incorectă spusă de produsele lor, toate produsele lor ar trebui aruncate la gunoi.