Anthropic antropomorfizează „AI”-ul

O scurtă notiță pe care aș fi putut-o încadra la „tehnice”, dar nu e, că ține de lumea în care trăim. Există o discuție mai largă, dar absolut inutilă, în lume acum despre dacă LLM-urile (această inteligență artificială) pot avea sentimente, și dacă simt tortura. Un exemplu: aici. Eu am aflat despre această discuție citind rapid peste știri și ignorând una pentru a mă lovi de ea inclusă în discursul Alinei Voinea de la AntareSFest, o reuniune despre care nu o să zic mai mult de-atât, pentru că e urât să faci mișto de oameni bătrâni care se iau în serios.

Dar revenind la problema expusă, nu, LLM-ul nu simte durere așa cum LLM-ul nu simte sentimente pentru că este o secvență de bytes prelucrată în ceva cod executabil pe un procesor. Și am dat un exemplu în sensul ăsta, da, putem antropomorfiza Rocket League și să spunem că suferă de cantități inimaginabile de rușine când joc eu (foarte prost) jocul, dar în realitate, singurii care suferă cu adevărat sunt colegii mei de echipă. Programul va fi neschimbat secunde, minute, ore sau zile mai târziu. Din păcate, dar o să evit și să discut despre cum „săracii” de Epic Games nu sunt capabili să mențină standarde minime pentru un joc simpluț.

Dar o să auziți inclusiv discuții despre faptul că papa Leon a condamnat antropomorfizarea „AI”-ului destul de clar într-o scrisoare care nu le-a convenit extraordinar companiilor big-tech. Dacă sunteți lunatic de dreapta, mai ales, ați citit foarte mult despre trădarea lui Leon, și despre faptul că nu mai reprezintă catolicismul - faptul că le-a spus niște chestii despre Iisus și treaba asta cu AI-ul sunt determinante în halucinațiile lunaticilor ăstora. Faptul că papa se plasează atât de categoric de partea rejectării antropomorfizării tehnologiei este deranjant pentru big-tech; nu pentru că oamenii de la conducerea acestor mari companii ar avea probleme morale legate de ceea ce fac, ci pentru că utilizatorii și eventualii lor clienți ar putea avea. Dar nu e singurul care se plasează, și care îl deranjează teribil pe domnul Olah, unul din fondatorii Anthropic, după cum aflăm din acest articol din New York Times.

Și asta vin aici să vă spun: nu uitați că totul e despre bani. Atunci când Anthropic a scos documentele pentru scoaterea la bursă a companiei, au adăugat lungi notițe despre cu „AI”-ul ar putea duce la extincția umanității. Și această amenințare e tot despre bani; trebuie să fie impresionant ca să facă o propunere de ieșire la bursă halucinantă să pară rezonabilă. Pentru că oricine are un pic de creier și știe să facă două-trei calcule își dă seama că Anthropic nu poate fi un business bun, așa cum singurul motiv pentru care mizeria lui Musk scoasă recent la bursă, nu funcționează decât pentru că e atât de bine angrenat la banii publici din SUA încât nu are cum să piardă (deși fiți pe fază, Trump e galaxy-brain în ceea ce privește economia).

Și aș vrea să vă liniștesc, să vă zic că nu, „AI”-ul, oricât de inteligent ar fi, nu poate aduce sfârșitul omenirii, dar mă uit la ce se întâmplă în România, și când văd atâta boală mentală mă gândesc că poate ar fi singura utilitate reală a „AI”-ului în momentul ăsta. Dar nu va fi cazul, ca orice altă companie Anthropic promite mult ca să realizeze puțin, antropomorfizează ceea ce în cele din urmă este un program cu un set foarte mare de date, care dă în mod constant gherle. Eliminând toate miștourile pe care le am pe subiect în momentul ăsta, o să mă retin doar la a spune că e doar o strategie de marketing - Anthropic vor să pară super-deștepți și super-extraordinari ca să fie mai atractivi la oferta publică inițială.

Singurul lucru pe care îl sper este ca eșecul previzibil al Anthropic (nu cred că mai sunt atâția bani pe piață cât cer ei) să fie cel care face toate dominourile să cadă, și să vedem în sfârșit criza aia și falimentele marilor firme americane. Asta înseamnă că rămânem doar cu ce-au distilat chinezii de la americani, și alte câteva modele open-source, dar orice lume în care Anthropic e în faliment e o lume mai bună.

Deci nu, LLM-urile nu au conștiință, nu există durere a unui program care rulează pe un procesor.