La intel·ligència artificial no és tan intel·ligent, i d'aquí plora la criatura

Segur que haureu sentit a dir algun cop que "Intel·ligència artificial", la IA, és un nom que no descriu gens bé la tecnologia que hi ha al darrere d'eines com ChatGPT. Si feu una mica de recerca, trobareu que ChatGPT és una aplicació de "IA generativa", que al seu torn, és un subconjunt del que es coneix com "Deep Learning", o DL; en català, "Aprenentatge profund".  

Aquest "Aprenentatge profund" està incardinant en el que es coneix com la "IA connexionista" o "connexionisme", que es basa en la construcció de models fets amb moltes capes  de "neurones artificials" amb les diferents capes connectades i sovint, retroalimentant-se entre elles. 

La Intel·ligència Artificial, però, va estar dominada durant molts anys per la "IA simbòlica". La IA simbòlica treballa amb algorismes deterministes i entre els anys 60 i 70 va obtenir èxits importants, De fet, es parlava d'una edat d'or de la IA, que va venir seguida d'una llarga etapa de foscor, quan algunes de les promeses que es van fer no es van poder acomplir. Per entendre'ns: Avui encara no tenim res  com l'ordinador HAL de la pel·lícula 2001. Aquella pel·lícula és de 1968. En aquella època, les esperances eren que en 33 anys es disposaria del que es coneix com "Intel·ligències artificials generals", és a dir, una consciència artificial capaç de raonar, aprendre i comprendre i de plantejar-se qüestions ètiques, o de somiar. Un ésser intel·ligent artificial. 

No. No estem en aquest punt. No, que se sàpiga.

Les IAs actuals darrera de ChatGPT, Grok, Copilot o Gemini no són IAs generals. S'hi assemblen, això sí. però no ho són. De fet, darrera de la indústria de la IA el que hi ha és un màrqueting excel·lent, que comença en els noms dels productes: Es parla de IA, de Deep Learning, però el nom més precís seria "Model estadístic predictiu amb un nombre de variables extremadament gran". Dit així ja podríem sospitar que aquestes IA no són més que uns programes que donades unes entrades, proporcionen la sortida més probable. Punt. Pura probabilitat. No hi ha raonament. No hi ha consciència, o ètica. Només un sistema que després de revisar milions i milions de texts ha determinat que la paraula o la frase més probable després d'una determinada seqüència de paraules o frases és una en concret. 

Vist així no sembla la millor de les opcions, oi? no sembla molt raonable confiar en una màquina a la que proporciones un text en el que descrius problemes personals, o econòmics, o polítics, o històries de vida o mort, en les que tens esperances i anhels posats, i que en resposta et torna una seqüència de paraules que son les que més probablement han de ser, tenint en compte el que "ha après" després d'un llarg "aprenentatge profund", en realitat "aprenentatge extens", i en realitat, ajustament de paràmetres de les neurones artificials, seguint un algorisme de "propagació cap enrere i de descens de gradients", o variacions més o menys sofisticades.

El cas, però és que aquest sistemes funcionen força bé. Cada vegada millor.

Deixem la informàtica. Jo crec que arribats a aquest punt, ja ningú dubta que, certament, la IA substituirà molts llocs de treball. Llocs de tasques "creatives", o que demanen "treball intel·lectual". La IA es carregarà llocs de "treball del coneixement".

Sospito que el problema és que aquests llocs de "treball del coneixement", o "creatius", en realitat, no ho són tant. Sospito que el problema és que en realitat no cal tanta intel·ligència per a molts d'aquests treballs. Per això, un sistema que, en realitat només repeteix de forma acrítica el que ha llegit centenars, o milers, o milions de cops es suficient per a donar una resposta satisfactòria. Això val tant per a un agent d'IA que genera informes sobre herències a un bufet d'advocats, per dir una cosa; com per un agent que fa perfils psicològics, o informes mèdics, o previsions financeres, o programa aplicacions web. En la majoria de les ocasions, n'hi ha prou. 

No és tant que la IA sigui "molt intel·ligent". És, més aviat, que no cal molta intel·ligència per a fer aquestes tasques que, en la seva majoria, es resolen de forma sistemàtica, aplicant tècniques, o receptes, o arbres de decisió. En realitat, hi ha molt poca creativitat. 

El que és irritant de la IA és que posa de manifest que, en realitat, no som tan espavilats. Ni tan sols  perfils professionals  de molt prestigi. En realitat, treballem de forma molt poc creativa.

És lògic que sigui així, perquè l'objectiu de les empreses és fer diners, i la forma segura de fer diners és amb una planificació fèrria. Les planificacions són poc amigues de les innovacions, la creativitat i les incerteses. En canvi, els beneficis augmenten quan s'eliminen despeses fixes, i la major despesa fixa de moltes empreses és la despesa laboral: els salaris dels treballadors. Vet-ho aquí: la IA proporciona la "intel·ligència" justa al preu que les empreses estan disposades a pagar: el més baix possible.

Tot això no deixa de ser el que ja ens han dit: que la IA substituirà a molts treballadors, i que aquests treballadors hauran de reconvertir-se, o anar a l'atur.

El cas és que el món funciona sense que li calgui massa intel·ligència. El resultat d'aplicar la IA és que tots plegats ens tornarem més rucs, simplement perquè a la major part dels sistemes burocràtics no caldrà gent. N'hi haurà prou amb IAs que tampoc caldrà que siguin de darrera generació. La intel·ligència artificial no és tan intel·ligent, i d'aquí plora la criatura.

A mi tot això em dona una sensació de col·lapse imminent.  És la teoria del Gran Filtre:  Encara no hem tingut contactes amb civilitzacions extraterrestres perquè, quan una civilització és prou avançada com per desenvolupar IAs generatives, aquestes acaben ocupant els espais que havien d'ocupar els individus. Però quan això passa, s'aturen la creativitat i la innovació, però també la capacitat d'estudiar, d'imaginar, de recordar, d'esforçar-se, d'investigar, d'experimentar, de construir amb les pròpies mans (o tentacles, o les extremitats que sigui que tingui la raça extraterrestre en qüestió). En perdre aquestes competències bàsiques, la societat, de forma més o menys ràpida, col·lapsa.

Potser és perquè visc a Catalunya i les coses aquí van com van, però tinc la sensació que molts sistemes automàtics comencen a fallar i cada cop hi ha menys gent que sigui capaç de reparar-los. Parlo de trens, parlo de serveis telefònics d'assistència que no resolen res, parlo de benzineres sense personal i màquines d'auto-vending buïdes. 

El resultat del col·lapse pot ser catastròfic, tenint en compte el grau de mediació i dependència tecnològica. Per exemple, si ningú ja sap gestionar centrals nuclears, i tot està en mans d'agents IA, quan aquests agents fallin, no se'ls podrà reparar i les centrals fallaran quan els agents ja no hi siguin. No tenim contactes extraterrestres perquè les civilitzacions col·lapsen quan la IA s'imposa. De fet, ni tan sols és IA, només amb aquest succedani de IA que tenim actualment. El Gran Filtre és la IA. Digues-me luddita. 

Sí, és clar, avui mateix, al nostre planeta, ja vivim immersos en una gegantina matriu tecnològica. Avui, ara mateix, hi han milers d'avions volant arreu del món, amb sistemes de vol que en molts casos incorporen elements d'IA, i  més que n'incorporaran. Avui ja posem les nostres vides en mans de les IAs, i més que ho farem en el futur. El sistema sembla robust. És robust. No falla. Confiem en l'enginyeria.

Però i si un dia deixa de fer-ho?  Serem prou intel·ligents per a superar-ho?