La intel·ligència artificial no és tan intel·ligent, i d'aquí plora la criatura

Segur que haureu sentit a dir algun cop que "Intel·ligència artificial", la IA, és un nom que no descriu gens bé la tecnologia que hi ha al darrere d'eines com ChatGPT. Si feu una mica de recerca, trobareu que ChatGPT és una aplicació de "IA generativa", que al seu torn, és un subconjunt del que es coneix com "Deep Learning", o DL; en català, "Aprenentatge profund".  

Aquest "Aprenentatge profund" està incardinant en el que es coneix com la "IA connexionista" o "connexionisme", que es basa en la construcció de models fets amb moltes capes  de "neurones artificials" amb les diferents capes connectades i sovint, retroalimentant-se entre elles. 

La Intel·ligència Artificial, però, va estar dominada durant molts anys per la "IA simbòlica". La IA simbòlica treballa amb algorismes deterministes i entre els anys 60 i 70 va obtenir èxits importants, De fet, es parlava d'una edat d'or de la IA, que va venir seguida d'una llarga etapa de foscor, quan algunes de les promeses que es van fer no es van poder acomplir. Per entendre'ns: Avui encara no tenim res  com l'ordinador HAL de la pel·lícula 2001. Aquella pel·lícula és de 1968. En aquella època, les esperances eren que en 33 anys es disposaria del que es coneix com "Intel·ligències artificials generals", és a dir, una consciència artificial capaç de raonar, aprendre i comprendre i de plantejar-se qüestions ètiques, o de somiar. Un ésser intel·ligent artificial. 

No. No estem en aquest punt. No, que se sàpiga.

Les IAs actuals darrera de ChatGPT, Grok, Copilot o Gemini no són IAs generals. S'hi assemblen, això sí. però no ho són. De fet, darrera de la indústria de la IA el que hi ha és un màrqueting excel·lent, que comença en els noms dels productes: Es parla de IA, de Deep Learning, però el nom més precís seria "Model estadístic predictiu amb un nombre de variables extremadament gran". Dit així ja podríem sospitar que aquestes IA no són més que uns programes que donades unes entrades, proporcionen la sortida més probable. Punt. Pura probabilitat. No hi ha raonament. No hi ha consciència, o ètica. Només un sistema que després de revisar milions i milions de texts ha determinat que la paraula o la frase més probable després d'una determinada seqüència de paraules o frases és una en concret. 

Vist així no sembla la millor de les opcions, oi? no sembla molt raonable confiar en una màquina a la que proporciones un text en el que descrius problemes personals, o econòmics, o polítics, o històries de vida o mort, en les que tens esperances i anhels posats, i que en resposta et torna una seqüència de paraules que son les que més probablement han de ser, tenint en compte el que "ha après" després d'un llarg "aprenentatge profund", en realitat "aprenentatge extens", i en realitat, ajustament de paràmetres de les neurones artificials, seguint un algorisme de "propagació cap enrere i de descens de gradients", o variacions més o menys sofisticades.

El cas, però és que aquest sistemes funcionen força bé. Cada vegada millor.

Deixem la informàtica. Jo crec que arribats a aquest punt, ja ningú dubta que, certament, la IA substituirà molts llocs de treball. Llocs de tasques "creatives", o que demanen "treball intel·lectual". La IA es carregarà llocs de "treball del coneixement".

Sospito que el problema és que aquests llocs de "treball del coneixement", o "creatius", en realitat, no ho són tant. Sospito que el problema és que en realitat no cal tanta intel·ligència per a molts d'aquests treballs. Per això, un sistema que, en realitat només repeteix de forma acrítica el que ha llegit centenars, o milers, o milions de cops es suficient per a donar una resposta satisfactòria. Això val tant per a un agent d'IA que genera informes sobre herències a un bufet d'advocats, per dir una cosa; com per un agent que fa perfils psicològics, o informes mèdics, o previsions financeres, o programa aplicacions web. En la majoria de les ocasions, n'hi ha prou. 

No és tant que la IA sigui "molt intel·ligent". És, més aviat, que no cal molta intel·ligència per a fer aquestes tasques que, en la seva majoria, es resolen de forma sistemàtica, aplicant tècniques, o receptes, o arbres de decisió. En realitat, hi ha molt poca creativitat. 

El que és irritant de la IA és que posa de manifest que, en realitat, no som tan espavilats. Ni tan sols  perfils professionals  de molt prestigi. En realitat, treballem de forma molt poc creativa.

És lògic que sigui així, perquè l'objectiu de les empreses és fer diners, i la forma segura de fer diners és amb una planificació fèrria. Les planificacions són poc amigues de les innovacions, la creativitat i les incerteses. En canvi, els beneficis augmenten quan s'eliminen despeses fixes, i la major despesa fixa de moltes empreses és la despesa laboral: els salaris dels treballadors. Vet-ho aquí: la IA proporciona la "intel·ligència" justa al preu que les empreses estan disposades a pagar: el més baix possible.

Tot això no deixa de ser el que ja ens han dit: que la IA substituirà a molts treballadors, i que aquests treballadors hauran de reconvertir-se, o anar a l'atur.

El cas és que el món funciona sense que li calgui massa intel·ligència. El resultat d'aplicar la IA és que tots plegats ens tornarem més rucs, simplement perquè a la major part dels sistemes burocràtics no caldrà gent. N'hi haurà prou amb IAs que tampoc caldrà que siguin de darrera generació. La intel·ligència artificial no és tan intel·ligent, i d'aquí plora la criatura.

A mi tot això em dona una sensació de col·lapse imminent.  És la teoria del Gran Filtre:  Encara no hem tingut contactes amb civilitzacions extraterrestres perquè, quan una civilització és prou avançada com per desenvolupar IAs generatives, aquestes acaben ocupant els espais que havien d'ocupar els individus. Però quan això passa, s'aturen la creativitat i la innovació, però també la capacitat d'estudiar, d'imaginar, de recordar, d'esforçar-se, d'investigar, d'experimentar, de construir amb les pròpies mans (o tentacles, o les extremitats que sigui que tingui la raça extraterrestre en qüestió). En perdre aquestes competències bàsiques, la societat, de forma més o menys ràpida, col·lapsa.

Potser és perquè visc a Catalunya i les coses aquí van com van, però tinc la sensació que molts sistemes automàtics comencen a fallar i cada cop hi ha menys gent que sigui capaç de reparar-los. Parlo de trens, parlo de serveis telefònics d'assistència que no resolen res, parlo de benzineres sense personal i màquines d'auto-vending buïdes. 

El resultat del col·lapse pot ser catastròfic, tenint en compte el grau de mediació i dependència tecnològica. Per exemple, si ningú ja sap gestionar centrals nuclears, i tot està en mans d'agents IA, quan aquests agents fallin, no se'ls podrà reparar i les centrals fallaran quan els agents ja no hi siguin. No tenim contactes extraterrestres perquè les civilitzacions col·lapsen quan la IA s'imposa. De fet, ni tan sols és IA, només amb aquest succedani de IA que tenim actualment. El Gran Filtre és la IA. Digues-me luddita. 

Sí, és clar, avui mateix, al nostre planeta, ja vivim immersos en una gegantina matriu tecnològica. Avui, ara mateix, hi han milers d'avions volant arreu del món, amb sistemes de vol que en molts casos incorporen elements d'IA, i  més que n'incorporaran. Avui ja posem les nostres vides en mans de les IAs, i més que ho farem en el futur. El sistema sembla robust. És robust. No falla. Confiem en l'enginyeria.

Però i si un dia deixa de fer-ho?  Serem prou intel·ligents per a superar-ho?

La matança del porc (represa)

El parc de Collserola torna a estar tancat. Es veu que es va trobar un senglar infectat, a la zona de parc que pertany a Barcelona i el protocol  que cal tancar el parc.

Aquest cop, però, un representant de l'autoritat va sortir a dir que el parc es tancava perquè anaven a carregar-se a tots els senglars. Mort el porc, morta la ràbia. I que anaven a fer-ho sense manies. Cal matar porcs. Aquest cop han tingut el detall de no tractar la gent com criatures i han dit, ben clar, que no se'n salvarà ni un.

En fi, els porcs lliures moriran per a major glòria dels propietaris de les empreses del sector porcí, d'engreix, d'escorxador... 

Em sorprèn que no hagin saltat grups animalistes a defensar els senglars. Em crida l'atenció. O potser han saltat, però fan poc soroll, o les seves accions tenen poc ressò. Com sigui, jo no me n'he assabentat. Trobo que és curiós. Recordo quan grups animalistes van assaltar granges per alliberar gallines de la violació continua a la que es veien sotmeses per galls feixistes. Consell: No humanitzeu els animals més del compte. No són persones. Tampoc els cal. Humanitzar als animals sembla, més aviat, un signe d'egolatria humana. Els animals no necessiten ni demanen ser humans honoraris. Humans, siguem humils: ser una persona, un ésser humà, tampoc és garantia de res.

Pobres bèsties. Només demano que se'ls faci patir el mínim. Que la crueltat es redueixi a la mínima necessària. Pregunto, també, si no hi ha una altre solució. Massacrar tota la població d'una determinada espècie no hauria de fer-se a la lleugera perquè segurament tindrà un impacte en els equilibris de l'ecosistema del parc. Em sorprèn també que cap entitat de defensa de la natura hagi presentat objeccions.  

Cal dir, també, que mentre es parla dels porcs no es parla de l'origen de l'epidèmia. poc a poc, des del govern de la Generalitat, estan reprenent la hipòtesi de l'entrepà contaminat. 

A mi, aquesta idea em sembla tant o més preocupant que la de la falla de seguretat d'un laboratori. 

Que un laboratori tingui falles de seguretat és greu. Però qui juga amb foc, a vegades es crema. No existeix el risc zero. Assumim que la probabilitat de fallada és extremadament baixa i que no ens afectarà cap cas en el temps d'una vida. El problema que hi veig és que no sé com es calcula aquesta probabilitat de fallada, i si té en compte factors com, per exemple, presidents dels EUA que comencen guerres a l'Orient Mitjà, o cadenes de subministrament de recanvis o d'energia trencades per embargaments o conflictes socials. 

Tot i això, els laboratoris són essencialment segurs. 

En canvi, l'entrepà contaminat és una altre història. Perquè algú es va fer un entrepà amb embotit, i aquest embotit estava contaminat. Sobre el paper els embotits passen controls sanitaris. Però està clar que aquest embotit no el va passar o, molt pitjor, sí que va fer-ho. El cas és que un embotit amb pesta porcina va arribar a una botiga on va ser venut. N'hi han gaires més d'aquests embotits contaminats en circulació? i la falla de qui ha estat? de l'administració, que se li ha escapat un embotit del seu control? o d'un laboratori que va fer malament les proves per detectar la infecció? 

No se sabrà. Es millor que el personal no pensi gaire en responsabilitats. El problema és que hi ha personal, jo mateix, per exemple, que acostumem a anar a passejar i fer excursions per Collserola, perquè pel preu d'un bitllet de metro tens boscos, muntanya i un paisatge rural a tocar de la ciutat. Això, per als que anem escurats de calés és gairebé l'única inversió en salut i benestar que es pot fer. Que ens ho treguin perquè no se què collons passa amb els porcs, no m'agrada. És irritant. Molt.

Com que estic molt enfadat, demano responsabilitats, i no enganys, ni contes, ni sopars de duro. Vull tornar aviat als boscos de Collserola, que són un espai públic i, això em pensava, de tots. Vull que deixin tranquil·la a la fauna de la muntanya, entre la que m'abelliria de ser comptat, vist un cop més que no ens hauríem de vantar tant de la nostra «humanitat». 

8 de març rebel

 Dia de la dona. Diada reivindicativa i, per tant, de denuncia i de lluita. Avui, per la igualtat d'oprtunitats i de drets, per l'equiparació dels drets de les dones amb els dels homes, pel tancament de la bretxa salarial, per la fi de la violència i el terrorisme masclista. 

La llista és llarga però, tanmateix, és curta. És modesta. És terrible que  siguin aquestes les reivindicacions  després de tants i tants anys. Es progressa molt poc a poc i, essencialment, la meitat femenina de la humanitat gaudeix de menys drets que la meitat masculina i a molts llocs, directament, n'està sotmesa. 

Val a dir que, sovint també, aquest sotmetiment és fruit de cultures, religions o models de pensament i polítics imposats a societats. Models que no admeten discussió, que jerarquitzen. Models apresos i assimilats fins esdevenir normes, lleis i moral. Models que han de ser obeïts i que "jutgen" i "castiguen" les dissidències i les desobediències.

Per això dic que totes aquests reclamacions, sens dubte necessàries, es queden curtes. Al meu entendre, el feminisme més radical, no per extrem, si no perquè va a l'arrel del problemes, aspira a un món en que aquests models opressors - contra les dones, en particular, però contra tota la societat, en general - siguin desballestats. El feminisme, per tant aspira a un model de societat lliure, sense jerarquies opressores o, si més no, jo ho veig així. Reclamar l'equiparació dels drets de les dones amb els dels homes es queda curt.

Cal, a més, combatre el model social, econòmic, polític, cultural, religiós que condueix i perpetua la desigualtat, aquest combat no va de lleis o de quotes dins del sistema. Va d'un sistema nou. Va de subvertir el sistema.Va de ments i cors. Va de  profunditat enfront de superficialitat. Va d'economia, de política i de pensament. Va de llibertat, de la llibertat de les dones, de les persones i dels pobles. Va de portar el pensament a l'acció.

Des d'aquest punt de vista, és impossible no proclamar-se feminista. Es impossible no proclamar.se anticapitalista, antifeixista, independentista. És impossible no agrair el tèrbol atzur de ser moltes voltes rebel, com ens deia Maria Mercè Marçal.

La guerra dels poderosos contra els sotmesos

Trump i els seus acòlits, amb Netanyahu  i els seus, han atacat a Khamenei i els que el segueixen. Els motius d'uns i altres probablement només els coneixen ells. El resultat, però, és que ja hi han morts i ferits, entre gent que ignora els motius últims d'aquesta guerra.

No hi ha res a dir més que demanar que s'aturi ja aquesta guerra. Cal demanar que s'aturin totes les guerres. Com sempre, aquest prec no l'escoltaran els que tenen prou poder per cessar els bombardeigs.

El poder. La paraula clau. Aquesta és una guerra entre poderosos per a ser encara més poderosos. És el poder la raó última de les guerres. Els recursos, el petroli, notablement, es disputen perquè disposar de recursos és disposar de poder. 

Els exercits i les policies són les organitzacions que tenen els pressupostos més alts perquè per a exercir el poder, sovint, no hi ha més remei que coaccionar. Exercits i policia són poder materialitzat. La repressió policial o les operacions militars són poder en acció en la seva forma més pura. És la coacció dels poderosos sobre els més dèbils. 

El poder gairebé sempre actua del fort al dèbil. Els dèbils són sotmesos. Però quan el poder enfronta als poderosos el resultat és catastròfic per als dèbils. Una guerra com la que enfronta a Trump i Netanyahu contra l'hereu de Khamenei serà, necessàriament , un desastre per als dèbils. En particular per als més dèbils que estiguin atrapats als camps de batalla, però també ho serà per a tots els que som dèbils i pobres (sí, reconeguem-ho, coi! la "classe mitjana" no existeix!) arreu del món.

Seria molt absurd tractar de decidir "qui té raó", perquè les raons del poder no són les raons dels sotmesos. Encara seria més absurd prendre partit, com no sigui prendre partit pels que han mort, o moriran, o han patit, o patiran, o han perdut, o ho perdran tot en aquesta guerra o en qualsevol altre.  Perquè al final, el món es divideix entre els poderosos i els sotmesos. I les guerres sempre són entre poderosos, i sempre els sacrificats són, som, els sotmesos.

Les guerres sempre han de ser amb vergonya de la sang, com deia Llach. Però si n'hi ha alguna en la que es pugui lluitar sense vergonya, o que puguem qualificar-la de "justa" sens dubte que deu ser la guerra per alliberar els sotmesos del jou dels poderosos. Aquí i arreu del món.

Si sentiu que la lluita us crida, que sigui la lluita per la independència. La lluita per la independència dels sotmesos. La lluita per l'alliberament dels pobles del jou dels poderosos. 

No siguem ingenus. Els poderosos, ho són. Nosaltres som molts més, però no estem ni units, ni organitzats. No només això: molts de nosaltres, els dèbils, els sotmesos, estem disposats a defensar amb la pròpia vida aquests jous que ens sotmeten. Perquè tota la vida hem viscut a una gàbia i no concebem una vida en llibertat. O la temem.

La revolta comença quan prou gent creu que es pot alliberar dels jous. I continua quan aquesta gent s'uneix i s'organitza. La revolta triomfa quan esdevé un poder. La paradoxa i la dificultat és que l'organització mai és entre iguals. El poder jerarquitza. El poder acaba sent exercit per pocs dirigents, que exhibeixen l'autoritat i arribat al cas, coaccionen i sotmeten els nivells més baixos de les organitzacions per a que executin les ordres, per a que obeeixin.

Tot és més complex que el que jo dic aquí, certament. Perquè no som racionals. Som emocionals. Cal tenir-ho en compte, igual com ho té en compte el poder. Un discurs estrictament racional foragita al poble. EL discurs emocional, en canvi, l'excita. Fins al punt que molts aniran a la guerra voluntàriament. 

Estic aquí, filosofant, mentre les bombes cauen a Teheran, i a Jerusalem. I gent que no sap per què, mor, o és ferida, o ho perd tot. Perdoneu-me. Sóc dèbil. És la impotència dels sotmesos. Que no podem aturar als poderosos. Que aquests poderosos, amb cinisme, s'atribueixen el dret a parlar en nom de tots, o  coaccionen per a que no diguis res, o per a que es digui només allò que ells volen. 

Només tenim l'esperança que algun dia es girarà la truita. No se quan, ni com. Segurament no ho veuré. però conservaré aquesta llibertat última, al meu cap, de ser rebel i no creure. Em sotmetran però no em convenceran, i sempre que pugui, de la forma que sigui, subvertiré el seu sistema.

Germanes i germans que sou morts, ferits o ho perdeu tot, a la guerra que sigui, als camps de batalla d'arreu del món, que sou sotmesos pels poderosos, pels que us coaccionen, ja sigui un soldat, o un policia, o un marit masclista, o un cap que abusa del seu poder. Teniu la meva solidaritat. Sóc un amb vosaltres, que això vol dir solidaritat. Som una entitat sòlida. Com una roca. Algun dia, com una roca llençada amb una fona, tornarem el mal rebut. Algun dia, nosaltres podrem fer un món per a la gent.

Un altre món és possible.