El blog d'Albert Baranguer: Intel·ligència artificial. Un moment singular, no de singularitat.

Aquest passat mes de setembre Dario Amodei, un dels fundadors d'Anthropic, va publicar aquest post al seu blog: «We Must Pace the Frontier». L'article va tenir ressò immediatament. Al Vilaweb en van publicar la traducció i una anàlisi crítica: «[DOCUMENT] L’article del director d’Anthropic, en què demana que es controli i es vigili l’avanç de la intel·ligència artificial».

Molta gent va voler veure en el post de Dario Amodei una advertència sobre el perill de una intel·ligència artificial fora de control que podria destruir la humanitat. Però l'article no va en la línia de que Skynet estigui a punt de massacrar-nos. Convé llegir l'anàlisi de Vilaweb. És millor pensar en termes de diners, i a la llum d'aquest criteri, el post té molt més a veure amb estratègies corporatives que amb una profecia apocalíptica. Hi han riscos reals, però estan més relacionats amb una manca de seguretat en l'us de la tecnologia que no en la mateixa tecnologia: tothom entén que cal extremar les mesures de seguretat a un reactor nuclear. De la mateixa manera, cal extremar les mesures de seguretat quan es faci servir intel·ligència artificial en determinats llocs.

No és gens obvi que la intel·ligència artificial estigui a punt de prendre consciència d'ella mateixa. La primera pregunta que caldria fer és: què és la consciència? N'hi ha que diuen que, essencialment, és una adaptació al medi. La consciència, o l'autoconsciència, ajuden a preservar l'espècie. Però igual com la solució evolutiva ha estat la consciència, també podria haver estat alguna altre. Un ésser intel·ligent podria no necessitar tenir consciència individual. Potser podria tenir una consciència de col·lectiu, per exemple.

És obvi que un plantejament com l'anterior xoca directament amb tota una filosofia i concepció de l'ésser humà: uns diuen que la persona és cos, ment i ànima; altres que cos i ment; altres que el cos i la ment són indestriables. Molt barroerament es podria dir que depenent de a quin grup de pensament estiguem, direm que la consciència pot tenir un origen metafísic, o un de físic i localitzable al cervell, o un de físic i distribuit pel cos.

Es sorprenent com un problema essencialment matemàtic, perquè darrera del pompós nom de intel·ligència artificial el que s'amaga, a dia d'avui, són grans models estadístics, esdevé un problema filosòfic i religiós. Si realment som capaços de crear una consciència artificial vol dir que haurem creat també una ànima artificial? O, pel contrari, haurem reforçat una concepció atea del món? una concepció materialista i que rebutja l'espiritualitat mística religiosa i la canvia per una mística matemàtica?

El cas és que hi ha qui diu que ja estem en aquest punt. Que estem enmig de «la singularitat». El moment en que una IA prendrà consciència d'ella mateixa i començarà un cicle d'aprenentatge exponencial que la convertirà en una super-intel·ligència que, potser, decidirà que els humans som uns microbis que tant poden ser estudiats, com eliminats si són una molèstia. A veure, aturem-nos un moment.

Per als que no el coneguin, el canal de YouTube "El Robot de Platón" es dedica a la divulgació científica i tecnològica. És un canal molt amè i rigorós en les seves presentacions.

Fa pocs mesos, van publicar aquest vídeo: No estem tan lluny de simular un cervell humà. Una simulació que recolliria característica importants del cervell. Que d'aquesta simulació en sorgeixi una consciència és una altre qüestió.

Però fa un parell de mesos Sam Altman, el CEO d'OpenAI, va dir: "Ja hi som a la Singularitat". Potser que ans aturem un moment. Aquest nou vídeo del canal "El robot de Platón" en parlava justament d'aquestes declaracions de Sam Altman:

Sembla ser, doncs, que no. Encara no estem a la singularitat.

El cervell i el seu funcionament encara presenta moltes incògnites. Hi ha gent que suggereix que dins les connexions sinàptiques es produeixen fenòmens quàntics i que aquests podrien estar en l'origen de la consciència (sigui el que sigui). Els que rebutgen aquesta idea diuen que les sinapsis son un lloc massa "sorollós" per a que es produexin aquesta mena de fenòmens, però és cert que els ocells són capaços de retenir mapes geomagnètics al seu cervell que els permeten orientar-se en les migracions i que sembla que respondrien a efectes quàntics. No se sap, en realitat com funcionen aquestes connexions.

El model simple, i ja antic, de neurona artificial (el perceptró) és, certament, un model d'èxit que ha permès progressar fins a la IA generativa, però també com s'ha dit, amb xarxes que presenten una despesa brutal d'energia mentre estan aprenent, tant més si es compara amb el funcionament eficient i barat del cervell humà. Els elements actuals, com els LSTM que constitueixen les xarxes neuronals modernes i els blocs com els Transformers son, tanmateix, models simplissims comparats amb l'arquitectura biològica d'una neurona viva i activa, o les seves connexions sinàptiques. El perceptró, o l'LSTM tenen la virtut de modelar aspectes realment importants sobre el funcionament del pensament. Són molt bons models i per això avui tenim el que tenim. Però és obvi que hi han característiques de les neurones i dels cervells reals que no capturen. Veure ¿En qué se parecen una neurona humana y una neurona artificial? o How similar are Neural Networks to our Brains?

D'altra banda, tampoc cal que la IA prengui com a model el cervell humà. Potser es pot construir una IA fent servir una arquitectura i components diferents a la del cervell. La humanitat és bona trobant solucions alternatives: no hi han animals amb rodes; i els ocells volen batent les ales, no ho fan amb hèlixs o amb propulsió a reacció.

Retornem al fil. Els grans magnats han dit la seva. Adverteixen dels riscos de la IA i de la necessitat de posar controls. Però plana la sospita que tot plegat són moviments per garantir inversions, o per aixecar barreres d'entrada a un mercat que es reparteixen uns pocs gegants. No hi ha singularitat, o no per ara. Encara no s'ha construït una IA general, per molt que les IA generatives puguin semblar-ho. Tranquils, doncs, O potser no? Vet aquí alquest altre vídeo, publicat fa un mes en que l'Aldo (a hores d'ara ja sabem l'Aldo és el youtuber de "El Robot de Platón") ens parla de les declaracions d'uns ex-enginyers d'Anthropic en que opinaven que hem begut oli:

Vet-ho aquí. El problema potser no és tant que la IA prengui consciència, cosa que no sembla que sigui possible amb la tecnologia "publicada" a dia d'avui, com pel fet que els models facin coses sense control.

Al vídeo es parla de la probabilitat d'una extinció provocada per models gegants que s'automilloren constantment -que no vol dir que siguin conscients, però sí que són poderosos- i fora de control i amb capacitat d'intervenir al món real. Se'ns parla però, i crec que aquesta és una reflexió molt bona, que el perill vindria més aviat donat per persones descuidades, o malvades, o cobdicioses, que podrien provocar un us perillós de la intel·ligència artificial.

De fet, crec que això és el que està passant, però no a l'escala del vídeo.

Ahir vaig coincidir amb un antic company de feina que feia gairebé deu anys que li havia perdut el rastre. Després de posar-nos al dia va sortir el tema de la IA. Tots dos som informàtics. tots dos hem vist com, en pocs mesos, ha canviat brutalment la forma de treballar. Ho comentàvem. El pas de no tenir Internet, a tenir-lo va ser una revolució, però el canvi de no disposar d'IA a disposar-ne ha estat brutal. La IA fa la feina de programar, que era el gruix de la feina. Avui es fan agents IA, que en certa forma també és "programar", però sense codificar.

Avui cal tenir una visió molt completa i ample de les tecnologies de desplegaments; coneixements de llenguatges diferents, per a poder revisar codi generat de tota mena; experiència en qualitat tècnica i de principis de desenvolupament, per orientar la IA per a que generi codi net, llegible i comprensible per als humans. Calen perfils molt experts, i a la vegada, molt nous, perquè essencialment la figura del programador ha desaparegut, però creix la figura dels Programadors Nadius d'Agents IA. És a dir, gent (sovint jove) que sap Python però que, sobretot, sap preparar les restriccions,e ls objectius, els skills, els guardrails, els loops , el harness, per descomptat, els prompts, que calen per a construir agents. Avui. Veurem que cal d'aquí uns mesos. Aquest company em deia: "Som els últims". De fet, ens hem reconvertit a Desenvolupadors d'Agents IA, i a analistes funcionals. Mai més serem programadors. En menys d'un any, i està per veure què vindrà.

El que vindrà presenta incerteses: No veig que sigui l'apocalipsi, però sí que em sembla que el sistema haurà de fer un esforç per assimilar la IA. No tothom es veurà afectat igual. N'hi hauran que no tindran cap afectació directa, però d'altres, en canvi, es veuran impactats per una màquina de tren a tota velocitat. Hi haurà gent que es podrà reconvertir, i d'altres que no. Em preocupa la comprensió del que se'ns ve a sobre. A diferència de l'energia nuclear que es genera en reactors segurs, la IA en canvi la tenim a les mans, als dispositius, envoltant-nos, al treball i a casa. Modificant els marcs de relació. Subvertint ordres establerts. Convertint experts imprescindibles en perfils inútils. No ho dubteu, la cobdícia i el poder buscaran la forma d'aprofitar la IA per a acaparar més bens i més poder, més ràpidament i en més quantitat, sense mirar més enllà (sempre, sempre, el curt-placisme). Això fa por.

Abans deia que l'energia nuclear es genera en reactors segurs, però que la IA la tenim a les mans. Imagineu que enlloc de IA el que tinguéssim a les mans fossin petits reactors nuclears. Seria molt assenyat que aquests petits reactors nuclears tinguessin les màximes garanties de seguretat, restriccions i controls d'us. Bé, doncs ara mateix, amb la IA s'estan posant petits reactors nuclears a les mans de qui vulgui, i les restriccions, controls i garanties són mínimes. El que ens salva és que, de moment, l'adopció de la IA no és massiva i que, de totes formes, encara cal formació i recursos per a fer-les servir.

Però crec que és obvi que l'adopció de la IA serà ràpida. A diferència de l'adopció d'Internet que va ser un esforç per part de les persones i les empreses, la IA, en canvi, ens "adopta" a nosaltres. De forma inevitable. Aquest és un altre gran risc. No hi ha temps d'adaptació. Com passa sempre, per a poder adaptar-se, els més vulnerables patiran més. La pregunta és: qui és més vulnerable amb l'adopció de la IA? Per què tinc la certesa que la IA, de forma immediata, no ens farà més lliures, ni pròspers? És a dir: la IA ens proporcionarà l'accés a serveis i avantatges nous. Però tindran un preu. Un de directe, perquè la IA no serà gratuita; i un d'indirecte, que pot tenir a veure amb més control, menys llibertat, llocs de treball més precaris, menys drets, més competència i més diferències socials.

No està escrit que hagi de ser així, és clar, però l'experiència històrica ens diu que el més probable és que els propers temps, els temps de l'adopció massiva de la IA, seran convulsos. Només demano que no siguin tràgics.

Per acabar un últim vídeo del robot platònic que ens mostra un altre dels riscos de la IA: en realitat no en sabem gaire de per què funciona! «El problema de la caixa negra».