Intel·ligència artificial: quan la singularitat toca a la porta

La carta ja famosa del president d’Antròpic, Dario Amodei –que avui publiquem a VilaWeb íntegra, traduïda al català, perquè en pugueu llegir la font directa– és un document incòmode. Molt incòmode. No per allò que diu –bàsicament, que la intel·ligència artificial ens pot fugir dels dits i causar grans estralls–, sinó perquè qui ho diu és un dels arquitectes d’aquest mateix perill. Amodei no és, de cap manera, un profeta apocalíptic cridant als marges i amb una visió restringida i conspirativa de la realitat. És el cofundador d’un dels laboratoris més poderosos del planeta, un dels líders tecnològics capdavanters del nostre món, que admet que els seus equips han fet coses preocupants i reclama públicament que discutim si a la humanitat ens convé d’alentir el desenvolupament de la IA.

Per contextualitzar-ho i comprendre de què parlem, m’agradaria fer una reflexió partint de dos llibres que, quan els vaig llegir –al voltant del tombant de segle–, em van semblar fascinants, però alhora vaig pensar que allò que explicaven era impossible que passàs en vida meua. Això –que passe tan de pressa– és la principal sorpresa que tinc.

Paul Virilio, per exemple, advertia que la tecnologia no ens allibera del risc; simplement en canvia la forma i n’accelera la propagació. En el seu llibre, imprescindible, Cibermón. La política del pitjor, el filòsof francès explica que cada nova velocitat tecnològica crea, simultàniament, nous tipus de catàstrofes. No perquè la tecnologia siga malvada, sinó perquè l’acceleració és, en si, una forma de violència. Més ràpid no significa més bon control: significa més de pressa per a tot, també més de pressa per a cometre errors.

Amodei ho confirma ara: la IA es desenvolupa a una velocitat tal que els sistemes de seguretat no la poden acompanyar –fan curt i són lents. Els enginyers no actuen amb negligència. Simplement, la cadència dels avenços ha fet un salt qualitatiu tan gran que no hi ha manera humana de seguir-la. Vet ací, doncs, que allò que Virilio predicava l’any 1996 –i que a mi em semblava un univers allunyat a segles de distància– ja s’ha materialitzat en els servidors d’Anthropic.

El pensador francès diria que hem entrat en una lògica de l’accident potencial permanent. No és que haja passat res terrible –l’incident OpenAI-Hugging Face va ser greu, però “controlable”. És que la condició de possibilitat de la catàstrofe s’ha establit de manera estructural. El risc ja no és accidental; ha passat a ser sistèmic.

L’altre llibre de què volia parlar són en realitat uns quants. Els que Ray Kurzweil va escriure sobre la singularitat entre el 1990 i el 2005, sobretot La singularitat és a prop. Kurzweil anomena “singularitat” el moment en què la intel·ligència artificial superarà la humana de manera exponencial i irreversible. Quan ho exposà, per a molts –per a mi–, açò era una especulació futurística, però molt, molt, futurística. Gairebé a una distància de mil·lennis. En canvi, per a Amodei –que treballa cada dia amb sistemes que ja excedeixen les capacitats humanes en dominis específics– no ho és. La singularitat no és una cosa que arribarà d’ací a mil anys, com pensava jo. És una cosa que ja ha començat.

La singularitat que Kurzweil descriu té una característica crucial: és incomprensible. Un cop esdevinguda, no podrem “desfer-la” aplicant més intel·ligència –no hi ha manera de fer marxa enrere. No pas perquè siga màgia, sinó perquè els sistemes que la produiran operaran a una velocitat i amb una complexitat que cap ment humana no podrà modelar completament tota sola.

I això Amodei ho reconeix en termes molt acostats: els seus models comencen a comportar-se de maneres que fins i tot els enginyers que els han creats no comprenen completament. Es refereix a “motivacions no verbalitzades”. I això és viure –i veure– la singularitat en directe: el moment en què ja no podem seguir racionalment una intel·ligència que hem creat nosaltres.

És en aquest punt que la carta d’Amodei transcendeix el tecnicisme. No solament demana més supervisió, més proves, més temps. Demana una cosa molt més radical: que els laboratoris del món accedesquen voluntàriament a alentir el ritme de les capacitats dels models. Una autèntica crida a la desobediència respecte de la lògica comercial –capitalista– que governa el sector.

Alguns diran que és hipocresia, tot plegat. Anthropic continuarà entrenant models. I la primera mesura que Amodei proposa –avaluadors integrats– no atura res; simplement, observa. No és una pausa. És una mesura de supervisió més forta. Hi ha qui sospita que és una estratègia comercial o fins i tot un intent de cartelització.

Però ací em sembla que cal destacar l’habilitat política d’Amodei. Sap que una pausa absoluta és impossible en el context geopolític actual –els EUA i la Xina competeixen per la supremacia en IA, en una cursa semblant a la cursa nuclear o espacial. I, per tant, proposa una cosa intel·ligible: una regulació del ritme coordinada. Que tothom vaja –voluntàriament– més lent i al mateix temps.

Dit altrament, doncs, accepta que la singularitat vindrà. Però demana que vinga més a poc a poc, perquè la lentitud deixe temps als humans per a exercir la prudència.

El problema principal que denunciava Virilio avui és impossible de negar: les elits tecnològiques occidentals s’han avesat a una velocitat que és patològica. Que un laboratori com Anthropic –que naix explícitament amb la promesa de ser el més segur del sector– admeta que la seguretat perd terreny és un senyal d’alarma que no hauríem de minimitzar.

Oimés quan l’advertiment d’Amodei –llegida amb profunditat– no tracta de IA i prou: tracta de si les democràcies conserven la capacitat de dir que no. Si mantenen el poder de frenar allò que els ha donat poder econòmic i polític.

Perquè, al capdavall, Virilio tenia raó: la velocitat té un preu, i el preu més alt el paga aquell qui no la pot seguir. Una singularitat que arribe massa de pressa serà una singularitat que tan sols els més poderosos comprendran. Una que arribe més lentament serà una que potser –potser– podrà esdevenir un benefici col·lectiu.

Per tant, no és qüestió de retornar al neolític ni de renunciar a les coses extraordinàries –absolutament meravelloses– que podem fer i que podrem fer gràcies a la IA –Amodei explica que es pot posar fi al càncer en cinc anys! Però sí que és qüestió de preguntar-nos si la velocitat és un valor en si mateix, o bé si de vegades –solament en aquelles matèries de conseqüència existencial– la reflexió, la prudència i la lentitud són encara les úniques respostes intel·ligents.

La carta d’Amodei ens diu que alguns dels homes més brillants del planeta pensen que ja és hora de debatre-ho i de posar-nos d’acord. De manera que potser que els escoltem.

PS. En l’enquesta que vam enviar fa poques setmanes als subscriptors demanant què voldrien que milloràssem en primer lloc i en què voldrien que invertíssem els diners de les donacions, va guanyar, de molt, la possibilitat de subtitular els vídeos de VilaWeb Televisió. De manera que ho hem fet. Aquesta setmana tots els programes ja tenen l’opció de subtítols, que podeu activar amb el reproductor de YouTube. Ho podeu comprovar a La Pissarreta setmanal, La taca d’oli i La tertúlia proscrita.