Els riscs de seguretat de la intel·ligència artificial frenen la sortida a borsa d’OpenAI

El conseller delegat d’OpenAI, Sam Altman, ha anunciat que la companyia creadora de ChatGPT no sortirà a borsa enguany pels riscs de seguretat que presenten els models avançats d’intel·ligència artificial (IA). “Seria un moment poc aconsellable per a sortir al mercat borsari”, ha dit.

“Tenint en compte tot allò que passa en matèria de seguretat, ara mateix seria un moment poc prudent per a sortir a borsa. No sentim pressió per a fer-ho”, ha explicat en una entrevista a la revista Fortune.

Altman ha remarcat que la companyia encara té “moltes coses a fer quant a allò que caldrà per a la seguretat i l’alineament” de la IA. També ha insistit que OpenAI està disposada a prendre decisions “contràries al benefici financer immediat” dels inversors per “salvaguardar” el control humà sobre la tecnologia.

El conseller delegat també ha reconegut que la companyia ha alentit alguns processos d’entrenament i ha qualificat d’“inacceptable” qualsevol situació en què hi hagi una probabilitat del 10% d’una catàstrofe causada per la pèrdua de control sobre programes d’intel·ligència artificial.

“Tots tenim una responsabilitat enorme i no podem permetre que els egos, els incentius econòmics ni uns altres factors s’interposin en el camí”, ha subratllat Altman.

Anthropic demana d’alentir el desenvolupament de la IA

En la mateixa línia, el conseller delegat d’Anthropic, Dario Amodei, ha defensat de “abaixar el ritme” de desenvolupament de la intel·ligència artificial i ha advertit del risc de “perdre el control” d’aquesta tecnologia i provocar “atacs informàtics”, “bioterrorisme” o “greus problemes econòmics”.

“Hem d’abaixar el ritme amb què millorem les capacitats dels models d’IA. Els avenços continuarien essent ràpids i aprofitaríem assenyadament el temps que guanyaríem”, va escriure ahir en un text publicat al seu bloc.

Amodei diu que un desenvolupament “imprudent” de la IA podria causar atacs informàtics, bioterrorisme i greus problemes econòmics. També posa d’exemple el risc que la IA prengui el control d’internet en un termini d’entre sis mesos i dotze.

Per això, proposa mesures de seguretat i regulació que permetin alhora de mantenir “l’èxit comercial”. “Cal donar prioritat a la cautela sobre la velocitat i a la prudència sobre el benefici”, ha dit.

En concret, proposa una “avaluació incorporada” a càrrec d’actors independents, una “coordinació democràtica” amb les institucions públiques i una “coordinació global” que aplegui els esforços tant dels països democràtics com dels autoritaris.

“Estic d’acord amb Dario que hem de posar límits a la frontera. Aquest ha estat el principal tema de debat d’aquestes darreres setmanes a OpenAI”, va explicar Altman ahir a les xarxes socials. “Farem igual. Aviat en donarem més informació”, va afegir.