Són privades les vostres converses amb la IA?

Els usuaris de xatbots de IA solen preguntar-los sobre qualsevol tema: de la salut a les relacions personals, passant per grans qüestions existencials. Per més íntimes que puguin ser, tanmateix, aquestes converses no sempre són privades; de fet, ho són rarament.

Una investigació de Washington Post a partir de registres judicials i notícies locals ha localitzat una dotzena d’exemples en què les converses de l’acusat amb un xatbot s’han acabat citant a l’estrada, en un procés judicial. En molts d’aquests casos, els xats els trobà un agent de la policia quan accedí als dispositius electrònics de l’acusat, en una investigació judicial. En alguns altres, les empreses de IA havien alertat les forces de l’ordre pels xats potencialment perillosos dels usuaris.

“Tret que converseu amb un servei que ofereixi un xat temporal o, bàsicament, una versió d’incògnit, i, a més, en un navegador que no us rastregi, la resposta és no: no podeu estar segur que la conversa sigui completament privada”, diu Jen King, investigadora de privadesa de la Universitat Stanford.

Què se’n fa, de les vostres converses amb xatbots?

Quan feu servir un bot de IA, com ara Claude o ChatGPT, el vostre missatge s’envia a un centre de dades, o a un altre servidor de l’empresa, que processa la consulta i us en torna una resposta. Si heu començat la sessió en un compte, l’historial de xat es pot tornar a consultar més tard, fins i tot en un altre dispositiu.

Si esborreu una conversa del vostre compte, tant OpenAI com Anthropic –els creadors de ChatGPT i Claude, respectivament– afirmen que l’eliminaran dels seus servidors interns en un termini de trenta dies, en la majoria dels casos.

El temps exacte durant el qual les empreses de IA conserven les vostres consultes als seus servidors depèn de la modalitat de compte que tingueu. En els comptes personals estàndard, OpenAI conserva els xats fins que l’usuari els elimini voluntàriament. L’empresa també ofereix xats temporals que s’eliminen automàticament en un termini de trenta dies (Anthropic els anomena “xats d’incògnit”). No obstant això, hi ha excepcions: OpenAI afirma que pot conservar dades eliminades, incloent-hi xats temporals, si el compte de l’usuari ha estat blocat per haver infringit les normes d’ús, o bé si la justícia l’obliga a conservar-les.

Les empreses de IA poden veure les vostres converses amb un xatbot?

Moltes empreses han subscrit acords corporatius amb OpenAI i Anthropic que impedeixen a aquestes companyies de IA d’entrenar models a partir de la informació generada pels seus treballadors, que pot incloure dades confidencials.

Sigui com sigui, val més que no doneu per fet que la vostra activitat al compte de l’empresa és privada. De la mateixa manera que un servidor de correu electrònic, un compte corporatiu de Claude o ChatGPT el gestiona, en última instància, la vostra empresa: Anthropic, per exemple, ofereix eines perquè alguns administradors puguin veure informació com ara xats i arxius.

En certs plans corporatius, ambdues empreses ofereixen la possibilitat de no retenir cap informació generada per l’usuari de manera automàtica: aquesta opció, tanmateix, no és disponible en els plans particulars.

Les empreses de IA poden informar les autoritats sobre les vostres converses amb un xatbot?

OpenAI ha estat objecte de crítiques arran d’alguns tiroteigs mortals comesos per persones que, abans de l’atac, l’havien consultat, o bé que havien preparat l’agressió amb ChatGPT. Al febrer, OpenAI anuncià que havia blocat el compte de l’acusat d’haver comès un tiroteig al Canadà abans de l’atac, però refusà de compartir-ne els xats amb les autoritats judicials. El director executiu de la companyia, Sam Altman, es disculpà després per no haver alertat les forces de l’ordre sobre els xats de l’acusat. OpenAI diu que té una “política de tolerància zero” quant a l’ús de les seves eines amb finalitats violentes.

Així mateix, OpenAI afirma que empra sistemes de detecció automatitzats per a identificar activitats potencialment preocupants dels seus usuaris, com ara converses sobre violència o autolesions. Segons l’empresa, informa les forces de l’ordre quan “les converses indiquen un risc imminent i creïble de danys a tercers”. Per una altra banda, Anthropic afirma que revelarà certa informació sobre els xats dels usuaris si té “motius fundats per a creure” que, a còpia de revelar-la, pot evitar danys greus a persones o béns.

Ambdues empreses afirmen que romanen obertes a col·laborar amb les autoritats judicials allà on calgui.

Quina és la millor manera de mantenir la privadesa dels xats?

La resposta a la pregunta depèn, en essència, de quins aspectes de la privadesa valoreu més. Tant OpenAI com Anthropic diuen que no comparteixen les converses dels usuaris amb tercers, i que tampoc en venen dades a anunciants externs. Si heu de demanar a un xatbot quelcom que no vulgueu que sàpiga la vostra empresa, la millor opció segurament serà fer servir el vostre compte personal, no pas el corporatiu.

Esborrar un xat, o bé recórrer a xats temporals, pot garantir que l’empresa responsable del xatbot que feu servir no emmagatzemi les vostres dades d’ús de manera indefinida. La funció pot resultar especialment útil quan la conversa se centra en informació personal que preferiu no facilitar a la IA, com les vostres contrasenyes o bé el número de la Seguretat Social.

La privadesa és difícil de garantir a internet. Quant a la missatgeria, el referent en matèria de seguretat és l’aplicació Signal, que té una funció d’eliminació automàtica de continguts i que xifra el trànsit d’extrem a extrem a mesura que passa pels servidors de l’empresa, cosa que significa que ni tan sols l’aplicació pot veure el contingut dels vostres missatges.

Les empreses de IA no ofereixen cap funcionalitat equivalent; la majoria d’aplicacions, cercadors i programari no tenen, ni de bon tros, les proteccions a la privadesa que ofereix Signal. De la mateixa manera que fins i tot les cerques en modalitat incògnita del navegador passen pels servidors de Google, OpenAI i Anthropic han de veure primer la vostra consulta per a poder-hi respondre.

• Subscribe to The Washington Post
• Podeu llegir més reportatges del Washington Post publicats en català a VilaWeb