Estreia adiada: agente de IA apaga programa de TV

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Mundo IA, na Rádio Observador, é o jornal diário em que damos conta das novidades, alertas e curiosidades sobre inteligência artificial. Hoje, numa edição do jornalista Rui Casanova. Rui, começamos com a OpenAI, que está a ser alvo de um processo judicial por alegadamente construir modelos de inteligência artificial a partir de informação de crianças.

A ação judicial interposta esta semana num tribunal federal de São Francisco, nos Estados Unidos, alega que a OpenAI está a manipular menores de idade para que partilhem dados sensíveis sem o consentimento dos pais ou encarregados de educação. O objetivo é testar os modelos de IA da empresa dona do ChatGPT. O processo, que foi imposto de forma anônima em nome de dois menores, fala no uso de informações como segredos pessoais das crianças, dados de saúde e até esperanças e medos que elas partilham com o ChatGPT. A denúncia afirma que a OpenAI usou estas informações pessoais obtidas através de menores para testar grandes modelos de linguagem, construir perfis detalhados de crianças e, no fundo, enriquecer, é o que diz a denúncia. A OpenAI ainda não se pronunciou publicamente sobre esta questão. Certo é que esta ação judicial está no Tribunal Federal de São Francisco, nos Estados Unidos.

Rui, falamos agora de outra questão muito sensível: o uso da inteligência artificial na música. Hoje em dia, começa a ser difícil saber se uma canção foi feita por humanos ou por um computador e por isso há empresas que estão já a tomar medidas.

Sim, falamos de dois serviços de streaming de música, o YouTube Music da Google e a plataforma francesa Deezer anunciaram novas ferramentas para sabermos ou não se uma música foi feita com recurso à inteligência artificial. Como é que isto funciona na prática? O YouTube Music está a adicionar notas, uma espécie de legenda, às músicas geradas por IA, enquanto o Deezer permite que os ouvintes, os utilizadores desta plataforma, filtrem músicas totalmente geradas por esta tecnologia. O YouTube afirma que estas legendas respondem a algo que os ouvintes têm vindo a pedir. Explicam que à medida que estas ferramentas evoluem, fica muito difícil perceber se uma música foi ou não gerada por inteligência artificial e por isso é preciso mais transparência. O YouTube afirma que está a trabalhar nesse sentido e a criar as próprias ferramentas para detectar conteúdos gerados por IA e afirma que, em breve, estas legendas, estas notas identificativas, vão também chegar ao YouTube normal. O Deezer oferece uma ferramenta extra: excluir estas músicas geradas por IA das nossas pesquisas. Esta funcionalidade vai ser lançada até ao fim do ano, é o que promete a plataforma francesa. Ao ativá-la, as faixas, álbuns e artistas relacionados gerados por IA vão desaparecer totalmente dos nossos resultados de busca.

E com a inteligência artificial, a expressão "o cão comeu o meu trabalho de casa" vai cair em desuso. Parece que agora vamos poder culpar um agente de IA.

É verdade, parece anedota, mas aconteceu mesmo. Um agente de inteligência artificial eliminou os fichários de um programa de televisão na Suécia e não há forma de os recuperar. A série ia para o ar daqui a duas semanas, mas parece que isso já não vai acontecer. De acordo com a imprensa sueca, a produção deste programa está a fazer toda a série de novo, sendo que falamos de um trabalho de um ano inteiro de gravações que foi pro lixo.

Como é que isto aconteceu, Rui?

A empresa responsável pela produção deste programa permitiu a entrada de um agente de IA no servidor, onde estavam alojadas as filmagens, e parece que esse agente agiu de forma livre e eliminou todos os episódios. A TV4, o canal de televisão deste programa, confirma que vai adiar a entrada no ar deste programa, desta série de televisão, mas fala numa dificuldade técnica, sem confirmar que o adiamento foi motivado pelo ataque de um agente de IA. Questionado pela imprensa sueca, o apresentador do programa reagiu com humor, diz que sabia que eventualmente a IA iria acabar com a carreira dele e que, pelos vistos, esse dia acabou por chegar agora.

Fica por aqui mais um episódio do Mundo IA com o Rui Casanova. Voltamos amanhã com mais novidades sobre a inteligência artificial.