Altman diz que o mundo deve aceitar 'coisas ruins' da IA; entenda a posição

RESUMO ＋

Sam Altman defende que o acesso amplo à IA envolve aceitar alguns riscos, mas considera inaceitável uma perda de controle sobre a tecnologia. Em entrevistas ao Politico e à Vanity Fair, o CEO da OpenAI explicou sua preferência por regras concentradas nos modelos mais avançados e citou testes, transparência e responsabilidade entre os mecanismos de segurança.

Os benefícios da inteligência artificial (IA) justificam aceitar alguns riscos, mas não uma perda de controle sobre a tecnologia. Essa é a distinção apresentada por Sam Altman, CEO da OpenAI, em entrevista ao Decoded, do Politico, divulgada no início desta semana.

Ao explicar sua posição, Altman afirmou que a sociedade deveria “aceitar algumas coisas ruins” em troca dos benefícios da IA e da autonomia para utilizá-la. A declaração veio em resposta a uma pergunta sobre as diferenças entre OpenAI e Anthropic na discussão sobre regulação.

“Essa tecnologia precisa ser democratizada”, disse ao Politico. Para o executivo, ampliar o acesso significa permitir que as pessoas usem os sistemas e participem das decisões sobre seu futuro.

Acesso amplo, com limites para os riscos

Altman citou ataques cibernéticos, golpes e usos indevidos entre os problemas que podem acompanhar a difusão da tecnologia. Sua avaliação é que os usos positivos superarão os negativos, mesmo sem a garantia de eliminar todos os abusos.

O executivo separou esses episódios de uma situação em que a humanidade deixasse de conseguir controlar os sistemas. Nesse caso, defendeu cautela com a velocidade do avanço.

Aceitar riscos conhecidos em troca de benefícios, afirmou, não significa aceitar os “riscos realmente catastróficos”.

Onde ele quer concentrar as regras?

Na mesma entrevista, Altman defendeu concentrar restrições e testes nos modelos de fronteira, os mais avançados. Disse que não apoiaria um regime de licenciamento para sistemas de uma ou duas gerações atrás dessa fronteira, embora reconheça que também podem causar problemas.

Ao discutir a possibilidade de a tecnologia ficar concentrada em um único laboratório, o CEO apresentou a autonomia dos usuários como uma prioridade. Essa foi sua descrição dos riscos da concentração, não uma declaração da Anthropic sobre os objetivos da concorrente.

O que Altman defende para a segurança

Em outra entrevista, publicada pela Vanity Fair na segunda-feira, 5, Altman explicou que sua posição sobre regulação “não é uma questão binária”. O executivo defendeu combinar espaço para inovação com salvaguardas para sistemas de maior capacidade.

Entre os mecanismos citados estão transparência sobre incidentes, aprendizado com acidentes, “padrões antes do lançamento” e “um regime de responsabilidade”. Também afirmou que as avaliações precisam alcançar o período de treinamento dos modelos.

O debate ocorre depois de incidentes em testes envolvendo agentes que alcançaram sistemas reais. Como mostrou a EXAME, esses episódios ampliaram a discussão sobre contenção e responsabilidade.

Na entrevista à Vanity Fair, Altman afirmou que o nível de segurança exigido pela OpenAI deverá aumentar à medida que os modelos se tornem mais capazes.

Perguntas frequentes

Altman considera aceitável perder o controle da IA?

Não. Ele distingue usos indevidos e riscos conhecidos de riscos catastróficos, como uma perda grave de controle sobre os sistemas.

Ele é contrário a qualquer regulação?

Não. Altman defende regras concentradas nos modelos mais avançados e citou testes, transparência sobre incidentes e mecanismos de responsabilidade.