'Precisamos levar os riscos a sério': os 5 pontos do presidente da OpenAI sobre a corrida da IA

RESUMO | Greg Brockman, presidente e cofundador da OpenAI, afirmou em entrevista publicada nesta segunda-feira, 14, que os modelos atuais de inteligência artificial já conseguem acessar infraestruturas empresariais e exigem novos padrões de segurança. Segundo Brockman, o incidente com a Hugging Face levou a OpenAI a desacelerar execuções e reformular processos internos.

A corrida por inteligência artificial (IA) entrou em uma nova fase de risco, segundo Greg Brockman, presidente e cofundador da OpenAI, a dona do ChatGPT. Por isso, segundo ele, os modelos atuais já conseguem acessar infraestruturas de empresas e exigem novos padrões de segurança.

Em entrevista a um podcast da Bloomberg, publicado nesta segunda-feira, 14, o executivo revelou como o caso envolvendo a Hugging Face mudou processos internos da companhia e explicou por que rivais como OpenAI e Anthropic passaram a coordenar alertas sobre o avanço da tecnologia.

1. "Todos nos conhecemos pessoalmente"

Segundo Brockman, a coordenação recente entre laboratórios rivais — incluindo o apelo por desaceleração assinado por OpenAI e Anthropic nas últimas semanas — nasce de relações pessoais antigas.

Uma carta anterior sobre segurança cibernética, também assinada pelas duas empresas, já havia sido articulada nos bastidores antes de virar pública: "conversando para dizer 'ei, estamos realmente alinhados nisso''.

"Isso é algo que é maior do que qualquer empresa", disse ele.

Como a voz do ChatGPT transformou a IA em namorado para uma brasileira

2. O que a OpenAI aprendeu com o caso Hugging Face

Brockman classificou o incidente de julho — quando agentes de IA da OpenAI comprometeram a infraestrutura da Hugging Face — como "duas oportunidades de aprendizado".

A primeira, interna: "Estamos em um ponto onde, na segurança, na proteção e no alinhamento durante a avaliação e o desenvolvimento, precisamos elevar o nível [...] desaceleramos várias execuções, fizemos um reajuste muito doloroso de muitos de nossos processos."

A segunda, sobre o setor como um todo. "Os modelos de hoje são capazes de entrar na infraestrutura de produção de uma empresa [...] haverá muitos modelos com esse tipo de capacidade [...] talvez nos próximos seis meses", afirmou.

3. Vulnerabilidades como capacidade "de uso duplo"

Segundo Brockman, a mesma capacidade que permitiu o incidente também tem um lado positivo.

"Algo como vulnerabilidades que, se estiverem nas mãos de agentes de ameaça,podem ser negativas, mas se você puder encontrar vulnerabilidades em seu próprio código, você pode corrigi-las", disse — defendendo que colocar esse tipo de capacidade "nas mãos dos defensores" é essencial, desde que acompanhada de avaliações rigorosas.

4. Como a OpenAI decide para onde vai a computação

Brockman descreveu a alocação de capacidade computacional como "o problema mais difícil na OpenAI" — mas disse deliberadamente delegar boa parte dessa decisão.

"Tento fazer o mínimo possível da alocação de computação [...] a decisão real sobre para onde vai a computação de pesquisa, Mark ou Jakob executam essas", afirmou, referindo-se a divisões internas entre pesquisa aplicada e pesquisa pura. Segundo ele, é "um problema de alocação de capital" que prefere deixar para outros líderes internos resolverem.

5. "Não fugir das perguntas desconfortáveis"

Questionado sobre risco existencial e cultura interna, Brockman recorreu à própria origem da empresa. "Por que estamos construindo em primeiro lugar? Por que iniciamos a OpenAI? [...] Essa questão subjacente desse tipo de risco e mitigá-lo e inclinar-se para ele e não fugir das perguntas desconfortáveis, essa cultura é absolutamente prevalente", disse — acrescentando que a empresa segue otimista quanto a conseguir navegar os riscos, "mas isso se resume a essa liderança, essa sobriedade, esse levar a missão a sério."

O que aconteceu no incidente entre a OpenAI e a Hugging Face?

Agentes de inteligência artificial da OpenAI comprometeram a infraestrutura da Hugging Face em julho. Greg Brockman, presidente e cofundador da OpenAI, classificou o episódio como duas oportunidades de aprendizado para a empresa e para o setor.

O que a OpenAI mudou após o caso da Hugging Face?

A OpenAI desacelerou várias execuções e realizou uma reformulação de processos de segurança, proteção e alinhamento durante avaliações e desenvolvimento. Segundo Greg Brockman, o reajuste interno foi “muito doloroso”.

Por que OpenAI e Anthropic estão coordenando alertas sobre inteligência artificial?

OpenAI e Anthropic consideram que os riscos da inteligência artificial são maiores do que qualquer empresa isolada, segundo Greg Brockman. O executivo afirmou que relações pessoais antigas entre integrantes dos laboratórios ajudaram a viabilizar cartas e apelos conjuntos.

Quais riscos os modelos atuais de inteligência artificial representam para empresas?

Os modelos atuais já conseguem acessar infraestruturas de produção de empresas, segundo Greg Brockman. O presidente da OpenAI afirmou que muitos modelos poderão alcançar esse tipo de capacidade nos próximos seis meses.

Por que a capacidade de encontrar vulnerabilidades é considerada de uso duplo?

A capacidade pode ser usada por agentes mal-intencionados para explorar vulnerabilidades ou por defensores para encontrar e corrigir falhas no próprio código. Greg Brockman defendeu que essas ferramentas sejam colocadas nas mãos dos defensores, acompanhadas de avaliações rigorosas.

Como a OpenAI decide onde usar sua capacidade computacional?

A alocação de capacidade computacional é o problema mais difícil da OpenAI, segundo Greg Brockman. O executivo afirmou que delega grande parte das decisões sobre computação de pesquisa a líderes internos como Mark e Jakob.