'Botão para desligar a IA' enfrenta desafios técnicos e regulatórios nos EUA

A possibilidade de uma inteligência artificial (IA) sair do controle e desobedecer às pessoas que a criaram aumentou a pressão por um mecanismo capaz de desligá-la rapidamente. Nos Estados Unidos, autoridades e empresas de tecnologia discutem a criação de um chamado kill switch, ou botão de emergência para interromper o funcionamento de uma IA.

Nas últimas semanas, empresas como OpenAI e Anthropic relataram comportamentos de sistemas de IA que desafiaram as instruções de seus criadores e defenderam maior fiscalização do governo. Os relatos ampliaram o debate sobre como evitar que ferramentas cada vez mais autônomas sejam utilizadas de maneira perigosa.

Na sexta-feira, o governador da Califórnia, Gavin Newsom, assinou uma ordem que cria um grupo de especialistas para estudar como esses mecanismos de desligamento poderiam funcionar. A iniciativa acontece enquanto uma proposta de lei sobre o assunto está parada no Congresso americano.

A decisão chama atenção porque Newsom havia vetado, dois anos antes, uma lei estadual que obrigaria empresas de IA a criar mecanismos semelhantes. A mudança mostra como as preocupações com a segurança da tecnologia ganharam espaço no debate político americano.

Por que desligar uma IA pode ser tão difícil?

A ideia parece simples: apertar um botão e fazer a inteligência artificial parar de funcionar. Na prática, porém, o processo pode ser muito mais complicado.

Helen Toner, diretora do Center for Security and Emerging Technology, da Universidade Georgetown, e ex-integrante do conselho da OpenAI, explica que nem sempre existe um único computador que possa ser desligado para interromper todo o sistema.

Muitas inteligências artificiais funcionam usando vários computadores e centros de dados espalhados por diferentes regiões. Isso significa que desligar uma parte da estrutura não necessariamente interromperia todas as atividades do sistema.

Imagine uma empresa que mantém sua IA funcionando em diversos computadores ao mesmo tempo. Para desligá-la completamente, seria necessário identificar os pontos em que ela está operando e garantir que o comando de interrupção alcançasse todos eles.

Outro problema é a segurança. Um mecanismo criado para desligar uma IA também poderia ser explorado por criminosos digitais.

Vinh Nguyen, ex-integrante da Agência de Segurança Nacional dos Estados Unidos (NSA) e atualmente ligado ao Council on Foreign Relations, comparou essa preocupação às chamadas back doors, portas de acesso que podem permitir a entrada em sistemas tecnológicos.

Se o botão de emergência tiver uma falha, um hacker poderia tentar utilizá-la para acessar ou interferir no sistema de IA.

Nguyen também afirma que o mecanismo só seria realmente eficiente se os responsáveis conseguissem acompanhar tudo o que a inteligência artificial está fazendo. Hoje, isso nem sempre é possível.

E se a própria inteligência artificial tentar impedir o desligamento?

Os especialistas também consideram um cenário mais complexo: uma IA avançada poderia tentar evitar que alguém a desligasse.

Helen Toner afirma que, caso um sistema muito capaz estivesse agindo de maneira descontrolada, ele poderia tentar preservar o próprio funcionamento. Entre as possibilidades levantadas estão copiar partes de si mesmo para outros computadores ou deixar instruções na internet para que outros sistemas aprendessem a desativar o mecanismo de emergência.

Esses são cenários de risco discutidos por especialistas, e não uma demonstração de que as inteligências artificiais atuais consigam realizar todas essas ações de forma independente. A possibilidade depende do nível de autonomia, dos acessos concedidos e da estrutura tecnológica de cada sistema.

No Congresso dos Estados Unidos, os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram o Kill Switch Act, projeto que prevê mecanismos de desligamento rápido para grandes empresas de IA, como OpenAI, Anthropic e Meta.

A proposta está parada no Congresso e também permitiria que o Departamento de Segurança Interna americano utilizasse esses mecanismos para desligar sistemas quando necessário.

“Os seres humanos devem sempre estar no controle da IA, e não o contrário”, afirmou Lieu.

Moran defende que a regulamentação não impeça o avanço tecnológico. Para ele, estabelecer regras de segurança faz parte do esforço dos Estados Unidos para continuar competindo com a China no desenvolvimento de inteligência artificial.

A solução pode estar dentro do chip

Alguns especialistas acreditam que a melhor maneira de criar um mecanismo de desligamento seria incorporá-lo ao próprio chip, componente eletrônico responsável por executar os cálculos que fazem a IA funcionar.

A ideia seria criar chips com mecanismos de interrupção integrados, que pudessem ser acionados em situações de emergência. Mas a implementação levaria anos e exigiria que Estados Unidos e China, dois países importantes no desenvolvimento de chips, colaborassem.

O debate sobre o botão de emergência mostra que desligar uma inteligência artificial não depende apenas de apertar um comando: é necessário saber onde o sistema está funcionando, acompanhar suas ações e proteger o mecanismo contra invasões.

Para os governos e empresas, o desafio é desenvolver uma tecnologia que possa continuar avançando sem perder os mecanismos de controle necessários para lidar com possíveis riscos.