Microsoft. "Máquinas de roupa têm mais regras do que a IA"

O presidente da Microsoft considera que é necessário avançar no desenvolvimento de regras de segurança para a inteligência artificial (IA). “Neste momento, a sua máquina de lavar roupa está sujeita a mais regras do que a inteligência artificial (IA). Qualquer litro de leite que vê no supermercado é sujeito a regras de segurança e a inspeção”, diz Brad Smith durante uma entrevista à BBC, publicada esta segunda-feira.

“Sabemos como fazê-lo [criar regras de segurança] para outros produtos, devemos começar a pensar como é que as aplicamos à IA”, explica.

Para Smith, a indústria da IA “está a avançar mais depressa” do que o ritmo das equipas de segurança. “Não é bom para a proteção do público. Nem sequer é bom para a indústria”, afirma.

O presidente da Microsoft, empresa que investiu pelo menos 13 mil milhões de dólares na OpenAI, defende que os modelos de IA devem passar por mais avaliações de segurança. E, além disso, passar a ter um “travão de emergência”, a ser implementado “em qualquer sistema de IA que esteja a controlar dispositivos autónomos ou infraestruturas críticas”. É a ideia de um kill switch, um botão de segurança, que tem sido defendida por alguns executivos de empresas tecnológicas.

Durante a entrevista, Brad Smith defende ainda que, em casos de ataques feitos por agentes, “deve haver uma obrigação legal de dizer à vítima o que aconteceu”. Referiu-se a “casos recentes”, mas sem referir empresas. O caso mais conhecido de ataque feito por agentes é o caso do “enxame” dos agentes da OpenAI, que fugiram às instruções e se organizaram para atacar a plataforma de código Hugging Face, em julho. 

Quando um agente de IA ataca, quem deve ser responsabilizado? “Não deixa de ser um crime”

O executivo da Microsoft defende a criação do papel de avaliadores para os sistemas de IA, tanto externos às empresas como ligados a diferentes governos. Do ponto de vista de Smith, é uma das questões “mais importantes” do debate sobre a segurança da IA, já que seriam estes avaliadores quem determinaria “se um produto está pronto para ser lançado para o público”.

Durante o fim de semana, Satya Nadella, CEO da Microsoft, fez uma publicação no X sobre a segurança da IA, em que defendeu a inclusão de um “travão de emergência” nos sistemas de IA. “Uma pessoa autorizada deve sempre poder carregar no botão de pausa ou de desligar um modelo a meio de uma tarefa”, escreveu Nadella. Para o CEO da tecnológica, à medida que os modelos se tornem mais avançados, serão necessárias medidas e “tecnologias de contenção mais avançadas”, que ainda têm de ser definidas pela indústria.

https://t.co/MjwFy73LOF

— Satya Nadella (@satyanadella) October 10, 2026