Anthropic e Accenture vão investir US$ 2 bilhões em segurança de IA

A Anthropic e a Accenture anunciaram neste sábado, 19, que investirão pelo menos US$ 1 bilhão cada, totalizando US$ 2 bilhões, ao longo dos próximos cinco anos em segurança de inteligência artificial (IA).

O acordo prevê a criação de uma equipe de avaliadores integrados, que atuará em conjunto com as equipes internas e os parceiros de segurança da Anthropic. O grupo será responsável por avaliar modelos de IA, realizar testes de red teaming — que simulam possíveis ataques — e de alinhamento, além de verificar os mecanismos de segurança dos sistemas.

Equipe será dedicada a testes de IA

A Accenture informou que montará uma equipe especializada em inteligência artificial, segurança e diferentes setores da economia para trabalhar com a Anthropic.

“A segurança exige tanto um profundo conhecimento técnico quanto uma compreensão clara de como a IA é utilizada no mundo real. A avaliação integrada é uma área emergente, e estamos entusiasmados com a parceria com a Anthropic para ajudar a acelerar o desenvolvimento de avaliadores integrados, algo que consideramos uma parte importante do cenário de segurança daqui para a frente”, disse Julie Sweet, presidente do conselho e CEO da Accenture.

• Gemini invade três empresas reais durante teste de segurança

Como parte da parceria, a Accenture também pretende aproveitar sua experiência em inteligência artificial e segurança com a aquisição da Faculty, empresa especializada em IA aplicada.

A Faculty trabalha com testes e avaliação de modelos para laboratórios de inteligência artificial e desenvolve sistemas para setores como governo, defesa, saúde e infraestrutura.

Segundo Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, a empresa defende que a segurança dos sistemas de IA seja considerada desde o desenvolvimento dos modelos.

“Unir forças com a Anthropic para atuar como avaliadores integrados é exatamente o tipo de trabalho para o qual a Faculty foi criada – e, como parte da Accenture, temos a plataforma para realizá-lo em uma escala capaz de realmente transformar o setor”, afirma o executivo.