Empresas americanas aderem a modelos de IA 'abertos' mais baratos

Financial Times O mundo corporativo americano está recorrendo a modelos de IA de "pesos abertos" e menor custo, à medida que a disparada das despesas com tecnologia da informação leva executivos a buscar alternativas aos sistemas de ponta da Anthropic e da OpenAI.

Os chamados modelos de pesos abertos, que os usuários podem personalizar e executar em seus próprios equipamentos, podem custar muito menos às empresas do que o pagamento pelo acesso às versões mais avançadas do ChatGPT ou do Claude.

Segundo dados da plataforma de pesquisa AlphaSense, as menções de executivos a modelos de "pesos abertos" ou de "código aberto" em teleconferências de resultados e conferências com investidores aumentaram seis vezes em agosto e setembro, em comparação com o mesmo período de dois meses do ano passado.

Embora a mudança seja mais acentuada entre as empresas de tecnologia, companhias de diversos setores —entre elas a PNC Financial Services, o grupo de logística CH Robinson e a gigante industrial Siemens— discutiram nas últimas semanas o uso de modelos de pesos abertos.

Publicidade

O mercado de IA de pesos abertos passou a ser dominado por empresas chinesas, embora modelos avançados lançados sob condições igualmente permissivas também estejam sendo desenvolvidos pela francesa Mistral e pelas americanas Nvidia, Reflection AI e Thinking Machines Lab.

Investidores do mercado acionário acompanham de perto como os clientes corporativos estão distribuindo os gastos com IA entre modelos de ponta e concorrentes de pesos abertos.

C-Level

Uma newsletter com informações exclusivas para quem precisa tomar decisões

Os rápidos avanços registrados neste ano por esses sistemas de IA mais baratos podem ameaçar o crescimento da receita da Anthropic, que se prepara para uma oferta pública inicial de ações que deverá avaliar a empresa em US$ 2 trilhões ou mais, e da OpenAI, que iniciou conversas para uma rodada privada de financiamento com uma avaliação de US$ 1,2 trilhão, após adiar seu próprio IPO para 2027.

Publicidade

Por enquanto, os dois laboratórios de IA de ponta concentram a maior parte dos gastos com a tecnologia, e sua demanda voraz por capacidade computacional sustenta boa parte do boom de construção de data centers que impulsiona a economia dos EUA.

Mas dados de uso fornecidos por grupos da cadeia de suprimentos de IA mostram que a mudança vai além do discurso. Em agosto, os modelos de pesos abertos responderam por 56% de todos os tokens processados pelo AI Gateway da Vercel, ante 7% em dezembro. Um padrão semelhante pode ser observado na OpenRouter, onde modelos de pesos abertos de laboratórios chineses dominam a lista dos dez maiores em número de tokens processados.

Vinay Kuruvila, diretor de tecnologia do Tinder, aplicativo de relacionamentos pertencente ao Match Group, afirmou que a empresa começou a encaminhar algumas consultas de usuários não técnicos para modelos de pesos abertos enquanto buscava controlar a alta dos custos com IA.

"Em janeiro, gastávamos a um ritmo de US$ 1 milhão por ano e, em julho, esse valor havia subido para US$ 10 milhões... Não quero outro aumento de dez vezes", disse ele. "Os modelos de ponta, como o Astra, da OpenAI, e o Claude Fable, já têm inteligência suficiente para 90% das tarefas que estamos tentando realizar. Se os modelos de pesos abertos alcançarem esse nível, talvez eu não precise mais usá-los."

Os modelos abertos muitas vezes conseguem entregar resultados comparáveis aos dos sistemas fechados vendidos pela Anthropic e pela OpenAI. A diferença é que seus parâmetros subjacentes, que determinam como um modelo de IA responde às consultas, são divulgados publicamente.

Publicidade

Isso permite que as empresas baixem, hospedem e façam o ajuste fino desses modelos sem pagar ao desenvolvedor taxas por token. Os usuários também podem comprar tokens diretamente dos fornecedores de modelos de pesos abertos, normalmente por preços muito inferiores aos cobrados pela OpenAI e pela Anthropic. É assim que empresas como a DeepSeek e a Zhipu, dois dos principais laboratórios chineses de pesos abertos, geram receita.

Ao contrário da Anthropic e da OpenAI, cujos modelos mantidos sob rígido sigilo são seus principais produtos comerciais, concorrentes que desenvolvem ferramentas de pesos abertos podem distribuí-las gratuitamente para vincular usuários a determinados equipamentos ou vender publicidade. As duas empresas americanas lançaram na semana passada versões mais baratas de seus principais modelos, à medida que se intensifica a guerra de preços com as rivais chinesas.

A migração para modelos de pesos abertos vai muito além do Vale do Silício. A AT&T atualmente executa cerca de 40% de suas cargas de trabalho de IA em modelos abertos e pretende chegar a 70% dentro de um ano, segundo Andy Markus, diretor de dados e IA do grupo de telecomunicações.

"Processamos 45 bilhões de tokens por dia", disse Markus. "Nessa escala, os custos se tornam extremamente importantes. Se pudermos transferir esse tráfego de um modelo fechado caríssimo para um modelo aberto, que muitas vezes podemos operar por uma fração do custo, e ainda preservar a precisão, faremos isso."

Markus afirmou que a AT&T utilizou modelos abertos e os ajustou com dados proprietários da empresa, para que tivessem desempenho igual ou superior ao de alternativas fechadas em tarefas específicas. "Os modelos abertos estão cada vez melhores", disse. "Isso nos dá mais opções."

Publicidade

Para algumas empresas, o custo é apenas parte da equação. Scott Wallace, diretor global sênior de arquitetura de soluções da operadora de data centers Digital Realty, afirmou que soberania e segurança eram fatores igualmente importantes para levar sua empresa a adotar modelos abertos hospedados em infraestrutura privada.

Wallace disse que a Digital Realty havia criado sua própria interface interna de chat, executada em modelos de pesos abertos, e utilizava uma combinação de sistemas abertos e proprietários, dependendo da sensibilidade e da complexidade da tarefa.

"Há dados proprietários que inserimos nesse modelo privado e que eu não colocaria em um modelo de ponta", afirmou Wallace. "Dados de clientes, jamais, jamais, jamais são inseridos em um modelo de ponta."