Obsolescência, complexidade e IA: o coquetel por trás da onda de falhas nos EUA
Uma onda repentina de falhas tecnológicas nos Estados Unidos gerou crescente preocupação pública nos últimos dias e obrigou altos funcionários a responder a especulações sobre possíveis agentes maliciosos ou até mesmo sobre uma inteligência artificial (IA) fora de controle.
Tráfego aéreo paralisado, caixas eletrônicos desconectados, caixas de entrada do Outlook ou fotos armazenadas no iCloud, da Apple, inacessíveis: para muitos usuários, parecia que todo o sistema estava falhando ao mesmo tempo.
Mas especialistas atribuíram as falhas a sistemas obsoletos e excessivamente complexos, assim como à corrida das empresas e do governo para protegê-los contra as novas ameaças geradas pela IA.
O secretário de Estado, Marco Rubio, garantiu nesta quarta-feira (18) que não existe nenhuma relação comprovada entre esses incidentes, nem indícios de ataques cibernéticos. O diretor nacional de Inteligência, Jay Clayton, reiterou essa avaliação.
Quase todos os problemas ocorreram durante operações de manutenção de rotina, como no caso da pane que afetou os sistemas internos da Agência de Segurança Nacional (NSA, na sigla em inglês), na terça-feira, ou do erro de software detectado no banco Chase.
O senador democrata Mark Warner, vice-presidente da Comissão de Inteligência do Senado, mencionou atualizações de software destinadas a corrigir vulnerabilidades que as ferramentas de IA mais avançadas conseguem expor com rapidez e em escala cada vez maiores, o que submete empresas e agências governamentais a "uma enorme pressão".
"Todos esses sistemas são extremamente complexos", tanto em relação aos programas de computador quanto às suas infraestruturas físicas, explicou Steven Jackson, professor de Ciências da Informação da Universidade Cornell.
"Por isso, corrigir algo assim sem danificar acidentalmente outra coisa é uma tarefa difícil", sobretudo "quando se trabalha sob pressão, com prazos apertados e em um contexto de ansiedade e ameaça significativas", acrescentou.
- "Investimento cronicamente insuficiente" -
Outro problema é a computação em nuvem: enormes redes de terceiros que as empresas utilizam para armazenar dados e executar programas, em vez de fazer isso em equipamentos próprios.
Atualmente, apenas algumas grandes empresas são capazes de oferecer uma capacidade de computação dessa magnitude. Por isso, quando uma delas enfrenta um problema, mesmo que pequeno, milhões de pessoas podem ser afetadas imediatamente, como ocorreu com o Outlook, da Microsoft.
Analistas da consultoria Forrester afirmaram, em uma nota, que havia chegado a hora de enfrentar o problema da "hiperconcentração" e propuseram alternativas para reduzir essa dependência.
Para Kalle Lyytinen, professor da universidade americana Case Western Reserve e especialista em inovação digital, a situação se agrava porque as empresas estão reduzindo cada vez mais o número de funcionários responsáveis pela manutenção e pelo gerenciamento dos sistemas.
Segundo o acadêmico, parte desses postos de trabalho foi substituída por ferramentas de IA.
No entanto, ele ressaltou que os modelos de inteligência artificial muitas vezes não têm uma visão completa dos sistemas e não conseguem substituir determinados técnicos altamente especializados, capazes de identificar a origem de um problema e solucioná-lo.
Steven Jackson também considerou que essas falhas repetidas em um curto período eram consequência de um "investimento cronicamente insuficiente" nas infraestruturas básicas dos Estados Unidos.
As mudanças climáticas acrescentam ainda mais pressão, indicou Jackson, já que os fenômenos meteorológicos extremos submetem os equipamentos a um desgaste maior.
Ao mesmo tempo, sistemas como o controle do tráfego aéreo, a rede elétrica e a segurança cibernética não foram modernizados o suficiente, apesar do crescimento constante da demanda. Há mais voos, mais centros de dados e mais tarefas realizadas por computadores.
"Os sistemas estão sempre ligados e funcionando em sua capacidade máxima", concluiu Jackson, "o que dificulta a realização das melhorias organizadas e planejadas de que uma infraestrutura sustentável precisa".
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.