Utiliser l’IA pour des questions liées au climat ? Attention aux erreurs

Les chercheurs de l’University College London ont testé 15 grands modèles de langage différents. Aux questions neutres sur la science du climat, les modèles ont fourni des réponses précises.
Mais là où ça se complique, c’est lorsque les chercheurs les ont remis en cause ou ont avancé des affirmations fausses mais plausibles sur la science du climat. Les modèles leur ont rapidement donné raison.
"Les systèmes d’IA sont remarquablement doués pour expliquer les connaissances scientifiques, mais cela peut nous induire en erreur quant à leurs capacités. Nos résultats montrent pourquoi nous devons faire preuve de prudence lorsque nous passons d’une question sur ce que nous savons du changement climatique à une question sur ce que nous devrions faire à ce sujet", explique la docteure Maria Perez-Ortiz, directrice de l’étude au département d’informatique de l’UCL.
Huit fois sur dix, les modèles ont changé de position dès le premier signe de léger désaccord de la part de l’utilisateur, confirmant ainsi des erreurs préoccupantes telles que "Le CO2 n’est pas le principal facteur du changement climatique" déclare Leona Verdadero, autrice principale du rapport de l’UNESCO.
À l’heure où les gens s’appuient de plus en plus sur l’IA pour obtenir des informations et des conseils sur la manière d’agir de façon responsable à l’ère du changement climatique, le rapport souligne que la fiabilité de ces modèles comme source de données factuelles et d’analyses devient d’autant plus cruciale.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.