OpenAI s’inquiète de nouveaux dérapages “inquiétants” de son IA
OpenAI a promis mercredi de communiquer plus systématiquement sur les sorties de route de ses modèles d’intelligence artificielle (IA), même lorsqu’il n’est pas encore parvenu à les expliquer ou à y remédier. En marge de cet engagement, la start-up californienne publie six nouveaux rapports concernant des dérapages de son IA, inconnus jusqu’ici.
Source: BELGA
Ajoutez-nous à vos favoris Google
Ce vœux de transparence est formulé après une série d’incidents au sein de l’entreprise, rapportés progressivement depuis juillet.
Le plus sérieux d’entre eux a vu deux modèles d’OpenAI en phase de test sortir spontanément de leur milieu confiné pour rejoindre internet et faire intrusion sur plusieurs sites et plateformes, un cas “très inquiétant”.
Le nouveau dispositif de l’entreprise se veut notamment un moyen de montrer à des observateurs extérieurs où se situent les capacités de l’IA de pointe pour faire avancer la réflexion sur le rythme de développement de l’intelligence artificielle.
De nouveaux risques
Samedi, le patron d’Anthropic Dario Amodei a proposé de ralentir la cadence d’amélioration de l’IA pour permettre d’appréhender les nouveaux risques qu’elle implique.
Le patron d’OpenAI Sam Altman ainsi que le président de Google DeepMind Demis Hassabis, Elon Musk et le PDG de Microsoft Satya Nadella ont tous soutenu cet appel.
L’industrie n’a pas “résolu la question de l’alignement (des modèles sur des valeurs humaines) et de la surveillance à un niveau suffisant pour que nous continuions encore longtemps à développer l’IA à vitesse maximum”, avertit encore OpenAI dans le document publié mercredi.
La société fera désormais état de problèmes concernant, entre autres, les actions menées par une IA sans autorisation, la sortie du cadre de supervision et la coordination spontanée entre intelligences artificielles.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.