Inquiétudes autour de l’IA : OpenAI s’engage à communiquer systématiquement sur les dérapages de ses modèles
Suivre Sudinfo sur Google
OpenAI a promis mercredi de communiquer plus systématiquement sur les sorties de route de ses modèles d’intelligence artificielle (IA), même lorsqu’il n’est pas encore parvenu à les expliquer ou à y remédier.
En marge de cet engagement, la start-up californienne publie six nouveaux rapports concernant des dérapages de son IA, inconnus jusqu’ici.
Ce voeux de transparence est formulé après une série d’incidents au sein de l’entreprise, rapportés progressivement depuis juillet.
Le plus sérieux d’entre eux a vu deux modèles d’OpenAI en phase de test sortir spontanément de leur milieu confiné pour rejoindre internet et faire intrusion sur plusieurs sites et plateformes.
Le nouveau dispositif de l’entreprise se veut notamment un moyen de montrer à des observateurs extérieurs où se situent les capacités de l’IA de pointe pour faire avancer la réflexion sur le rythme de développement de l’intelligence artificielle.
Samedi, le patron d’Anthropic Dario Amodei a proposé de ralentir la cadence d’amélioration de l’IA pour permettre d’appréhender les nouveaux risques qu’elle implique.
Le patron d’OpenAI Sam Altman ainsi que le président de Google DeepMind Demis Hassabis, Elon Musk et le PDG de Microsoft Satya Nadella ont tous soutenu cet appel.
L’industrie n’a pas «résolu la question de l’alignement (des modèles sur des valeurs humaines) et de la surveillance à un niveau suffisant pour que nous continuions encore longtemps à développer l’IA à vitesse maximum», avertit encore OpenAI dans le document publié mercredi.
La société fera désormais état de problèmes concernant, entre autres, les actions menées par une IA sans autorisation, la sortie du cadre de supervision et la coordination spontanée entre intelligences artificielles.
Contenus sponsorisés
Nos incontournables
TVA, taxe sur les colis, accises… : ce gros milliard sur lequel comptait Bart De Wever pour le budget de l’Arizona et… qui s’est évaporé !
Le mystérieux relevé téléphonique de Bryan : voici ce que révèle la liste des derniers appels sur le GSM du papa de Tyméo
Lutte contre l’IPTV illégale en Belgique : voici la liste noire du gouvernement, découvrez si vous êtes concerné !
Le GSM de Bryan retrouvé : du nouveau dans la disparition de Tyméo et de son papa, le parquet communique plusieurs avancées !
« Il n’aurait jamais abandonné son fils » : les anciens collègues du Colruyt de Liège brisent le silence sur Farid alias « Fred », retrouvé coulé dans le béton sous sa terrasse
Grégory, ami d’enfance de Jordan, l’attendait à l’église pour célébrer son mariage : « On a appris qu’il y avait eu un accident, et puis… »
Hadija, professeure dans une école belge, virée pour avoir refusé de retirer son foulard : « Tout ce que j’ai construit a soudainement disparu »
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.