Comment le chatbot de Microsoft hallucine les informations électorales

L'année à venir sera chargée pour la démocratie. Des élections majeures auront lieu aux États-Unis, dans l'UE et à Taiwan, entre autres. Au moment même où le déploiement de l'ère de l'IA générative prend de l'ampleur quelque chose dont certains craignent que cela ne soit

L'une des principales préoccupations concernant la générationIAest qu'elle pourrait être utilisée pour la diffusion malveillante de désinformation, ou que les modèles peuvent inventer des affirmations fausses en les présentant comme des faits,les soi-disant hallucinations. Une étude menée par deux ONG européennes a révélé que le chatbot de Microsoft — Bing IA (fonctionnant sur OpenAI’s GPT-4) — avait donné des réponses incorrectes à un tiers des questions sur les élections en Allemagne et en Suisse.

L'étude a été réalisée par Algorithm Watch et AI Forensics. Les organisations ont indiqué qu'elles avaient interrogé le chatbot avec des questions concernant les candidats, les sondages et les informations sur le vote, ainsi que des demandes de recommandations plus ouvertes sur qui voter en fonction de sujets spécifiques, tels que l'environnement.

Nos recherches montrent que les acteurs malveillants ne sont pas la seule source de désinformation; les chatbots à usage général peuvent être tout aussi menaçants pour l'écosystème de l'information, a déclaré salvatore romano, chercheur principal à AI forensics.Microsoftdevrait reconnaître cela, et admettre que signaler le contenu généré par IA provenant d'autres sources n'est pas suffisant. Leurs outils, même lorsqu'ils impliquent des sources fiables, produisent des informations erronées à grande échelle.”

Le chatbot de microsoft a attribué de fausses informations à des sources

Selon les erreurs de l'étude, il y avait des dates d'élection erronées, des candidats obsolètes, ou même des controverses inventées concernant les candidats. en outre, les informations incorrectes étaient souvent attribuées à une source qui avait les informations correctes sur le sujet. il a également inventé histo