Cómo el chatbot de IA de Microsoft 'alucina' con la información electoral

El próximo año será muy ajetreado para la democracia. Se celebrarán importantes elecciones en Estados Unidos, la Unión Europea y Taiwán, entre otros. Justo cuando el despliegue de la era de la IA generativa se está acelerando en serio, algo que algunos temen que pueda resultar perjudicial para el proceso democrático.

Una de las principales preocupaciones sobre la generativa IA is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, Las llamadas alucinaciones. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

El estudio fue realizado por Algorithm Watch y AI Forensics. Las organizaciones dijeron que incitaron al chatbot con preguntas relacionadas con los candidatos, encuestas e información de votación, así como solicitudes de recomendación más abiertas sobre por quién votar cuando se trata de temas específicos, como el medio ambiente. 

"Nuestra investigación muestra que los actores maliciosos no son la única fuente de desinformación; los chatbots de propósito general pueden ser igual de amenazantes para el ecosistema de la información", comentó Salvatore Romano, investigador principal de AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

El chatbot de Microsoft atribuyó información falsa a las fuentes

Según el estudio, los errores incluyeron "fechas de elecciones incorrectas, candidatos obsoletos o incluso controversias inventadas sobre los candidatos". Además, la información incorrecta a menudo se atribuyó a una fuente que tenía la información correcta sobre el tema. También inventó "historias sobre candidatos involucrados en comportamientos escandalosos", atribuyendo también la información a fuentes acreditadas.