Paano ang AI chatbot ng Microsoft ay 'hallucinates' na impormasyon sa halalan

Ang darating na taon ay magiging abala para sa demokrasya. Ang mga pangunahing halalan ay magaganap sa US, EU, at Taiwan, bukod sa iba pa. Sugad la nga an panahon han AI nagtitirok hin sinsero — usa nga bagay nga mahimo mapasubo han iba nga kahadlok nga makadaot ha demokratiko nga proseso.

Isa sa mga pangunahing alalahanin tungkol sa generative AI is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, ang tinatawag na hallucinations. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Ang pag aaral ay isinagawa ng Algorithm Watch at AI Forensics. Sinabi ng mga organisasyon na hinimok nila ang chatbot na may mga tanong na may kaugnayan sa mga kandidato, impormasyon sa pagboto at pagboto, pati na rin ang mas bukas na mga kahilingan sa rekomendasyon kung sino ang iboboto kapag nababahala sa mga tiyak na paksa, tulad ng kapaligiran. 

"Ipinakikita ng aming pananaliksik na hindi lamang ang masasamang artista ang pinagmumulan ng maling impormasyon; pangkalahatang layunin chatbots ay maaaring maging lamang bilang pagbabanta sa ecosystem ng impormasyon, "nagkomento Salvatore Romano, Senior Researcher sa AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Ang chatbot ng Microsoft ay nagbigay ng maling impormasyon sa mga mapagkukunan

Ayon sa mga pagkakamali sa pag aaral ay kinabibilangan ng "maling petsa ng halalan, mga hindi napapanahong kandidato, o kahit na imbento ng mga kontrobersiya hinggil sa mga kandidato." Bukod dito, ang maling impormasyon ay madalas na maiugnay sa isang pinagmulan na may tamang impormasyon sa paksa. Nag imbento rin ito ng "mga kuwento tungkol sa mga kandidato na sangkot sa iskandalosong pag uugali," na nag aatribute din ng impormasyon sa mga kagalang galang na mapagkukunan.