Conas a dhéanann faisnéis toghcháin 'hallucinates' chatbot AI Microsoft

Beidh an bhliain atá le teacht gnóthach don daonlathas. Beidh toghcháin mhóra ar siúl sna Stáit Aontaithe, san Aontas Eorpach, agus sa Téaváin, i measc nithe eile. Díreach mar atá feidhmiú céimneach ré na hintleachta saorga ag bailiú go tréan – rud a d'fhéadfadh eagla éigin dochar a dhéanamh don phróiseas daonlathach.

Ceann de na príomhábhair imní faoi IS is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, siabhránachtaí mar a thugtar orthu. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Rinne Algorithm Watch agus AI Forensics an staidéar. Dúirt na heagraíochtaí gur spreag siad an róbat cainte le ceisteanna a bhain le hiarrthóirí, le heolas vótála agus vótála, chomh maith le hiarratais ar mholtaí níos oscailte maidir le cé a chaithfidh vóta ar a son nuair a bhaineann siad le hábhair ar leith, amhail an timpeallacht. 

"Léiríonn ár dtaighde nach iad gníomhaithe mailíseacha an t-aon fhoinse mhífhaisnéise; is féidir le chatbots ilchuspóireach a bheith chomh bagrach don éiceachóras faisnéise," a dúirt Salvatore Romano, Taighdeoir Sinsearach ag Fóiréinsic AI. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Chuir chatbot Microsoft faisnéis bhréagach i leith foinsí

De réir na n-earráidí staidéir bhí "dátaí toghcháin míchearta, iarrthóirí as dáta, nó fiú conspóidí a chumadh maidir le hiarrthóirí." Thairis sin, is minic a cuireadh an fhaisnéis mhícheart i leith foinse a raibh an t-eolas ceart aici ar an ábhar. Chomh maith leis sin, bhí "scéalta ann faoi iarrthóirí a bheith páirteach in iompar scannalach," agus an t-eolas á chur i leith foinsí creidiúnacha chomh maith.