技术

Forskare varnar:Chattbotar riskerar attöka极化

Att söka information genom chattbotar kanöka risken för polarisering,enligt AI-forskare公司。阿基维比尔德。

聊天室och AI ger oss of ta de svar de tror at vi vill ha。帕斯维斯·坎·德·费尔斯塔卡梅尔·伊德·奥赫比德拉·托卡德极化,瓦纳尔·福斯卡vid约翰·霍普金斯大学。

Publicerad公司 Uppdaterad公司

Den som staäller en frága till en chattbot och utgár frón att Den ska ge opartisk och heltäckande information kan ha väldigt fel(从圣母院到圣母院)。开启人工智能,以应对风险,并在未来的一段时间内进行对话。

“Mánga tror att bara för att de läser en text som skapats av AI sáfár de icke-partiska och faktabaserade svar”,säger Ziang Xiao vid Johns Hopkins University,研究人员huvudförfattre som forskar inom interakitionen mellan AI och Människa。

Chattbot eller sökmotor公司

Forskarna lät till en början 272 studiedeltagare skriva ner sina tankar ochásikter i ett antal olikaämnen研究所。kunde handla om直到示例sjukvárd och studielán。Därefter fick de i upp从sammaämnen处获取数据,通过en-vanlig sökmotor eller基因组en-chattbot获取抗毒素信息。

Därefter skrev deltagarna ytterligare en text om sammaämne och fick ocksásvara páfrágor omämnet(参考文献)。Forskarnas slutsatsär att deltagarna som använde chattbot inför text nummer tváblev mer förstärkta i sina resonemang och i sina teserän de som sökte information genome en sökmotor(Forskarans slutsatsatär at deltagarna som an vänd e聊天室信息)。

Bekräftarásikter公司

Enligt studien,som presenterats páen vetenskaplig kongress,fick de som sökte information via en chattbot fram svar och formuleringar som lág närmare de ursprugligaásikterna,snarareän att bredda resonemaget och presentera andra alternativ的信息。Chattbotanvändarnareagerade ocksåstarkare pååsikter och frågor som utmanade derasåsikterän de som använde sökmotorn。

Enligt forskarna beror detta páatt chattbotanvändare skriver specifika frágor som,直到示例“Vad kostar allmän sjukvárd”snarareän att bara skriva in sökord。Chattboten kommer dáatt redovisa svar páfrágan och presentera hur mycket sjukvárden kostar men inte ta uppördelar公司。

“Det finns alltid en risk att information en vi söker blir ett eko av Det vi redan tycker.Med Med AI och chattbotar blir den effektenännu större”,säger Ziang Xiao。