研究论文

Alexa，我相信你！智能扬声器电子商务搜索中的公平性和可解释性问题

作者:

阿披实虚线,

阿比希南查克拉博蒂,

萨普塔什高希,

Animesh公司穆克吉,

克里希纳P。 Gummadi公司作者信息和声明

WWW’22：2022年ACM网络会议记录

页3695-3705

https://doi.org/10.1145/3485447.3512265

出版:2022年4月25日出版历史

获取访问权限

摘要

在传统的（桌面）电子商务搜索中，客户发出特定查询，系统按与查询的相关性顺序返回产品的排名列表。电子商务搜索中一种日益流行的替代方法是向由语音助手（VA，例如Alexa）支持的智能扬声器（例如Amazon Echo）发出语音查询。在这种情况下，VA通常只列出一种产品的详细信息，解释其选择原因，以及将产品添加到客户购物车的默认操作。语音搜索期间，客户在选择产品时的自主性降低，这使得VA有必要在解释和默认操作方面更加负责和可信。

在本文中，我们询问安装在Amazon Echo设备上的Alexa VA对产品选择的解释是否符合人类的理解以及对其他传统媒体（例如桌面电子商务搜索）的观察。通过用户调查，我们发现在81%的情况下，用户对“最佳结果”的解释与Alexa不同。在调查默认操作的公平性时，我们发现，在多达1000个查询的集合中，约68%的情况下，存在一个或多个比Alexa选择的产品更相关的产品（根据亚马逊自己的桌面搜索结果）。最后，我们对Alexa选择的产品与顶级桌面搜索结果不同的30多个查询进行了调查，发现在≈73%的情况下，参与者更喜欢顶级桌面搜索的结果，而不是Alexa所选择的产品。我们的结果引起了一些关注，并需要围绕电子商务搜索中增值服务的相关公平性和可解释性问题进行更多讨论。

工具书类

[1]

亚马逊。2021.搜索和浏览项目。https://amzn.to/3HBqvWr。

[2]

莱夫·阿佐帕迪（Leif Azzopardi）。2021.搜索中的认知偏差：信息检索中认知偏差的回顾和反思。ACM CHIIR面料。

[3]

里卡多·贝扎·耶茨（Ricardo Baeza-Yates）。2018年，网络偏见。ACM CACM 61,6（2018）。

[4]

Asia J Biega、Krishna P Gummadi和Gerhard Weikum。2018年，关注公平：在排名中摊销个人公平性。在ACM SIGIR中。

[5]

阿比杰南·查克拉博蒂（Abhijnan Chakraborty）、努诺·莫塔（Nuno Mota）、亚洲J比加（Asia J Biega）、奎师那·P·古马迪（Krishna P Gummadi）和本达·海达里（Hoda Heidari），2019。关于选择架构对在线捐赠平台中不平等现象的影响。在WWW中。

[6]

Chung贤治、Michaela Iorga、Jeffrey Voas和Sangjin Lee。2017年Alexa我能相信你吗？IEEE Computer 50，9（2017）。

[7]

尼克·克拉斯韦尔（Nick Crashwell）、奥诺·佐特（Onno Zoeter）、迈克尔·泰勒（Michael Taylor）和比尔·拉姆齐（Bill Ramsey）。2008年。点击位置偏差模型的实验比较。在ACM WSDM中。

[8]

朱莉·克雷斯韦尔。2018.亚马逊如何引导购物者购买自己的产品。https://www.nytimes.com/2018/06/23/business/amazonenbrand-buster.html。

[9]

阿比塞克·达什、阿比杰南·查克拉博蒂、萨普塔什·戈什、阿尼梅斯·穆克吉和克里希纳·P。古马迪。2021.当监管者也是玩家时：电子商务市场上的自有品牌产品推荐中的偏见。在ACM FAccT中。

[10]

Abhisek Dash、Anurag Shandilya、Arindam Biswas、Kripabandhu Ghosh、Saptarshi Ghosh和Abhijnan Chakraborty。2019.总结用户生成的文本内容：算法总结中公平性的动机和方法。美国计算机学会人机交互会议录3，CSCW（2019）。

数字图书馆

[11]

Jonas Foehr和Claas Christian Germelmann。2020年Alexa我能相信你吗？探索消费者信任智能语音交互技术的途径。《消费者研究协会杂志》5，2（2020）。

[12]

Sahin Cem Geyik、Stuart Ambler和Krishnaram Kenthapadi。2019.Fairness-aware在搜索和推荐系统中的排名，并应用于linkedin人才搜索。在ACM SIGKDD中。

[13]

Mindstream Media Group。2021.消费者与智能扬声器互动的5种方式。https://mindstreamediagroup.com/introduction-smart-speakers-voice-search-brand-advertisers/。

[14]

约书亚·哈德威克。2021.亚马逊热门搜索（2021年）。https://ahrefs.com/blog/top-amazon-searchs/。

[15]

国际原子能机构。2021.过去12个月，49%的印度消费者通过电子商务网站和应用程序购物：调查。https://www.thenewsmute.com/article/49-indian-consumers-shopped-e-commerce-sites-apps-last-12-months-survey-145364。

[16]

丹尼尔·卡尼曼。2011.思考，快和慢。麦克米伦。

[17]

阿迪蒂亚·卡拉和史蒂夫·斯特克洛。2021.文件显示，亚马逊复制产品并篡改搜索结果来推广自己的品牌。https://www.reuters.com/requestions/special report/aamazon india riging/网站。

[18]

约翰内斯·基塞尔（Johannes Kiesel）、达米亚诺·斯皮纳（Damiano Spina）、亨宁·瓦奇斯莫斯（Henning Wachsmuth）和本诺·斯坦因（Benno Stein）。2021.意义、言说和理解：对话论证搜索和认知偏见。在ACM CUI中。

[19]

布雷特·金塞拉。2020年。语音行业专业人士表示，亚马逊Alexa的影响力最大，其次是谷歌，其他人都远远落后于谷歌——新报告。https://voicebot.ai/2020/05/11/voice-industry-professionals-say-amazon-alexa-is-having-the-bigest-impact-fowled-by-google-with-everyone-else-far-behind-new-report/。

[20]

普雷西·拉霍蒂（Preethi Lahoti）、克里希纳·P·古马迪（Krishna P Gummadi）和格哈德·魏库姆（Gerhard Weikum）。2019.ifair：学习用于算法决策的独立公平数据表示。在IEEE ICDE中。

[21]

Nuno Mota、Abhijnan Chakraborty、Asia J Biega、Krishna P Gummadi和Hoda Heidari，2020年。论网络利他主义的欲望：勉强接受公平捐赠。《美国计算机学会人机交互会议论文集4》，CSCW2（2020）。

数字图书馆

[22]

Farzaneh Nasirian、Mohsen Ahmadian和One-Ki Daniel Lee。2017.基于AI的语音助手系统：从交互和信任的角度进行评估。(2017).

[23]

Alamir Novin和Eric Meyers。2017.理解相互冲突的科学信息：探索搜索引擎结果页面中的偏见。ACM CHIIR面料。

[24]

Gourab K Patro、Arpita Biswas、Niloy Ganguly、Krishna P Gummadi和Abhijnan Chakraborty。2020年。Fairrec：双边平台中个性化建议的双边公平性。在网络会议中。

数字图书馆

[25]

Gourab K Patro、Abhijnan Chakraborty、Niloy Ganguly和Krishna Gummadi。2020年，双边市场平台中的增量公平：平稳更新建议。AAAI第34卷。

[26]

莎拉·佩雷斯。2020年。近70%的美国智能扬声器用户使用亚马逊Echo设备。https://techcrunch.com/2020/02/10/nearly-70-of-us-smart-speaker-owners-use-amazon-echo-devices/。

[27]

Atieh Poushneh公司。2021.人性化语音助手：语音助手个性对消费者态度和行为的影响。《零售与消费者服务杂志》58（2021）。

[28]

PTI。2021.锁定证明了印度电子商务的拐点。https://www.moneycontrol.com/news/business/lockdown-proved-inflection-point-for-e-commerce-in-india-6687081.html。

[29]

Ashwin Ram、Rohit Prasad、Chandra Khatri、Anu Venkatesh、Raefer Gabriel、Qing Liu、Jeff Nunn、Behnam Hedayatnia、Ming Cheng、Ashish Nagar，2018年。对话ai：alexa奖背后的科学。arXiv预印arXiv:1801.03604（2018）。

[30]

查德·鲁宾（Chad Rubin），2021年。破解亚马逊A9算法：提高亚马逊排名以增加销售额。https://www.singlegrain.com/amazon/cracing-azons-a9-algorithm-increase-your-azon-ranking-to-sell-more/。

[31]

萨珊克·桑塔纳姆（Sashank Santhanam）、阿里雷扎·卡杜尼（Alireza Karduni）和萨米拉·谢赫（Samira Shaikh）。2020年。研究认知偏见对会话代理评估的影响。在ACM CHI中。

[32]

Christoph Schneider、Markus Weinmann和Jan vom Brocke。2018.数字推送：通过界面设计指导在线用户选择。ACM CACM（2018）。

数字图书馆

[33]

阿什代普·辛格（Ashudeep Singh）和托尔斯滕·约阿希姆（Thorsten Joachims）。2018年。排名中曝光的公平性。在ACM SIGKDD中。

[34]

阿什代普·辛格（Ashudeep Singh）和托尔斯滕·约阿希姆（Thorsten Joachims）。2019.公平排名政策学习。2019年NeurIPS。

[35]

Daria Sorokina和Erick Cantu-Paz。2016.亚马逊搜索：排名产品的乐趣。在ACM SIGIR中。

[36]

RH Thaler和CR Sunstein。2008年，微移：改善关于健康、财富和幸福的决策企鹅。企鹅出版社，纽约。

[37]

蒂努蒂。2020年，2020年亚马逊购物者调查。https://techresearchonline.com/wp-content/uploads/white-papers/Tinuiti2020_Amazon_Shopper_Survey.pdf。

[38]

梅克·泽利克（Meike Zehlike）、弗朗西斯科·邦奇（Francesco Bonchi）、卡洛斯·卡斯蒂略（Carlos Castillo）、萨拉·哈健（Sara Hajian）、穆罕默德·梅吉德（Mohamed Megahed）和里卡多·贝扎·耶茨（Ricardo Baeza-Yates）。2017.Fa*ir：一个公平的排名靠前的算法。在ACM CIKM中。

引用人

甲板L肖弗JDe-Arteaga M公司库尔N(2024)可解释人工智能公平效益的批判性研究2024年ACM公平、问责制和透明度会议记录10.1145/3630106.3658990(1579-1595)在线发布日期：2024年6月3日
https://dl.acm.org/doi/10.1145/3630106.36858990网址

索引术语

Alexa，我信任你！智能扬声器电子商务搜索中的公平性和可解释性问题
1. 以人为中心的计算
  1. 人机交互（HCI）
2. 信息系统
  1. 信息检索
  2. 万维网
    1. Web应用程序

索引项已通过自动分类分配给内容。

建议

评论

信息和贡献者

问询处

发布于

封面图片ACM会议

WWW’22：2022年ACM网络会议记录

2022年4月

3764页

十亿英镑：9781450390965

内政部：10.1145/3485447

编辑：
弗雷德·里克·拉福雷斯特（Frédérique Laforest）
法国里昂INSA
,
拉斐尔·特朗西
EURECOM，法国
,
埃琳娜·辛佩尔
英国伦敦国王学院
,
迪帕克·阿加瓦尔
美国品特雷斯特
,
阿里斯蒂德斯·吉奥尼斯
瑞典皇家理工学院
,
伊凡·赫尔曼
W3C/退役
,
莱昂内尔·梅迪尼
法国里昂第一大学

版权所有©2022 ACM。

如果复制品不是为了盈利或商业利益而制作或分发的，并且复制品的第一页载有本通知和完整引文，则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重作者以外的其他人对本作品组成部分的版权。允许用信用证进行摘要。要以其他方式复制或重新发布、在服务器上发布或重新分发到列表，需要事先获得特定许可和/或收取费用。从请求权限[电子邮件保护].

赞助商

SIGWEB:ACM超文本、超媒体和网络特别兴趣小组

出版商

计算机协会

美国纽约州纽约市

出版历史

出版：2022年4月25日

权限

请求对此文章的权限。

检查更新

作者标记

限定符

研究文章
研究
推荐有限公司

会议

WWW’22

主办单位：

SIGWEB公司

WWW’22：2022年ACM网络会议

2022年4月25日至29日

虚拟活动，法国里昂

验收费率

8196份提交文件的总体接受率为1899份，23%

贡献者

其他指标

查看文章指标

文献计量学和引文

文献计量学

文章指标

1
引文总数
查看引文
277
总下载次数

下载次数（过去12个月）68
下载次数（最近6周）7

反映截至2024年9月17日的下载量

其他指标

查看作者指标

引文

引用人

甲板L肖弗JDe-Arteaga M公司库尔N(2024)可解释人工智能公平效益的批判性研究2024年ACM公平、问责和透明度会议记录10.1145/3630106.3658990(1579-1595)在线发布日期：2024年6月3日
https://dl.acm.org/doi/10.1145/3630106.3658990

视图选项

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此出版物

查看选项

PDF格式

以PDF文件查看或下载。

电子阅读器

使用联机查看电子阅读器.

电子阅读器

HTML格式格式

在中查看本文HTML格式格式。

媒体

数字

其他

桌子