基于CNN的可穿戴式驾驶员睡意检测系统
摘要
1.简介
构建了一个可穿戴玻璃,可用于提取日常驾驶中具有挑战性的照明条件下的睡意指标,如PERCLOS和眨眼率; 创建了一个实时轻量级玻璃网络(LGN),能够通过廉价的摄像头和价格合理的可穿戴计算设备可靠地监测眼睛的睁开; 基准测试表明,基于LGN的可穿戴眼镜可以检测眨眼,其准确度可与工业认可的EyeLink眼动仪相媲美。
2.相关工作
2.1. 基于EOG的睡意检测
2.2. 基于摄像头的睡意检测
3.方法
3.1. 耐磨玻璃原型
3.2. 轻质玻璃网络(LGN)
3.2.1. 特征提取模块
3.2.2. 关键点回归模块
3.2.3. 数据集和培训设置
4.实验
4.1. 测试设置
4.2. 测试协议
4.3. 测量眼部闭合度
4.3.1. 基于EyeLink瞳孔数据的闭目测量
4.3.2. 基于玻璃数据的闭眼措施
5.结果和讨论
5.1. 闪烁检测算法的性能
5.2. 闪烁速率和PERCLOS
6.结论
作者贡献
基金
机构审查委员会声明
知情同意书
数据可用性声明
利益冲突
附录A
工具书类
谢尔顿,Z。; R.V.加里。 APA统计与研究方法词典 ; 美国心理协会:华盛顿特区,美国,2014年。 [ 谷歌学者 ] 帕特,D。 康桥字典 第4版。; 剑桥大学出版社:英国剑桥,2019年。 [ 谷歌学者 ] Addanki,S.C.公司。; Jaswanth,N。; Assfalg,R.监测驾驶员驾驶性能时交通相关因素和车辆环境的分析。 《国际情报杂志》。 运输。 系统。 物件。 2020 , 18 , 277–287. [ 谷歌学者 ] [ 交叉参考 ] 怀斯,J.M。; 希顿,K。; Patrician,P.长途卡车司机的疲劳:概念分析。 工作场所健康安全。 2019 , 67 , 68–77. [ 谷歌学者 ] [ 交叉参考 ] 威廉姆森。; 伦巴第,D.A。; Folkard,S。; Stutts,J。; 科特尼,T.K。; Connor,J.L.疲劳与安全之间的联系。 Accid公司。 分析。 上一页。 2011 , 43 , 498–515. [ 谷歌学者 ] [ 交叉参考 ] 不列颠哥伦比亚省特夫特,美国1999-2008年涉及昏昏欲睡驾驶员的机动车碰撞的普遍性。 Accid公司。 分析。 上一页。 2012 , 45 , 180–186. [ 谷歌学者 ] [ 交叉参考 ] 欧文斯,J.M。; 丁格斯,T.A。; 郭,F。; 方,Y。; 佩雷斯,M。; McClafferty,J。; 不列颠哥伦比亚省特夫特。 昏睡驾驶车祸的流行率:一项大规模自然驾驶研究的估计 ; AAA交通安全基金会:美国华盛顿特区,2018年。 [ 谷歌学者 ] Cyganek,B。; Gruszczynski,S.用于驾驶员眼睛识别和疲劳监测的混合计算机视觉系统。 神经计算 2014 , 126 , 78–94. [ 谷歌学者 ] [ 交叉参考 ] Bafna,T。; Hansen,J.P.使用眼力测量法测量精神疲劳:系统文献综述。 心理生理学 2021 , 58 , 3–23. [ 谷歌学者 ] [ 交叉参考 ] 比基纳,O.V。; Park,J。; Kim,H.K.追踪眼球指标对感知驾驶工作量进行分类和预测的能力。 国际J.Ind.Ergon。 2021 , 86 , 103193. [ 谷歌学者 ] [ 交叉参考 ] Fu,X。; 关,X。; 佩利,E。; 刘,H。; 罗,G.自然驾驶环境中驾驶员头部方位的自动校准方法。 IEEE传输。 智力。 运输。 系统。 2012 , 14 , 303–312. [ 谷歌学者 ] [ 交叉参考 ] [ 绿色版本 ] Dziuda,Ł。; 巴兰,P。; 杰林斯基,P。; 穆拉夫斯基,K。; Dziwosz,M。; Krej,M。; Piotrowski,M。; Stablewski,R。; 沃伊达斯,A。; 斯特拉斯,W。; 等。在模拟研究中,使用从卡车司机处获得的闭眼相关指标评估疲劳检测器。 传感器 2021 , 21 , 6449. [ 谷歌学者 ] [ 交叉参考 ] 哈里,C.V。; Sankaran,P.使用面部姿势提示进行驾驶员分心分析。 专家系统。 申请。 2021 , 179 ,115036页。 [ 谷歌学者 ] [ 交叉参考 ] 对冲与公司。 基于车辆的驾驶员状态/性能监测研究; 驾驶员睡意检测算法的开发、验证和改进 ; 最终报告; 技术报告; 对冲公司:美国俄亥俄州哈德逊,2021年。 [ 谷歌学者 ] Venkata Phanikrishna,B。; Jaya Prakash,A。; Suchismitha,C.使用脑电图信号检测睡意的机器学习技术深度综述。 IETE J.研究。 2021 , 1–16. [ 谷歌学者 ] [ 交叉参考 ] 拉姆赞,M。; Khan,H.U。; 阿旺,S.M。; Ismail,A。; 伊利亚斯,M。; Mahmood,A.关于最先进的睡意检测技术的调查。 IEEE接入 2019 , 7 , 61904–61919. [ 谷歌学者 ] [ 交叉参考 ] Young,L.R。; Sheena,D.眼动记录方法调查。 行为。 研究方法仪器。 1975 , 7 , 397–429. [ 谷歌学者 ] [ 交叉参考 ] [ 绿色版本 ] 田,Y。; Cao,J.基于眼电图的疲劳驾驶检测:综述。 EURASIP J.图像视频处理。 2021 , 2021 , 33. [ 谷歌学者 ] [ 交叉参考 ] 薛庆华。; Zheng,W.L。; Lu,B.L.驾驶疲劳检测与脑电图和额头电图的融合。 2016年7月24日至29日,加拿大不列颠哥伦比亚省温哥华市,2016年国际神经网络联合会议(IJCNN)会议记录。 [ 谷歌学者 ] 施密特,J。; 拉鲁西,R。; 斯托兹曼,W。; Karrer-Gauß,K.使用EOG和驾驶员摄像头对有条件自动驾驶和手动驾驶中的不同驾驶员状态进行眨眼检测。 行为。 研究方法 2018 , 50 , 1088–1101. [ 谷歌学者 ] [ 交叉参考 ] [ 绿色版本 ] 新墨西哥州潘迪。; Muppalaneni,N.B.关于驾驶员睡意检测中视觉和非视觉特征的调查。 多模式。 工具应用程序。 2022 , 81 , 38175–38215. [ 谷歌学者 ] [ 交叉参考 ] Maior,C.B.S。; 达斯·查加斯·莫拉,M.J。; 桑塔纳,J.M.M。; Lins,I.D.使用眼睛纵横比进行自主嗜睡检测的实时分类。 专家系统。 申请。 2020 , 158 , 113505. [ 谷歌学者 ] [ 交叉参考 ] Cheng,Q。; Wang,W。; 蒋,X。; Hou,S。; Qin,Y.使用面部标志物评估驾驶员精神疲劳。 IEEE接入 2019 , 7 , 150423–150434. [ 谷歌学者 ] [ 交叉参考 ] 巴米代尔,A.A。; Kamardin,K。; 新南威尔士州Abd Aziz。; Sam,S.M。; 艾哈迈德,I.S。; 阿齐赞,A。; 北卡罗来纳州巴尼。; 凯迪,H.M.基于面部和眼睛跟踪的非侵入式驾驶员睡意检测。 国际期刊高级计算。 科学。 申请。 2019 , 10 , 549–562. [ 谷歌学者 ] [ 交叉参考 ] [ 绿色版本 ] Madiredy,R。; Anudeep,D.S.K。; 普纳,S.S。; Anuraj,K。; Krishna,M.G。; Balaji,A。; Venkat,D.J.使用传统机器学习的驾驶员睡意检测系统。 在 计算机网络和创新通信技术:2020年第三届ICCNCT会议记录 ; 施普林格:新加坡,2021年; 第407-415页。 [ 谷歌学者 ] 阿联酋库马尔。; 辛格博士。; Jugran,S。; 普尼亚,P。; Negi,V.智能驾驶员睡意检测方法系统。 国际工程技术杂志。 2018 , 7 , 160–163. [ 谷歌学者 ] [ 交叉参考 ] 邓,W。; Wu,R.使用面部特征的实时驾驶员睡意检测系统。 IEEE接入 2019 , 7 , 118727–118738. [ 谷歌学者 ] [ 交叉参考 ] 刘,Z。; 彭,Y。; Hu,W.基于深度学习的面部表情表示的驾驶员疲劳检测。 视觉杂志。 Commun公司。 图像表示。 2020 , 71 , 102723. [ 谷歌学者 ] [ 交叉参考 ] Schweizer,T。; Wyss,T。; Gilgen-Ammann,R.《使用追踪眼睛的眼镜检测士兵疲劳:实际现场应用和研究机会》。 密尔。 医学。 2022 , 187 ,e1330–e1337。 [ 谷歌学者 ] [ 交叉参考 ] [ 公共医学 ] 高X.Y。; Zhang,Y.F。; Zheng,W.L。; Lu,B.-L.使用眼睛跟踪眼镜评估驾驶疲劳检测算法。 2015年4月22日至24日在法国蒙彼利埃举行的2015年第七届国际IEEE/EMBS神经工程会议记录; IEEE:美国新泽西州皮斯卡塔韦,2015年; 第767–770页。 [ 谷歌学者 ] 丁格斯,D.F。; R.格雷斯。 PERCLOS:一种有效的精神运动警觉性心理生理测量方法 ; 出版物编号FHWA-MCRT-98-006; 美国运输部,联邦公路管理局:美国华盛顿特区,1998年。 帕莱塔,L。; 施瓦兹,M。; Wollendorfer,C。; Perko,R.使用眼睛跟踪眼镜进行驾驶员注意力分散研究的信息融合。 在 交通人文方面的进展:第一部分 ; AHFE开放存取:美国纽约州纽约市,2021年。 [ 谷歌学者 ] He,J。; Choi,W。; 杨,Y。; 卢,J。; 吴,X。; Peng,K.,使用可穿戴设备检测驾驶员睡意:接近传感器的可行性研究。 申请。 埃尔贡。 2017 , 65 , 473–480. [ 谷歌学者 ] [ 交叉参考 ] [ 公共医学 ] 杨,J。; 刘,Q。; Zhang,K.堆叠沙漏网络用于稳健的面部地标定位。 2017年7月21日至26日在美国夏威夷州火奴鲁鲁举行的IEEE计算机视觉和模式识别研讨会会议记录; 第79-87页。 [ 谷歌学者 ] 他,K。; 张,X。; 任,S。; Sun,J.图像识别的深度残差学习。 2016年6月27日至30日,美国内华达州拉斯维加斯,IEEE计算机视觉和模式识别会议记录; 第770-778页。 [ 谷歌学者 ] A.纽厄尔。; 黄,Z。; Deng,J.Associative embedding:联合检测和分组的端到端学习。 在 神经信息处理系统研究进展 ; Curran Associates Inc.:美国纽约州Red Hook,2017年。 [ 谷歌学者 ] 曹,Z。; 西蒙,T。; Wei,S.E。; Sheikh,Y.使用部分亲和字段的实时多人2D姿势估计。 2017年7月21日至26日在美国夏威夷州火奴鲁鲁举行的IEEE计算机视觉和模式识别会议记录; 第7291–7299页。 [ 谷歌学者 ] David,联邦医学博士。; 医学硕士Malissa。; 格雷格,M。; J.W.鲍威尔。 眼睛测量技术作为疲劳指标和警觉管理基础的评估 ; 技术报告; 美国国家公路交通安全管理局:美国华盛顿特区,1998年。 Sommer,D。; Golz,M.基于PERCLOS的当前疲劳监测技术评估。 2010年8月31日至9月4日在阿根廷布宜诺斯艾利斯举行的2010年IEEE医学和生物学工程国际年会论文集; IEEE:皮斯卡塔韦,新泽西州,美国,2010年; 第4456–4459页。 [ 谷歌学者 ] Qing,W。; 冰雪,S。; Bin,X。; Zhao,J.基于perclos的驾驶员疲劳识别应用程序,用于智能车辆空间。 2010年10月5日至17日,中国青岛,2010年第三届信息处理国际研讨会论文集; IEEE:皮斯卡塔韦,新泽西州,美国,2010年; 第437-441页。 [ 谷歌学者 ] Ghose,美国。; 斯里尼瓦桑,A.A。; 波伊斯,W.P。; Chng,E.S.PyTrack:眼跟踪的端到端分析工具包。 行为。 研究方法 2020 , 52 , 2588–2603. [ 谷歌学者 ] [ 交叉参考 ] Hershman,R。; Henik,A。; Cohen,N.一种基于瞳孔测量噪声的新型眨眼检测方法。 行为。 研究方法 2018 , 50 , 107–114. [ 谷歌学者 ] [ 交叉参考 ] Dari,S。; Epple,N。; Protschky,V.基于自然驾驶数据的无监督眨眼检测和驾驶员睡意指标。 在2020年9月20日至23日于希腊罗兹举行的2020年IEEE第23届智能交通系统国际会议记录中; IEEE:美国新泽西州皮斯卡塔韦,2020年; 第1-6页。 [ 谷歌学者 ] 阿加瓦尔,M。; Sivakumar,R.Blink:脑电信号中眼链检测的全自动无监督算法。 2019年9月24日至27日在美国伊利诺伊州蒙蒂塞洛举行的第57届Allerton通信、控制和计算年会(Allerton)会议记录; IEEE:美国新泽西州皮斯卡塔韦,2019年; 第1113-1121页。 [ 谷歌学者 ] Liao,T.W.时间序列数据的聚类——一项调查。 模式识别。 2005 , 38 , 1857–1874. [ 谷歌学者 ] [ 交叉参考 ] Cohen,J.《心理学定量方法:力量入门》。 精神病。 牛市。 1992 , 112 , 1155–1159. [ 谷歌学者 ] [ 交叉参考 ]