Nature：是时候该管一管AI心态识别的泛滥

在流感大流行期间，科技领域的公司长期在推销他们的情感标识应用软件，运用于远程防范雇员甚至儿童。以一个来由“4棵大树”的种系统为例。该项目在香港研发，坚称可以评估小孩子在课堂作业时的情感。它将每个学生的颈部特点分为为快乐、悲伤、生气、轻视、惊讶和恐惧等情感情况下。它还衡量标准“或许”和预测层级。近似于的方法已经主板，为远程工作者透过防范。分之一，到2026年，情感标识行业将持续增长到370亿美元。

对于人工智慧是否很难检验情感，自然科学家存在严重分歧。2019年的一项审查并未发现可靠的证明。该研究课题认为科技领域的公司提出非议的弊端很不太可能是实际上误判的。

自然科学上越来越关心这些应用的运运用于和滥用。学术界们吁请对所有运用于招聘的人工智慧应用进行强制性、严格的监管，并公开披露调查结果。有组织吁请不应成立一个单独的司法机构的机构来委派生物标识应用的转型和出台。这种委派对于击退颅相学盲目驱动的种系统至关最重要。颅相学盲目是指从外部表象中得出关于内外情况下和控制能力的误判假设，意在是提取出一个人的不够多个人信息，而不是他们选取揭示的个人信息。

世界各国在研发治疗人体的药物时都有严格的自然科学规定。那些坚称我们的思想的方法仅仅不应赢取同样的保护。直到现在，学术界们长期吁请联邦议会也就是说管理机器人和颈部标识;这也不应延伸到情感标识。现今是国家所管理的机构防范并不需要证实的提出申请的时候了，相当多是那些针对儿童和其他在生活中的提出申请。

临床试验的全盘指出了为什么管理是最重要的。联邦议会要求和随后的促销使不够多的临床试验数据资料向但政府会新开，并经过严格的可验证。这沦为不够好的方针制订和但政府会猜疑的种系统化。对情感应用的管理也会带来近似于的某种程度和负有。它还适度建立规范，以对抗大公司和但政府的越权举动。

测谎仪是一个有用的例证。这种“测谎仪”试验中发明于20世纪20年代，被联邦议会调查局和加拿大军方运运用于了几十年，结果前后不明确，伤害了数千人，直到联邦议会司法机构禁止运运用于。直到1998年，加拿大最高法院才得出结论:“对于测谎证明是否可靠，人们实际上并未实质。”

但魏茨县描述的六种情感完全符合新兴的计算机感官领域的模型。他的理论之所以被付诸实施，是因为它符合方法的功能。只要忽略不够简单的弊端，六种明确的情感就可以大规模标准化和种系统设计。2001年9年初11日恐怖袭击后，魏茨县将他的种系统转卖给了加拿大运输安全管理局，以评估哪些搭车观感出恐惧或不稳，以及不太可能是武装人员。它因缺乏信誉和种族偏见而受到浓烈非议。然而，今天的许多方法，如“四棵大树”，都是基于魏茨县的六种情感形态学。(魏茨县坚称，颈部夸张确实传达了相比较的情感，但他暗示，他并未看到种系统设计应用有效的证明。)

然而，的公司继续销售的应用软件，将影响人们的机会，并未清楚地记录，单独监管的证明的有效性。大公司主受到不不道德的评判，因为他们的颈部夸张或声调与雇员不匹配;学生们在学校被标记，因为他们的脸看来很生气。研究课题人员还指出，颈部标识应用软件认为非裔大眼睛比白人大眼睛有不够多的情感。

只能便允许情感标识应用不受管理。现今不应采取司法机构保护措施，防止在教育、保健、人力资源和刑事司法机构等所有领域并不需要证实地运运用于这些方法。这些保护措施将重新聚焦严格的自然科学，并拒绝内外情况下只是另一个数据资料集，可以从我们的鼻子刮走。

原文说是

Crawford K. Time to regulate AI that interprets human emotions. Nature. 2021;592(7853):167. doi:10.1038/d41586-021-00868-5