《自然》呼吁对情绪识别技术进行监管

科技日记者 刘霞

英国《自然》网站近日颁发文章指出，新冠疫情期间，很多公司推出了可以识别人类情绪的人工智能（AI），但这些东西提供的解释和数据很难证实。因此，随着这一范围的市场规模与日俱增，当局应立法对其进行监管。

《自然》文章称，新冠疫情期间，科技公司一直在大力大举推销他们的情绪识别软件，用于长途监控工人甚至儿童。好比，一款名为“4棵小树”的系统，可以在学生做功课时评估他们的情绪。这款软件会绘制每个学生的面部特征图，将其情绪状态划分为快乐、哀痛、恼怒、厌恶、惊讶和恐惧等类别。其还可以衡量学生的学习“动机”并预测结果。别的，目前市面上还呈现了多款可以长途监视工人的类似东西。据估计，到2026年，情绪识别财富的规模将到达370亿美元。

尽管如此，对付AI能否检测出情绪，科学界一直不曾告竣共识，2019年的一份综合评估研究也未找到可靠证据。

此刻，科学界越来越关注这些技术的使用以及滥用情况。Affectiva人工智能初创公司联合开办人、麻省理工学院感情计算研究小组卖力人罗莎琳德·皮卡德就暗示，她支持对这一范围进行监管。

学者们也呼吁对招聘中使用的所有AI技术进行强制性、严格的审核，同时公开披露观察成果。今年3月，由英国伦敦艾达洛夫蕾丝研究所召集的一个小组暗示，应该创立独立的法令机构来监督生物识别技术的开发和使用。这种监督对付防御所谓的“心理激动”驱动的系统至关重要。这种系统会从外在表象中得出关于内部状态和能力的错误假设。

文章指出，世界各国都制定了相关规则，对开发治疗人体疾病的药物进行严格监管，识别我们情绪和想法的AI东西应该也需要监管。多年来，学者们一直呼吁联邦当局对机器人技术和面部识别技术进行监管，此刻，监管还应该扩展到感情识别范围，出格是那些针对儿童和其他弱势群体的应用。

很多此类软件无法提供有效证据，但却会给人们带来很大影响。好比，求职者会因为面部心情或声调不切合雇主的要求而受到不公平看待；学生会因为他们的脸看起来很生气而在学校受到警告，等等。因此，不能再让情绪识别技术不受监管。当局需要立法，禁止这些东西在未被证实的情况下用于教育、医疗、就业和刑事司法等所有范围。