东京的DeepScore公司最近研发了一款AI智能面部语音识别程序，声称能“在一分钟内判断一个人是否值得信任”。比如，现在有一个需要进行商业贷款或购买医疗保险的用户，为判断他们是否足够可信以获得贷款或保险，他们需要看着摄像头并回答一些问题，包括“你打算如何使用这笔贷款？”“你是否患有癌症？”。在这个过程中，该程序通过分析他们面部肌肉的抽动和声音的变化来判断此人是否值得信任，从而帮助贷款方或保险公司做出裁决。Deepscore表示，该应用的检测成功率约为70%。

不过，面部及语音识别程序所捕捉到的信息真的能衡量我们的诚实度吗？人权观察的人工智能研究专家阿莫斯·托（Amos Toh）说，“我对这项技术真正担心的地方在于，没有可靠的科学证据表明我们的面部表情或声音的变化可以作为判断精神情绪状态的依据。”。此外，算法对于不同人群存在一定的测量偏差，或者歧视。比如，面部识别技术对女性和肤色较深的人展现出偏低的准确性，高差异化的文化背景对算法准确度影响较大。算法偏差审计平台Parity AI的创始人鲁曼·乔杜里（Rumman Chowdhury）认为该程序可能存在着歧视抽搐症、焦虑症或神经非典型用户的设计。