物联网开发

面部识别技术的道德原则

  面部识别技术在各个领域中的巨大潜力几乎是不可想象的。


  然而,在使用之前,需要解决其功能中常见的某些错误和一些道德问题。


  面部识别系统使用生物识别技术从照片或视频中映射面部特征,然后将这些信息与已知人脸数据库进行比对,以找到匹配项。面部识别可以帮助验证一个人的身份,但它也会引发隐私问题。


面部识别技术的道德原则


  与其他人工智能技术一样,在使用面部识别系统时需要遵循一些道德原则。这些原则包括:


  1、人脸识别的公平性


  首先,面部识别技术的开发必须确保系统能够完全防止或至少最小化基于种族、性别、面部特征、畸形或其他方面对任何个人或群体的偏见。现在,有充分的证据表明,面部识别系统在其运行中不可能 100% 公平。因此,开发该技术的公司通常需要花费数百小时来消除其中发现的所有偏见痕迹。


  组织必须加倍努力以消除面部识别系统中的偏见,为此,用于机器学习和标记的数据集必须多样化。最重要的是,一个公平的面部识别系统的输出质量将非常高,因为它可以在世界任何地方无缝工作,没有任何偏见。


  为了确保面部识别系统的公平性,开发人员还可以在测试阶段让最终客户参与进来。


  2、人工智能运作的开放性


  将面部识别系统纳入工作场所和网络安全系统的组织需要了解机器学习数据存储位置的所有信息。此类组织需要在实施该技术之前了解其局限性和功能。提供人工智能技术的公司必须在这些细节上对客户完全透明。此外,服务提供商还必须确保其面部识别系统可由客户根据其便利性从任何位置使用。并且系统中的任何更新必须在收到客户的有效批准后才能进行。


  3、利益相关方的责任


  如前所述,面部识别系统部署在多个领域。开发此类系统的组织必须对其负责,尤其是在技术可能直接影响任何个人或团体(执法、监视)的情况下。此类系统中的责任旨在防止系统可能造成的身体或健康伤害、财务挪用或其他由系统引起的问题。为了在流程中引入控制要素,需要让一名合格的人员负责组织中的系统,以做出合理的决策。除此之外,将面部识别系统纳入日常运营的组织必须立即解决与该技术相关的客户不满。


  4、监控前的同意和通知


  在正常情况下,未经个人、团体或其他人同意,不得使用面部识别系统对其进行窥探。某些机构,如欧盟,有一套标准化的法律(GDPR),以防止未经授权的组织监控个人。拥有此类系统的组织必须遵守该国所有的数据保护和隐私法规。


  5、合法监控以避免侵犯人权


  除非国家或政府决策管理机构出于与国家安全或其他重要情况相关的目的而授权,否则组织不能使用面部识别系统来监控任何个人或团体。基本上,严禁使用该技术侵犯受害者的人权和自由。


  6、购物时出现验证错误


  如前所述,面部识别系统被纳入数字支付应用程序中,以便用户可以使用该技术验证交易。使用这种技术进行支付,很可能会发生面部身份盗窃和借记卡欺诈等犯罪活动。客户之所以选择面部识别系统,是因为它为用户提供了极大的便利。然而,此类系统中可能发生的一个错误是,同卵双胞胎可以使用彼此银行账户进行未经授权的付款。


  7、执法申请不准确


  面部识别系统被用来在抓捕罪犯之前识别他们。虽然该技术作为一个概念在执法中无疑是有用的,但其工作中存在一些突出的问题,例如,有偏见的人工智能为执法人员提供了不准确的结果,因为有时系统无法区分有色人种。通常,这种系统是用包含白人图像的数据集来训练的。因此,在识别其他种族的人时,该系统的工作充满了错误。


  正如我们所看到的,与面部识别技术相关的主要问题和错误源于技术缺乏进步、数据集缺乏多样性以及组织对系统的低效处理。


  可以预见,随着未来技术的进一步进步,与技术相关的问题将得到解决;人工智能算法中与偏见相关的问题最终将被消除。然而,为了让该技术在不违反任何道德原则的情况下完美运行,组织必须对此类系统保持严格的治理水平。


  郑州博观电子科技有限公司是一家提供科技类物联网开发软硬件定制化方案服务商、也是中原地区领先的物联网终端设备解决方案提供商。致力共享换电柜、智能充电桩、共享洗车机、物联网软硬件等服务平台的方案开发与运维。总部位于河南省郑州市高新区,已取得国家高新技术企业认证证书。经过10多年的业务开拓,公司已经形成了以中原地区为中心、业务遍布全国的经营格局。


注:本站文章部分文字及图片来自互联网。如有侵权行为,请联系我们,我们会及时删除。