日经中文网
NIKKEI——日本经济新闻中文版

  • 20xx 水曜日
  • 0708

  • 搜索
Home > 产业聚焦 > IT/家电 > 索尼将对所有AI产品进行伦理审查

索尼将对所有AI产品进行伦理审查

2020/12/23

PRINT

  索尼最早在2021年春季对所有使用人工智能(AI)的产品进行伦理方面的安全性审查。被判定为不合规的产品将进行整改或停止开发。AI可以提高便利性,但由于作业时的判断标准不透明,存在可能会无意中引起歧视等问题。随着AI产品的普及,开发人员的责任增大,企业也将强化对策。

   

  关于AI,已经有人指出可能会造成歧视或被用于军事领域。2019年美国苹果新推出的评估信用卡额度的算法被指出存在更加优待男性的问题,受此事影响,美国金融部门对发卡方高盛集团进行了调查。谷歌在2018年被曝出其AI技术可能被用于军用无人机,发生了数千名员工向高管提交抗议连署的事件。

    

   

  埃森哲的AI中心主任保科学世认为,如果AI进行了错误判断,“有可能威胁到业务的可持续性”。

   

  针对这一趋势,索尼将把AI伦理指南加入以电子产品为对象的公司内部品质管理步骤中。在衡量产品安全性的指标中加入AI伦理,这在日企之中很罕见。

   

  事业部从产品策划到售后的各个阶段,按照“隐私保护”等项目进行审查,如存在问题就进行整改。同时,还由首席执行官(CEO)指定AI伦理委员会的委员长,对指南的遵守情况进行仔细审查。即便是正在开发当中的产品,只要委员会做出判断,就可以建议中止。已经售出的产品,如发现有重大问题,也可能成为召回对象。 

     

索尼的机器狗“aibo”

    

  索尼在2018年发售的新型机器狗“aibo”具有通过AI识别声音和图像等功能。将来考虑对金融和娱乐等其他业务的产品及服务也引入AI伦理审查。在AI产品不断增加的背景下,探索把风险降至最低的方式。

   

  美国的大型IT企业也在采取同样的措施,谷歌从2018年起在公司内部施行AI伦理准则。规定了“避免不公平的偏见”等指导原则,触及上述原则的开发将不会被推进。微软也在产品的质量管理中加入AI伦理。

   

  日本九州大学准教授成原慧指出,“学习的数据存在偏差时,AI很容易做出错误判断”。另一方面,在现实中很难完整收集到公平的数据,进行伦理安全验证的重要性越来越高。

   

版权声明:日本经济新闻社版权所有,未经授权不得转载或部分复制,违者必究。

二维码

日经中文网
公众平台上线!
请扫描二维码,马上关注!

金融市场

日经225指数29751.61212.8804/13close
日经亚洲3001802.317.0704/13close
美元/日元109.35-0.1004/1319:26
美元/人民元6.5474-0.000504/1311:25
道琼斯指数33745.40-55.2004/12close
富时1006879.570-9.55004/1311:16
上海综合3396.4700-16.477704/13close
恒生指数28497.2543.9704/13close
纽约黄金1731.2-12.104/12close

关于日经指数