据研究人员报告，一种用于机器学习算法设计的新框架可帮助防止智能机器表现出不合需要的行为。这一框架在有偏差和健康的状况下进行了测试，它通过将避免不合需要行为的负担从用户（很多时候不是计算机科学家）转移给算法设计者而实现了这一壮举。使用新框架制作“行为良好”的算法不仅可以广泛地改善机器学习工具，而且还为新的使用机会做好了铺垫，尤其是在以前被认为机器学习风险过大的应用中。从医学诊断到财政预测，机器学习（ML）算法正成为一种越来越普遍存在的工具。鉴于其对各种作业变得日益熟练（其中许多可直接影响生活品质），确保它们不会表现出不合需要的行为（包括那些会对人造成伤害的行为）是至关重要的。已知有表现出歧视性偏差或延迟医学诊断的算法实例。标准的ML方法要求用户在算法上指定约束并对其进行编码以阻止不需要的行为。然而，许多用户缺乏这样做所需的ML和统计学知识。因此，在某些关键应用中安全且负责地使用ML可能颇为困难。为解决这一问题，Phillip Thomas和同事提出了一种将负担从用户转移到设计者的用于设计ML算法的框架。Thomas等人的方法无需用户对算法行为的约束进行编码（这项工作需要大量的领域知识或其它数据分析），而是令其成为用户能更为轻松完成的过程，且无需更多复杂的数据分析。作者通过设计ML算法并将其应用于性别公平和糖尿病管理等示例来证明其方法的裨益。他们证明，他们的算法阻止了由标准机器学习算法在这些情况下引起的危险行为。
###
Journal
Science