北卡罗莱纳州立大学和宾夕法尼亚州立大学的研究人员现在建议,软件开发人员将“女权主义设计思维”的概念纳入其开发过程中,以提高公平性,尤其是在招聘过程中使用的软件开发中。
北卡罗来纳州大学信息系统/技术教授,大学教授Fay Payton表示:“似乎有无数的故事说明了AI的偏见正在表现出来,并且关于造成这种偏见的原因有很多想法。”州。“我们的目标是提出可用于开发可行解决方案的指南,以解决针对IT劳动力中女性,非裔美国人和拉丁裔专业人员的算法偏见。
“太多的现有聘用算法结合了事实上的身份标记,由于其性别,种族,族裔,年龄等因素而将合格的候选人排除在外,”该论文的主要共同作者佩顿说。“我们只是在寻求公平-求职者能够平等地参与招聘过程。”
佩顿和她的合作者认为,一种称为女性主义设计思维的方法可以作为开发软件的有价值的框架,从而以有意义的方式减少算法偏差。在这种情况下,女权主义设计思想的应用意味着将公平的思想纳入算法本身的设计中。
“共同的算法偏见是女性历史上代表性不足的原因,Black和Latinx软件工程师根据他们的生活经验提供了有关公平设计方法的新颖见解,”该论文的共同主要作者,Lynette Yarger说道。宾夕法尼亚州立大学的信息科学与技术。
佩顿说:“从本质上讲,这种方法意味着要开发出一种算法,该算法重视跨性别,种族和种族的包容性和公平性。”“这的实际应用是开发和实现一种创建算法的过程,设计师可以考虑其中的受众,其中包括女性,包括黑人,包括拉丁裔。本质上,将要求所有背景的开发人员积极考虑并珍视与自己不同的人。
“要明确,这不仅仅是做某事,因为它在道德上是正确的。但是我们知道,在IT领域,女性,非洲裔美国人和拉丁裔人的人数不足。而且有充分的证据表明,多元化,包容性的员工队伍可以改善公司的底线。” Payton说。“如果您能做正确的事并提高您的利润率,为什么不呢?”