何向南：算法公平需要考虑多方利益诉求，兼顾短期和长期目标
来源：中新经纬 2022-03-24 15:23:50
中新经纬3月24日电 （王玉玲）近日，由中国人民大学高瓴人工智能学院、智能社会治理跨学科交叉平台和基于大数据文科综合训练国家级虚拟仿真实验教学中心联合主办的算法公平性与内容生态建设研讨会在线上举行。中国科学技术大学教授何向南表示，推荐系统是一个多方参与的游戏，不同群体对公平性和准确性的诉求不同。公平性很难定义，对于算法公平性的研究，需要考虑不同群体的不同诉求。
“对于用户来说，算法的公平就是保证用户能够获取高质量的信息；从平台和商户的角度来说，算法公平就是要保证平台和商户在市场上的存活率以及用户活跃度。所以实现算法公平性，需要考虑不同群体的不同诉求。”何向南说道。
何向南表示，从用户角度思考算法公平性，就是让用户对算法有一定的控制能力，比如，允许用户自由地选择打开或者关闭算法的推荐功能等。
从监管的角度思考公平性，需要第三方监管机构对算法公平性进行监测，以及对平台自身构造算法的公平性进行评估。现在个性化算法技术底层仍是基于用户与推荐对象的相关性进行推荐决策的。而公平性与个性化在某些层面上是高度相关的。在实际场景中，有的个性化意味着公平，而有的个性化意味着歧视和不公平。然而数据本身并不能体现什么样的个性化推荐是好的。那么，人为引导算法的设计和决策过程对规避算法的不公平问题具有重要作用，其中引入外部知识或者使用因果推理是研究算法公平性问题的有效途径。
“推荐系统不仅有很多短期目标，还有很多长期目标。公平性与算法的短期和长期目标并不是完全冲突的。在很多场景下，算法的公平性与其短期和长期目标是可以实现双赢的。”何向南表示。（中新经纬APP）
中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。
相关文章
猜你喜欢
今日头条
图文推荐
精彩文章
随机推荐