中新经纬7月15日电(王玉玲)日前，由对外经济贸易学院数字经济与法律创新研究中心承办的“算法公正整治与实现”研讨会在线上召开。中国人民学院高瓴人工智能大学助理院长陈旭对推荐算法领域公正性进行了介绍。
推荐算法是明日头条、优酷等各大网站中标配的组件，它可以减轻信息过载问题，帮助用户节约大量时间，找到自己感兴趣的商品、视频和其他信息，也可以帮助企业提高销量，在互联网当中应用广泛。
陈旭介绍道，从人工智能角度来讲，推荐算法和传统人工智能，包括计算机视觉、自然语言处理有所差异，前者偏向客观AI，后者偏向主观AI，公正性指标对其更为重要。因为推荐系统用户本身的差别，基于用户的公正性在实现过程中更关注不同组用户对推荐结果满意度的公正，而不局限于追求推荐结果的一致性。主观AI以提高利益方的效益为目的，而并非单纯提高确切度，利益方包括用户、商家、其别人员，如骑手等。“效益比确切度的范围要大好多，公正性就是效益的一个重要方面。”陈旭说道。
对于推荐系统领域的公正性，陈旭将其分为三类新农夫算法，包括基于用户的公正、基于商品的公正和基于用户和商品的公正。基于用户的公正有两种比较常用的定义，第一种是希望对于不同组的用户，推荐结果应当尽量相像。但推荐结果相像，对于个人来讲满意度可能会增加，所以在这个基础上人们又提出基于用户满意度的公正性。例如对于不同用户新农夫算法，并不须要给她们推荐相像结果，只须要让不同用户之间满意度比较相像即可。假如有的用户满意度比较高，有的用户满意度比较低，则被觉得是不公正的。所以基于推荐结果的满意度公正性目前在推荐系统领域较为推崇。基于商品的公正性希望热门商品被推荐的机率稍为低一点，小众商品被推荐的机率尽量初一点。基于用户和商品的公正性是将上述两类方式融合在一起。
从实现的角度来讲，基于公正性的推荐算法一般可以分为三类，第一是前处理方式，这类方式常常直接去掉敏感变量或通过调整权重、删除样本等方法使敏感变量和预测结果互相独立；第二是中处理方式，它希望模型学习形成的结果本身就是公正的，而无需对数据进行预处理；第三是后处理方式，在这类方式中，人们一般先预训练推荐模型，之后对推荐结果进行重排序，致使它才能满足群组或个体的公正性约束。对于推荐算法的公正性，未来仍需研究三个问题：第一，个人怎样才能感遭到算法是否公正；第二，算法公正性的定义诸多，以何种标准来定义公正更为合适；第三，对于多敏感变量，非常是互相矛盾的敏感变量，怎么权衡实现公正。(更多报导线索，请联系本文作者王玉玲：wangyuling@chinanews.com.cn)(中新经纬APP)
暂无评论内容