文继荣：关注公平性问题 让算法设计过程有“温度”

中新经纬3月24日电 (薛宇飞)近日，由中国人民大学高瓴人工智能学院、智能社会治理跨学科交叉平台和基于大数据文科综合训练国家级虚拟仿真实验教学中心联合主办的算法公平性与内容生态建设研讨会在线上举行。中国人民大学高瓴人工智能学院执行院长文继荣教授指出，算法公平性是坚持算法向善和可持续发展的核心理念，解决算法的公平性问题需要让算法设计过程有“温度”，研究有“温度”的人工智能有助于为社会提供有“温度”的服务，促进社会和谐发展。

“进入人工智能时代，我们生活在与智能算法共存的新世界里，智能算法是一把双刃剑，如果能被有效利用，它可以成为有‘温度’的助手，但如果未利用好，算法可能会成为‘对手’，所以，研究算法公平性的重要性日益凸显。”他说，随着智能算法在人们工作生活中的广泛应用，折射出了公平性问题，比如大数据杀熟等现象日益凸显，社会不同个体或者团体在资源占有、分配和使用中存在不公平现象，影响个体满意度和对算法的信任度，从而可能产生广泛的社会影响。

文继荣称，中国人民大学高瓴人工智能学院提出的口号是“做有温度的人工智能”。如果算法设计过程中没有考虑“温度”，会使得算法冷冰冰的，有点不近人情，进而无法更好地服务社会。

“在未来，人工智能应用，比如智能体、自动驾驶，会越来越多的出现在人们的生活中，这些智能应用甚至在很多方面可能超越人的能力。我们研究人工智能的专家、学者和技术人员如果没有‘温度’，研究出来的人工智能体甚至可能会损害人类利益，尽管它是无意的。”他称，在有关指导性原则的引导下，学术界和产业界正着力推动公平机器学习理论、技术及应用发展，在推荐模型层面取得高准确率等指标已经不是唯一的追求。

文继荣进一步指出，从技术、经济发展、法律法规、社会价值等角度深入研究算法公平性问题的前沿解决方案和可行技术路线，是促进算法向善和可持续性发展的核心要素。(中新经纬APP)