计算机科学家谈AI：前期算法设计很重要，应确保各层面公平

近年来，随着大模型技术的兴起，人工智能将推动人类走向怎样的未来，成为时代之问。今年诺贝尔三大科学奖项中，两大奖项与人工智能研究相关，再度掀起讨论热潮。

10月25日至27日，2024世界顶尖科学家论坛在上海临港新片区世界顶尖科学家论坛永久会址举行。2024世界顶尖科学家协会奖（WLA Prize）新晋得主、康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格（Jon Kleinberg）现场接受南都、N视频记者采访，回应人工智能技术如何保障公平与多元，以及人工智能成为今年诺贝尔奖“赢家”的意义所在。

乔恩·克莱因伯格是美国国家科学院、美国国家工程院、美国人文与科学院三料院士，也是智能科学领域近三十年来的领军人物之一。上世纪90年代，克莱因伯格的研究深刻影响了包括谷歌在内的搜索引擎设计；近20余年来，他又引领了社交网络的研究，并在机器学习如何与人类决策交互方面，为公平性问题开发算法。

乔恩·克莱因伯格（Jon Kleinberg）。

算法有助于人类检测偏见

“当我们回头去看种种颠覆性的科技进展时就会发现，它们有的让人们从中受益，也有的会给社会带来新的风险，人类一直在试图打造一种平衡。”乔恩·克莱因伯格说。

谈及人工智能的快速发展，他向南都记者表示，如今关于人工智能的未来有各种各样的预言，他相信其中很多都将成为现实。正因如此，在看到强大技术带来的益处的同时，人们也不得不思考如何应对和减少风险。

克莱因伯格指出，人工智能与所有现有技术都不同的地方在于，其在很多领域可以自动运行和做出决策，因此前期的算法设计和算法运行中的监督尤为重要。

如今，随着技术的日新月异，有关算法决策在公平性、透明度和隐私问题上的担忧与日俱增，对于算法偏见会否进一步扩大社会差距的讨论亦热度不减。

“算法自身不会产生偏见，是设计者使用的数据中往往带有普遍存在于社会中的偏见。”克莱因伯格向南都记者指出，与之相反的是，算法在某种程度上其实给了人们检测偏见的机会，而这些偏见往往是人类自身难以发现的。

在克莱因伯格看来，良好的规范可以使算法中的偏见更容易被发现。因此，在设计算法时，要尽可能多地在前期设计上下功夫，弄清楚目标、宗旨与数据训练的方向。因为如果在应用到真实世界之后才回溯性地进行补救，亡羊补牢的难度将非常大。同时，必须考虑到多元化和多维度的公平与标准，并开发新的技术方法，尽可能确保算法在各个层面上都是公平的。

克莱因伯格对南都记者说，对于方兴未艾的新兴技术而言，持续不断的监测非常重要。人工智能的发展仍是在人类的控制当中的，设计者可以并应该选择用人工智能去造福人类。

AI跨学科贡献已获诺奖认可

克莱因伯格曾在不同场合强调，算法还可能存在文化单一问题。他坚持，技术设计和社会政策、法规之间始终需要保持对话，与此同时，在使用算法工具的时候，设计者、使用者、研究者也需要保持一定的多元性。为此，他十分重视跨学科合作。

南都记者了解到，克莱因伯格本人的研究横跨算法、行为经济学、博弈论、法律和网络等诸多学科。今年9月，乔恩·克莱因伯格获颁2024世界顶尖科学家协会奖，就是表彰他在计算机科学与社会科学交叉领域作出的开创性贡献，包括他在社会网络和算法公平性领域发挥的智识领导力。

“我与很多人的合作并不是始于某个具体问题，而是彼此谈着谈着就有了灵感。”谈及与社会科学领域同行的互动与合作，克莱因伯格表示，虽然社会科学往往不像理工科一样有许多晦涩难懂的术语，很多社科课题与日常生活中大家早已习以为常的现象息息相关，但解答起来并不容易。

他指出，无论是在理论还是实证研究层面，社会科学都有着悠久的历史，很多政策决策都是以社会科学研究为依据，这些宝贵的经验财富与科技领域的研究实际上是能够相辅相成的。

南都记者注意到，2024年诺贝尔三大科学奖项中，已有两大奖项与人工智能研究相关。先是物理学奖颁给了曾获图灵奖的机器学习先驱，紧接着化学奖也将一半颁给了“程序员”。一时间，人工智能与基础科学的互动成为讨论的焦点。

谈及这一话题，乔恩·克莱因伯格向南都记者表示，解决问题并让工作成果惠及更多人，是科学家们的最终目的，科学本身没有领域之分。人工智能现已在诸多领域得到发展，相对应的是，也会有各种各样的想法融入到人工智能的发展当中。此次诺贝尔奖的颁发，也正认可人工智能的跨学科贡献。

采写：南都记者 翁安琪 发自上海