2024年世界互联网大会乌镇峰会的主题是“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。本次乌镇峰会将聚焦人工智能技术、产业发展及其对人类经济社会的影响，回应各方对人工智能发展与治理的关切。
人工智能是人类发展新领域。1956年夏，麦卡锡、明斯基等科学家在美国达特茅斯学院开会研讨“如何用机器模拟人的智能”，首次提出“人工智能”这一概念，标志着人工智能学科的诞生。经过60多年的发展历程，随着大数据、云计算、互联网、物联网等信息技术的发展，以深度神经网络为代表的人工智能技术飞速发展，大幅跨越了科学与应用之间的“技术鸿沟”，迎来爆发式增长的新高潮。2022年，生成式人工智能的兴起标志着新一代人工智能的一个重要分支的形成，其发展由“四驾马车”并驱前行：算力、算法、数据和模型。特别是大模型的涌现，成为人工智能发展的里程碑技术，为通用人工智能的实现打开了新的想象空间。
中国高度重视全球新一代人工智能的发展、安全和治理。2018年10月31日，习近平总书记在主持中共中央政治局第九次集体学习时强调，要“加强领导做好规划明确任务夯实基础，推动我国新一代人工智能健康发展”。2023年10月18日，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中提出《全球人工智能治理倡议》，强调坚持“以人为本、智能向善”，为世界提供了基于人类命运共同体理念的人工智能治理新视角。2024年6月12日，习近平主席在向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞时提出，“坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理”，对当下国际社会普遍关注的人工智能发展方向提出建设性思路。2024年7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。该决议进一步强调人工智能发展应坚持以人为本、智能向善、造福人类的原则，充分彰显了中国在人工智能发展和治理中的重要引领作用。
当前，全球人工智能技术迭代加速，给人类社会带来了巨大变革，同时也带来了难以预知的风险和复杂挑战。尤其是生成式人工智能的兴起并走向商用，以及智能网联汽车、具有高级自主能力的机器人、战争机器人和无人机等人工智能体的成熟，正以前所未有的态势挑战着传统的治理模式。全球人工智能治理急需完善国际合作机制，中国提出的坚持“以人为本”、“智能向善”的发展理念，已成为打造全球人工智能良好发展生态的两大基石。
坚持“以人为本”的发展理念，是推动人工智能发展的价值导向。“以人为本”是中华优秀传统文化的重要理念。坚持“以人为本”，意在警示人工智能技术发展不能偏离人类文明进步的方向，国际社会要以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。
2023年8月15日，我国首部《生成式人工智能服务管理暂行办法》正式施行，这被视为全球首部针对生成式人工智能的立法，旨在促进生成式人工智能的健康发展与规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。该法规充分体现了“以人为本”的发展理念，明确规定提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。与此同时，该法规在提供生成式人工智能“服务规范”中重点强调了对个人信息的保护。
坚持“智能向善”的发展理念，是推动人工智能治理的基本途径。“智能向善”的基本要义是人工智能发展应遵守基本的伦理规范和法律规范，符合和平、发展、公平、正义、民主、自由的全人类共同价值追求。坚持“智能向善”，旨在规范人工智能在法律、伦理和人道主义层面的价值取向，确保人工智能发展安全可控。“智能向善”的核心是“算法向善”，这是人工智能治理的前提和基础。算法作为人工智能的“大脑”，通过各类数字平台和大模型深刻嵌入每个人的日常生活和社会结构中。算法本身作为理性的数学公式，并不具备价值观，但算法的设计和优化却由人完成，因此算法背后深刻体现了人的价值观。如果人的价值观向善，所设计的算法自然也会向善；反之，则可能出现“算法向恶”。过去一段时间，滥用数据分析和算法推荐的现象较为普遍，不仅扰乱了正常的传播秩序、市场秩序和社会秩序，也给维护消费者合法权益、社会公平公正和意识形态安全带来了严峻挑战。
2022年3月1日，国家互联网信息办公室等四部门发布的《互联网信息服务算法推荐管理规定》正式施行，规定算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。除此之外，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
人工智能是新一轮科技革命和产业变革的重要驱动力量，将对全球经济社会发展和人类文明进步产生深远影响。引领全球人工智能健康发展，中国始终致力于在人工智能领域构建人类命运共同体。“以人为本、智能向善”，既是中国给出的发展方向，也是众多国家的共同诉求，更是人类迎接人工智能时代的必然选择。
（作者：南京邮电大学教授、浙江大学双聘教授，中国科协决策咨询首席专家，工信部信息通信经济专家委员会委员，中国法学会网络与信息法学研究会常务理事）
