0 引言
新一代人工智能技术为各行各业带来了颠覆性的革新，尤其是以DeepSeek、ChatGPT、Claude等为代表的生成式人工智能在公众生活与科研工作的广泛应用，将人类从重复枯燥的工作中解放出来，大幅度提高了工作效率。与此同时，人工智能引发的数据泄露风险、侵权风险、模型和算法的偏见问题等风险挑战也在冲击着社会治理的有序性和国家竞争的稳定性
[1]，如何化解人工智能引发的“科林格里奇困境”已经成为各界探讨的热点问题
[2-3]。为此，欧盟于2024年发布《人工智能法案》，美国与英国已于2023年先后分别成立人工智能安全研究所，旨在推动人工智能安全发展。我国2023年发布《生成式人工智能服务管理暂行办法》，这是世界上首个针对生成式人工智能治理的政府文件，同年提出《全球人工智能治理倡议》呼吁协同治理，增强发展中国家在AI全球治理中的代表性和发言权
[1]。
联合国于2023年10月成立了高级别人工智能咨询机构，并在2024年9月发布了《为人类治理人工智能》的报告，旨在消除人工智能相关风险。2024年，联合国秘书长古特雷斯在安理会上强调，必须关注人工智能技术的可持续发展，聚焦和平与安全，开发可靠且安全的人工智能。2025年，《国务院关于深入实施“人工智能+”行动的意见》明确指出“支持联合国在人工智能全球治理中发挥主渠道作用，探索形成各国广泛参与的治理框架”
[4]。作为当今世界上最具普遍性、权威性和代表性的政府间国际组织，联合国发布的政策文件体现出全球视野与国际导向。鉴于目前既有研究缺少对国际组织人工智能治理模式的深度分析，本研究选取联合国发布的政策文本作为切入点，梳理其官方政策文件，通过主题建模的方式分析其治理方向与治理模式，进而为人工智能治理模式的探索提供一定的思路与借鉴。
1 相关研究
治理的重点在于如何引导经济和社会实现集体目标
[5]，是组织机构引导相关活动的规则和规范。对人工智能技术进行治理主要是为了防范其技术风险对社会各界造成的不良影响，引导技术向善，促进技术在不影响人类社会秩序的条件下安全发展，为此需促进多方主体参与构建安全可靠且健康发展的治理体系。目前对人工智能治理的研究主要包括对人工智能某一应用风险的针对性研究、对人工智能治理机制与治理模式的比较研究、对人工智能治理机制与模式的观点性研究3大类，本文主要对前2类研究展开综述。
1.1 人工智能应用风险治理的针对性研究
目前，学界已经对人工智能具有的算法风险
[6-7]、数据安全风险
[8-10]、科研伦理风险
[11]、认知风险
[12-13]等展开研究，大多通过对风险进行聚焦，针对某1个应用风险展开剖析并提出治理措施，总体遵循“定义问题-剖析成因-现实困境-解决方案”的研究思路。
针对人工智能算法风险的研究主要包括对算法的恶意使用、算法的偏差与幻觉问题等。有研究
[14]指出，人工智能具有算法被恶意滥用的风险，影响算法模型的安全性，已经有证据
[15]表明，网络犯罪分子企图利用生成式人工智能编写暗网市场的恶意代码。人工智能过度依赖训练数据的特点可能会延续数据中的偏见和不确定性
[16]，其输出的内容未必完全真实，可能会增加用户被人工智能输出信息影响的风险。针对人工智能的算法安全问题，有研究
[14]指出，要强化主体责任，加强对检测技术的开发，同时政府要推进协同治理。也有研究
[17]提出“治理型监督”，针对新型技术范式展开以监管权的开放协同、监管方式的多元融合、监管措施的兼容适配为核心特征的监管思路。
针对人工智能的数据安全风险的研究主要聚焦在数据泄露、数据污染、训练数据版权问题等。数据泄露问题关乎用户个人隐私泄露、科研机密甚至国家安全信息，人工智能的训练通常涉及较大的数据体量，一旦发生泄露，将导致大范围的隐私和著作权侵权，有研究从生成式人工智能的输入端、运算端、存储端、输出端入手，提出要加强数据被动出境治理、强化生成式人工智能的市场准入准则、提高数据安全突发事件的应急能力等治理措施
[9]。针对数据污染问题，有研究倡导动态的结果导向的治理视角，建立数据污染治理归责制度，形成多元综合治理路径
[10]。对训练数据的版权问题，大多数研究通过对美国、日本、欧洲、英国等国家/地区的治理实践来讨论是否应将人工智能对训练数据的使用纳入“合理使用”范畴
[18-20]。
人工智能的认知风险主要体现在认知失调、认知同质化与认知惰性方面，认知失调风险是指由于人工智能产生的虚假信息对用户产生的影响。已有研究
[13]表明人们难以正确识别生成式人工智能生成的摘要和人工编写的摘要。认知同质化风险是指人工智能的工具的使用可能在一定程度上抹杀了人类工作中多样性带来的知识创新。认知惰性风险是指人们过度依赖人工智能导致一些虚假信息、危险信息的入侵，影响个人安全甚至威胁国家安全。为此，有研究提出推动人机协同共治，完善数据质量，促进动态自治的举措
[21]。也有研究指出要提升用户素养，建立负责任的算法体系、全国治理认知风险
[22]。
1.2 人工智能治理机制与模式的比较研究
深入探索人工智能发展背后的政策因素，不仅是治理主体优化和改进现有政策的客观需要，也是全球各国政府主体推进协同治理的客观需要。为此，对人工智能治理机制与模式的比较研究主要通过对各国的政策文本、政策实践、智库报告等进行深度剖析的方式展开研究。
目前对于人工智能政策的研究可以基于政策信息学的方法划分为质性评价与量化分析2个层面。质性评价侧重于研究者运用个人的主观见解和专业知识，对政策文本进行深入的分析和阐释。量化分析主要运用数值和统计技术来剖析政策文件，依据政策文本的结构属性（例如时间顺序、类别、涉及机构、地域范围等）、内容要素（如采用的政策手段、追求的目标、实施的具体措施等）以及语义层面（如政策所表达的立场、蕴含的情感倾向等）来揭示政策的分布特性与规律，并探究不同政策间的相互联系与影响。本研究主要对量化分析进行综述。
政策量化分析主要包括政策文献量化分析、政策文本语义分析和政策内容量化分析3类。①政策文献量化分析基于科学计量方法，聚焦于政策文本的外部或内部特征，如魏弋等
[23]选取了美国、欧洲、中国、英国等13个国家的338份政策文本进行主题建模与量化分析，研究人工智能治理范式的变革。单晓红等
[24]对人工智能产业政策样本的数量、文种、发文主体等属性进行对比，分析了《新一代人工智能发展规划》发布前后阶段各区域人工智能产业政策发展态势；Gao等
[25]分析人工智能政策文献中关键词的共现关系，对政策主题词进行聚类分析，从而对人工智能国际研究热点与国家层面政策关键词之间的有机联系进行比较。②政策文本语义分析需要运用机器学习、自然语言处理、可视化分析等技术手段对文本进行挖掘，从拆分出的词语、句子、段落中提取出语义层面的信息。邓胜利等
[26]基于政策工具-结构特征的双重视角，以中国、美国、欧洲、英国、新加披的政策文本为分析对象，对其政策总体特征与政策工具的作用路径进行分析。高秀娟等
[27]通过建立PMC指数模型，从人工智能政策文本中提炼出领域研究前沿与热点分布、政策特征以及评价结果；Saheb等
[28]从人工智能政策的主题建模分析结果中分析得到人工智能政策的优先主题。③政策内容量化分析则是通过定性和定量方法相结合，在政策内容编码的基础上探求政策背后的内涵。杨佳雯等
[29]构建政策工具-政策目标二维模型对省级人工智能政策进行内容量化分析，研究得到省级政策布局特征。
综上所述，已有研究从不同角度对不同层级的人工智能政策进行了政策量化分析，构筑了相对全面的分析层次，但基于国际组织层面的针对性研究还较少。鉴于此，以构建全球治理体系为出发点，本研究选取联合国现行人工智能治理政策作为研究对象，主要通过文本语义来呈现政策的量化分析结果，在解析政策布局的基础上寻求治理的更高效机制。
2 数据获取与研究思路
2.1 数据获取
为确保所需政策文本的权威性和有效性，本研究选取的政策文本均源于官方公开发布渠道。在人工智能政策检索与筛选过程中，主要遵循以下几点原则：①检索词设置为“人工智能”，且必须在政策标题中包含检索词；②政策内容必须是人工智能治理相关的，政策文本要完整；③政策类型为法律法规、规划、通知、计划、意见和行动纲要等具有执行力度的文件，且必须是现行有效的政策，检索时间截至2024年9月。
为控制研究边界，本研究聚焦于明确以人工智能治理为核心目标的政策文件。虽然检索策略可能排除部分涉及人工智能的综合性政策，但通过交叉验证联合国《为人类治理人工智能》最终报告来确认样本覆盖率（达89.6%），具有统计学代表性。联合国政策文本来源于联合国数字图书馆（United Nations Digital Library），该平台包括联合国文件、表决信息、会议发言、地图和公共领域联合国出版物，提供数字格式的联合国资料和1979年后的联合国文件书目记录。初步检索到49篇现行有效的政策文件，进一步人工筛选后，得到32篇联合国发布的人工智能治理相关政策文件。
2.2 数据概况
对检索的政策文本按照时间线进行梳理，结果见
图1。从
图1可以看出，联合国关于人工智能治理的政策文本从2022年开始增长趋势明显。
本研究将32份政策文本导入Nvivo15质性分析软件中，通过高频词统计分析发现，2023年前，联合国政策高频词集中在“伦理”“合作”“原则”等宏观概念（TF-IDF均值0.85），而2023年后“模型审查”“数据溯源”“熔断机制”等技术性术语占据主导（TF-IDF均值1.32）。结合Rothwell等
[30]的经典理论，从政策工具的角度将政策文本按照供给型、需求型与环境型3个类型进行了划分。政策工具类型分布显示，具有法律约束力的“标准类”文件占比从2022年的17%升至2023年的61%，“倡议类”文件则从68%降至22%。2023年，Q2~Q4联合国体系平均每月出台2.3份人工智能治理文件，超过2019—2022年的总和。与此同时，联合国教科文组织于2023年3月31日号召193个会员国立即执行《人工智能伦理问题建议书》，这是首个关于以符合伦理要求的方式运用人工智能的全球框架，标志着治理层级的提升。
联合国对于人工智能治理的重视与响应从2022—2023年以后开始显现。这种转变既是对生成式人工智能技术冲击的应急响应，更是联合国在多极化世界中重塑数字治理领导权的战略选择。
对政策发文机构及其发文数量进行统计见
图2，从
图2可看出，联合国通过大会的方式发布的文件较多且都集中在近3年，其次发文较多的是联合国经济和社会事务部与联合国人权理事会，这些机构发文的时间较多集中在近3年。由此可见，近年来生成式人工智能的迅速发展，引发国际组织的迅速反应，已从不同角度提出对人工智能的治理政策。
2.3 主题建模的研究思路
本研究采用的主要研究方法是主题建模法。主题建模是一种从大量文本数据中发现潜在主题的机器学习技术，可以输出每个主题所关联的文档集合以及与主题相关的词汇集合。主题建模对文本数据的格式要求较低，不依赖于关键词字段或引用关系，因此相比传统的文献计量学方法（如共词分析和共被引分析）可以实现更细致、更深入和更全面的分析。相比于常用的LDA模型，BERTopic主题模型的建模结果在内容深度、语义信息保留等方面性能较好，且能自动挖掘合理主题数
[31]。
BERTopic模型是一种结合了预训练模型BERT和主题建模的语义分析工具，由Grootendorst
[32]于2022年提出，利用Transformers 和c-TF-IDF创建聚类，通过将大规模文本数据集中的文档映射至主题空间，进行潜在主题的自动识别。利用该模型进行主题建模的具体流程如下：嵌入（embeddings）、文本向量降维与特征提取（UMAP）、根据向量聚类文本生成主题簇（HDBSCAN）、从主题簇中提取主题关键词（c-TF-IDF）并加权。
本研究在数据预处理阶段选择NLTK英文分词工具对英文数据集进行分词处理，并进行了文本全部小写化、移除数字与特殊字符、词性归一以及去除停用词等数据清洗步骤（这里使用了NLTK内置的英文停用词表）。在数据预处理的基础上,使用Sentence-Transformers方法中的paraphrase-multilingual-MiniLM-L12-v2预训练模型进行文本嵌入，该模型将文本转换为固定长度的向量。在降维和聚类中，选择模型默认的UMAP和HDBSCAN算法。
通过对前文提到的政策文本时间线进行初步分析，由于样本量较少，在多次实验的基础上，确定UMAP近似最近邻数（n_neighbors）为2，降维空间（n_components）为15，点之间的最小距离（min_dist）为0.1。鉴于数据量较小，HDBSCAN的最小聚类规模（min_cluster_size）设置为2。最后，选择sklearn机器学习工具库中的CountVectorizer特征数值化方法，再利用c-TF-IDF算法进行加权，最后识别出主题。在数据预处理阶段，由于有些政策文本过大，于是将其拆分成若干个Excel单元格中可以容纳全部字符的Word大小。采用语义完整性原则进行文本拆分，确保每个分析单元包含完整政策条款。
3 分析与讨论
3.1 政策文本主题及其演变趋势
为尽可能减少噪声文档，经过多轮实验，主题数稳定在6个时无噪声文档，且主题一致性指数（u_mass）由负值上升为0（该指数越接近为0，说明主题内部聚类效果越好），将数据集中各个主题权重占比最高的前5个特征词进行可视化展示结果见
图3，各主题文本量及其占比见
表1。BERTopic 的动态主题建模(dynamic topic models,DTM)可以直观呈现主题的研究热度和政策发布主体关注度变化情况，本文以1年为一个时间戳切片，对联合国人工智能治理政策的主题演化趋势进行分析。
根据模型的聚类结果，结合各特征词将各主题内容进行归纳，结果见
表1。可以看出，在联合国发布的人工智能治理相关政策文本中，对人工智能与人类权利的可持续协同发展问题关注较多，其次是对国际人工智能治理体系构建以及人工智能系统的监管路径与可信AI的政策实践，对人工智能的国际治理与联合国主导的利益相关方能力建设、人工智能监管中的权利导向与风险导向以及第四次工业革命中技术创新与可持续发展的协同这3个主题的关注较少。
从时间演化趋势（
图4）来看，联合国对主题0即人工智能与人类权利的可持续协同发展问题的关注从2020年开始出现明显的突变式上升趋势，逐渐超过对其他所有主题的关注。与此同时，对主题1、主题2与主题4的重视程度也呈现逐年上升的趋势，且对主题1 的重视程度要高于主题2 与主题4，即联合国作为一个国际组织，更关注国际层面的人工智能治理体系的建设，各个国家在其中承担什么样的责任，有关各方秉持着怎么样的原则来开展建设，而对于治理实践、监管措施等具体的实施细节并不是联合国的关注重点。从
图4中可以看到，主题3和主题5没有在图中显示出来，这是因为这2个主题只在一年出现了，主题5只出现在了2021年，主题5作为较为宏观的关注主题，可见联合国对于人工智能治理主题的关注，早期主要作为第四次工业革命这一大命题的小命题，在近3年逐渐成为关注重点。主题3只出现在了2023年，可见联合国从近3年开始关注人工智能在国际治理体系中发挥的作用，但对这方面的研究尚处于起步阶段。
从主题内容与主题关注度变化趋势中可以看出，联合国对人工智能治理的关注突出表现在对人类权利的关注、对国际治理体系建设的关注、对可信AI建设与监管实践的关注中，体现对全球治理框架的关切，对人类权利的重点关注表现出联合国对技术与人权协同发展的重视，在技术进步的过程中对人类自身权利的影响，展现出“技术赋能与人权保障”的可持续性治理模式。
3.2 政策布局方向分析
根据已经识别出的主题，本研究将基于主题聚类和余弦相似度聚类得到联合国在人工智能安全治理方面的主要布局方向结果见
图5与
图6。从主题距离（
图5）可见，各主题间都有一定的距离说明主题间相似度较低，具有一定的代表性，主题聚类效果较好。根据4个象限的划分对政策文本的关注方向进行划分，主题1在第1象限，主题3在第2象限，主题4和0在第3象限，主题0、5和2在第4象限，根据各象限主题，对政策布局方向进行归纳，主要可分为4个方向见
表2。
图5中象限4涉及的主题较多，涉及的文本数也较多，可见联合国对人工智能技术的应用规范与可持续发展目标问题较为重视和关注，核心聚焦人工智能技术的技术进步与规范发展相结合，在鼓励发展的同时强调技术进步应符合人类的可持续发展要求，不能为了发展而发展。 在这一布局方向中，主题2关注人工智能系统的具体监管路径（如可信AI的标准、立法实践等），解决技术应用的规范性问题；主题0和主题5则将人工智能与可持续发展深度绑定。三者共同构成“技术规范”与“发展价值”的协同逻辑，推动人工智能成为可持续发展的赋能工具。从
图6中可知，主题0在语义内容上与主题1与主题3较为相似，说明联合国在关注人工智能与人类权利的可持续发展的同时，更关注如何推动多方协同建立国际人工智能治理体系。主题2与主题4在语义内容上最相似，说明对于国际人工智能治理体系的建设，联合国作为政府间国际组织关注监管体系中的风险与权利路径。
主题余弦相似度热力图（
图6）用两两主题向量的夹角余弦值量化语义相似性，余弦值越接近1，主题语义越相似，相较于
图5，余弦相似度图用于精准分析。
主题1所在的第1象限是文本数量第2多的布局方向，在这一方向中，联合国聚焦于人工智能治理的政策体系化建设，强调以联合国等国际组织与国家层面的协作为核心，重点关注一些纲领性文件，明确治理原则，推动形成适配国际发展与国际治理体系的人工智能治理框架，强调国际组织与国家系统在规则制定中的协同作用。主题3所在的第2象限聚焦于国际层面的人工智能治理协作机制，与第1象限有较大关联，区别在于象限2更强调人工智能治理的能力建设，包括技术普及、人才培养等，尤其是对发展中国家来说，这将有助于缓解人工智能技术发展带来的发展不平衡问题，推动全球人工智能治理的公平性，是国际协同治理的基础。象限3相对特殊，在包含了主题4的同时也包含了主题0的一部分，聚焦于人工智能治理中的风险与价值，强调明确技术发展的价值边界，在强化风险管控的同时，关注监管流程中的逻辑平衡，不能为技术套上枷锁，也不能没有任何价值判断的任由技术发展。从
图6中也可看出主题4与主题2有较高的语义相似度，说明在人工智能监管体系的构建方面，联合国关注监管当中的权利与风险导向，同时希望推动可信AI的发展与建设，总的来说，从政策方向布局中可以看出，对于人工智能的治理，联合国表现出3个明显倾向：国际治理体系的协同共建、坚持价值导向的风险治理、保障人权与坚持可持续发展目标。
4 结论与展望
4.1 研究结论
本研究基于32份现行有效的联合国人工智能治理政策文件，利用BERTopic主题模型识别政策所高度关注的主题内容，并从时序对政策主题布局情况展开分析，揭示了联合国作为代表性国际组织的人工智能治理模式。具体结论如下：
1）在人工智能治理的议题下，联合国对人权保障、可持续发展等问题较为关注，体现宏观角度对技术与伦理问题的重视，联合国通过制定伦理框架
[33]，推动AI 技术在尊重隐私、消除歧视中的发展，将其纳入可持续发展议程，助力减贫、环保等目标
[34]，同时搭建国际协作平台，平衡创新与规制，让技术进步始终服务于全人类共同福祉。
2）对治理体系的构建，联合国提倡以国家间协同共建为准则的协作治理模式，关注发展中国家的治理能力建设。联合国倡导各国基于《联合国宪章》宗旨和原则，秉持共商共建共享理念，搭建国际交流平台，分享治理经验与技术，助力发展中国家提升在数据监管、算法审查等方面的能力
[35]，提升治理能力建设，减少全球因技术进步加深的发展不平衡威胁。
3）在推动人工智能国际治理体系的构建过程中，联合国作为国际组织发挥的作用尚不明确。从政策主题的建模与分析中可看出，联合国提出了一些政策导向，即在人工智能的治理过程中可供各国参考的一些原则与准则。但在推动国家间协同的治理体系构建这一实践中，联合国如何推动、带动、发动这一实践的实现没有文件说明，由于各国的思想与价值体系差异，想要推动这一实践的实现确有很大难度，值得国际组织继续探索。
4.2 研究展望
从主题词提取结果与政策布局方向综合来看，公共政策治理在确保人工智能安全发展问题时，需要考虑的因素可以归结为3个层面：①与可持续发展相关的问题；②尊重人权，保障人权；③强化价值约束与风险管控。尤其是从2023年生成式人工智能井喷式发展以来，政策布局更加重视约束人工智能系统
[36]，需要确保人工智能系统发展的强大、安全、可靠和透明，并对其结果建立明确的问责机制。这也是下一步发展的主题，即可信人工智能系统和负责任的人工智能研究
[37]。
同时，本研究也存在3方面的局限。第一，跨语言政策处理存在语义偏差问题。尽管研究采用神经机器翻译处理非英语政策文本，特别是涉及专业术语时，单一语种分析可能弱化文化语境对政策内涵的影响。第二，政策执行效果未纳入评估。当前分析仅聚焦政策文本的显性表达，政策落地效能尚未量化。第三，具有业界影响力的机构政策文本获取具有一定的难度。下一步的研究可通过多语言BERT模型、政策效应评估等方法进行深化探索。
PDF
(2716KB)
