5月19日，2026年中国网络文明大会人工智能赋能网络文明建设论坛在广西南宁举行。

会议期间，中国政法大学人工智能法研究院院长、联合国高级别人工智能咨询机构中方专家张凌寒围绕近期人工智能领域有关热点法治问题接受了红星新闻记者专访。

▲张凌寒分享人工智能领域法治问题的观点

从“小快灵”到高位阶立法

AI立法是体系建设而非单部法律

5月11日，国务院办公厅公布《国务院2026年度立法工作计划》，其中提到完善人工智能治理，加快推进人工智能健康发展综合性立法；加快完善保障数据、算力、算法、产权、网络安全、供应链安全等人工智能共性要素及规范重点应用场景方面的立法。

过去几年，我国人工智能领域建章立制已经起步，多部涉及人工智能的《规定》《办法》已发布。这些规定和未来的“人工智能法”是什么关系？

对此，张凌寒表示，当我们谈到“人工智能法”的时候，往往把它理解为是一部法律。而在谈人工智能立法的时候，则把它理解为是法律体系的建设。如果是整个立法体系建设，就要全面回应人工智能给政治、经济、社会生活带来的挑战。

张凌寒提到，比如《人工智能拟人化互动服务管理暂行办法》《生成式人工智能服务管理暂行办法》等，都是“小、快、灵”的针对某些特定技术和服务应用的专门性规定。在未来的人工智能立法上，提出了要加强人工智能高位阶立法的研究。在未来的立法当中，会充分吸收我国这些年已取得的人工智能立法方面的成功经验，并且把一系列已经行之有效的人工智能监管和治理制度，纳入到立法当中。

▲张凌寒

对于重点应用场景方面的立法，张凌寒表示，人工智能影响了社会方方面面，人工智能带来的问题不可能通过一部法律来解决。人工智能的高位阶立法能对整个人工智能立法体系起到统筹作用。人工智能立法体系当中还包括相应的领域法、场景法，关注比如智能医疗、自动驾驶、人工智能教育、人工智能金融等方面一系列专门领域的问题。

人工智能存在幻觉

涉及需要严谨的工作，不能代替人类

近期，媒体报道了多例人工智能“翻车”的情况，如有指导退票导致用户损失的，有生成侮辱诽谤他人的介绍成为被告的，也有指路将用户带到毒蛇出没地的。

对于如何看待这类现象，张凌寒说，这类问题由人工智能幻觉引起。所谓人工智能幻觉，是指由于训练数据污染以及算法模型的一系列问题，使得人工智能生成的内容并不能做到完全真实和准确。

张凌寒进一步解释，这一方面是由于训练数据可能包含一定虚假信息，也有可能是训练数据未涵盖生成的信息。另外一方面，是由于技术局限所致。所以涉及需要严谨和敏感的工作，比如健康医疗、法律服务等，使用者需要进一步核验人工智能提供的信息，同时也要采纳人类专家的意见，人工智能生成的内容只能作为一个参考。

今年央视“3·15”晚会曝光了通过GEO（生成式引擎优化）技术，给AI“投毒”“驯服”并操控AI的现象。如何看待这种通过介入AI语料库直接操纵生成内容的现象？

张凌寒表示，GEO的现象已经引起了有关监管部门的重视和社会广泛关注。通过GEO的方式“投毒”其实就是利用技术去影响人工智能的合成内容。在搜索引擎时代，类似的做法有SEO。在正常范围内的信息推送，属于合法商业活动范畴，但如果通过信息、数据和技术措施，促使人工智能生成虚假内容，就落入到了监管和法律调整的范围内。

红星新闻首席记者 吴阳