目前，世界各国对ChatGPT（人工智能聊天机器人）的调查有着愈演愈烈之势。

继意大利开出对人工智能聊天机器人的首张“禁令”后，当地时间4月4日，加拿大隐私专员办公室宣布，将对人工智能聊天机器人背后的公司OpenAI（开放人工智能）展开调查。

从意大利到加拿大，为何多国对人工智能聊天机器人的监管信号频频放出？持续加剧的监管风暴又是否将席卷全球？对此，记者采访了北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括以及南京航空航天大学网络与人工智能法治研究院副院长、副研究员李宗辉。

多国释放监管信号

聚焦数据安全隐患

加拿大成为又一个对人工智能聊天机器人出手的国家。

据加拿大隐私专员办公室官网，对于调查开放人工智能的原因，该机构表示，其涉嫌“未经同意收集、使用和披露个人信息”。隐私专员菲利普·杜弗雷斯说：“我们需要跟上并保持领先于快速发展的技术进步。”

而在稍早之前，意大利成为全球首个禁用人工智能聊天机器人的国家，引发广泛关注。当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用人工智能聊天机器人，并限制开放人工智能处理意大利用户信息，同时开始立案调查。

吴沈括表示，意大利和加拿大都是从数据安全和数据保护的角度来看待人工智能聊天机器人的应用风险，从数据治理和监管的层面来介入调查，但这并不是直接否定这种技术应用的合法性。

面对以人工智能聊天机器人为代表的生成式人工智能的迅速崛起，为何多国都率先将关注焦点放在数据安全领域？

在意大利禁用人工智能聊天机器人之前，一次严重的个人数据泄露事故成为触发监管的“导火索”——当地时间3月20日，多名人工智能聊天机器人用户发帖称，其账号下的聊天历史栏出现了其他用户的聊天记录，致使开放人工智能一度暂时下线聊天历史功能。

3月23日，开放人工智能首席执行官萨姆奥特曼在社交媒体表示，该问题是由开源代码库的一个程序错误导致，会有小部分用户可以看到其他用户的聊天记录标题，目前开发团队已发布修复程序，并完成验证。

但大众对人工智能聊天机器人的担忧并未被抹去。3月底，韩国三星半导体部门发生了3起因员工在人工智能聊天机器人上输入设备信息及重要会议摘要，导致公司机密外泄风险陡增的事件，因此多家韩企正在采取限制使用人工智能聊天机器人的措施，严防员工泄密。

互联网时代，数据安全的重要性不言而喻。美国理论家马克·波斯特曾将信息社会比作“超级全景监狱”，以此来表明暴露于网络环境中的大众毫无隐私可言。而人工智能聊天机器人令人吃惊的数据抓取能力，使大众对其隐私泄露的风险更加倍感担忧。

李宗辉认为，人工智能聊天机器人的出现可能会使个人的自我保护失灵，因为人工智能聊天机器人已经与互联网的各种技术和服务深度融合，这使每个人都可能暴露在隐私泄露的高风险之中。

“人工智能聊天机器人的运行基础是海量的数据，所以多国监管机构从数据流转利用的角度强调了个人信息保护的重要性，以及在这些场景当中所伴随的风险。”吴沈括表示。

人工智能

带来机遇和风险

人工智能聊天机器人的横空出世，让越来越多的国家开始警惕它的大规模应用。

当地时间4月4日，美国总统拜登与科技顾问举行的会议上，讨论了人工智能的“风险和机遇”。白宫官员称：“总统将讨论保护权利和安全的重要性，以确保负责任的创新和适当的保障措施。他将呼吁国会通过两党隐私法，以保护孩子，并限制科技公司收集我们所有人的个人数据。”

上周，美国科技伦理组织人工智能和数字政策中心要求美国联邦贸易委员会组织开放人工智能发布新的人工智能聊天机器人商用版本，理由是该版本“有偏见性，欺骗性，对隐私和公共安全构成风险”。

此外，该版本还引发一众科技和学术界名流联名呼吁暂停研发。

欧洲国家则在意大利的“带领”下，准备付诸行动。据报道，德国联邦数据保护专员发言人表示，德国可能会效仿意大利，暂时禁用人工智能聊天机器人，原因同样是数据安全问题。法国和爱尔兰的隐私监管机构也表示，已与意大利数据监管机构联系讨论其调查结果。

据报道，出于对信息泄露的担忧，包括软银、日立、富士通、三菱日联银行和三井住友银行在内的日本公司已开始限制在业务运营中使用人工智能聊天机器人等交互式人工智能服务。

由人工智能聊天机器人引发的种种担忧，使各国在人工智能领域的监管风暴愈演愈烈。

吴沈括表示，这些国家的监管举措的出台，很有可能产生多米诺骨牌效应，引起其他各国的效仿。因为各国对人工智能聊天机器人应用场景的风险的关切是一致的，所以监管立场也会有趋同的可能性。

李宗辉也认为，随着人工智能聊天机器人应用过程中侵权和违法现象日益增多，以及各国类似的人工智能产品的研发和推广，肯定会有更多国家加强人工智能领域的监管。“一方面是对现有的个人信息保护、知识产权、网络安全、数据安全、科技管理法律规范的进一步适用，另一方面可能会加强制定相应的技术标准，更新人工智能的伦理规范，加强特定领域的立法。”

2021年，欧盟就曾提出《人工智能法》草案，对人工智能的风险级别进行了分级处理。李宗辉表示，人工智能聊天机器人的出现将影响欧盟现有的人工智能技术或产品的风险等级的评定。

反观我国，在人工智能领域也已出台相关规则。2021年9月，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

“随着人工智能聊天机器人的出现以及人工智能的迅速发展，我国已有的伦理规范也将不断更新和调整。”李宗辉表示。

据极目新闻