世界各国和地区正在推动人工智能法规的制定。

什么是生成人工智能？

生成式人工智能 (Generative AI) 是人工智能的一个分支，它描述了一类能够生成新内容（包括文本、图像、视频和音频）的算法。生成式人工智能基于深度学习技术的进步而发展，旨在产生与人类生成的结果相似的结果。ChatGPT 是生成式人工智能领域的最新进展。

生成式人工智能让计算机能够创造各种新颖、激动人心的内容，从音乐、艺术到整个虚拟世界。除了娱乐之外，生成式人工智能还有着广泛的实际应用，例如创造新的产品设计和优化业务流程。

生成式人工智能在其早期阶段就已在应用和使用方面呈现爆炸式增长。这项强大的颠覆性技术将在不久的将来应用于现有和新兴企业，以降低成本，更好、更快地提供新服务，并创造新的制造能力。

生成性人工智能为经济社会发展带来了积极的前景，但也存在风险，因此，采取适当的应对措施将发挥重要作用。

近年来，有关生成人工智能监管的讨论在全球范围内日益升温，数据科学领袖和技术利益相关者对包括错误信息和失业在内的社会风险表示担忧。

5月30日，全球科学家和科技领袖签署了一封公开信，公开承认人工智能的危险性，甚至可能导致人类灭绝。

信中写道：“将人工智能给人类带来的灭绝风险降至最低，必须与流行病和核战争等其他社会风险一起成为全球优先事项。”

研究并提供ChatGPT产品的OpenAI公司CEO萨姆·奥特曼、被誉为人工智能“教父”的计算机科学家杰弗里·辛顿以及数百位世界知名人士在美国旧金山非营利组织人工智能安全中心网站上签署了这封公开信。

由于新一代人工智能聊天机器人未来有可能取代人类，人们对不受监管、比人类更智能的人工智能系统的担忧日益加剧。近年来，随着像ChatGPT这样的人工智能聊天机器人的出现，世界各国纷纷推动对这项新兴技术制定监管规定，以最大限度地降低其相关风险。

澳大利亚

澳大利亚政府近期公布了2023年联邦预算，其中包括一项2690万美元的负责任人工智能网络投资，用于在全国范围内部署一系列负责任的人工智能技术。澳大利亚监管机构正在推动制定相关法规，旨在平息澳大利亚人权专员洛林·芬利（Lorraine Finlay）的担忧。芬利曾表示，微软的ChatGPT和谷歌的Bard等人工智能聊天机器人可能对社会造成危害。

此外，监管机构正在讨论修改《隐私法》，以解决在无人监督的情况下训练人工智能模型可能带来的透明度不足问题。此外，监管机构还在讨论使用数据和生物识别技术训练模型，这可能需要额外的隐私规则。

澳大利亚科技委员会成员维克多·多米内洛呼吁设立“技术监管机构内部的监督委员会”，以监测和跟踪生成式人工智能技术的发展，并就如何监测这项新兴技术以发现潜在风险向政府机构提供建议。

巴西

巴西的人工智能相关立法进程受到政府于2022年9月批准的法律框架的推动，但由于法规模糊而受到批评。

ChatGPT 于去年 11 月上线，随后开展了相关讨论，并向巴西政府提交了一份报告，详细阐述了有关人工智能监管的建议。这项研究由法律专家、科学家、商界领袖和国家数据保护监督局 (ANPD) 成员共同开展，主要涉及三个领域：公民权利、风险分类以及与人工智能管理和使用相关的治理措施和行政处罚。

该文件目前正在巴西政府内部讨论，具体发布日期尚未确定。

美国

美国是人工智能创新者和开发者的摇篮，其中包括ChatGPT的创造者OpenAI，而美国也加强了对人工智能工具的监管。美国联邦贸易委员会（FTC）负责人5月3日表示，该机构致力于利用现有法律遏制人工智能带来的危险，例如大公司影响力的扩大以及欺诈行为。

加拿大

《人工智能和数据法案》（AIDA）预计最早将于2025年出台。此外，正在研究法律法规来管理人工智能带来的风险和陷阱，以鼓励负责任地采用这项技术。

加拿大政府表示，基于风险的方法与美国和欧盟的类似法规一致，并计划在加拿大现有的人权和消费者保护法的基础上，认识到“高影响力”人工智能系统需要满足人权和信息安全法的要求。

加拿大当局将负责确保新法规跟上技术发展，并尽量减少其用于恶意目的。

中国

中国国家互联网信息办公室（CAC）目前正在起草面向中国公民的人工智能服务（包括聊天机器人）的监管规定。有人提出一项提案，呼吁中国科技公司在向公众发布其生成式人工智能模型之前，向国家互联网信息办公室注册。

根据该草案，这些新型人工智能产品的评估必须确保“训练前数据来源的合法性”，开发者必须证明产品符合“社会主义核心价值观”。产品将被限制使用个人数据进行训练，并需要要求用户验证其真实身份。此外，分享极端主义、暴力、色情内容或呼吁“推翻政府”信息的人工智能模型将违反规定。

违规者将被处以1万元人民币（约合1,454美元）至10万元人民币（约合14,545美元）的罚款，并暂停服务，甚至可能受到刑事调查。此外，被发现分享不当内容的服务提供商将被要求在三个月内更新其系统，以确保不再违规。该法案预计将于今年年底完成。

欧洲联盟

欧盟被视为引领潮流，其《人工智能法案》预计将于今年晚些时候获得批准。这项法案的制定标志着各国监管人工智能的竞争取得了里程碑式的进展，近年来，人工智能发展迅猛。这项被称为《欧洲人工智能法案》的法案也是西方国家首部针对人工智能系统的法律。

欧盟人工智能法案目前正在欧洲议会起草，预计将于今年6月进行全体投票。过去几年，该地区一直在制定人工智能监管方案，欧盟委员会将于2021年4月提交一份提案。

欧盟人工智能法案将人工智能应用分为四个风险等级：不可接受的风险、高风险、有限风险、极小或无风险。

不可接受的风险：包括所有对公民的安全和权利构成明显威胁的系统，例如评估一个国家公民的行为和生活方式的系统以及存在伤害风险的语音助手。

高风险：在交通、教育、执法、招聘和医疗机器人等关键基础设施中使用人工智能。

有限风险：包括使用聊天机器人在内，用户从一开始就需要清楚地了解他们与系统交互的目的。

R风险极小或无风险：包括涉及生成人工智能的人工智能视频游戏或垃圾邮件过滤器等系统。

印度

2021年3月，印度政府宣布将对人工智能监管采取谨慎态度，以促进全国范围内的创新。印度电子和信息技术部已将人工智能相关技术列为“关键且具有战略意义”的技术，但该机构表示将出台政策和基础设施措施，以帮助打击偏见、歧视和道德问题。

印度政府已提出自愿监管框架来规范人工智能。2018 年的《国家人工智能战略》着眼于人工智能发展的五个关键领域：农业、教育、医疗保健、智慧城市和智能出行。2020 年，《国家人工智能战略》草案详细阐述了人工智能的道德使用，呼吁所有系统都透明、负责且公正。

韩国

韩国的人工智能法案目前正处于起草阶段，预计将于近期在国会进行表决。该法案将明确规定哪些新的人工智能模型无需政府批准即可创建，哪些模型必须获得政府批准才能投放市场。

这项新的人工智能法案还着重制定与负责任地开发人工智能系统相关的法律法规。

此外，该国个人信息保护委员会宣布计划成立一个工作组，专门审查基于生成人工智能发展的生物特征数据保护。

英国

在英国，除了发布包含实施人工智能相关法规具体指导的白皮书外，英国政府5月9日宣布，将开始评估人工智能对消费者、企业和经济的影响，并考虑采取新措施管控OpenAI公司ChatGPT等技术。

目前，英国对生成式人工智能的监管由人工智能应用领域的行业监管机构负责，除欧盟《通用数据保护条例》（GDPR）外，尚无其他共同立法计划。英国政府在其官方声明中表示，该领域“支持创新”，旨在将英国定位为全球人工智能竞赛的领导者。

与此同时，英国竞争与市场管理局（CMA）已启动对人工智能平台模型的审查，审查包括ChatGPT在内的工具的开发，以考虑竞争和消费者保护。该机构表示，审查结果将于2023年9月初公布。

日本

日本官员表示，生成式人工智能为经济社会带来积极前景的同时也存在风险，因此，从两方面制定适当的应对措施将发挥重要作用。

日本首相岸田文堂表示，将指示相关机构迅速推动多领域讨论，最大限度地发挥人工智能的前景并应对其带来的风险。

日本官员还表示将制定人工智能的国际规则。