世界各国和地区都在推动人工智能法规的制定。

什么是生成人工智能？

生成式人工智能 (Generative AI) 是人工智能的一个分支，它描述了一类能够生成新内容（包括文本、图像、视频和音频）的算法。生成式人工智能源于深度学习技术的进步，旨在生成与人类生成结果相似的结果。ChatGPT 是生成式人工智能领域的最新进展。

生成式人工智能让计算机能够创作各种新颖、激动人心的内容，从音乐、艺术到整个虚拟世界。除了娱乐之外，生成式人工智能还有着广泛的实际应用，例如创造新的产品设计和优化业务流程。

生成式人工智能在其早期阶段就已在应用和使用方面呈现爆炸式增长。这项强大的颠覆性技术将在不久的将来应用于现有和新兴企业，以降低成本，更好、更快地提供新服务，并创造新的制造能力。

生成性人工智能为经济社会发展带来了积极的前景，但也存在风险。因此，采取适当的应对措施将发挥重要作用。

近年来，有关生成人工智能监管的讨论在全球范围内不断升温，数据科学领袖和技术利益相关者对包括错误信息和工作流失在内的社会风险表示担忧。

5月30日，全球各地的科学家和科技领袖签署了一封公开信，公开承认人工智能的危险性，甚至有导致人类灭绝的风险。

信中写道：“将人工智能给人类带来的灭绝风险降至最低，必须成为全球的首要任务，同时还要应对流行病和核战争等其他社会风险。”

研发并提供ChatGPT产品的OpenAI公司CEO萨姆·奥特曼（Sam Altman）、被誉为人工智能“教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）以及数百位世界知名人士在美国旧金山非营利组织人工智能安全中心（Center for AI Safety）网站上签署了这封公开信。

人们越来越担心那些不受监管、比人类更智能的人工智能系统，例如未来可能取代人类的新一代人工智能聊天机器人。近年来，像ChatGPT这样的人工智能聊天机器人的出现促使世界各国积极推动对这项新兴技术进行监管，以降低其相关风险。

澳大利亚

澳大利亚政府近期公布了2023年联邦预算，其中包括一项2690万美元的“负责任的人工智能网络”投资，用于在全国范围内部署一系列负责任的人工智能技术。澳大利亚监管机构正在推动制定相关法规，以缓解澳大利亚人权专员洛林·芬利（Lorraine Finlay）的担忧。芬利曾表示，微软的ChatGPT和谷歌的Bard等人工智能聊天机器人可能对社会造成危害。

此外，监管机构正在讨论修改《隐私法》，以解决在无人监督的情况下训练人工智能模型可能带来的透明度不足问题。此外，监管机构还在讨论使用数据和生物识别技术训练模型，这可能需要额外的隐私规则。

澳大利亚科技委员会成员维克多·多米内洛呼吁设立“技术监管机构内部的监督委员会”，负责监督和监测生成式人工智能技术的发展，并就如何监测这项新兴技术的潜在风险向政府机构提供建议。

巴西

巴西的人工智能相关立法进程受到政府于2022年9月批准的法律框架的推动，但由于法规模糊而受到批评。

ChatGPT 于去年 11 月上线，并进行了相关讨论，并向巴西政府提交了一份报告，详细阐述了关于人工智能监管的建议。这项研究由法律专家、科学家、商界领袖和国家数据保护监督机构 (ANPD) 的成员共同开展，主要涉及三个领域：公民权利、风险分类以及与人工智能管理和使用相关的行政措施和制裁。

该文件目前正在巴西政府内部讨论，具体发布日期尚未确定。

美国

美国是人工智能创新者和开发者的摇篮，其中包括ChatGPT的创始人OpenAI，而美国也加强了对人工智能工具的监管。美国联邦贸易委员会（FTC）负责人5月3日表示，该机构致力于利用现有法律遏制人工智能带来的危险，例如大公司影响力的扩大以及欺诈行为。

加拿大

《人工智能和数据法案》（AIDA）预计最早将于2025年出台。此外，正在研究法律法规来管理人工智能带来的风险和陷阱，以鼓励负责任地采用这项技术。

加拿大政府表示，基于风险的方法与美国和欧盟的类似法规一致，并计划在加拿大现有的人权和消费者保护法的基础上，认识到“高影响力”人工智能系统需要满足人权和信息安全法的要求。

加拿大当局将负责确保制定新的法规，以跟上技术发展并限制其用于恶意目的。

中国

中国国家互联网信息办公室（CAC）目前正在起草面向全中国公民的人工智能服务（包括聊天机器人）的监管规定。有人提出一项提案，呼吁中国科技公司在向公众发布其生成式人工智能模型之前，向国家互联网信息办公室注册。

根据该草案，对这些新型人工智能产品的评估必须确保“训练前数据来源的合法性”，开发者必须证明产品符合“社会主义核心价值观”。产品将被限制使用个人数据进行训练，并被要求要求用户验证其真实身份。此外，分享极端主义、暴力、色情内容或呼吁“推翻政府”信息的人工智能模型将违反规定。

违规者将被处以1万元人民币（约合1,454美元）至10万元人民币（约合14,545美元）的罚款，并暂停服务，甚至可能受到刑事调查。此外，被发现分享不当内容的服务提供商必须在三个月内更新其系统，以确保不再重复违规。该法案预计将于今年年底完成。

欧洲联盟

欧盟被视为引领潮流，其《人工智能法案》预计将于今年晚些时候获得批准。这项法案的制定标志着各国监管人工智能的竞争取得了里程碑式的进展，近年来，人工智能发展迅猛。这项被称为《欧洲人工智能法案》的法案也是西方国家首部针对人工智能系统的法律。

欧盟（EU）人工智能法案目前正在欧洲议会起草，预计将于今年6月进行全体投票。过去几年，该地区的人工智能监管一直在酝酿之中，欧盟委员会将于2021年4月提交一份提案。

欧盟人工智能法案将人工智能应用分为四个风险等级：不可接受的风险、高风险、有限风险、极小或无风险。

不可接受的风险：包括任何对公民的安全和权利构成明显威胁的系统，例如评估一个国家公民的行为和生活方式的系统以及构成伤害风险的语音助手。

高风险：在交通、教育、执法、招聘和医疗保健机器人等关键基础设施中使用人工智能。

有限风险：包括使用聊天机器人在内，用户需要从一开始就清楚地了解他们与系统交互的目的。

R风险极小或无风险：这些包括人工智能视频游戏或涉及生成人工智能的垃圾邮件过滤器等系统。

印度

2021年3月，印度政府宣布将对人工智能监管采取谨慎态度，以促进全国范围内的创新。印度电子和信息技术部已将人工智能相关技术列为“关键且具有战略意义”的技术，但该机构表示将出台政策和基础设施措施，以帮助消除偏见、歧视和道德问题。

印度政府已提出自愿监管框架来规范人工智能。2018 年的《国家人工智能战略》着眼于人工智能发展的五个关键领域：农业、教育、医疗保健、智慧城市和智能出行。2020 年，《国家人工智能战略》草案详细规定了人工智能的道德使用，呼吁所有系统都透明、负责且公正。

韩国

韩国的人工智能法案目前正处于起草阶段，预计将于近期在国会进行表决。该法案将明确规定哪些新的人工智能模型无需政府批准即可创建，哪些模型必须获得政府批准才能上市。

这项新的人工智能法案还着重制定与负责任地开发人工智能系统相关的法律法规。

此外，该国个人信息保护委员会宣布，计划根据生成人工智能的发展，成立一个专门审查生物特征数据保护的工作组。

英国

在英国，除了发布包含实施人工智能相关法规具体指导的白皮书外，英国政府5月9日宣布，将开始评估人工智能对消费者、企业和经济的影响，并考虑采取新措施管控OpenAI公司ChatGPT等技术。

目前，英国对生成式人工智能的监管由人工智能应用领域的行业监管机构负责，除欧盟《通用数据保护条例》（GDPR）外，尚无其他普通法计划。英国政府在其官方声明中就该问题采取了“支持创新的态度”，旨在将英国定位为全球人工智能竞赛的领导者。

与此同时，英国竞争与市场管理局 (CMA) 已启动对人工智能平台模型的审查，审查包括 ChatGPT 在内的工具的开发，以考虑竞争和消费者保护。该机构表示，审查结果将于 2023 年 9 月初公布。

日本

日本官员表示，生成型人工智能为经济社会带来积极前景的同时也存在风险，因此，从两方面采取适当的应对措施将发挥重要作用。

日本首相岸田文堂表示，将指示相关机构迅速推动多领域讨论，最大限度地发挥人工智能的前景并应对其带来的风险。

日本官员还表示将制定人工智能的国际规则。