亿万富翁埃隆·马斯克和世界领先的人工智能专家呼吁暂停下一代人工智能系统的开发

这封信由非营利组织未来生命研究所发布，包括特斯拉公司老板、亿万富翁埃隆·马斯克在内的 1000 多人签署，呼吁暂停先进人工智能系统的开发，直到此类设计的通用安全协议得到开发、部署并由独立专家审核。

插图照片。

信中写道：“只有当我们确信强大的人工智能系统将产生积极影响且风险可控时，才应该开发它们。当前人工智能系统的开发竞赛十分危险，需要建立独立的监管机构，以确保未来系统的安全部署。”

信中详细阐述了人工智能系统与人类竞争、影响经济和政治对社会和人类文明带来的潜在风险，并呼吁开发者与政策制定者和监管机构合作。

信中写道：“我们呼吁所有人工智能实验室立即停止训练比GPT-4更强大的人工智能系统，至少暂停六个月。暂停必须公开且可验证。如果无法迅速实施暂停，政府应介入并实施禁令。”

信中写道：“人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于先进人工智能设计和开发的共享安全协议，并由独立的外部专家进行密切测试和监督。”

这封信的共同签署人包括苹果联合创始人史蒂夫·沃兹尼亚克、Skype联合创始人贾安·塔林、政治家安德鲁·杨、Stability AI首席执行官埃马德·莫斯塔克、人工智能研究公司DeepMind（Alphabet旗下）的研究人员，以及几位著名的人工智能研究人员和首席执行官，包括斯图尔特·拉塞尔、约书亚·本吉奥、加里·马库斯和埃马德·莫斯塔克。

此前，3月27日，欧盟警察机构（Europol）也对ChatGPT等先进系统的道德和法律问题表示担忧。该机构警告称，人工智能可能被用于实施欺诈、传播虚假信息以及其他网络犯罪。

自去年年底发布以来，微软支持的 OpenAI 的 ChatGPT 引发了开发大型语言模型并将人工智能融入产品和服务的竞赛。

未来生命组织的一位代表表示，OpenAI 首席执行官兼创始人 Sam Altman 并未签署这封信。

对此，签署这封信的美国纽约大学教授加里·马库斯表示：“这封信并未涵盖所有内容，但表达了普遍的精神，即人们需要放慢脚步，直到更好地理解人工智能的影响。当人工智能领域的大公司对其正在开发的内容越来越保密时，系统可能会造成严重危害。这使得社会难以应对任何可能的危害。”

根据

1.https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-c​​an-outperform-gpt-4-2023-03-29/

2.https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter

潘文和