人工智能给人类带来的12大担忧

2023年12月初，在新加坡，来自世界各地的40名代表，包括开发人员、研究人员和政策制定者齐聚一堂，参加一场会议，讨论与人工智能技术发展相关的紧迫问题。

在此，技术专家们提到了近年来类人智能人工智能出现以来出现的诸多担忧和争议。技术专家的意见将成为指导研究目标和制定全球人工智能发展政策的参考。

以下是人工智能给人类带来的 12 大担忧，这些担忧是在新加坡举行的为期三天的全球专家会议后最终确定的。

1. 人工智能值得信任吗？

人工智能系统越来越多地用于辅助人类做出重要决策，但目前的人工智能系统有时会出现“幻觉”，并产生不准确的结果。可靠性是指系统或其组件在特定条件下、特定运行时间内执行其设计功能的能力。

可信度尤为重要，以确保人工智能系统在应用于自动驾驶汽车或手术台上的决策时不太可能造成有害后果。

与会代表一致认为，人工智能系统应在尽可能接近其实际执行任务的情境下进行测试，开发人员构建的人工智能工具不应仅仅关注统计性能。此外，还需要制定评估人工智能模型可靠性的标准化标准。

2. 需要为人工智能模型创建良好的数据集

强大的 AI 模型需要庞大的数据集来支持，这有助于它们做出正确的分析和决策。然而，构建支持实用 AI 的良好数据集并非易事，尤其是在数据敏感且受隐私保护的情况下。

为了实现这种平衡，监管需要鼓励数据的创建和传输，确保数据库的高质量，并确保数据的安全交换。

3. 人工智能会杀死我们吗？

在列出的最可怕的情景中，人工智能有可能造成全球性威胁，例如全球变暖或人工智能驱动的核灭绝。代表们指出，广泛的社会危害和人工智能驱动的网络犯罪已经发生，人工智能引发的经济崩溃在短期内也有可能出现。

各国必须在多个领域设置明确的警告信号，开发人员必须接受严格的测试，关键系统在与人工智能连接之前必须接受压力测试。

4. 是否需要严格的解决方案来控制人工智能的发展？

法律需要跟进，确保人工智能风险不会因现行政策未能解决的漏洞而流失。当局还需要建立违规行为举报机制，并明确人工智能风险的责任人。

监管机构还必须取得平衡，以便监管不会扼杀创新，并为法律何时介入抑制人工智能提供框架。

5. 开发人工智能服务科学研究

人工智能是解决人类一些最困难问题的关键，有潜力开发出治疗疾病的方法以及创造应对气候变化的工具，与会代表表示，这应该是人工智能建设者造福人类的首要任务。

发展人工智能服务于科学研究极其重要，需要通过加强各国和国际组织之间的合作来促进资金和知识的共享。

6. 人工智能能像人类一样学习吗？

人工智能可以非常快速地学习事物，变得越来越“智能”，更好地满足人类的需求，然而，最终机器仍然无法理解它们所学到的东西并像人类一样思考。

目前，没有任何人工智能系统具备像人类一样自然学习的能力。人类大脑比任何人工智能系统都更具适应性和响应能力。虽然人工智能可以自动化许多任务和流程，但仍有许多任务需要创造力、灵活性以及基于直觉和经验做出复杂决策的能力，而这些能力只有人类才具备。

人工智能系统缺乏人类的创造力，它们只能处理接收到的数据集。因此，它们无法思考新的工作方式、风格或模型，并且局限于某些人类创造的模式。

另一方面，人类可以打破常规，从各种来源获取信息，并在很少甚至没有数据的情况下为复杂问题提供解决方案。由于人工智能不具备打破常规、产生创新想法的能力，因此它无法取代人类在职场上的地位。

7.人工智能的价值是什么？

随着技术和算法的进步，人工智能预计将在未来持续发展。它将变得越来越智能和灵活，并能够更广泛地应用于医学、教育、制造、商业和科学研究等众多领域。此外，我们还将看到协作人工智能系统的发展，即多个人工智能系统协同工作以解决复杂问题。

人工智能将不断发展，成为未来生活中不可或缺的一部分，因此了解和利用好人工智能是这个日益数字化的世界取得进步和繁荣的关键。

8. 竞争和公平准入

人工智能技术通常由世界各地的大型科技公司开发，而这些公司的主要运营目的是为了盈利。科技专家表示，人工智能技术集中在以盈利为目的的公司手中，可能会影响人工智能系统的价格和质量，同时也有可能限制某些群体获得人工智能的机会。

为了创造更公平的竞争，代表们呼吁降低进入门槛，以促进人工智能系统的发展。同时，他们提议对人工智能提供商进行类似于电信服务提供商和公共事业的监管。

9. 用于学习的人工智能

人工智能的出现开启了教育的新时代，改变了我们学习和研究的方式。人工智能使学习更加个性化、高效且更具吸引力。

人工智能在学习领域最显著的优势之一就是个性化。人工智能系统可以分析学习者的学习风格、优势和劣势，并据此定制学习材料。这种个性化方法使学习者能够按照自己的节奏学习，从而提高学习自信心和学习成果。

此外，该人工智能系统还能帮助家长即时反馈孩子的学习成果。人工智能还可以承担评分、帮助学生学习甚至辅导学生等任务。人工智能系统可以通过编程提供专业知识，为学生提供提问和搜索信息的平台。当学生遇到困难时，教师将提供支持，提供人与人之间的互动。

然而，要实现上述好处，人工智能系统必须真正值得信赖，提供给人工智能系统的数据集必须高度准确且始终更新。

10. 打击假新闻

写作工具和图像生成器使得人工智能生成的虚假信息越来越难以被发现。虚假信息可以通过社交媒体平台迅速传播。

代表们呼吁制定识别网络信息来源的方法，并强制社交媒体平台监控其渠道。算法需要接受英语以外的语言训练，才能准确检测全球平台上的虚假信息。

11. 人工智能造福社会

人工智能的发展必须造福所有人，这需要基于人权、透明度和问责制的保障。

与会代表呼吁非营利组织、政府和社会企业发出声音，推动对人工智能技术社会影响的评估。人工智能开发者不应急于部署该技术，而应仔细评估其影响，避免投资浪费。

12.安全标准

目前，各国和国际组织尚未就人工智能发展过程中的安全性测试标准达成一致，包括评估其可能带来的安全隐患以及经济或心理损害。

代表们呼吁全球合作制定人工智能系统的安全标准，以确保人工智能充分发挥其潜力，同时防止和尽量减少危害。