开云电竞-前OpenAI安全研究员警告：AI毁灭人类的可能性为20%

2025-05-06

　　【开云新闻】此前，马斯克曾大胆放话称，AI能导致人类文明毁灭。此言乍一听确实有一些夸张成分，但是其隐含的警示意味仍然应该引起重视。近日，开云了解到，曾担任OpenAI安全研究员保罗·克里斯蒂亚诺发出警告，提醒人们人工智能可能最终会导致人类终结。

人工智能

　　保罗·克里斯蒂亚诺在一个播客节目中说道:“我认为人工智能取代人类的可能性大约为10-20%，我们需要非常严肃地对待这个问题。”他认为，AI消灭人类的最可能方式是将日常生活中部署的所有AI联合起来，而不是突然消灭人类。人类的终结不是一场突如其来的事件，而是人工智能逐渐地崛起，其通过AI控制自动驾驶汽车、无人机等科技领域逐渐毁灭人类。不要觉得这是危言耸听，当AI超越人类智商阈值时，这一切皆有可能。

人工智能

　　此外，开云了解到，保罗·克里斯蒂亚诺的新非营利组织Alignment Research Center致力于人工智能对齐的概念，即让机器的动机与人类的动机保持一致。该概念早在2018年就被广泛定义，并被认为对于防止人工智能毁灭人类的可能性至关重要。虽然OpenAI声称，旨在使人工智能与人类价值观保持一致，并遵循人类意图，但这仍需要进行更多的研究和开发，以确保安全地开发人工智能。

　　值得一提的是，此前，被称为人工智能先驱、人工智能教父的杰弗里·辛顿在接受采访时表示，AI对人类的威胁可能要比天灾造成的影响更为广泛。

-开云电竞

热门资讯

企业数字化智能体：打造企业数智化AI底座

2024-04-02

TitanIDE（社区版）重磅免费开放使用！

2023-09-26

CloudOS：落地平台工程，实现真正的DevOps

2023-08-16

热门标签

企业数字化智能体 Agent AI 智能体企业智能体数智化AI底座 TitanIDE（社区版）免费在线代码编辑器 CloudIDE免费 TitanIDE免费云端IDE 平台工程 DevOps CloudOS 云原生开发平台落地平台工程云原生物联网开发平台云原生物联网物联网容器云 cloudos 微服务容器编排边端交付 TITANIDE 在线IDE 云原生开发远程研发 IDE TitanIDE 云端开发环境模板 K8s 不懂K8s也能用K8s