谷歌DeepMind预测，通用人工智能（AGI）可能在2030年达到与人类相当的智能水平，并可能带来“永久性人类灭绝”的威胁。该公司的首席执行官呼吁建立类似联合国的机构来监督其发展。
谷歌DeepMind的最新研究揭示了一项重大的发现：预计到2030年，AGI可能达到或超越人类智能水平，这带来了“永久性人类灭绝”的潜在风险。这项研究由DeepMind联合创始人Shane Legg等人撰写，报告中指出AGI的巨大潜力令人振奋，但同时也隐藏着深刻的危机。“它可能引发极大的危害，甚至是灭绝性的风险，”研究中提到。然而，报告并未详细说明AGI可能如何导致人类的灭亡。
这份研究将高级AI可能带来的风险划分为四大类：滥用、不对齐、失误和结构性威胁。例如，有人可能利用AI进行伤害，或是AI的目标与人类需求不相符。DeepMind的应对策略主要集中在防止滥用，他们希望从源头上消除潜在威胁。不过，报告也指出，什么程度的“严重伤害”并非由DeepMind一家公司决定，而需社会共同判断，这取决于公众对风险的承受能力。
早在今年2月，DeepMind的负责人Demis Hassabis就曾表示，AGI这种比人类更聪明的智能体可能在五到十年内出现。他提出了一个大胆的建议——建立一个类似联合国的“大伞”机构，以专注于AGI的发展。“我设想的是一个像CERN那样的国际合作平台，汇集全球顶尖人才，专注于AGI的前沿研究，确保其尽可能安全，”Hassabis说道。他还建议创建一个类似国际原子能机构的监管单位，以监控那些潜在危险的项目，并设立一个多国参与的决策机构，决定这些系统的用途和部署方向。“这就像是一个为AGI量身打造的技术版联合国。”
AGI并非普通的AI，它不仅能够执行特定任务，还能够进行广泛的跨领域学习和应用。想象一下，一个机器不仅能下棋，还能写诗、开车、做饭——几乎可以像人一样处理任何事情，这就是AGI的宏伟目标。它能够跨越不同领域学习和理解知识，几乎是人类智慧的“镜像版”。然而，这也引发了对其可能反过来超越人类的担忧。
Hassabis的担忧并非毫无根据。多年来，DeepMind一直在AI领域中处于前沿，他们深知技术的双刃剑效应。尽管报告中没有明确描述灭绝的情景，但字里行间透露着紧迫感。反过来想想，如果能够有效管理AGI，或许可以化险为夷。然而，这一任务显然不是DeepMind一家公司能够完成的，需要全球的联合努力。2030年将是AI发展的巅峰，还是人类命运的转折点？时间将揭示答案。
本文译自ndtv，由BALI编辑发布。
文章总结
这篇文章探讨了DeepMind对AGI的预测及其潜在风险。AGI的出现可能标志着技术的重大里程碑，但同时也带来了巨大的挑战和威胁。通过全球合作和有效监管，可以为AGI的发展铺平道路，确保其为人类带来安全和福祉。2030年不仅是AI技术的潜力高峰，也是人类社会应对这一变革性技术的关键时刻。未来的道路需要我们共同努力，以确保科技发展与人类利益相辅相成。