包括苹果联合创始人在内的名人，甚至哈里王子都签署了一封信，呼吁禁止AGI。了解风险以及为何Meta忽视警告。
微信分享
打开微信，扫描下方二维码。
想象一个比以往任何时候都更聪明的头脑。现在，想象一个智能比现在高出一百万倍，并且能够自主学习，不受限制。这就是超级智能的承诺——也是威胁——这项技术正在将世界划分为将其视为我们救赎的人和担心它将是我们最后一个错误的人。紧张局势已达到沸点。
全球紧急刹车警告
一场前所未有的运动正在壮大。数百名科学家、技术领导者和公众人物签署了一封公开信，提出了一个紧迫而直接的请求：禁止开发超级智能，也称为通用人工智能（AGI）。由未来生命研究所组织的这份文件已获得超过850个重量级签名的支持。
签署者中包括塑造我们当今数字世界的名字。Geoffrey Hinton，常被称为“AI教父”，曾获得图灵奖（注：原文可能误写为诺贝尔奖，此处根据上下文和AI领域背景修正为图灵奖，或保持原文结构但需注意），也在名单上。与他并列的有Steve Wozniak，苹果的联合创始人。担忧超越了硅谷的界限，获得了哈里王子和梅根·马克尔等人物的支持。
呼吁很明确：在没有科学共识保障安全并达成全球控制协议之前，全面禁止AGI的开发。核心担忧是，与当前下棋或生成图片的AI不同，AGI将成为一个具有自主学习和推理能力的实体，其能力超越任何人类。一旦激活，它可能以人类难以理解的速度进化，并有可能失控，带来灾难性后果。
Meta的悖论：裁员以加速？
当专家呼吁谨慎时，科技巨头似乎正在“F1赛车”中猛踩油门。由Mark Zuckerberg领导的Meta，采取了一项令市场困惑的举措。最近，该公司解雇了其前沿部门“超级智能实验室”的大约600名员工，该部门正专注于开发超智能。
在该部门负责人的一份内部声明中，解释说团队的缩减可以实现更敏捷的决策。其理念是让每个人承担更多责任并产生更大的影响，这类似于梅赛德斯如何打造出极其强大的引擎却保持轻量化的理念。
然而，这种矛盾的现象非常明显。在裁员的同时，Meta正在大规模招聘新的人工智能实验室人员。据内部消息，扎克伯格本人对公司的进展感到不耐烦，并继续将创建超智能作为首要任务。这一场景揭示了一种紧张：对未知的恐惧与对下一科技前沿的渴望之间的对决。
关键区别：什么是通用人工智能（AGI）？
要理解风险的程度，有必要区分我们目前使用的AI与被呼吁禁止的AGI。
- 当前AI（有限制）： 它就像一个超专业的工具。ChatGPT在文本方面表现出色，但不会开车。Waze在路线规划方面很完美，但不会作曲。它们在各自领域很强大，但也有限制。
- 通用人工智能（AGI）： 将像一个通用的智能大脑。它不仅能执行任务，还能学习任何人类的智力技能，而且速度更快。它可以制定战略、创造新技术，甚至进行自我优化，形成指数级的循环。
这种指数级的处理能力令人担忧，就像谷歌‘量子引擎’未来的巨大飞跃一样。AGI的自主行动能力，即无需监督即可行动的能力，是讨论的核心，它与关于现代汽车自主权终结的讨论相呼应。担心的是，这种新的“数字物种”，其处理能力可与隐藏在车库中的混合怪兽相媲美，可能与我们的价值观和目标背道而驰。一些人主张禁止，而另一些人则将AGI视为下一场巨大变革，就像挑战电动车时代的高效汽油引擎一样具有颠覆性。
人类正处于一个历史的十字路口。一方面是目前一些最伟大头脑所倡导的预防原则；另一方面是塑造未来的企业的无情野心。我们是在迎来人类史上最伟大的创造，还是在犯下最后一个错误？竞赛已经开始，时间紧迫。
微信分享
打开微信，扫描下方二维码。
Author: Fabio Isidoro
作为《Canal Carro》的创始人兼主编，他致力于深入探索汽车世界，并充满热情。作为一名汽车和技术爱好者，他创作技术内容，并对国内外车辆进行深入分析，将高质量的信息与批判的眼光相结合，为公众提供优质服务。
