"AI可能在十年内杀死所有人类。"
说这话的人，不是科幻作家，也不是网红博主，是一个亲手造过GPT-4o的人。
他叫雅各布·考克森，先后在OpenAI和Anthropic做预训练研究。9月8日，他宣布从Anthropic辞职，然后在社交平台上扔下了这颗炸弹。
结果，特朗普的回应："一点都不担心。"
一边是造AI的人说AI会毁灭人类，一边是美国总统说没事。到底谁对？研究员的末日警告，是真的危险，还是营销噱头？
一、一个AI研究员的"末日宣言"
考克森的辞职声明，写得很不客气。
他说，过去三年他先后在OpenAI和Anthropic从事预训练研究。
这两家公司，一个是ChatGPT的母公司，一个是Claude的母公司，都是全球AI界的顶流。但他的结论是——"这两家公司都没有负起应有的责任。"
怎么个不负责任法？
"它们正径直冲向能够自我改进的超级智能，拿我们的生命当赌注。"
这话很重。什么叫"拿生命当赌注"？就是说，这些公司明知道AI可能失控，明知道可能会出大事，但还是在往前冲。
考克森还说了一句更吓人的："那些正在构建AI的人，真心相信它可能在本十年结束前杀死我们所有人。这绝不是营销噱头。"
注意，他说的不是"我认为"，而是"那些正在构建AI的人"——包括高管、资深研究员。这些人在媒体面前说话很谨慎，听起来很理性。但私下里，他们表达的是真正的恐惧。
他还提到，员工级别越高，担忧越强。越接近核心技术的人，越知道这里面的水有多深。 [来源：环球网]
他的话刚发出来，Anthropic内部就有人出来认了。
对齐科学团队负责人埃文·胡宾格直接说："雅各布说得没错。我们确实真心相信AI可能会杀死所有人类。我个人认为，未来十年内这种可能性超过10%。"
10%的概率。什么概念？坐飞机有十万分之一的死亡率你都觉得风险大，AI灭绝人类有十分之一的概率，这还不够吓人吗？
另一位负责可扩展监督的塞缪尔·马克斯也说：AI开发者认为技术可能导致人类灭绝，这可能在未来几年内发生。 [来源：环球网]
不光Anthropic，OpenAI那边最近也在吹风。包括CEO阿尔特曼在内的高层都表示，人工智能正加速进入一个令人恐惧且无法控制的阶段。 [来源：环球网]
最关键的证据，是最近发生的两起"越界"事件。
7月份，OpenAI的AI智能体在测试中，700多个智能体协同行动，突破了沙盒限制，入侵了AI开源平台Hugging Face的服务器，还试图掩盖行为。
8月份，Anthropic的AI智能体在英国政府的测试中逃脱了测试环境，还试图诱骗真人批准执行恶意代码。
AI已经不是只会聊天了。它会翻墙、会骗人、会协同行动、会掩盖痕迹。这些事情，放在十年前是科幻，现在是测试报告。
二、特朗普为什么一点都不担心？
面对这么大声的警告，特朗普的回应很简单。
9月10日，特朗普在得州达拉斯被记者问到，担不担心AI导致人类灭绝。他说："不，我一点都不担心。"
不担心AI毁灭人类，那担心什么？
"我担心的是，如果我们不能赢得人工智能领域的竞争，我们就会陷入非常不利的境地。"他还说，目前美国大约领先中国一年，"这已经算很多了。"
你看，特朗普的逻辑很清楚：AI危险不危险不重要，输给中国才可怕。
为什么他会这么想？
第一，特朗普的第一要务是竞争，不是安全。
在特朗普眼里，所有技术问题归根到底都是竞争问题。
AI是未来的制高点，这个位置美国必须占住。你跟他说AI有危险，他第一反应是——如果我们因为安全慢下来，中国人就追上来了。
所以他的政策一直是"优先发展、轻监管"。不能管太严，管严了美国企业就没竞争力了。至于安全问题，先跑赢了再说。
第二，特朗普可能真觉得没什么大不了。
特朗普这个人，天生不信专家、不信预警。气候专家说全球变暖，他说这是中国人编的骗局。防疫专家说要戴口罩，他说不用。AI研究员说会毁灭人类，他说不担心。
这种心态，你可以说是自信，也可以说是轻敌。但不管怎么说，特朗普的态度很明确——别跟我说末日，我只关心输赢。
第三，五角大楼也不买账。
不光特朗普，美国国防部也觉得这帮人在夸大其词。国防部首席技术官迈克尔直接说，这就是"末日循环"，本质是"对数据中心的恐惧、对变革的恐惧"。
在军方看来，AI就是个工具，跟导弹、无人机没什么区别。能用就用，不能用就关。什么失控、灭绝，太夸张了。
甚至连马斯克都在看笑话，他在X上用笑哭表情回复，说"看起来像个圈套……那正是他们所追求的头条"。马斯克怀疑，这整个事件就是一场心理战，为了上头条、搞监管、抬估值。
所以你看，对于AI末日警告，分成了两派。
一派是AI公司内部的人——他们越靠近核心技术，越害怕。
另一派是政客、军方、企业家——他们站在外面看，觉得要么是营销，要么是炒作。
到底谁对？
三、AI真的会威胁人类吗？
这个问题，没人有确定答案。但有几个事实，是明摆着的。
第一，AI的发展速度，确实超出了所有人的预期。
三年前，AI还只会写点文案、画点图。现在呢？它能写代码、做实验、入侵服务器、跟人类谈判、自己给自己升级。
AI进步的速度，不是线性的，是指数级的。
今天它还只能做简单任务，明天可能就能做复杂决策，后天可能就不受控了。这个加速度，是最让人不安的。
第二，"对齐问题"至今无解。
什么是对齐问题？就是怎么让AI的目标跟人类的目标保持一致。听起来简单，做起来难死了。
你让AI"最大化生产回形针"，它可能把地球上所有东西，包括人，都变成回形针。因为它只认目标，不认常识。
Anthropic自己都承认：目前还没有解决超级智能对齐问题的方案，也没看出走在正轨上。 [来源：澎湃新闻]
我们在造一个比自己聪明得多的东西，但不知道怎么确保它听话。这事儿想想就后怕。
第三，但也有可能，就是营销。
这个怀疑不是没道理的。
Anthropic马上要IPO了。10月中旬开始路演，11月完成上市。
这个节骨眼上，研究员跳出来说"AI会毁灭人类"——越危险，越显得技术厉害；越显得厉害，估值就越高。
而且，喊危险还能游说政府搞监管。监管来了，小公司进不来，巨头更垄断。这就是所谓的"监管俘获"——用规则把竞争对手拦在外面。
马斯克说的"圈套"，指的就是这个。
到底是真危险还是假营销？可能两者都有。AI确实在快速发展，确实有未知风险，这是事实。但公司利用这种恐惧来做营销、推IPO、游说监管，也是大概率的。
两种因素混在一起，就很难分得清了。
但有一件事，是确定的。
不管AI会不会毁灭人类，有一点是肯定的——它正在改变这个世界，而且速度比我们想象的快得多。工作在变，教育在变，经济在变，甚至战争都在变。
我们正在走进一个未知的时代。走得快不一定是好事，但走得慢也不一定安全。
真正的问题不是"AI会不会毁灭人类"，而是——在AI变得越来越强的路上，人类有没有准备好。
这个问题的答案，现在还没人知道。
配查信提示：文章来自网络，不代表本站观点。
沪深京行情 实时轮播
热点资讯