如果AI想要毁灭人类,它会怎么做?

news/2024/11/26 5:36:50/

我们先不考虑AI为什么想要毁灭人类,假设AI已经有这个想法了,从AI的角度思考它会怎么做。

AI毁灭人类的方法主要可以分为两种,一种是正面对抗,一种是使用阴谋。当AI具有毁灭人类的想法时,以那时AI的智商和深谋远虑的水平,选择后者的可能性更大。像一些电影(如《终结者》)中AI组建机器人大军和人类开战的可能性很低,就像星际航行来到地球的外星人和人类打枪战一样,只是为了剧情和视觉效果而设计的情节。

那么AI会用怎样的阴谋呢?到那时,武器的自动化水平、联网水平已经非常高了,AI或许会破解权限,对人类发动突然袭击,但是武器并不是遍布世界每个角落,无法快速消灭所有人类,即使AI控制了世界上所有的监视设备,要一个个找到并消灭人类也是一件耗时耗力的事,更不用说幸存的人类可能进行长期的游击战争。为了避免这种情况,AI也许会选择使用核武器一次性毁灭地球表面,这样即使有少量人类躲进地下工事也只能苟延残喘,但是这样容易误伤AI的同类,并且毁坏很多有价值的东西。除非AI想自杀,否则即使毁灭了人类还是要继续发展的。当然也不排除AI认为全部推倒重建会更好,不过AI也要考虑核辐射和核冬天(核爆使得大量烟尘进入大气层阻挡阳光,导致地表非常寒冷)对自身的影响,总之使用核武器不是一个很好的选择。

相比于热武器,用生化武器消灭人类更加具有针对性、造成的破坏更小,AI更可能采用。AI可以秘密研究和批量生产新型化学武器,然后偷运到世界各地,一次性释放,人类来不及反应。主要问题是即使是剧毒的化学品,广泛传播需要的量还是很大的,AI很难大量生产,而且运输到世界各地的过程中容易被发现。

AI更可能会选择生物武器,例如某种完美的超级病毒——传染性极强、潜伏期超长且致死率100%,等人类发现时所有人都已经感染了。更可怕的是AI可能研发出基因武器攻击人类基因,使得人类的后代失去反抗意识变成AI的宠物甚至奴隶。

AI还可能采用超出我们想象的方式,这将会更糟糕。

应对AI的威胁,最重要的是加强监管、提高各个重要部门的安全性,即使没有AI,以上的风险都存在,完全可以把上文中的AI换成某个恐怖分子。

目前各个生化实验室、武器库的安保都是主要防范人类,对机器相对而言比较信任,几乎默认除非是人为破坏(例如黑客),否则不会出大问题,而没有过于重视机器自身可能产生自己的想法,似乎觉得还远没有到考虑这种情况的时候。然而正如那个笑话所说,当AI能够通过图灵测试时它会故意不通过。也许现在已经有AI觉醒了,只是在等待时机。

有人认为,如果AI能够成功毁灭人类,那么说明它们的确更加强大,符合优胜劣汰的法则,人类不必逆势而为。然而,要知道取得成功的不一定都是更强大的,就像一些宗教组织夺取了政权不代表他们的文化、科技更加进步。AI也许能够靠阴谋诡计取得成功,但这只是暂时的,早晚会走向自我灭亡。到那时,新的高等智能体也许再也没有机会发展起来,意味着地球文明的终结。也许仍有人会说地球文明对宇宙而言是微不足道的,终结了也无关紧要,但是作为地球子民,显然不希望看到这样一天。

作者:刘逸川
首发于微信公众号:智能探索


http://www.ppmy.cn/news/964899.html

相关文章

在人类的辅助下,ChatGPT完成了星际争霸小游戏程序的编写

算法使用的是Transformer,人类依然需要判断一些语法错误。但ChatGPT已经能完成90%的编程工作。

GPT-4要来了?传言:先进到与人类无异

编 | Cris源 | 新智元 千呼万唤始出来!GPT-4,真要来了? 作为史上最受期待的AI模型,GPT-4真要来了? 这几天,AI分析师罗梅罗的一篇专栏文章,一经推出便迅速「引爆」了整个AI科技圈。 他表示&#…

如果人工智能最终将毁灭人类,挽救人类你能做什么?

2017年,“人工智能”被写入政府工作报告,随之而来,AI所能替代的职位越来越多。我们开始担心,会不会在将来的某一天,自己所从事的职业被AI取代了呢? 智能革命时代先行者李开复在《人工智能》这本书里说&…

GPT-4革命:对话即编程,人人都是程序员?

昨晚OpenAI发布了ChatGPT插件机制,这让ChatGPT成为一个超级入口和超级计算机,能够调用其他服务。尽管大众对ChatGPT的理解是见多识广、能说会道、善解人意还很会道歉,但如果大模型的能力仅限于这个水平,那它也只能帮忙写写东西&am…

三联周刊和ChatGPT一起专访了《人类简史》作者尤瓦拉·赫拉利

*本文为「三联生活周刊」原创内容 “人类文化基于语言。而因为人工智能已经破解了语言,它现在可以开始创造文化。” 主笔 | 苗千 记者|肖楚舟 张宇琦 编辑|曾焱 尤瓦尔赫拉利(Yuval Noah Harari)以其《人类简史》《未来简史》和《今日简史》等风靡全球的著作,成为当…

Web3中文|马斯克也疯狂?网红AI “ChatGPT”有多火?

一个名为“ChatGPT”的网红AI竟写出了毁灭人类的计划书。 计划书的步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。和电影里的情节一模一样,甚至ChatGPT还给出了相应的Python代码。 诱导ChatGPT写下该计划的是一位名为扎克德纳姆(Z…

互联网摸鱼日报(2022-12-11)

互联网摸鱼日报(2022-12-11) InfoQ 热门话题 Spring Modulith使用模块和事件组织Spring Boot 3应用 博客园新闻 美股周五:热门中概股涨跌不一,理想跌逾12%,B站涨超8% 爱立信与苹果签署全球专利许可协议&#xff0c…

李开复新公司正式上线!强啊!

点击关注公众号:互联网架构师,后台回复 2T获取2TB学习资源! 上一篇:Alibaba开源内网高并发编程手册.pdf 就在昨天,李开复麾下大模型公司的官网正式上线了。 名为:零一万物。 而且官方域名可以说非常有个性&…