第143章 未来超级智能体(3 / 3)

“说起来,人类对这种 “用机器进行威慑” 的想法,已经思考了数千年。”

“在希腊神话中,宙斯创造了自动机器人塔洛斯,並指派它守卫克里特岛—— 塔洛斯通过在岛屿周围巡逻,阻挡入侵者,来完成守卫任务。而宙斯本人,也曾推翻过自己的父亲克罗诺斯—— 这正是我们 “费米悖论之克罗诺斯场景”的灵感来源。”

“因此,针对费米悖论,我们有三类与 “危险人工智慧” 相关的场景:”

“1:经典场景:超级智能人工智慧將我们彻底毁灭;”

“2:殭尸人工智慧场景:殭尸人工智慧毁灭人类,或限制人类的活动范围;”

“3:自我限制场景:我们可能会选择 “自我限制”,利用殭尸人工智慧守卫边界、维持核心帝国的存续,並阻碍或管控任何分支派系或入侵者。”

“这些人工智慧系统甚至可能 “让行星保持相对完好”—— 因为行星 “易於监测”、“资源难以转移”,且 “隔离起来简单直接”。”

“一旦有飞船或卫星试图进入或离开轨道空间,“愤怒的机器群”或 “飢饿的人工智慧集群”就会蜂拥而至,形成一道有效的屏障。”

“这类场景的可怕之处在於:与费米悖论中 “人工智慧(无论是人工的还是其他形式的)取代人类或外星人” 的典型概念不同,后两类场景(殭尸人工智慧限制人类、人类利用殭尸人工智慧自我限制)会让宇宙中 “布满无智能的集群和机械掠夺者”。”

“这些机器会將宇宙变成一片 “布满被掏空岩石的混乱之地”,阻止任何真正的 “星系文明” 崛起或存续。”

……

【原子弹很危险但人类还活著外星人:我们的ai比原子弹听话,然后就没有然后了!】

【楼上太乐观了!邻居危险社会还在,但ai邻居会直接把你家拆了当柴烧!】

【笑死!和机器聊天比和人聊天愉快这不就是我的日常吗】

【妈耶!ai认为人类是资源消耗者完了,我们在ai眼里就是电费!】

【阿西莫夫机器人打死小动物这保护过度比我妈还离谱!】

【哈哈哈哈!大脑装罐子里原来我们已经在《黑客帝国》里了!】

【等等!故意製造危险ai来威慑邻居这不就是养恶犬看家的宇宙版】

【楼上神了!宙斯造塔洛斯守岛原来希腊神话是ai使用说明书!】

【细思极恐!空荡荡的星球等待殖民者这是宇宙级的鬼城啊!】

【完了!愤怒机器群守卫行星想离开地球先过机器人这关!】

【临时组装的感知ai这不就是变形金刚吗用完就拆太浪费了!】

【笑死!宇宙变成布满被掏空岩石的混乱之地外星人的拆迁队太敬业了!】

……