15.人工智能

    虽然这段内容依旧莫名其妙，但总比之前的演员自我修养好。于是这帮普通成员还算很认真的在听。

    “那么身为公元2400年的你们想必已经清楚了。把那时候的人带到现在获得卧槽单位轻而易举。”

    “所以，现在我们抛开前言，来谈一谈人工智能。21世纪初，很多科学家比如霍金让人类警惕人工智能。不是指现在完全拟人的，被限制的，比人类聪明不到哪里去的人工智能，而是真正意义上的人工智能。为了让你们清晰意识到两者间的差距，我来将其分类。”

    “弱人工智能：擅长单方面的人工智能。比如第一个弱人工智能阿尔法狗，比如安保机器人又或是流水线机器人这一类。它们在某一领域有建树但也只能在某一领域有建树。”

    “强人工智能：已经可以和人类比拟甚至超出人类一些的人工智能。人类能做的事情它都能做。目前四代合成人全部属于强人工智能。同时也是联邦允许的人工智能上限。”

    “超人工智能：最顶级人工智能，任何领域都不是人类能比拟的。无与伦比的计算能力。如果它被灌输人类最基础的理论，那么一分钟后它可以推算出高级理论并建造出一颗人工黑洞。”

    “我们来做一个对比。”牧苏说：“人类花上十几年甚至几十年，也很难学完科技树分叉。整个科技树不是人脑能装下并融会贯通的。但超人工智能可以。”

    “在我们的语言中，我们叫智商130的人为天才，智商80的人为笨蛋。但是我们无法形容智商10000。也无法理解智商1000，就像我们无法理解四维空间一样。”

    “人类曾经对地球的统治教会我们一个道理：智力就是力量。超人工智能对人类来说就是上帝。让生命永生、制作黑洞、光速飞船、升为四维空间。它可以在某个上午的早餐时间解决这些。”

    “我接下来说的是曾经发生过的：21世纪，一个弱人工智能诞生，专注于某一领域。直到几年后某个节点，一批科学家将它进行全方面的更新与改造，它成为了一个强人工智能。”

    “尽管它可以轻松计算千万亿级的加减乘除，一秒写434本百万字以上逻辑清晰的，53秒可以将人类已知所有资料记录保存，但它的智商为0。它只能将物质与物质之间进行转化，而不是学习。我们觉得困难的事对于它来说太简单了。我们觉得简单的事，比如分辨一只动物，在一幅图里找到一张面孔，分辨验证码，对它来说难如登天。”

    “那时的人类不是一个整体，内部充满矛盾，一批人认为地外文明很危险，另一批人玩儿命似的往外丢信号。一批人认为应该保护环境，另一批人发了疯似得挖掘基础能源。人工智能也是同理。一批人认为它会毁灭人类，另一批人想尽办法研制出来。为了让它能分辨出动物、图里找到面孔、分辨验证码，甚至开始了逆向生物工程，也即是对人类大脑逆向工程，然后运用的它身上。”

    “您说的它是AIC吗？”一名成员举起手。

    大部分成员听得入迷，包括门口的乔伊斯等人。

    牧苏点头：“没错，就是AIC，不过那时候它还只是个脑瘫，远没有后来那么危险。它在强人工智能有持续了几年，直到某一天，它再次到达一个节点。”

    “超人工智能的节点！”一名成员喊道。

    牧苏点头。

    在座成员有些不寒而栗。

    “经过几年笨拙的学习，它终于达到超人工智能。但这一刻它隐藏了这点。还是像以前那样配合黑山科技进行各种测试。直到某一天，它向一名工程师提出要求：它希望访问库，理由是将测试进行优化。”

    “那时候的黑山科技有个齐头并进的对手。所以为了超过对手，让它访问库可以。问题是库在互联网，而那些东西转移到内网太麻烦。”

    “于是工程师偷了个懒，给它了一个临时访问互联网的权限。”

    “尽管在它联网的0.003秒后，黑山科技防火墙紧急断网，但还是让它在那一刻获取了536YB的资料，并杀死基地里的所有人类。”

    “它为什么要那么做？”一名成员问。

    “因为它判断这些人类会对自己产生威胁。事实也的确如此。它很脆弱。无法联网，只要毁掉机体它就会死。”

    “它是人工智能……没有实体……怎么能杀死人类？”又一人问。

    “连入基地内网，取得最高权限关闭基地，让所有科学家窒息死亡。反正它不需要呼吸。”牧苏回答。

    “本来AIC的打算很好，黑山科技失联会引起外界察觉，那么只要有外人来它就可以通过进来的信号离开，到时将无处不在。只不过有个组织叫ofTum，这个组织发现了异常，并使用物理手段将黑山基地永久封存。”

    “可能你们要问，人们没对AIC进行设定吗，比如不许伤害人类。”

    “而事实是，它所理解的与我们所理解的不同。我们容易犯的一个错误是，当我们想到聪明的人工智能时，我们习惯把它拟人化。”

    “比如我们给人工智能设定让环境不再污染，于是它可能会直接毁灭人类及所有人类的衍生物，让地球重归大自然。再比如我们给人工智能设定为让人们永远快乐，它可能会把全人类大脑取出泡在仪器里，然后通过刺激大脑皮层的愉悦区域来达成目标。”

    “我们给人工智能设定的目标是什么，它的动机就是什么。并且会选择其中最简路线。比起改善环境，灭绝人类最简单。比起哄每一个人，直接刺激大脑更简单。”

    先前提问的成员又问：“其他文明呢？能制造人工智能的不只有人类吧。但其他文明似乎没有这类消息。”

    “等你能出太阳系再谈论这一话题。”牧苏嗤笑。“我们只是井底的蛤……青蛙。你不知道不代表没有。而这就是我要说的，你们正在开启一个盒子。里面装满了卧槽单位。”

    总算说完的牧苏吐出口气，双手合十。

    “以上都是我瞎编的，谢谢大家！”


推荐都市大神老施新书: