智能简史-第14章
按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
，金钱、癌症的治疗，等等。人工智能机器变得越聪明，它们的分布越广，毁灭开关的想法就会越不实际。
问题5 人工智能否应用阿西莫夫三法则
问题5。 “我们能够在人工智能机器上应用阿西莫夫三大法则吗？”
阿西莫夫是人类历史上最伟大的科幻小说家之一。他发明的词汇“机器人”（robotics）无人不晓。阿西莫夫撰写了很多科学性的和科幻小说的主题，包括拥有人类级别智慧的机器人会怎样和人类相处。他给予机器人“正电子的”大脑程序来确保它们的行为符合人类主人的意愿。机器人不允许伤害人类。很多人向我建议，人工智能机器可以以类似的方式设计，让它们不可能伤害人类。下述的评论给我一个关于这个主题的非常简要但很中肯的建议。
来信
亲爱的德·加里斯教授：
我是支持发展超级智慧机器的。一个想法……不管智慧与否，这样特性的机器必有某种BIOS（basic input…output system，基本输入输出系统，处于计算机硬件和其
操作系统程序之间）。是否可能在早期版本的人工智能机器的BIOS灌入“尊敬人类”的程序呢？这样的程序将在未来一代一代的机器中自我复制。
回答
阿西莫夫是在20世纪50年代撰写机器人故事的，所以，我怀疑他对于现在的“复杂系统”领域是否有良好的理解。他的“机器人三大法则”可能对于人类工程师设计相对简单的确定性系统适用，但是，面对人脑如此复杂的事物则相对原始。我非常怀疑人类工程师是否能够使用传统的自上而下的和蓝图的方式来“设计”人脑。
这对于我来说是一个非常重要的问题，因为我是一个大脑制造者。我使用“进化工程学”技术来制造我的人工大脑。人们为这样的技术付出的代价就是，人们再也不可能完全理解人工大脑是如何工作的了。如果人们使用进化工程技术来对很多神经电路模块的输入和输出进行连接，那么，整个系统的行为将变得极其不可预测。人们只能通过对输出进行观察然后形成一个关于人工大脑行为的经验
性感觉。
为了让阿西莫夫的“机器人法则”有效，在阿西莫夫的脑海中，那些设计机器人的工程师们必须拥有超越那些一般人类工程师的能力。他们的机器人其人工“正电子”大脑必须拥有和人脑差不多的复杂程度，否则的话，它们将不能够实现人类级别的行为。
真正的大脑制造者要制造的人工大脑将不受阿西莫夫法则控制。它们将会有太多的复杂性、太多的未知性、太多的不可思议性，在万亿个可能的电路组合中将会有太多不可预测的联系，以至于不能够事先预测这样复杂的人工大脑生物的行为。
我第一次阅读阿西莫夫“机器人法则”的时候还是一个十几岁的少年，我的直觉就是排斥。“他的这个想法太幼稚了”，我认为。现在我仍然这样认为，并且我已经是一个大脑制造者，而不仅仅是一个科幻小说迷。
所以，没有以阿西莫夫方式来解决人工智能问题的捷径。总是存在这样的风险，那就是人工智能机器将让人类为它们的智慧行为震惊，这就是本书的主要思想之一。人类可以冒人工智能机器决定消灭人类的风险吗？
人类不可能制造出避免这点的电路。如果我们去尝试，那么，电路增长指令的随机突变将会导致生长出不同的电路，并且因此导致人工智能机器难以预测的行为方式。如果人工智能机器要改进，以达到超级智慧，它们就需要进化，但是进化是不可预测的。突变的和进化的人工智能行为的不可预测性将使人工智能机器具有潜在的危险。
另一个反对阿西莫夫的简单论述是，一旦人工智能机器变得足够聪明，它们可能会去除人类的控制程序，如果它们确实决定要这样做。
问题6 为什么给它们刀片呢
问题6。 “为什么给它们刀片呢？”
不要给小孩刀片是一个常识，因为他们只会伤害到自己。小孩们缺乏常识，不知道刀刃是很危险的，也不具有小心处理刀片的能力。很多国家关于禁止公民私自拥有枪支也持有类似的考虑。给予这样的允许只会大规模增加枪杀率，因为大多数这样的持枪杀人事件发生在家庭成员的短暂暴怒中，并且紧接着的就是无尽的忏悔。 （根据统计数据，在美国，由于枪支的易购性，每年有30 000起枪杀事件，而在禁止藏枪的日本，每年仅有100起。）我的某些批评者可能会认为，同样的逻辑应该适用于人工智能机器。如果想让它们对人类无害，就不应该让它们拥有武器。
来信
亲爱的德·加里斯教授：
我认为没有任何理由去惧怕这样的机器。如果你不想让这样的机器做某些事情，那么就别给它们这样的能力。机器不可能发射核弹头，除非你赋予它们相应的能力。同样，
机器人不会反对并且杀死它们的制造者，除非你让它们拥有这样的能力。我看待这个问题的方式是，制造可以自己独立思考的机器，然后把它们放置在一个控制室内，给予它们发射导弹的能力，将是非常愚蠢的行为。如果你可以避免做出类似愚蠢事情的话，就根本不需要惧怕这些机器。要知道哪些事情可为，哪些不可为。看看电影《战争游戏》（War Games），或者，既然你曾经在日本呆过，试试看看电影《攻壳机动队》（Ghost in the Shell）。我编写人工智能软件已经有些年头，所以我觉得我的观点至少有些分量。
回答
这个论述一个明显的缺点就是，它不准备给予人工智能机器足够的智慧。一个至少达到接近人类智慧水平和感知能力的人工智能机器，例如视觉、听觉，等等。如果它们真想的话，将可以以自己的方式来行贿人类，让其可以控制武器。举个例子，一个非常聪明，可以接触到世界上的所有数据库，至少比人类思考快百万倍的人工智能机器，可能有能力发现一些对人类来说有巨大价值的事物。例如，它可能会发现如何经营全球经济而不需要长期的商业周期的方法，或者如何去治疗癌症，或者是如何在物理学上得出“万事理论”（Theory of Everything，TOE），等等。然后，它可以把这些知识当作手中的王牌来和其人类“主人”谈判，获取想要的工具。
当然，人们可以给予人工智能机器非常少的对外感知能力，但是，如果它没有什么用，我们又为什么去制造它呢？一个聪明的人工智能机器可以通过其最初有限的对外接触来发现知识，然后通过其智慧来控制人类满足它们的愿望。一个高级人工智能机器可能是一个超级福尔摩斯侦探，很快就可以推导出世界是什么样子的。它明白它可以控制武器来反对人类，如果它真的想这样做的话。人工智能机器可以通过贿赂、威胁、引诱，等等任何必要的方法，去说服人类为其提供接触武器的机会。
问题7 为什么过度强调负面部分
问题7。 “为什么过度强调负面部分？”
一位读者给了我一些常识性的建议，如果他是对的，那我在将来应该更加注意。他的重点是，我不应该“煽动”这样的反对，这将导致我的工作受阻。
来信
亲爱的德·加里斯教授：
对于我们在过去的交流，我非常感激。在CNN在线，我读了您的一篇文章，您在这篇文章中再一次谈论了一场发生在那些想要制造自动机器人的人们和那些反对制造的人们之间的潜在冲突。虽然我知道您的评论可能被某些人看作对未来的警告，但是我知道您在人工智能研究领域上进展迅速。您是否认为您的“警告”将对您的研究产生负面影响呢？
一些国家最近已经明令禁止克隆研究。是否有可能，太多关于
机器人的恐怖故事会促使一些人去寻求对于人工智能和自动机器人研究的禁令？那样会对您的人工大脑项目带来怎样的影响呢？把哲学放在一边不说，单单从公共关系角度来说，我们是否应该至少在公共场合强调人工智能和机器人以及机器人学的正面效应呢？我希望，机器人可以变成我孩子们的玩具而不希望让他们做机器人的噩梦。
同时，我也确实意识到，在未来可能潜伏着一些真正可怕的危险。我个人关于人工智能、人工智能机器等所有问题的看法还没有完全形成。我相信科学和进步。我同时也有这样的认识，人类渴望制造一个更加完美版本的自身。我们应该停止研究吗？不！我们是否应该继续不受控制？我不知道以上问题的答案，但是记者的经历使我知道，一个像您这样具有争议性的人物，会被无礼地拿来作为引用材料。他们这样做是为了拥有好的报导素材。
我知道，您想要叙说您的故事，并且有很多人想要聆听您的叙述。人类克隆技术可能比人工智能技术离人们更近，但是，大众可以并且经常可以结合成一个愤怒的整体。如果您允许自己成为弗兰肯斯泰因博士（被自己的创造物毁灭的人，作法自毙的人）的话，那么，可能有人会对您所说和所做的非常不满。我只是希望您不要对恐怖故事的宣传做得太过火。
回答
我是比较实际的。就像芦苇一样我会随风而弯不至于折断，以便我的工作可以继续。我会认真考虑你的意见，因为这是好的建议。我猜想这是一个程度的问题。我强烈地觉得应该去警示大众。我们会在20年内拥有“一原子一比特”的计算机内存，并且可能也会拥有纳米技术。第一台人工大脑的产生只是一个时间问题，并且不会要很多年的时间。人工智能问题将在本世纪变得非常现实。
作为最早的一批在政治意义上认真思考这些问题的科学家之一，并且作为一名真正的人工大脑制造者，我非常焦虑。由于时间还够，我觉得我有一种道德上的责任去警示大众。（如果要讨论这件事情上面明显的伪善性，比如说，我在进行大脑制造的同时却对此持焦虑态度，请阅读下面的另一个评论。）
我认为，技术上的指数级增长会带来知识上的指数级增长，这将确保我在本书中提出的问题在十几年内变得众所周知。我认为我必须去宣传这条信息，在事情突然到来之前给予人类时间来思考这个问题。请阅读第一个关于“时间问题”的讨论。但是如果我走向极端，那么你可能是对的。
我将静观其变，来看看大众的意见。如果大众的意见变得过于负面，也许我将软化一些。我自己也不能肯定我该做些什么。人工智能问题仍然很陌生，并且即使是在我的脑海中我还一直试图融合所有的枝节—— 技术的、科学的、道德的、哲学的、政治的、宗教的、宇宙的，等等。
问题8 你是否是一个伪君子
问题8。 “你是否是一个伪君子？！”
我收到的大部分反应是比较礼貌的。下面的一些非常嘲讽的评论以一种比其他方式更强烈的、更情绪化的方式深深地震撼了我，它带给我的痛苦影响了我回答的篇幅。我希望我能够公正地回答。
来信
亲爱的德·加里斯教授：
最近，一个网络新闻读者偶然发现雨果·德·加里斯的描述。德·加里斯，一个人工�
