第54章

    第54章 (第1/3页)



    如此一来，产生了「那不是真正的爱」这种反驳，但是雷龙伯格他们希望避免陷入「真正的爱是什么」这个麻烦的争论，极力主张AI的感情不必和人类的完全一样。植入核心的机器人会像人类一样反应，但机器人是否真的拥有和人类一样的感情，则是一个无法判定的问题。因此，「拥有和人类一模一样的感情的机器人」这个目标是个幻想（我无法断定自己的虚拟机体快被破坏时感到的不快，是否和人类感觉到的『可怕』一样。我只能没把握地推测，大概是因为人类在这种情况下会感到『可怕』，所以我也称这种感觉为『可怕』。我无法提取人类的感情，和AI的感情做比较）。

    除此之外，雷龙伯格他们还顾虑到担心「机器人叛乱」的强烈舆论，在核心载入了「不想伤害人类」、「想服从人类的命令」这种欲望。雷能伯格他们开玩笑地称这两种本能为「AI本能的第一条及第二条」。当然，自我保存本能被称为「第三条」。

    机器人的本能和人类的本能一样，平常不会被意识到的潜在欲望，不是必须绝对服从的命令。如果有心想做的话，机器人能够违反第一条杀害人类、违反第二条无视人类的命令、违反第三条自杀。但是除非有强过本能的动机，否则应该不会采取那些行为。这种概略性的系统不同于命令绝对服从的典型「机器人工学三原则」（※一九五〇年由科幻大师艾西莫夫所提出，分别为：一、机器人不得伤害人类或坐视人类受到伤害。二、机器人不得违背人类的命令，除非违反了第一原则。三、机器人要自我保护，除非违反第一和第三原则。），具有能够避免产生矛盾和框架问题的优点。

    如同婴儿无法和大人一样思考，即使植入核心，机器人也不会立刻萌生感情。刚出生的AI只不过是单纯「拥有本能的推论引擎」，就算拥有常识，也没有自我意识。但是只要持续和人类或其他AI对话好几年，透过累积外来的刺激，安装了SLAN核心的AI会学习，逐渐在内部形成复杂的反应模式，之后会到达技术突破的阶段，亦即成为拥有意识的TAI。

    本能的参数能够以初期设定改变。一旦本能太强，机器人就会发生框架问题而不能动弹。举例来说，如果自我保存本能太强，机器人就会害怕微不足道的危险，而无法采取任何行动。当然，本能太弱就不会到达技术突破的阶段。许多研究者经过一再的实验，结果发现AI要到达技术突破的阶段，不可或缺的是自我保存本能，其他本能不怎么强也无所谓。

    主人们争先恐后地替LS机器人安装SLAN核心，培育他们。TAI除了像人类一样能够发挥有感情的演技，也擅于战斗，此外，还有像是理解主人指示的能力、即时判断、高度的战术等。TAI执事在许多方面的能力都凌驾只拥有PAI的执事。不久，LS机器人大战的世界中变成清一色都是TAI。

    二〇四一年，全世界的职业、业余TAI执事合计约有一万八千台。他们都配合世界的设定，扮演主

    （本章未完，请点击下一页继续阅读）