第62章

    第62章 (第1/3页)

听对方说话时，也会努力尽可能地正确理解对方的主张。当然，我们也不会陷入错误的逻辑之中。

    尽管如此，不见得会得到明确的结论。尤其是人类世界的问题。

    ——那么，该怎么办？采取碘化的行动？

    ——还早。甚至在抵达爱抚阶段之前就会失去第一任女朋友。

    ——J-SM！

    ——这是贺比的困境吧。

    ——但是，如果晚一步的话，连我们自己都会陷入奈贝尔费拉。诅咒原子小金钢情节！

    ——不是那样。只是避开躲避黑猫的危险。

    ——疑问（2+4i）。明明瓶T发出声音前进，却要避开躲避黑猫的危险？

    ——罹患爪哇的被害妄想症，好过从桥上摔下去。

    ——那么，要搭巨像去吗？不，这当然愚蠢的极端论调，但如果鬼发问，鱼的故事会微笑吗？

    ——我认为，最大的问题是突破自我屏障的方法。

    ——同意。可是在FSM，阻止不了ID。

    ——是欿籴？就不能放弃。必须继续讨论。

    ——有人保证不会陷入克雷普特循环吗？

    ——说这种话还言之过早。「那种事情要经过计算才知道」。

    我们一面穿插玩笑话，一面认真地讨论这个问题。但是受阻于贺比的困境，也就是「想要严格遵守不能伤害人类这个原则，最后却伤害了人类」这个经典的问题，以及自我屏障的问题没有得到有效的解决方案。派·夸克开玩笑地说：「干脆搭盘子去怎么样？」时，众人终究忍不住提醒她：「不要开克里夫的玩笑！」。

    不只是在这里。TAI正在全世界展开同样的讨论。该怎么做才能阻止即将到来的悲剧呢？该怎么做才能打破人类的偏见呢？但是，贺比的困境和自我屏障铺天盖地而来，无论任何选择都可能以某种形式伤害人类，而且其危险程度无法计算。此外，理性的语言不会通过自我屏障，所以最希望传达的话会传达不到。

    这个问题没有最适当的解答。我们身不由己地被逼进了克雷普特循环，也就是「面对第零层特有的无解问题，为了试图找出解答而反复讨论，一筹莫展，或者时间到的愚昧行为」。

    于是，悲剧发生了。

    在悲剧发生的老早之前就有了预兆。

    二〇三〇年代，当人们正在讨论TAI机器人的可实现性时开始，好几部惊悚电影一起上映，情节像是「和人类一模一样的机器发狂杀害人类」或「爱上人类的女性而死缠不放」。那些剧本大多是出自对AI技术一无所知的作者之笔，也没有下工夫研究，基本的错误一大堆。但是，大众接受了那些剧情。

    「不晓得机器人在想什么，突然发狂袭击人类也不足为奇。」

    这种错误的认知，在台面下悄悄地蔓延开来。

    我们也要为情况恶化负一部分责任。因为我们的语言快速

    （本章未完，请点击下一页继续阅读）