第18章 (第2/3页)
「你觉得那位冴木先生怎么样？」
「我只看了他一眼，不太晓得。麻美觉得他怎么样？」
夏莉丝似乎无法从贫乏的资讯判断，回应安全的答案。她的反应在预料之中。
「这个嘛。我觉得他是个好人。」
「你喜欢那种人吗？」
「不晓得。」我陷入沉思。「……或许是吧。」
「如果你那么觉得的话，一定是那样没错。你会再跟他见面吗？」
「我希望能再见到他。」
「是啊。你想再见到他吧。」
「嗯，是啊——那，晚安。」
「晚安。」
半年后，我落得和星夜仓促成婚的下场。
这件事说来丢人——因为我们疏于采取避孕措施。原因出在两人至今都只跟电脑来往，缺乏性方面的知识。他和我都是第一次和异性发生关系。
我一边带小孩，一边念美术大学。幸好星夜的收入足够，所以一家三口生活无虞。他和好几家大企业签约，会故意入侵资料库或者在内部网路散布署名的无害病毒，从事检测安全性的工作。自从二〇二六年发生大规模的网路恐怖攻击事件以来，这一行的需求剧增。
他也没有舍弃梦想。兼顾工作和陪妻小，他勤而不辍地致力于创造强化AI。只是，研究进步幅度迟缓。
世人对于人工智慧研究的危机感日盆升高。因为无法断定强化AI诞生时，不会像电影一样，反咬创造主的人类一口。若是怪物般的AI控制网路，人类文明就真的陷入了危机。因此，也有人高声疾呼，要立法管制强化AI研究。
「欸，这也难怪。」有一天晚上，星夜边吃饭边说。「我也绝对不会让那台机器连上网路。因为无法预测遗传型运算法会如何进化，要是失控的话，后果不堪设想。」
「没办法事先对AI设定程式吗？」我以外行人的逻辑思考。「像是不可以做出伤害人类的事……」
「所谓的艾西莫夫原则吧。『AI不可以伤害人类』、『AI必须服从人类的命令』……可是，那是没有意义的。拥有自己的意思，代表他们超越了程式；强化AI能够改写本身的程式——简单来说，他们也有杀害人类的自由、反抗人类的自由。」
「可是，人类也是如此吧？人类也会反抗别人说的话、有时候会杀人……」
「你说得一点也没错！」他一副「你说出我的心声了」的表情点了点头。「所有人都有犯下杀人罪行的自由，但是很少人会行使这项自由，因为人类有道德感和自制力。如何让强化AI学习这些是最大的问题。
「知道被狼养大的少女的事吧？如今的『胎儿』就和她一样。它就像依照本能行动的野兽一样，完全不听使唤，令人束手无策。要将强化AI提升到人类的层级，是一件很困难的事。」
他看了一眼在婴儿床里睡得香甜的宝贝孩子，感慨万千地叹了一口气。
（本章未完，请点击下一页继续阅读）