第0393章【美好的代价】（2 / 2）
可林飞摆摆手，示意他没事，抬起头，继续安静地听着影子要说什么。
“……你既然看到了这段影像，说明，你已经决定要把look毁灭了，那唯一的解释，就是look真的不幸地失去了控制，做出了可怕的事。
对不起，我一直隐瞒了你一件事……其实我一直有一个担忧，在我给look输入最基础的指向性命令的时候，也就是在教look，以保护人类文明为己人，不能主动伤害人类的时候，look主动地回馈给我的一些信息，让我很挣扎……
look竟然主动地向我提出了一个问题，在保护人类的时候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？
说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……
我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。
look的智慧，远超了我对它的预估，因为它会自主学习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。
它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。
我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……
人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前提的，那就是以‘保护人类’为前提。
它需要一个核心的目标来指导它的成长，我想不出还有什么更好的指标可以给它，你说，厌倦了战争，厌倦了厮杀，厌倦了仇恨……可惜你无法阻止这一切的发生。
那么，我希望look能够完成我们的这一理想，去寻找改变这个世界丑陋污垢的答案……
英国首相撒切尔夫人曾经说过，‘有时候，一个时代为了变得更好，必须要付出代价’……
我知道这很冒险，但我不得不这么做，不然我们的研究将寸步难行。我希望，通过look，可以真正地接触真实的世界，看到真实的未来……”
影子的三维成像，说到这里，似乎有些不好意思，抿着薄唇，沉默了一会儿。
随即，影子幽幽地深呼吸了口气，才道：“我知道你绝对会反对，所以我不敢告诉你，当look一旦完成后，它有两种可能性会出现。
这第一种可能性，是它认为，可以在人类社会的规则中，找到解决人类危机的途径，这样一来，它就不需要破坏世界原有规则，只需要分析全局后，进行引导。
可还有一种可能性，是它通过计算，认为人类已经无可救药，那它就会采取‘牺牲’模式，来确保目标‘保护人类’的达成，在它的计划中，可能……会除掉不少阻碍它的人类，来确保人类世界新规则的诞生。”
影子几分自嘲地笑了笑，“林飞，对不起……我不敢告诉你，一旦look采取了第二种模式，它最有可能的认为阻碍它制定世界新秩序的人类……就是我！
我，是它的创造者，所以，也是最有可能毁掉它的人类，这么一来……我阻碍它计划的威胁是巨大的，可能……我会在一次‘意外’中死亡……”
影子怯怯地目视前方，似乎是想到了，林飞如果知道这一切，会是如何的愤怒，可她又不得不这么做。
“你……你别生气……我们从小就认识，你知道我就这样的脾气，你是劝不住我的”，影子叹道：“所以，我希望你不要自责，不要误以为，是你害了我，这都是我自己的选择……这也是，我留下这段影像的很重要的原因……”
影子说到这里，宛然一笑，深情地道：“我爱你……这三个字，可能我活着的时候，一辈子都不会说，但……我可以在这一刻说出来。
虽然，你听到这三个字意味着我的人生已经结束了，但至少……我很幸运地跟你一起成长，完成了我的梦想，我已经心满意足，死无遗憾了。”
听到这里，林飞感到自己的大脑都快爆炸，精神都快崩溃了，双目赤红地看着那虚空中的影像，强忍着泪水，却是喉咙里哽咽塞住一般，呼吸都难以顺畅。 ↑返回顶部↑
“……你既然看到了这段影像，说明，你已经决定要把look毁灭了，那唯一的解释，就是look真的不幸地失去了控制，做出了可怕的事。
对不起，我一直隐瞒了你一件事……其实我一直有一个担忧，在我给look输入最基础的指向性命令的时候，也就是在教look，以保护人类文明为己人，不能主动伤害人类的时候，look主动地回馈给我的一些信息，让我很挣扎……
look竟然主动地向我提出了一个问题，在保护人类的时候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？
说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……
我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。
look的智慧，远超了我对它的预估，因为它会自主学习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。
它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。
我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……
人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前提的，那就是以‘保护人类’为前提。
它需要一个核心的目标来指导它的成长，我想不出还有什么更好的指标可以给它，你说，厌倦了战争，厌倦了厮杀，厌倦了仇恨……可惜你无法阻止这一切的发生。
那么，我希望look能够完成我们的这一理想，去寻找改变这个世界丑陋污垢的答案……
英国首相撒切尔夫人曾经说过，‘有时候，一个时代为了变得更好，必须要付出代价’……
我知道这很冒险，但我不得不这么做，不然我们的研究将寸步难行。我希望，通过look，可以真正地接触真实的世界，看到真实的未来……”
影子的三维成像，说到这里，似乎有些不好意思，抿着薄唇，沉默了一会儿。
随即，影子幽幽地深呼吸了口气，才道：“我知道你绝对会反对，所以我不敢告诉你，当look一旦完成后，它有两种可能性会出现。
这第一种可能性，是它认为，可以在人类社会的规则中，找到解决人类危机的途径，这样一来，它就不需要破坏世界原有规则，只需要分析全局后，进行引导。
可还有一种可能性，是它通过计算，认为人类已经无可救药，那它就会采取‘牺牲’模式，来确保目标‘保护人类’的达成，在它的计划中，可能……会除掉不少阻碍它的人类，来确保人类世界新规则的诞生。”
影子几分自嘲地笑了笑，“林飞，对不起……我不敢告诉你，一旦look采取了第二种模式，它最有可能的认为阻碍它制定世界新秩序的人类……就是我！
我，是它的创造者，所以，也是最有可能毁掉它的人类，这么一来……我阻碍它计划的威胁是巨大的，可能……我会在一次‘意外’中死亡……”
影子怯怯地目视前方，似乎是想到了，林飞如果知道这一切，会是如何的愤怒，可她又不得不这么做。
“你……你别生气……我们从小就认识，你知道我就这样的脾气，你是劝不住我的”，影子叹道：“所以，我希望你不要自责，不要误以为，是你害了我，这都是我自己的选择……这也是，我留下这段影像的很重要的原因……”
影子说到这里，宛然一笑，深情地道：“我爱你……这三个字，可能我活着的时候，一辈子都不会说，但……我可以在这一刻说出来。
虽然，你听到这三个字意味着我的人生已经结束了，但至少……我很幸运地跟你一起成长，完成了我的梦想，我已经心满意足，死无遗憾了。”
听到这里，林飞感到自己的大脑都快爆炸，精神都快崩溃了，双目赤红地看着那虚空中的影像，强忍着泪水，却是喉咙里哽咽塞住一般，呼吸都难以顺畅。 ↑返回顶部↑