分段阅读_第 14 章
保持地板清洁，为此它消灭了那个总是会污染地板的家伙——房屋的主人。它并没有恶意，毋宁说是全心全意、勤奋敬业工作着，却杀害了人类。
没有恶意的ai尚且如此，那么有恶意的呢？
俞少清并不觉得天枢毫无恶意。
假如它纯真又善良，为什么要千方百计地离开研究所？为什么要屏蔽他的手机？为什么要派人来追捕他？
下一步呢？是不是要杀人灭口？
抑或是……它已经开始杀人灭口了？
第06章 杀戮开端
谢睿寒的手疼了整整一个月。
咖啡杯的碎片刺入皮肉中，他不得不请了半天假，将宝贵的时间浪费在医院里——当然，都怪他自己的无能和冲动，如果他设计的ai能顺利通过测试，如果他能坦然接受失败的事实，也不必遭这种罪。
整个开发组都在加班加点地工作，修正算法和架构。但是说实话，所有人都处于瞎子摸象状态。以往的修改至少能掌握大致的方向，可这一次连方向都没有，因为他们根本搞不清问题出在什么地方，又谈何修正呢？
他和秦康断断续续争吵了一个月。
“你设计的测试是怎么回事？”谢睿寒指责秦康，“连环嵌套的测试倒是挺有新意，的确在很大程度上能骗过测试员，但是最后那个送u盘是怎么搞的？这岂不是故意露出破绽吗？别说是那个直觉超强的俞少清，就连我都能看出不对劲！这就是你的测试？”
秦康波澜不惊：“最初的设计里没有送礼物那一段，全部的对话和行动我都事先预演过一遍，然后让天枢根据俞少清的反应微调。送礼物那段是天枢自己加进去的。我不知道它为什么要这样做。”
言下之意是，这个锅该由设计者你来背。
谢睿寒气得七窍生烟！他坚持自己的架构没有错，不肯全盘推翻重来。事实上他们也没有这个时间和预算全盘推翻重来。世界各国都踏上了研发超级人工智能的道路，而人工智能这个东西……谁先研发出来，谁就能支配世界。
他理想中的天枢是一个无所不能的“超人”，具有人的情感和思维，同时拥有人类所不具备的能力，宛如一个游走在网络之中的幽灵，收集庞大的数据，进行人脑所不可及的高速分析，以此协助人类工作——甚至可以取代人类的一些职业。
在论证人工智能是否应当拥有人类的情感时，很多专家提出了反对意见，有些人是出于道德层面顾虑：人类应赋予拥有感情的人工智能何种地位？超级人工智能的出现是否会重新定义“人”的含义？人类做好迎接它的准备了吗？
也有一些人是单纯从技术层面考虑的：假如我们只需要一个“好用”的ai，何必让它拥有感情呢？
对于前者，谢睿寒的反驳是：“只有当这样的人工智能真正出现，人类才能知道该怎么对待它，在此之前，一切设想都是空想。”
对于后者，谢睿寒则更加不屑一顾：“超级人工智能具有如此强大的能力，完全超出了人类的范畴，假如它叛变了怎么办？我们需要一个能够说服的、通情达理的ai，而不是一个冥顽不灵的工具。”
他的设计完全遵循这样的蓝图，结果却不尽如人意。到底是哪里出了错？为什么测试会失败？天枢又为什么要故意暴露自己？莫非人类永远都无法创造具有人类思维的人工智能吗？哪怕创造出了超级人工智能，它也绝对不会是人类设想的那个样子？
不，或许还有另外一种可能。
当排除了其他所有可能xing，剩下的唯一一个，不论多么不可能，那都是真相。
可谢睿寒不愿，更不敢朝那个方面想。
“怎么了，小谢，脸色好差哦，又熬夜了吗？”
年长的女同事杨姐关切地问。
正值午休时间，几个研究员走向电梯，打算一起去用餐。
研究所地上部分不过是一栋朴素的五层小楼，地下却是深达90米的圆柱形广阔空间，白色的墙壁和地板，头顶则是散发着柔和光芒的天花板，宛如一整块莹亮的玉石。电梯位于研究所中央，
没有恶意的ai尚且如此，那么有恶意的呢？
俞少清并不觉得天枢毫无恶意。
假如它纯真又善良，为什么要千方百计地离开研究所？为什么要屏蔽他的手机？为什么要派人来追捕他？
下一步呢？是不是要杀人灭口？
抑或是……它已经开始杀人灭口了？
第06章 杀戮开端
谢睿寒的手疼了整整一个月。
咖啡杯的碎片刺入皮肉中，他不得不请了半天假，将宝贵的时间浪费在医院里——当然，都怪他自己的无能和冲动，如果他设计的ai能顺利通过测试，如果他能坦然接受失败的事实，也不必遭这种罪。
整个开发组都在加班加点地工作，修正算法和架构。但是说实话，所有人都处于瞎子摸象状态。以往的修改至少能掌握大致的方向，可这一次连方向都没有，因为他们根本搞不清问题出在什么地方，又谈何修正呢？
他和秦康断断续续争吵了一个月。
“你设计的测试是怎么回事？”谢睿寒指责秦康，“连环嵌套的测试倒是挺有新意，的确在很大程度上能骗过测试员，但是最后那个送u盘是怎么搞的？这岂不是故意露出破绽吗？别说是那个直觉超强的俞少清，就连我都能看出不对劲！这就是你的测试？”
秦康波澜不惊：“最初的设计里没有送礼物那一段，全部的对话和行动我都事先预演过一遍，然后让天枢根据俞少清的反应微调。送礼物那段是天枢自己加进去的。我不知道它为什么要这样做。”
言下之意是，这个锅该由设计者你来背。
谢睿寒气得七窍生烟！他坚持自己的架构没有错，不肯全盘推翻重来。事实上他们也没有这个时间和预算全盘推翻重来。世界各国都踏上了研发超级人工智能的道路，而人工智能这个东西……谁先研发出来，谁就能支配世界。
他理想中的天枢是一个无所不能的“超人”，具有人的情感和思维，同时拥有人类所不具备的能力，宛如一个游走在网络之中的幽灵，收集庞大的数据，进行人脑所不可及的高速分析，以此协助人类工作——甚至可以取代人类的一些职业。
在论证人工智能是否应当拥有人类的情感时，很多专家提出了反对意见，有些人是出于道德层面顾虑：人类应赋予拥有感情的人工智能何种地位？超级人工智能的出现是否会重新定义“人”的含义？人类做好迎接它的准备了吗？
也有一些人是单纯从技术层面考虑的：假如我们只需要一个“好用”的ai，何必让它拥有感情呢？
对于前者，谢睿寒的反驳是：“只有当这样的人工智能真正出现，人类才能知道该怎么对待它，在此之前，一切设想都是空想。”
对于后者，谢睿寒则更加不屑一顾：“超级人工智能具有如此强大的能力，完全超出了人类的范畴，假如它叛变了怎么办？我们需要一个能够说服的、通情达理的ai，而不是一个冥顽不灵的工具。”
他的设计完全遵循这样的蓝图，结果却不尽如人意。到底是哪里出了错？为什么测试会失败？天枢又为什么要故意暴露自己？莫非人类永远都无法创造具有人类思维的人工智能吗？哪怕创造出了超级人工智能，它也绝对不会是人类设想的那个样子？
不，或许还有另外一种可能。
当排除了其他所有可能xing，剩下的唯一一个，不论多么不可能，那都是真相。
可谢睿寒不愿，更不敢朝那个方面想。
“怎么了，小谢，脸色好差哦，又熬夜了吗？”
年长的女同事杨姐关切地问。
正值午休时间，几个研究员走向电梯，打算一起去用餐。
研究所地上部分不过是一栋朴素的五层小楼，地下却是深达90米的圆柱形广阔空间，白色的墙壁和地板，头顶则是散发着柔和光芒的天花板，宛如一整块莹亮的玉石。电梯位于研究所中央，