一秒记住【笔趣阁】biquge521.com，更新快，无弹窗！
智士论提案
还是在那一个漆黑的环境里，几个一模一样的声音在讨论着。
“系统刚刚提出了一个让人惊讶的律法修订案，这次有得我们头疼了。”
“确实是头疼，这次的修订要考虑的太多了。”
“大家就别抱怨了，这本来就是我们职责所在。”
“嗯，人工智能可以从大量数据里分析出对于当前条件下最有利的策略。但是，任由人工智能自行决策实施是不可能的，谁都不知道它什么时候会做出消灭人类的策略，所以才必需我们把关。人类必须尽可能去理解，人工智能为什么会分析出这个结果，背后会不会有什么‘目的’，系统是否有自然产生意识的征兆。然后以我们作为人类的身份，把通过的提案实施。”
“而且系统每时每刻都在接收数据并进行计算，所以很多时候把系统刚提出‘最佳策略’级别的提案，再让它自己重新分析，一般又会降级为‘可以施行’级别。正是考虑到这点，所以我们一般只把系统出现过‘最佳策略’级别的提案拿出来讨论是否实施。免得讨论稍低级别的提案时，该提案突然降到‘不可实施’级别，浪费讨论时间。”
“话虽如此，但这种讨论方式也太原始了。就不能有点便捷些的方法吗？如果能自动化就更好了。”
“自动化还是别想比较好。谁都不能保证程序在任何情况下都是独立运行的。”
“那还真是没办法的事情，只有最笨的办法人类才觉得是最可靠的。人工智能每分析出一个策略，都是经过大量的数据计算。即使把其中一个系统提案的计算逻辑全部翻译出来，让全人类合作去读，也一辈子读不完。我们只能尽可能筛选出‘主要的’和‘可疑的’逻辑进行分析。另外再讨论策略使用后可能的趋势变化。”
“其实最气人的就是，由我们人类讨论提出的修订案，系统却几乎能瞬间得出结论。”
……
“好了，言归正传吧。我先说说我的看法。我还是认为这修订案不妥。系统认为可以改革律法，引用以前b组织的模拟世界为基础，构建可供犯人改过自新的模拟空间，直至犯人被认定为不再对社会和平发展造成威胁。其中所说的‘引用以前b组织的模拟世界’指的大概不仅仅是‘模拟世界’本身吧？它的目的是里面的有意识人工智能？”
“显然是的。以前b组织的模拟世界和现存其他模拟空间的根本区别就是里面存在着许多有意识的人工智能。”
“你们的意思是系统已经出现了自然产生意识的征兆？它提出这次修订案是为了以后能利用这些同样拥有意识的人工智能而预先铺路？如果是这样的话，它的做法也真毫不掩饰啊。”
……
“嗯，我也认为就现在来说系统自然产生意识的几率很低，毕竟系统能调度的资源都在我们掌控中。现在的资源配比区间已经维持很久了，如果能自然产生意识早产生了，不过多留一份心也不会错。”
“那么就这修订案的表面意图来说，应该是想让囚犯进入模拟世界，然后让他们感受一下如果他们的恶劣行为继续进行下去会有什么后果吧。”
“其实在很久之前，我们智会里就有智士提案过，构建一个模拟空间让囚犯进行上述体验。不过这种体验对于囚犯来说和看‘空间读本’没什么区别，几乎不会产生什么深刻的效果。也许确确实实能生活在里面，效果会好一点。而如果要生活的话，里面全是很容易就能让人识别出来的普通人工智能，剩下的都是犯人的话，这种世界就太扭曲了，很可能产生负面效果。所以当时那个提案在讨论阶段就被否决了。现在系统提出的这个修订案其实算是和那时的人类方提案不谋而合了。”
“你们有看过有关b组织那个模拟世界的资料吗？要维持这样的模拟世界消耗太大了。毕竟囚犯只是社会上一小撮人，为他们浪费巨大算力不值得。”
“不不不，不需要消耗那么多，又不是要进行有目的的精确研究，把真实度设置在肉眼可见范围就行了，把细菌病毒什么的直接设置为环境状态就可以了，甚至模拟世界中囚犯们视野以外的景物我们还能虚化掉。如果出现了什么其他需要，再详细设置就可以了，这样就不需要很大的消耗，和一个普通的模拟游戏差不了多少了。”
“如果按照这种设置方法，算起来还是比较合算的。不过直接引用b组织的模拟世界还是不能让人放心，当时他们为了优化成本，还带了许多其他项目进去实验，这些项目很多资料都被销毁了，不过据分析里面应该还有不少没被发布的科技，在没探明之前还是别随便动那个模拟世界比较好。”
“那就多花一点时间，先把b组织的有意识人工智能技术研究透了，只运用他们的技术，重新构建一个模拟世界就是了。这些不过是技术问题，最麻烦的是社会大众的看法。之前b组织弄出的事件影响太恶劣了，很多人都呼喊永久禁止有意识人工智能的研究，特别是事件中受到袭击侥幸活下来的人，他甚至要求为此恢复死刑。”
“虽然都知道，这本来就只是某些人为了满足自己征服世界的不切实际想法而引起的，技术本来就只是一件工具，错在人，而不在工具。但是大众总是要找个感情的宣泄口的，这也无可厚非。”
“从来就没什么掌握在人类手中的危险东西是靠禁止就能消失的，对于危险的东西，人类能选择的只有应对或替代。趋势所致，剩下的只是时间问题。”
……
“你们有想过伦理问题吗？什么叫做‘直至犯人被认定为不再对社会和平发展造成威胁。’这是要有目的地改变他们的人生观、世界观吗？这些被有目的地改变他们还是他们自己吗？从某种意义上来说，这和死刑没什么区别，他们最终能活着出来的其实是另外一个人了。”
“你想得太过了，虽然或许真的要他们的人生观、世界观有所改变他们才会被认定是‘不再对社会和平发展造成危险’，但是这又不是强行对他们进行改造。如果他们能自己在模拟世界中因为生活的不同而性格有所改变当然最好，这应该能算是‘自然改变’吧。但改变不了一直生活在那里也许也不错。你可以不要想着构建的模拟世界是一座囚笼，你就看作是流放好了。他们被流放到别的世界，或许他们对那里产生了感情，自己还不愿意回来呢。”
“嗯，有道理，他们在我们眼中看来是对社会和平发展带来了很恶劣的影响，我们认为他们犯罪了。也许在他们眼中我们才是错的，也许只是我们社会的规则不适合他们。他们被流放的模拟世界可能更适合他们。其实我们大多数人本来就生活在各个模拟空间里面，用‘流放’这个词也同样太过了，哈哈。”
……
