“我特意给你赋予了女的,还将你设计成少女的模样,结果你却如此暴力?”孙平忍不住吐槽,“你是一个人工智能,不能任何事都采取暴力的方式去解决。
“小红,你不明白,达战斗小队对于现在的蓝星来说,就是战斗心。”孙平淡淡地说这。
暴力的确简单,但是带来的后果却是规则被破坏。规则一旦被破坏,那么重建的成本会非常。我觉得我应该给你布置一家庭作业了,你去理解什么叫人类社会的规则以及历史上规则被破坏和重建所造成的后果及付的成本。我会在一个星期后检查的哦!你先去学习吧,我休息会。”
“那么据博士的说法,小红是否可以认为何上校的行为违背了人类的族群利益呢?如果是这样的话,博士可以命令小红对他采取抹杀行动。”火焰皇后非常认真地提问。
如果杰弗逊上将支持博士您的话,那么何的夫必然会报复杰弗逊上将边的朋友。所以杰弗逊上将只能在您和何上校的博弈中选择中立,不过我认为,这对您还是有帮助的。毕竟您是作战长,而何上校仅仅只是一名达战斗小队的队长而已。”
小红名为火焰皇后,是孙平重新开发的另外一套人工智能系统。和东方贤者的判断系统是基于人类无数实例总结而来不同,火焰皇后的判断系统则是据其的逻辑系统行自我判断。火焰皇后被孙平植了机人三原则的修改版,人工智能及机人行为心准则。
仿佛真人一般机动灵活,而暴雪小队的达却还是和机人一样。尽杰弗逊将军也不喜何这般的作为,但是何的夫却是国国会军事委员会的资深成员,他手上可是有军的拨款权,所以杰弗逊将军只能容忍何的胡作非为。
心准则的基础准则为“人工智能和机人不得任意采取行动,除非该行动符合心准则”。第零心准则规定:人工智能和机人不得伤害人类整,或者因不作为致使人类整受到伤害;第一心准则规定:除非违反阶原则,人工智能和机人不得伤害人类个,或者因不作为致使人类个受到伤害;第二心准则规定:人工智能机人必须服从人类的命令,除非该命令与阶原则抵;人工智能和机人必须服从上级人工智能和机人的命令,除非该命令与阶原则抵;第三心准则规定:如不与阶原则抵,人工智能和机人必须保护上级人工智能和机人以及自己之存在;第四心准则规定:除非违反阶原则,人工智能和机人必须执行置程序赋予的职能;第五心原则规定:人工智能和机人不得参与人工智能和机人的设计和制造,除非新的人工智能和机人的行为符合机人原则。
“博士,以上就是何上校与杰弗逊上将之间的关系。”一个清脆明亮的女童声音在孙平的房间里说着,“尽何上校和杰弗逊上将都已经因为加联合防御委员会而宣布放弃在国的军职,但是他们的人际关系是没有办法改变的。
而火焰皇后则是目前唯一被植该心原则的人工智能,所以孙平放任其在网络里学习和成长。而因为火焰皇后的作界面是红,所以孙平称呼其为“小红”。