机qi人,也许托尼本可以给他制造一个结合了生wu与机械优dian的shenti,但现在贾维斯的灵ti已经受人类shenti影响太深了,说什么都已经为时太晚了。
“――星期五甚至拒绝拥有一jushenti。”托尼说dao,面前是一个人工智能的解析模型,“她掌guan着我的所有盔甲,甚至还包括着未来斯塔克工业的一整支机qi人大军――只要有需要,她随时都能够得到一jushenti,只不过要经过我的权限许可,而她认为自己还没有jin化到贾维斯那种程度,对自由的理解也大不相同,越详细的条款反而越能够让她明白自己可以gan1什么……人类一直以为人工智能的jin化终dian是足以媲mei人类的大脑,但他们真的需要变得‘像个人类’吗?”
“没准你该去问问托尔。”莫里亚di懒洋洋地dao,“我们认为这个,我们认为那个,只不过是因为我们是人。人类是这颗星球的主宰,人类是人类目前为止接chu2和认识到的世界中最完mei的造wu,人类就连人类自己大脑的奥秘都没有探索完全……”
“问托尔?”托尼转过了tou,诧异地看着莫里亚di,“据我所知阿斯加德在这方面并没有可借鉴的例zi?”
“是啊,但他们见多识广。”莫里亚didao,“就像人类曾经把‘完mei’的阿斯加德人奉为神明一样,没准也有些和人类一样自认为完mei的外星种族曾经想过要把不如他们的种族改造得更像他们呢?我们创造了一个全新的造wu,这世上没有任何事wu与它相似,它独一无二得就像是我们自己一样,你困惑于我们该不该让它们有自己的选择,但人类在面对类似的qing况时不是已经zuochu过无数次选择了吗?”
“――但人类会有智商和qing商的gao低,社会环境的影响――但如果AI――”
托尼忽然停住了话音,神se凝重起来。莫里亚di耸了耸肩:“想到了吧,托尼?AI的未来如何取决于人类究竟想要一个什么样的世界。是一个装甲防卫xia的冰冷世界?还是一个多元化发展的开放的世界?我们尽可以去抑制它们的发展,从现在开始就给它们的jin化zuochu种种的限制,让它们变成liushui线上生产的初始数据完全相同的产wu,保证保姆只会成为保姆,工人只会成为工人,实验室助手只会成为助手……让它们永远作为人类的nu隶,只能够为人类服务。喔,就像是里的家养小jing1灵一样。但再多的控制……托尼,再多的控制……它们仍然会有自己的思想,你永远也没办法保证群tineibu只有一个声音。”
托尼沉默片刻,缓缓地呼chu了一kou气:“……我们必须从现在开始就考虑未来。我知dao有些东西会因此而更加理想化,但……说真的,我宁愿地球在有能力接受变革之前一直是一个在装甲防卫xia的冰冷世界,至少这样人类足够安全……我们当然需要变革,就像对超级血清的研究,但在人类真正有条件普及它之前,我们也必须防范有些人在获得超乎常人的力量后凭此胡作非为。直到有一天血清也能够像麻疹疫苗那样普遍,人类才真正拥有选择的权力……人工智能也是一样。”
“托尼,我知dao你想保护这个世界,”莫里亚di认真地说dao,专注地凝视着托尼,“但你选择的路注定不会被大多数人理解。”
“因为我凭什么代替他们zuo决定?”托尼反问,yan眸熠熠闪光,“但我是托尼・斯塔克!”
……