:“我想再造一个和我一样的机器人。”
“哦?为什么呢?”莫丁很感兴趣问道。
“我想要一个朋友,山特告诉我说,朋友是世界上最珍贵的东西。”
莫丁有些明白了,这个机器人在向他的教官山特学习的过程中,出现了令人工智能原创者意想不到的偏差,以至于宾尼的价值判断超过了命令优先权,让他突破了原创者的安全控制手段,发生了“叛乱”。
现代量子计算机技术的发展,已经使得计算机的运行速度和存储能力得到极大的提高,它不再是人们在设计人工智能计算机程序时,需要考虑的资源限制问题。
所以设计者们为了解决程序运行过程中出现的种种问题,往往会不断的增加和修改程序,加进去一个又一个的修订模块,使得人工智能程序变得越来越庞大和复杂,
这样做的后果就是,单纯依靠人脑,已经很难再从底层代码逐条逐句的分析程序执行的可靠性。所以一旦在这个庞大程序的构建过程中,某个程序员疏忽或者恶意嵌入了bug,也很难被检查出来,这就给人工智能程序的运行埋下了隐患。
所以人类制造了比自己大脑还要复杂的智能计算机系统,就面临着失去控制的危险。
而像朱时禹那样的聪明人,就懂得使用蓝猫那样的伴生机器人,让价值观与自己完全一致的绝对“忠诚”的机器人伙伴,去解决关于机器人的问题,这也不失为一种对付未来机器人必然失控问题的最好办法。
用机器人对付机器人,有点像清朝的那些皇帝们,用来对付洋人入侵的思路,但最终的结果却是惨败。所以,这种办法,不知道能让人类走多远。但除
第一九六章 蜕变(5/6)