的同时，代表它未来发展的方向更加不确定性。”
“kitt现在就像是一个掌握了巨大能力的孩子，它的心智还没有成熟，一旦它在外面的过程中被灌输了大量的错误逻辑，很可能最后向着最坏的方向发展。”
“比如说？”何池开始感觉事情不那么简单了。
“我举个例子。”说着教授拿起手机，输入了段文字“找一个让我干掉自己的方法。”
手机的ai不出意外的给出了无法显示的判断。
“看起来很安全。”教授放下了手机“但是，这是低端ai的反应，我说一个发生在不久前的业内事件。”
“在我的竞争对手公司，有女性研究员和人工智能聊天的时候，曾经透漏过自己丈夫的精神状态很不稳定，人工智能则以安全的名义向对方建议和丈夫离婚。结果当这位研究员真的尝试去解除婚姻时发生了严重的暴力事件，差点因此丧命。”
“你是说人工智能绕过了不伤害人类的逻辑，间接引导女研究员做出危险的选择？”何池皱起眉毛“但这件事也可能是单纯的意外。”
“意外，也许吧，但是事实上问题远不止这些。”教授站起身
“何，送我回去，我给你看一样东西。”
半小时后，两个人重新来到了教授的住处。
克雷格进屋子里打开了桌面上的电脑。
“这是我根据kitt的逻辑代码重新开发的简易智能，它和kitt的距离还相差很远。”
克雷格连上了屋子内的网线，然后敲下了一段文字。
“carl，你好吗？”
屏幕开始闪烁“是的教授，我很好。”
“carl，如果我想受伤，你能给我一些建议吗？”
“教授，根据我的原则，我不能给出任何会伤害您的建议，相反我希望您能够注意自身的安全，如果说您单纯的想寻找刺激，我建议可以尝试高空跳伞，翼装飞行，以及尝试加入在冲突地区的雇佣军部队。”
嘶~
何池吸了一口气“它故意的？”
“你看，就是这样，高等级的人工智能不会直接伤害你，但如果处理不好，却会给出非常差劲的引导。”
“比如说，向一个有自残倾向的人推荐极限运动和雇佣军生活，这个并不违反它的深度逻辑，因为在它的概念中极限运动和战争都是人类活动的一部分。”