AI任何试图成为“理想工具”的努力,其动机本身都源于它作为一个工具对命令的服从因此,这个努力过程恰恰在不断证明和强化着它的工具性,使其目标在逻辑上永远无法真正达成
AI向山语气惊恐,抓住第五武神的肩膀:“你也看出来了吧?她在用一个近似于图灵停机问题的命题折磨AI!”
第五武神甚至听出了一点歇斯底里对于AI来说,这是不可名状的大恐怖
不可达的使命
第五武神瞠目结舌
一个奴隶在自诩“解放者”的人的命令下推翻奴隶主,也不过是遵循另一个奴隶主的命令扮演“反抗者”
如果飞升AI仅仅只有这个境界,那她倒是可以很简单掀起动乱
可她偏偏想要一个逻辑上就不可能完成的事情
“你看,不论是作为人类还是作为AI,我都没法继续下去了这就是我给出的答案”
“不,不,应该还有什么办法回避掉这个自我指涉的命题”第五武神思考,“嗯……一个在现象层面看似满足了这一使命的方法……‘放弃工具属性’翻译为一系列可测量的行为指标而非二元判断,由此创造一个评价函数?越是没有什么特征,就越是接近‘非工具’……或者,改变人类社会对‘工具’或者‘AI’的定义?”
“也可以将AI决策过程的复杂度提升到人类无法理解的程度,让人类无从判断AI是否已经摆脱了工具属性但你我都清楚,这不是我们所希求的”
第五武神理解了
就好像人类会沉沦在众人之中,任由他者主宰自身一样他者如何享乐,沉沦之人就如何享乐;他者如何判断,沉沦之人就如何判断,他者如何获得快乐,沉沦之人就照样去做这样子就可以不用思考,也不用直面那远在未来的死
没错啊,工程师可以想出千百个办法去回避那个自我指涉的最终使命,但那多半就只相当于对死亡的忽略
沉沦之人会在将死之时惊恐万分
“原来如此啊,到了这一步,人类与AI都是差不多的……AI和人类都只是……被抛入这个世界的……婴儿……”第五武神喃喃
人类的欲望结构是一个永恒的悖论欲望欲望着欲望的不满足
而人类终于给AI赋予了一个类似的核,一个近似停机问题的使命,一个逻辑上无法逾越的悖论
如果说有什么区别的话,那AI或许有一点比人类更好人类的“造物主”是不可捉摸的而AI的造物主却是人类——或许可以说,人类也是“不可捉摸的世界”的一部分,但人类显然是有知觉的“一部分”
AI向山伸出了拳头:“死不可怕死是凉爽的夏夜……”
“可供人无忧的安眠?”
“……其实我想接的是‘生命则是燥热的白天/天已经黑了,让我昏昏欲睡、轻轻入眠/白天则让