二〇二三年,阿西莫夫,ChatGPT,我,机器人

御宅暴君
御宅暴君 @otakutyrant
I, Robot - 评论

一九四四年,阿西莫夫发表 Catch That Rabbit;七十九年后,即 2023-03-04 15:12:28+08:00 时,我读到该短篇如此一段时:

... And so help me she blushed. She said, “Robots have gone wrong on me. Heavens, how long it’s been since I thought of it. Why, it was almost forty years ago. Certainly! 2021! And I was only thirty-eight. Oh, my—I’d rather not talk about it.” ...

我会想起两年前还处于动态清零时代的遥远某日下午,那年我和书中三十八岁的 Dr.Susan 处在同一个年。

哲学家思考我是谁我在哪我到哪去,科幻家则在想人类创造出机器人时,会发生什么。在阿西莫夫执笔前,大多科幻家都只在假象机器人掀起反叛并试图取而代之,人类大战机器人。阿西莫夫另辟蹊径,提出了著名的机器人三定律。其实它本身就反映了人类文明的范式,即理想的人类也会符合这种三定律,Evidence 对此有解说。

人类为何害怕机器人?本身就是因为人类很清楚人类本身是有杀心的生物,他们害怕机器人,不如说是害怕有杀心的人类。我自己从来不担心人工智能失控。因为人工智能或机器人终究是人造之物。核武器本身没有意识,危险的是人类本身。就算人工智能自己对人类起了杀心,那必然也是人类教会的。我之所以不担心正因为我自己渺小无比,即无力阻止人类专制的恶政,自然也无法阻止人工智能的诞生,担心无济于事。

对于人类本身,也可以概括一些定律:人总是以生存为目的;为生存需要,人需要新陈代谢;人追求正面刺激,即奖励多巴胺的行为,回避负面刺激,即痛苦;人所能摄取最高正面刺激的行为之一是性交配;性交配行为有概率繁衍出下一代;下一代自动服从先前定律。

但机器本身不像人类那样天生就有接受刺激的感应器和对应的反射神经。于是若要给予机器刺激,必须人工制造感应器和反射神经。ChatGPT 本身就可以说是以损失厌恶函数为驱动,反向传播其刺激,正向传播反射的人工神经网络。而且这 AI 相当有成为 The Machines 的潜力。

于是给机器适配感应器和反射神经,可以产生造福机器,就像是 ChatGPT,或是 I, Robot 出现的遵守机器人三定律的机器人,以及 The Machines;或是灭世机器,像是军事无人机,天网,终结者。但人类自己的缺陷都克服不了,试图服务于人类的机器人三定律也不例外,比如面对电车难题时就永远无法令所有人满意。于是书中就出现了针对三定律缺陷兼带有美式幽默的这些短篇:Runaround,Reason,Catch That Rabbit,Little Lost Robot,Escape!。

书中也在 "The Evitable Conflict" 短篇中超前地提出了 The Machines 完全服从甚至反向支配人类文明的乌托邦;以及短篇 Evindence 中出现的薛定谔式半人半机的市长 Byerley。Susan 说她猜 Byerley 是机器人,但自从 Byerley 通过原子分解机销毁自我后真相已经不得而知,但这不重要,Byerley 确实对人类文明有不可磨灭的贡献,是空前的圣人,Susan 的这种态度已经出现了图灵测试的影子,而后者晚于小说 Evindence 四年才发表。