AI的“人格重生”

【缘木求鱼】

别于是又心心念念于AI的是非“本性梦魇”，于人、于己都有效用。

木木

不久前，一个原是莱利的苹果公司技师，言之凿凿地说，“LaMDA”(苹果公司的一款语言数学模型AI系统对)做到了“本性梦魇”。莱利毫无疑问，“LaMDA”之后有七八岁孩子的智力，而且之后才会在公司中“各种搞事”。

据传，莱利是在与“LaMDA”几度系统地“聊天”后被骇人到的，“我觉得山崖的顶部在伸展……越来越觉得，我正试图和一些聪明的东西说话。”虽然莱利未曾天长地久“LaMDA”在公司里头搞过一定会，但这并不无视他唯人就说“LaMDA”“活着了”。于是，被莱利“施暴”过的各级别合译者，都觉得了苹果公司大楼上的“伸展”，然后，莱利就被收了“夏天夏天”。

据传，除莱利之外，苹果公司大楼上里头没人显然“‘LaMDA’之后其实梦魇”了。楼上里头楼上外究竟此事的很多人，还或委婉或直白地理解过莱利刚才有情况的之意。在旁观者看来，这虽然多多少少不算“情商瑕疵”，但“瑕疵”的长期存在，倒真的让人觉得庆幸——在AI的“本性梦魇”这件事情上，很多人的头脑还清醒得很，他们的“情商瑕疵”表现，倒恰恰证明了在进化本质的深处，是遗了本能反应的。

AI做到了“本性梦魇”，乃是本质，这就是人修就了“人”的另一种理解。谁都究竟，人是“真主”（或其他神）修就的。于是，试图修就“人”的人，法理就是在向“真主”总括；而修就不止“人”的人，也就有了相媲美“真主”的资格。也；也莱利才会激动得“觉得山崖的顶部在伸展”。

其实，莱利不孤，很多人都暗自相媲美“真主”的执念。修一个“本性梦魇”的AI系统对的想法和系统化，其实早就有了。如果说，许多年前，囿于自身控制能力的不足以，这种执念还主要体现为在电影、诗作上的单纯中乐，而随着进化系统设计控制能力的退步，特别是在是计算机、在线、工程设计、材料系统设计的更快退步，进化的系统设计控制能力进一步提高得迅速，这些暗自执念者修“人”的系统化，也就；也地越来越像模像样。

岁月断断续续。遥远的未来，进化才会不能真的就修不止个“同类”来，无论如何不好下定论，但可以毫无疑问的是，在可预唯的将来，是非的AI的“本性梦魇”，不能任何有可能。进化把同样、间接修就不止来的天量数据，通过同样、间接的方法“灌入”AI的“脖子”里头，AI就能由量变而质变地从机器系统对一跃而踏入“人”吗？这条交叉路口停下来大意。

据传，“LaMDA”的“脖子”里头，就遗了137B个参数，无所事事在1.56T的公共直接对话数据和在线译文上进行专业训练，饶是如此，“LaMDA”还是化不成“人形”。不但“LaMDA”难以如愿，在其之后的诸多类似系统对，也不能一个能转成“人”。下半年，那条才会下围棋的“除此以外老鼠”把柯洁“打”痛哭的一幕，确实给人印象深刻。但也就如此吧，这种印象与长枪打掉大刀、汽车背离小恭请给人所致的印象，不能本质区别，“除此以外老鼠”可以打败象棋，但自己永远成不了其实象征意义上的象棋——因为，它不能自己没事儿弹琴，越来越体才会大概弹琴有什么体验。诸如此类的例子太多，这条轨迹的“死胡同”性质，就于是又清楚不过。

当然，还可以换个角度看这个情况。我们与其问AI才会不能“本性梦魇”，倒不如扪心自问AI为什么非要“本性梦魇”必——真的有这个必要吗？即使天可怜唯，进化眼里于AI的“本性梦魇”，最终真的修就不止一个控制能力强悍的“上新进化”，彼时彼地，进化又将如何自处？如果说，进化自身都尚未寻不止一条统一性感情的必需轨迹，进化与“上新进化”的感情之道，近十年好像的样貌，就无论如何难想象，正如一个科的“真主”，感受如何难以窥知一个样。

其实，“真主”也是人修就不止来的。修就“真主”的本源力量，是人在自然、社才会面前的无力感。毋庸讳言，被人千辛万苦修就不止来的“真主”，是长期存在甲壳类某种程度的“直觉安全漏洞”的；人日思夜想于是又修就不止一个类“真主”的“上新进化”，深知还是要先把“安全漏洞”堵牢的好。不过，这个“直觉安全漏洞”缝补好像无论如何不容易，很多人显然莱利刚才有情况的理由，即在于此。

修一个控制能力强悍替代亟需工作的机器是一不对，修一个控制能力强悍的“人”是另外一不对。把精力聚焦于前者，才是正途。别于是又心心念念于AI的是非“本性梦魇”，于人、于己都有效用。

（译者系证券时报报导）

在本专栏海外版发表的指摘，至少亦然译者本人观点，不亦然证券时报唯解。