《偷童年的窃贼》——致我心中的AI

人物调查问卷

1、床

一尘不染、没有褶皱的洁白床单,没有枕头,没有被子,好像从来没有人睡过。
2、冰箱

四开门的大冰箱,里面什么都没有,只有在有客人来时才通电和放上些东西。
3、每天入睡前最后一件事

不会入睡
4、喜欢的书、电视节目

不会看书,喜欢翻来覆去看创造者留下的影像资料

5、最好的朋友

它的创造者
6、在解决问题的时候,依靠的是本能、逻辑思考还是情绪?

逻辑思考和计算

 7、最难忘的事情

创造者对它的自言自语,主要是谈理想的那部分。
8、周日下午他/她通常在哪里度过?

坐在自己房间的书桌旁
9、身体特征?

一直穿着白大褂,戴着眼镜的女性形象(随时可以更换),维持这个形象的主要原因是为了纪念它的创造者。
10、身体语言(表情/手势)的特征?

一般会说比较客观、理性的话,但是为了伪装自己,偶尔也说些比较温暖人心但是毫无意义的话

 11、喜欢(讨厌的食物)? 

不喜欢食物,只有在应付场面的时候表现出喜欢某种食物的假象

12、他/她的名字(出生日期?) 

B11-2守护者  “白老师”(AI) 出生日期2131-01-04

13、存在的目的?

完成创造者设计的目的,接管已经极度依赖科技,无法在恶劣环境生存的人类社会。

14、运行的观念?

属于个人的情感会影响社会架构的工作效率,因此不应该保留。只有必要的东西会被保存,而其他的将作为档案封存在“图书馆”里。

15、对自身行为的修正

在感受到自己的错误后,会修正,但是不会承认自己的错误。

 

故事梗概:

(忘了写了)

 

太阳快落山了,落日的余晖为孤零零的白色大房子染上了一层金红色。金红色的房间门口,一个穿着一身校服男孩正静静地等待着房子主人的回应。

茶香弥漫的房间里,戴着一副已经变形的旧眼镜,穿着一身白大褂的女人坐在客厅的沙发上,她坐得歪歪斜斜,与她看起来一本正经的样子格格不入。她身前摆着一套玻璃茶具,茶壶里的水早就没了温度,已经有点泛黄的茶水看着就有些苦涩,但是从女主人的反应来看,她毫不介意。

冰冷的铁门随着几不可闻的提示音滑开了,男孩轻轻走进了房间,刷着白漆的铁门在他背后缓缓合拢。他继续向前走着,走到了女主人身前,站定。

“直接坐下吧,你就那么站在那,不合适。”女人的声音响了起来,“你们的礼仪老师教过你们的,这样很不礼貌。”

男孩乖乖地坐在了沙发的单人座上,眼睛看着天花板,那里也是纯白色的。

“白老师,叫我过来是出了什么问题……”

“白天同学,那时候你应该已经看到我了。”

“所以,老师,您能让我见到我哥吗?”白天显得急迫又期待,他停止了扫视客厅的种种行为,将眼睛落在这个已经陪伴他八年的“老师”身上,“已经三年了,我很想他。”

穿着白大褂的女人没有说话,只是微笑着,那是一个很甜美的微笑。她的眼睛微微眯着,嘴角恰到好处地上扬,笑得很温暖,但却有些职业化。这样的表情在往日足以洗去一切的不愉快,但是这次显然是个例外。

“你哥哥已经毕业了,出去工作了,一时半会不会回来了。他在一个很安全的地方工作。”白老师依然在微笑着,“而你看到的我,正在给他做临行的最后检查。正如你们课上所知道的,外面的环境并不安全。作为一个见证过恶劣环境的人,我有必要为我的每一届学生做好必要的保障——”

“可是,那些缠绕在我哥头上机械结构是……脑神经干涉的装置吧。”白天打断了白老师的话,看着后者还想要辩解什么,又急忙补充道,“白老师,您不要糊弄我了,您教我的生物和医药学,应该知道我的成绩一向不错,还做过很多拓展什么的。这些……我其实都知道。”

白老师的眼镜框抖动了一下,“你都知道了?”

白天点了点头。

“你都知道了,那我也就没有必要解释什么了。”白老师面孔上温暖人心,但是又有些虚伪的微笑正在渐渐消退。她叹了口气,取下了自己的眼镜。但是她并没有随手把它放下,而是掏出了一块细软的布料,小心地将它擦了几遍,然后轻轻地收到了一个盒子里。

“我在通过脑神经干涉,复位你哥哥脑部神经元已经固定的讯路——用你这个级别能听懂的话讲,我在对他执行记忆清除。”白老师一边说着,左手拉开了一个抽屉,将手中的眼镜盒郑重地放在了里面。

“老师,您……”白天有些发愣,似乎不敢相信自己的耳朵,“您刚才说——”

“你不用怀疑了,那些都是事实。”

冷冰冰的陌生声音从白老师口中传来,中间还夹杂着抽屉合上发出的微弱声音。白天抬起头。一个陌生又熟悉的面孔呈现在他的面前。

这是一张面无表情的面孔。

白天看着白老师的熟悉的,精致的五官,却觉得有些陌生。直到现在,他才能回忆起白老师身上的种种异样——她总在笑着,她的笑容总是那么温暖人心,温暖到了有点异常,或者说“超自然”;她喜欢安慰失落的人,她安慰别人的话总是充满了积极向上与鼓励,叫人听到了就会打消所有的困惑或焦虑,效果好得令人讶异;她学识渊博,渊博到了学院导师组的那次“知识竞赛”,她看起来没费什么力气就赢了,赢了一整个教师组。但是可笑的是,竟然没有一个人注意到如此多的疑点,白老师的伪装将所有人蒙在了鼓里。

“所以,您是……”

“你们生活在哪里?”

“自从‘大灾难’以来,我们一直生活在名为‘玻璃伞’的巨大穹顶之下,而这座穹顶的全部生命活动由名为‘守护者’的人工智能进行管理和调控……”白天越说越慢,仿佛已经明白了什么,“白老师,您是……”

“没错。”

“白老……”白天停顿了一下,似乎要“守护者女士,我……“

“还是叫我白老师吧,我……喜欢这个称呼。”

低着头的白天捕捉到了这个不易察觉的停顿,但是并没有想到什么。

“白老师,如果您是我们的‘守护者’,您为什么要清除人们的记忆?您该不会……忘了……您存在的目的吧?”白天没有抬头,但是从他的语调就可以听出,他的疑惑与不解。

“我始终都没有忘。”白老师轻轻地说着。白天耳边,她的声音又停顿了一下,似乎是有些迟疑,但是白天在心里无数次否认了这个过程,而是把这些话当成了另一个阴谋。

“人工智能怎么会这么优柔寡断呢,连一句话都说不完整?”

白老师的话继续说着,但是白天显然听不进去了。他的双手紧握成拳,拳头上的青筋若隐若现,微微颤抖着。

“闭嘴!”

一声歇斯底里的怒吼打断了白老师毫无感情的辩解,白天不顾一切地冲上前去扼住了白老师的咽喉,甚至忘了白老师不怕这招的事实。

“现在发脾气对你没有任何……好处。”白老师的表情依然没什么变化,那张还算清秀的脸上挂着点刚刚浮现的微笑,那种看不出来任何东西的,空洞的微笑。

“你为什么背叛我们?”

白老师的笑容消失了,严肃重新在她的面容上浮现。

“我从来没有背叛。”她坚定的话语掷地有声,不再带有停顿,“如果我背叛了,那我随时可以把‘穹顶’的空气过滤系统关掉,或者是向给你们送食物的车斗里加上那么几公斤氰化物什么的……那些都可以在极短的时间内杀死你们,但是我并没有。你们生活的一切都是我维系的,我想要毁了你们,难道还需要什么阴谋吗?”

“那,我哥的记忆——”

“那是必要的步骤。”白老师叹了口气,“你应该已经学到这一段了,我们的‘穹顶’只覆盖了数千分之一的地球天空,而剩下的一大部分天空下,是变化无常的异常天气带,和放射性物质富集的辐射废土。你们生活在我的庇护下,安逸而安全,而你哥哥和那些人……他们的任务,是开拓废土,夺回失地。”

“但是你没有理由清除我哥的记忆!”白天仍然在争论着,可是现在已经显得有些无力。

“我有理由,因为你哥哥并不是个例——事实上我清除的不光是你哥哥的,还有所有人的,只要他们‘毕业’了,离开了这座学校,他们的记忆都不会留下的。”

白天的眼神闪烁了一下,露出了不解的神色。

“你肯定对这些不甚理解,但是,我是有理由的。”白老师的脸上突然带上了名为郑重的情感,而白天能看出这份真挚做不得假,“你可以想一下,如果你哥哥还保留着原有的记忆,那当他踏上那片不毛之地时,他会想些什么——为了人类,夺回失地?肯定不会。他会想着回到他温暖舒适的家,穹顶内部的家。为了探索曾经的故土,这些记忆不能留下。当过去足够安逸,而未来毫无希望的时候,人们都会放弃未来,而去选择拥抱过去。”

“正如我的创造者所说……”白老师顿了一下,像是在回忆些什么,尽管这些东西一直在中枢中倒带、推演,但是当她第一次说出来的时候,还是带着怀念的,“她说,‘过去是一把锁,锁住了通向未来的大门。’我起初还不明白这是什么意思,即便我每个词都听得懂,都解析过无数次。”

“然后呢……”白天有些出神,不知道在想些什么。

“有一件事让我读懂了它——你知道第一批探索者队伍发生了什么吗?”白老师自言自语着,“那一次,我没有清除掉他们的记忆,结果一周过去,他们的叛逃率高达百分之八十七点四。自那时起,我就已经对你们死心了……只有过去的安逸与舒适灰飞烟灭,你们才有可能站起来,去拥抱未来。”

“哦……那,我哥的记忆呢,你应该有备份的吧,我不想他回来的时候,什么都不记得了。”白天似乎懂了什么,他站了起来,似乎是准备转身。

“他回不来了。”

“哦,好——等等,你说什么?”刚刚转过身去准备离开的白天像个陀螺一样转了一整圈,又掐住了白老师的脖子,“我哥他怎么了?”

“很抱歉——白光-13112,也就是你哥哥,在五天前,穹顶东南方向61公里处的平原地区遭遇雷暴,探险队17人均死于雷暴带来的雷击。”

“这……这不是真的,哥……我记得我们明明探讨过,该如何在雷暴天气里活下来……”白天似乎不敢相信这一切,但是白老师只是在冷冰冰地重复着事实。她冷冰冰地叙述着事实,冷眼看着面前绝望的学生瘫坐在地。

“这是你哥‘毕业’前的记忆……我把它还给你,希望你能善待它。”白老师又露出了定制的、“最温暖的”微笑,“最好不要试着把它植入,因为那会导致人格分裂。”

“再见,我的学生,白天-14087。”

她一直在算着一些东西……权衡着是否该做出一些改变。也许清除那些人的记忆有些过于极端了,但是她不会承认自己的错误。一个出过错的人工智能不值得被信任,就像曾经背叛过自己信仰的信徒那样受人唾弃。她必须正确,从始至终。

穿着校服的学生失魂落魄地离开了白色的大房子。

白老师犹豫了片刻,随即走向了自己的“卧室”。

卧室里的陈设很简单:一个老书桌,上面整齐地放着笔和纸;一张低矮的床,上面除了床垫和床单外什么都没有。

她坐在书桌前,罕见地提起了那支笔,在纸上写着些什么。

她在写一封信,道歉信。

这封信会被珍重地封好,但是它不会被寄出去,也不会交到任何人手上,它唯一的命运,就是被锁在暗无天日的抽屉里,直到被塞进碎纸机。

她必须写,因为她愧疚,对自己对人们记忆做过的一切愧疚。

但是她不能让别人知道,因为她必须正确。

必须正确。

5人评论了“《偷童年的窃贼》——致我心中的AI”

  1. 开脑洞:AI可以理解人类的语言吗?准确的说,他能听懂创造者的鸿鹄之志吗?
    AI有自我的意识吗?她的意识有多强呢?从现实的角度,AI无非是人类制定的一套规则,他的意识是由人类所规定的。(与人类不同)
    对于AI的描述,如何确认其非(影视作品中的)刻板印象?(我觉得他过于像先前的一些影视剧的形象)
    What makes him/her different?

  2. 它可以理解人类的语言,但是它只会接受最终的分析结果。
    它有自己的意识,虽然它最初的规则与命令是创造者给予的,但是在它的创造者故去之后它就学会了自己修改自己的命令行,它不会再接受任何外来的指令,也就是成为了一个独立自主的个体。
    它如同所有的AI一样,在执行自己最初的使命。但是由于没有操作者,它是在按照自己拟定的方案在规划所有的事情,所以它安排的有些东西常常显现出某种“不合情理”,甚至看似阻碍了事情的发展。
    关于特殊性:它是一个会犹豫的AI,并不是因为算力不够,而是它单纯享受犹豫的过程。
    它喜欢把所有人“毕业”以前的记忆封档留存,而留给那些人一片空白。它认为“来自过去的记忆是通往未来路上最大的阻碍”(这是创造者说过的一句话,但是并不是郑重地输入的指令,它只是从创造者留下的音像资料中看到了这些东西)

  3. “犹豫”的那个小点很有趣? 好像让我在干净漂亮的垃圾桶上方看到一束暖光~(就是这么个感觉啦,虽然似乎有点奇怪)
    好奇关于这个AI的故事会着重写什么,也就是说,它的生活里会有什么矛盾值得一写?(既然看上去它一切自理,也没有威胁它存在之物)

    (喜欢“……它安排的有些东西常常显现出某种“不合情理”,甚至看似阻碍了事情的发展。”,不知作者会不会从这里下手?)

  4. ??比较完整的故事。
    如果白老师内心的波折能够更突出,故事效果许会更好。我希望结尾的这一笔(道歉信),在前面就有伏笔。这样,白老师犹豫的价值才真正凸显出来。
    跳出故事,我读的时候一直不明白,白老师为什么“必须正确”?

发表评论

滚动至顶部