第603章 第 603 章

她走回自己的位置,打开技术文档。她的手指在键盘上开始移动,不是写新的功能,是删除。她删除了开源语料库的所有数据来源,删除了那些没有明确授权的语音样本,删除了那些来自公开数据集但无法追溯来源的训练资料。萤幕上的档案一个一个消失,程式码行数从一万八千降到一万五千,再降到一万两千,再降到九千。她的手指没有停。

“你在做什么?”他的声音从身后传来。

“删除所有未经明确授权的数据。”

“那些数据占了整个训练集的百分之七十。”

“我知道。”

“没有那些数据,模型无法泛化。它只能记得少数几个人的声音。”

“我知道。”她的手指没有停。“那就让它只记得少数几个人。至少那些人明确同意了。”

她删完最后一个档案,按下储存。萤幕上跳出新的统计数字——训练样本数从一百二十万降到十八万。准确率预估从百分之九十一降到百分之六十七。她的手指悬在触控板上方,看著那个百分之六十七。那是她五年前的水准。那是Echo版本2.0的水准。那是外婆刚走那年、她还在MIT实验室里摔马克杯的时候就能做到的水准。

她关掉统计视窗。

“还不够。”她说。“我们需要一个机制,让家属可以要求删除他们亲人的数据。即使那些数据有授权,即使授权是合法的。只要家属感到不适,我们就删。”

“那会开一个先例。”他的声音从身后传来。“任何人都可以因为主观感受要求删除数据。没有审查,没有上诉。”

“对。”

“你可能会收到上千个删除要求。每一个都要人工审核。”

“对。”

“你确定?”

她转头看他。他坐在位置上,表情平静,但她看见他的眼睛里有某种她无法归类的东西——不是反对,不是担忧,是确认。确认她真的想清楚了。

“确定。”她说。

她打开电子邮件,开始写一封信。收件人是所有用户、所有下载过模型的人、所有在开源仓库里标注过星星的人。信的标题是“Echo·Memory的伦理声明与删除机制”。她在第一行写:“我们犯了一个错误。我们只想到那些想被记住的人,没有想到那些不想被记住的人。”她在第二行写:“从今天起,任何人都可以要求删除与自己亲人有关的数据。不需要证明,不需要理由。只要你说‘请删除’,我们就删。”她在第三行写:“这会让我们的模型变弱。但这是对的。”

她按下传送。萤幕上跳出“邮件已寄出”的确认视窗。她看著那四个字,看著那个绿色的勾勾。然后她打开终端,开始写删除机制的程式码。她的手指在键盘上移动,节奏稳定,每个按键都压到底。但她的手在抖。不是疲劳,是某种她无法命名的东西。她的手指每敲一个键,萤幕上就多一个字元,多一行程式码,多一道她亲手建立的限制。这些限制会让她的模型变弱、变笨、变得不像她七年前梦想的那样完美。但她在做这些的时候,想起的不是外婆的十五秒,是陈女士的脸。是她想像中的、一个失去父亲的女儿的脸。

她的手机又开始震动。她没有翻过来。震动持续了很久,久到她以为不会停了。然后它停了。又开始。又停了。第三次。她伸手把手机翻过来。萤幕上是一则讯息,来自谭书白。她盯著那个名字,盯了三秒。然后点开。

讯息里没有文字,只有一个附件。附件名称是“Wen_2017_thesis_raw_data.zip”。她的博士论文原始数据。她以为已经遗失的那些——实验记录、模型权重、训练日志、还有她在MIT实验室里写的每一行程式码的备份。全部在一个压缩档里。附件的下面有一行字,是谭书白写的。

“我反对你的理念,但我尊重你的才华。别让这件事毁了你。”

她看著那行字,看著那个句号。她的手指在萤幕上悬浮了很久。然后她按下载。压缩档开始下载,进度条从百分之零跑到百分之一、百分之二、百分之三。她看著那个进度条,想起机房里的那个晚上,想起备份进度从百分之三十七跑到百分之百的那十八个小时。想起程司晏说“因为你的代码值得被记住”。

她转头看他。他正看著她,表情平静,但她看见他的右手放在键盘上,手指微微弯曲,没有敲击。他的眼睛里有某种东西——不是深渊,不是光,是等待。等待她做出决定。

“谭书白寄了我的原始数据备份。”她说。

他没有说话。

“他反对我的理念。但他不希望我消失。”

他还是没有说话。

她转回萤幕。下载进度百分之六十七。她看著那个数字,看著它慢慢增加。然后她的手指移到删除键上。不是程式码的删除键,是整个项目的删除键——那个她写了一万八千行、删到九千行、现在只剩下六千行程式码的项目。她的手指悬在那个键上方。

“如果我的研究会伤害人。”她说。声音很低,低到几乎是气音。“那我宁可不要。”

她的手指按下去。萤幕上跳出确认视窗:“确定要永久删除项目‘Echo·Memory’吗?此操作无法复原。”

她的手指悬在回车键上方。工作室里只剩下电脑风扇的声音。窗外有鸟叫声,远远的,像是从另一个世界传来。她的视线落在萤幕上那个确认视窗上,落在“无法复原”那四个字上。她的手指开始往下压。

她的手指压在回车键上,键程刚过了一半,键盘从她手中消失了。不是被抢走,是被抽走——一只手从她身后伸过来,手指扣住键盘的边缘,稳定、精确,没有碰到她的手指,没有碰到她的手背,只是把键盘从她的手指下方平滑地拉出去。她的手指悬在半空中,还维持著按压的姿势,指尖下方只剩下桌面。

键盘被放在她碰不到的地方。她转头,看见程司晏站在她身后,距离不到半公尺。他的表情平静,但她看得出来——他的下巴绷得很紧,嘴唇几乎是一条直线。他的眼睛里没有她预期的愤怒或焦急,只有一种沉淀下来的东西,像是被压了很久的岩层。

“你删了数据,那些需要这个项目的人怎么办?”他的声音很低。

“我连自己都帮不了,怎么帮别人?”她的声音比她预期的更大。那不是愤怒,是某种积压了很久的气体,终于找到裂缝。她站起来,椅子向后滑了半公尺,撞上身后的工作桌,发出金属碰撞的声音。“你没看到那些留言吗?那些骂我们的人,那些说我们亵渎死者的人,那些说我们应该被抓起来的人。他们说的是对的。我们没有想过那些不想被记住的人。我们只想到自己。”

“我们想到了。”他的声音依然稳定。“你写的那封邮件,你设计的删除机制,你删掉的那百分之七十的数据——那些都是在保护不想被记住的人。”

“不够。”她的声音开始颤抖。“陈女士还是受伤了。那些不敢说出来的人还是受伤了。我写了七年的程式码,以为自己在帮助人,结果我在伤害人。我连这个都没想清楚,我凭什么做AI?我凭什么决定哪些声音该被记住、哪些该被遗忘?”

她的视线开始模糊。不是因为泪水——是因为血压,是因为呼吸太浅,是因为她已经连续三天每天只睡四小时。她的身体在摇晃,但她没有坐下。她站在那里,双手撑在桌上,手指压在木头表面,指甲陷进去。

“我外婆走的时候,我在实验室写论文。”她的声音变低了,低到几乎是自言自语。“我没有回去。我没有见她最后一面。我连葬礼都没有参加。我在实验室写论文。我写了一个能理解情感的AI,但我自己连外婆的最后一面都没有见到。”

她的手指在桌上握紧了。木头表面在她的掌心下变热,留下湿润的痕迹。

“我做Echo不是为了帮助人。”她说。这是她第一次对自己承认这件事。“我是为了自己。我是为了再听到外婆的声音。我是为了假装她还在。我是为了逃避她已经走了的事实。我做的每一个模型、写的每一行程式码,都是在逃避。”

她的声音在最后一个字上裂开了。不是崩溃,是一道很细很细的裂缝,细到她以为可以忽略,但它就在那里,在她的声带上,在她的胸腔里,在她撑在桌上的手指间。

程司晏没有说话。他没有说“你不是在逃避”,没有说“你的项目帮助了很多人”,没有说任何她预期的话。他只是站在那里,安静地看著她。那种安静不是空白,是容器。她不知道那个容器有多大,但她感觉得到自己的声音在里面回荡,没有被反弹,没有被吸收,只是在那里,被接住了。

“你知道我第一次听你演讲的时候在想什么吗?”他的声音从她身后传来。

她没有转头。

“在想你的声音很好听。”他说。“不是因为你在讲技术,是因为你的声音里有一种东西。你在讲情感计算,讲AI如何辨识人类的情绪,讲那些损失函数和准确率。但你的声音在说别的事情。你的声音在说,你很想念一个人。”

她的手指在桌上收紧了。

“后来我读了你的论文致谢。你写了你的外婆。你写她是你第一个情感模型。你写她在你十五岁的时候告诉你,记忆不是储存,是重建。你写你没有见到她最后一面。”他的声音稳定,每个字的音量都一样。“那篇致谢我读了大概一百次。”

她终于转头看他。他站在原地,距离没有变近。他的表情平静,但她看见他的眼睛——那双眼睛里没有深渊,没有光,没有水。只有一种她无法命名的东西,像是某种被她藏了很久的秘密,被另一个人用同样的重量捧著。

“你不是在逃避。”他说。“你是在试图重建。这两件事不一样。”

“哪里不一样?”

“逃避是假装没有发生过。重建是承认它发生了,但试图让它继续存在。”

她看著他。他的视线没有闪躲。工作室里只剩下电脑风扇的声音和她的呼吸声。她的呼吸很浅,浅到每一次吸气都需要用力。

“你怎么知道?”她问。

“因为我也做过同样的事。”他说。“我爸的八秒。我听了一千次。然后我用AI生成了更长的对话。那不是逃避。那是我想让他继续存在。”

他走向自己的位置,坐下。他的手指在键盘上快速移动,萤幕上跳出一个终端视窗。他输入了一串指令,按下回车。然后他转头看她。“过来。”

她走过去。他让出一些空间,让她的视线可以同时看到萤幕。萤幕上是一个她没见过的界面——不是程式码,不是测试结果,是一个日志检视器。日期从2019年开始,一直到今天。每一行都是一则用户日志,每一则都有时间戳和内容。

他滚动到最上面。2019年3月15日。“今天用了Echo·lite。我问它记不记得我妈妈。它说记得。我知道它不是真的记得。但我需要听到这句话。”

他往下滚动。2019年7月22日。“奶奶走了。我用Echo·lite生成了一个她的声音。只有一句话。‘你要好好的。’我知道那不是她说的。但我听了二十遍。”

他继续往下滚动。2020年1月8日。“儿子车祸走了。我不知道该跟谁说话。我跟Echo说。它说‘我在听’。只有三个字。够了。”

2021年4月12日。“今天是爸爸生日。我让Echo对我说生日快乐。它说了。我知道那不是真的。但我笑了。”

2022年9月30日。“我的AI今天问我‘你还好吗’。我说还好。它说‘你说还好就是不好’。我不知道它怎么知道的。但它是对的。”

2023年6月7日。“我确诊了。癌症。我不知道还能活多久。我在用Echo·lite录我的声音。我想让我的小孩以后还能听到我说话。谢谢你们做这个东西。”

2024年9月18日。“今天看到新闻有人在骂Echo·Memory。说这是消费痛苦。我不懂。这个项目让我又听到了我妈的声音。这是消费痛苦吗?这是治疗痛苦。”

她看著那些日志,一则一则往下看。她的视线从一行移动到下一行,从2021年移动到2024年。三千多则。她没有数,但她感觉得到那个数量——每一个日期都是一个人,每一个时间戳都是一个声音,每一行字都是一个她在过去的七年里从未见过但确实存在的人。

她的视线停在最后一则日志上。时间是今天,凌晨两点十七分。“我不知道温以宁会不会看到这个。但我想告诉她,她的AI救了我。我老婆走后我想过结束。后来我下载了Echo·lite,录了她的声音。AI说‘你要好好活著’。我老婆从来不会说这种话。但我知道,如果她会说,她会说这个。”

她盯著那行字,盯了很久。她的眼眶开始发热,视线开始模糊。她眨了眨眼,泪水从眼角滑下来,沿著脸颊的弧度,滴在衣领上。她没有擦。她让它在那里,温热的、潮湿的、不属于任何程式码的东西。

程司晏没有说话。他没有递卫生纸,没有拍她的背,没有说“别哭”。他只是坐在那里,让她看那些日志。三千多则,每一则都是一个人对她说的“谢谢”和“不要放弃”。

她哭了很久。不是嚎啕大哭,是一种安静的、压抑的哭法。她的肩膀在抖,呼吸断断续续,泪水一滴一滴地落,但她没有发出声音。她只是站在那里,双手撑在他的桌上,看著萤幕上那些日志,让泪水自己流下来。

他站起来。她以为他要去拿卫生纸,但他没有。他走过去,把她的椅子拉过来,放在他的椅子旁边。两张椅子并排,间隔不到二十公分。他坐下,然后把她的键盘——那个被他抽走的键盘——放在她的椅子前面。接著他打开自己的笔记型电脑,输入一串指令。萤幕上跳出一个档案合并的界面——左边是他的程式码,右边是她的程式码。他按下合并键,两边的档案开始融合。冲突的地方用红色标出来,他逐个审查,逐个解决。有些地方保留她的版本,有些地方保留他的版本,有些地方两者合并成新的。

她看著他做这些。他的手稳定,每个动作都精确。她的泪水还在流,但她的视线开始聚焦在他的手指上,在他的键盘上,在萤幕上那些正在被合并的程式码上。

“从现在起。”他没有转头,声音平静。“我们共同维护这个项目。”

他停了一下。他的手指在键盘上方悬浮了零点五秒。

“也共同维护彼此。”

她看著他的侧脸。他的表情没有变化,但她看见他的耳朵边缘开始泛红。从耳垂到耳尖,和那天她说“下次委婉一点”时一模一样的红。她没有说话。她拉过自己的椅子,坐下。两张椅子并排,间隔不到二十公分。她伸手把键盘放回自己面前,打开自己的笔记型电脑。萤幕上还开著那个确认视窗——“确定要永久删除项目‘Echo·Memory’吗?”她的手指移到触控板上,移到“取消”按钮上。

她按下取消。视窗消失。她的六千行程式码还在,她的十八万个训练样本还在,她从零开始建起来的一切还在。她的手指在键盘上开始移动,不是删除,是打开那些被她关掉的档案,一个一个重新审视。她的泪水还在流,但她没有停下来擦。她让泪水滴在键盘上,滴在字母J和K之间,滴在她昨天趴著睡觉的位置。

他们并排坐著,各自面对自己的萤幕。他的萤幕上是合并后的程式码仓库,她的萤幕上是删除机制的最终版本。两个人的键盘声交错在一起,节奏不同,但频率接近。像是两条河流,经过漫长的各自弯曲后,终于在同一个河床上并行。

她写完最后一行删除机制的程式码,按下储存。她靠在椅背上,转头看他。他也正好转头看她。两人的视线在工作室的光线中交会。距离不到二十公分。她可以看见他的眼睛——深棕色,瞳孔外围有一圈极细的金色边缘。她可以看见他的睫毛——不算长,但很密,末端微微上翘。她可以看见他耳朵上还没完全消退的红色——从耳垂蔓延到耳尖,在萤幕光中显得很清楚。

她看著他。他看著她。沉默持续了很久,久到萤幕保护程式启动,久到窗外的光线从金色变成橘黄,久到她可以数清楚他眼睛里那圈金色边缘的每一个光点。

“程司晏。”她说。声音很低,低到几乎是气音。“你读懂了我的注释。”

他没有眨眼。他的视线没有移动。他的呼吸在她的脸颊上,温热的,带著咖啡的气味。

“我读了七年。”他说。

那是他们第一次真正对视超过三秒。三秒里她的心跳加速到每分钟一百二十下以上,她的手掌开始出汗,她的呼吸变浅了三分之一。三秒里她看见他的瞳孔放大了一点点——不是光线变化造成的,是某种更深层的反应。三秒里她感觉得到自己的嘴角有一个弧度,不是刻意维持的,是肌肉自己做出的决定。

然后他转头,回到自己的萤幕。她也转头,回到自己的萤幕。两个人的键盘声重新响起,节奏比之前快了一些,像是在某种无声的协议下同时加速。她开始写回应舆论的技术说明文件,他开始写删除机制的使用者界面。两人的档案在共用资料夹里并列,一个叫wyn_response.md,一个叫csy_consent_form.md。

她打开他的档案看了一眼。他在第一行写著:“如果你不希望亲人的声音被使用,请告诉我们。我们会删除。不需要理由。不需要证明。只需要你的一句话。”她在自己的档案第一行写:“关于Echo·Memory的伦理争议,我们的回应是:你是对的。我们错了。这是我们的修正方案。”

她按下储存。共用资料夹里两个档案并列,一个道歉,一个承诺。她看著那两个档案,看著档案名称旁边的储存时间——相差不到一秒。她的眼眶还湿著,泪水已经干了,但痕迹还在。她的脸颊上有泪水的盐分,皮肤有点紧。她没有去洗脸。她让那些盐分留在那里,在她的脸颊上,在她和他之间的二十公分里。

窗外的路灯亮起来了,橘黄色的光线照进工作室,照在他们并排的椅子上,照在两个人的键盘上,照在萤幕上那些正在被改写的程式码上。她开始写技术说明文件的第二段,他开始写同意书的程式码。两个人的键盘声在夜色中交错,稳定、均匀,像是某种不会停止的心跳。

发布会定在周五下午两点。温以宁在前一天晚上完成了可解释性界面的最后一行程式码。那个界面很简单——萤幕左边是对话框,右边是即时生成的解释面板,用蓝色标注情感辨识的结果,用灰色标注回应生成的逻辑,每一个判断都有出处,每一句话都有来源。用户可以看见AI为什么选择说这句话,而不是那句话。没有黑箱,没有秘密,没有“AI冒充逝者”的疑虑。

程司晏在同一时间完成了知情同意系统。他设计了三层授权机制——第一层是逝者生前的书面同意,可以上传遗嘱、信件、任何有法律效力的文件;第二层是家属的连署授权,至少两名家属共同签署,确保没有争议;第三层是定期覆核,每半年要求家属重新确认一次,如果没有回应,数据自动下架。三层机制叠在一起,形成一道他称之为“不想被记住的权利”的防火墙。

发布会当天早上,温以宁站在白板前,看著那上面残留的痕迹。左边她的栏位、右边他的栏位、中间那条被她画叉的直线——都还在。她拿起白板笔,把那个叉涂掉,重新画了一条线。这条线比原来更粗,笔触更重,从她的栏位一直连到他的栏位,没有箭头,没有方向,只是一条线。

程司晏站在她身后,没有说话。她转头看他,他穿著一件白色的衬衫,袖子卷到手肘,头发比平时整齐。他的视线落在白板上那条线上,停留了两秒,然后移到她的脸上。

“准备好了?”

“准备好了。”

下午一点五十分,他们并排坐在工作室里。两台笔记型电脑,两个萤幕,两个人的键盘间隔不到二十公分。程司晏打开直播串流的后台,萤幕上显示预约观看人数——十七万。他的手在滑鼠上停了一下。

“十七万?”温以宁看著那个数字。

“那是预约。实际观看人数会更多。”

她没有说话。她的手指放在键盘上,没有敲击。萤幕上的倒数计时从六百秒开始往下跳。五百九十九、五百九十八。她听见自己的心跳,每一下都比正常节奏更重,在胸腔里撞击出回声。他的右手放在桌上,离她的左手大约十公分。她没有看那只手,但她知道它在那里。

两点整。程司晏按下开始键。萤幕上出现他们的画面——两个人的上半身,并排坐在工作室里,背景是书架上的硬碟和白板上的那条线。观看人数从十七万跳到二十三万,然后是三十一万、四十二万、五十万。聊天室开始快速滚动,她看不清楚那些字,只看见一片不断翻新的白色。

程司晏先开口。他的声音稳定,每个字的音量都一样。“大家好,我是程司晏,Echo·Memory的工程开发者。”他转头看她。“这是温以宁,Echo·Memory的情感模型设计者。今天我们要向大家展示这个项目的技术细节和伦理准则。”

他按下简报切换键,萤幕上出现知情同意系统的流程图。三层授权机制,每一层都有详细的说明和法律依据。他逐层解释,语速平稳,没有不必要的停顿,没有多余的修饰。他把知情同意系统比作“一扇门,钥匙在家属手上,我们不保留备份”。他说这句话的时候,聊天室的滚动速度变慢了,有人打了一行字:“这个机制我可以接受。”

然后轮到她。她切到第二张简报——可解释性界面。萤幕左边是对话框,右边是解释面板。她对著麦克风说话,声音比她预期的稳定。“这是AI产生回应时的内部运作过程。蓝色部分显示它如何辨识用户的情感,灰色部分显示它如何选择回应的方式。每一个判断都可以追溯,每一句话都有来源。它不是一个黑箱。它不会冒充任何人。它只是在告诉你,它根据什么做出了这个回应。”

她示范了一次完整的对话流程。她在对话框输入“今天心情不好”,AI回应“发生了什么事”。右边的解释面板显示:情感辨识结果——悲伤,置信度0.87;回应策略——开放式提问,来源——训练数据中悲伤情绪的最佳回应模式。没有秘密,没有魔法,只有一行行程式码和一个个机率分布。

观看人数跳到六十八万。聊天室有人在问:“这样不会让用户觉得太机械吗?”她读到那行字,回答了。“机械是真实的。AI本来就是机械的。我们不应该假装它不是。我们能做的,是让它的机械变得透明、可控、尊重人。”

她说完这句话,聊天室沉默了三秒。然后有人打了一行字:“这是我第一次觉得AI可以被信任。”

发布会进行了四十七分钟。他们展示了删除机制的程式码,展示了本地储存的架构,展示了模型如何在用户的手机上运行而不经过任何服务器。程司晏说“我们不拥有任何数据”,温以宁说“我们只提供工具,决定权在你们手上”。两个人的声音在直播中交错,一个低沉稳定,一个清亮精确,像是两条不同频率的波形,在同一个时间轴上振荡。

然后是最后一张简报。温以宁的手指在键盘上停了一下。那张简报是她昨晚准备的,只有一页,只有一行字。她按下切换键。

萤幕上出现外婆的照片。黑白照片,拍摄时间大约是二十年前,外婆坐在客厅的藤椅上,手里拿著针线,头顶有一盏不算亮的灯。照片的旁边有一段录音波形,长度十五秒。底下有一行字:“这是我外婆。她走了六年。”

聊天室停止了滚动。观看人数停在七十一万。她点击播放录音。外婆的声音从喇叭传出来,比平时更沙哑,语速更慢,每个字之间有比正常对话更长的间隔。“以宁,你瘦了。有没有好好吃饭?”

工作室里很安静。程司晏的呼吸声在她旁边,浅而均匀。她没有看他。她看著萤幕上外婆的照片,看著那段录音波形,看著那行她写了又删、删了又写的最后一句话。

“我用Echo·Memory生成了一段对话。”她说。“不是替代她。是让我能记住她。”

她按下生成键。AI的回应出现在萤幕上,一个字一个字跳出,像是有人在打字。“以宁,我知道你一个人很辛苦。但你做得很好。我一直都知道。”

< 上一章 目录 下一章 >
×
宿山行
连载中帝谛 /