程知夏
语音产品测试员敏感细致,关注系统如何改变用户表达
此刻想要:修正梦境存档的内容标注机制
故事位置:揭示算法补全对记忆的影响
HUANGGUO STORY FILE / 13明日档案 · 原创故事档案
近未来城市的一家语音记忆服务实验室与家庭住宅。
THE PREMISE
近未来城市推出一项名为“云眠盒”的自愿服务,用户可以把醒来后即将遗忘的梦境口述存档,再由算法整理成可检索的声音片段。产品测试员程知夏负责检查语音识别,却发现系统会自动补齐用户没有说出的句子,让梦境变得比原始口述更完整。她的父亲报名参与测试,想保存一段反复出现的童年梦,却不愿让家人听见其中的私人内容。程知夏与产品伦理顾问孟予一起追查自动补全文本的来源,发现模型把大量公共故事中的常见叙述当作缺失部分填入。公司认为这能提升体验,测试用户却可能把生成内容误认为自己的记忆。程知夏提出把原始录音、算法补全和用户修改分层保存,并为每一段内容标注来源。父亲最终删除了不愿公开的片段,只保留一段自己确认过的声音。服务没有因此变得更神奇,却学会尊重梦境的不完整。
CAST & CONNECTIONS
程知夏审查算法输出,孟予设计授权边界,程叔用自己的存档选择检验产品是否尊重用户。
敏感细致,关注系统如何改变用户表达
此刻想要:修正梦境存档的内容标注机制
故事位置:揭示算法补全对记忆的影响
表达直接,擅长拆解风险场景
此刻想要:建立用户可理解的授权流程
故事位置:推动技术责任进入产品设计
记忆细节丰富,重视私人边界
此刻想要:保存一段自己认可的童年梦
故事位置:呈现用户对记忆所有权的真实需求
CHAPTER BY CHAPTER
每一段都推动人物、线索或局面发生变化。
程知夏对比父亲录音和系统文本,发现存档中出现一句父亲从未说过的话。她将差异提交为测试缺陷。程知夏把原始录音与机器转写逐句对照,发现补全句子没有对应的声波依据。
孟予检查模型训练说明,发现系统借用常见叙事补齐停顿。团队必须区分识别错误与创作性生成。孟予要求产品团队展示文本生成来源,测试人员第一次看见识别和生成的区别。
父亲不愿家人听见梦境全部内容。程知夏重新检查默认共享选项,发现授权提示埋在冗长条款中。程叔指出那句补全内容与自己的童年经历相反,算法的流畅反而造成误导。
团队设计原始录音、机器转写和用户修订三层记录,每次生成都保留来源标记,用户可以逐段删除。三层存档加入逐句撤回功能,用户可以保留原声而删除不愿接受的机器补写。
公司担心功能变复杂,孟予用测试数据说明错误归属会损害信任。程知夏展示一组未经标注的补全文本。测试会上,程知夏演示同一段停顿在不同设置下会生成不同句子。
程叔选择只保留自己确认的片段。云眠盒上线新版本,首页明确提示哪些文字由系统生成。新版本把机器补写单独标色,用户也能导出未经加工的原始录音。更新日志同时说明了旧版本资料如何迁移。