题目与范围
助手可以从客户内容生成总结、分类或行动建议。用户需要知道何时使用了 AI、使用哪些数据、是否有人审阅以及如何质疑输出;企业管理员需要配置、证据和可导出记录。请设计产品界面与运营流程,不要把披露当作输出正确或合法的保证。
核心能力是变化要求下的用户价值、风险控制和可测量发布决策,因此归入 product。
面试官考察什么
第一,能否区分透明度、可解释性和可理解性?通知可以说明使用了 AI,但不应假装展示模型每一步计算。
第二,能否识别受众与时机?用户提示、管理员控制、审计记录和开发者集成承担不同职责。
第三,能否用通俗语言说明数据使用、保留、人审和外部供应商?
第四,能否让不确定性和来源可操作,而不是只放一个装饰性徽章?
第五,能否衡量理解、质疑、有害结果和采用,同时避免暗黑模式?
先澄清的问题
- 哪些功能会生成、转换、排序,哪些只是检索?
- 受影响的用户是谁,企业管理员能否配置默认值?
- 输入、保留期、子处理者和人审流程是什么?
- 本次发布覆盖哪些地区和产品承诺?
- 披露后用户能做什么:纠正、申诉、停用或请求复核?
- 哪些指标会阻止发布或触发回滚?
30 秒回答框架
“我会把每个 AI 用例映射到受众、时机、数据来源、人审角色、不确定性和用户动作。用户在可能依赖输出前看到简洁本地化说明;管理员获得政策与证据控制;审计记录保存模型版本、来源政策和审阅状态。通过理解与质疑流程测试,以安全和支持准备度作为发布门槛,并把法律审查与产品承诺分开。”
分步作答
第一步:盘点 AI 用法与风险等级
建立功能登记:总结、分类、建议或执行。记录输入类别、输出受众、错误后果、人审、模型或供应商、保留和降级。高后果建议需要更强披露和审阅,低风险草稿则可更轻量。
第二步:设计用户提示
在 AI 影响体验的时刻展示短提示,而不是只放在政策页。说明助手做什么、使用哪些来源、输出可能错误,以及下一步:查看来源、编辑、停用或请求复核。不要声称“AI 已验证”就等于事实正确。
第三步:给管理员控制和证据
企业管理员需要按功能启用、数据使用设置、保留选择、供应商限制和政策版本导出。变更要有版本、预览和审计;新增高风险功能采用安全默认值。
第四步:展示来源和不确定性
可行时展示来源文档、时间、检索范围以及是否经过人审。使用校准后的标签和限制说明,不要伪造置信度百分比;允许用户对照来源。
第五步:连接披露、同意和控制
提示不自动等于同意。需要 opt-in 时,选择必须具体且可撤回。尊重账户、工作区和地区设置,停用功能后不能通过隐藏默认值重新开启。
第六步:本地化与无障碍
翻译含义而不只是字符串,保持阅读顺序、键盘操作、对比度和读屏标签。用用户熟悉的词解释模型和数据,并提供可访问的人类支持路径。
第七步:衡量并设置发布门槛
衡量提示理解、打开来源、纠正和申诉、停用、有害输出报告、支持联系、延迟和任务成功。先小范围发布,定期复盘事件,并在发布前定义回滚阈值。
第八步:同步所有承诺
同时版本化产品文案、帮助文档、管理员设置、模型卡和合同。模型、供应商、目的或保留变化时触发复核并更新相关界面,不能留下过时披露。
示例回答
“我先建立 AI 用例登记和风险等级。在影响发生时,用户看到简洁本地化说明,知道任务、数据来源、限制和查看、纠正、停用或申诉方式。企业管理员获得功能、供应商、保留和政策版本控制及证据导出。来源链接到文档与人审状态,绝不伪造置信度。
发布先从小范围开始,以理解度、有害输出、申诉和支持准备度为门槛。文案、帮助、设置和模型元数据一起版本化;法律适用性单独审查,产品表达保持准确且可回滚。”
常见错误
- 只放一个 AI 徽章 → 用户无法行动 → 在正确时机说明任务、数据、限制和下一步。
- 把透明度等同可解释性 → 承诺超过证据 → 说明已知与未知。
- 无校准地展示置信度 → 产生虚假安心 → 展示来源和限制。
- 把提示当同意 → 选择不清楚 → 需要时提供具体、可撤回 opt-in。
- 不给管理员控制 → 无法执行企业政策 → 版本化设置和证据。
- 只测点击 → 忽略理解和伤害 → 加入质疑、纠正、事件和支持指标。
- 供应商改变后文案不变 → 披露失真 → 触发元数据和内容复核。
追问
追问 1:所有 AI 功能都要弹窗吗?
不需要。根据风险和用户决策匹配提示时机与显著性;草稿可以轻量,后果性建议需要更强上下文和复核。
追问 2:模型卡面向用户吗?
通常面向管理员和技术利益相关者。用户需要简洁说明和行动路径,必要时链接到更深证据。
追问 3:如何避免暗黑模式?
让选择具体、可撤回、同等显著且不依赖无关福利,不能隐藏停用或申诉。
追问 4:什么是来源?
它是关于输入来源、检索时间或范围、模型和政策版本、人审状态的证据,帮助用户检查输出。
追问 5:什么情况阻止发布?
数据使用不清、缺少复核或申诉、未经校准的承诺、提示不可访问、有害输出超阈值或不支持的操作,都应阻止或缩小发布。
追问 6:模型供应商变化怎么办?
版本化供应商和模型元数据,重新评估风险与文案,必要时通知管理员,并保留旧版本回滚和证据。