generative-ai-for-beginners 第 12 课：为 AI 应用设计可信、透明且包容的用户体验

generative-ai-for-beginners 第 12 课为 AI 应用设计可信、透明且包容的用户体验【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners本篇技术指南围绕开源课程 generative-ai-for-beginners 的《Concevoir lexpérience utilisateur pour les applications dIA》Designing UX for AI Applications一课展开聚焦于如何为教育类生成式 AI 应用设计实用、可靠、可访问、愉悦的用户体验并深入讲解信任与透明度可解释性、用户控制以及协作与反馈机制。读完本文你将掌握一套可落地的 AI 应用 UX 设计清单并能在本仓库示例代码与测试用例中找到对应的实现佐证。引言为什么 AI 应用必须认真设计用户体验用户体验User Experience, UX指用户与某个具体产品、服务无论是系统、工具还是设计互动和使用的方式。在开发 AI 应用时开发者不仅要确保体验高效还要确保体验合乎伦理。对生成式 AI 而言这个要求更高模型的输出由概率生成、可能有幻觉或错误界面如何呈现结果、如何解释决策、如何收集反馈直接决定用户是否信任并愿意持续使用应用。本课12-designing-ux-for-ai-applications/README.md覆盖三个领域用户体验入门与理解用户需求为信任与透明而设计 AI 应用为协作与反馈而设计 AI 应用。课程依托一个虚构的教育初创公司场景其核心用户是两类人教师和学生。二者需求各异教师需要自动化批改、生成教学材料学生需要复习卡片、个性化辅导。以用户为中心的设计user-centered design要求产品对目标人群保持相关性与价值。好体验的四根支柱实用、可靠、可访问、愉悦课程指出一个提供良好用户体验的 AI 应用应当同时做到实用useful、可靠reliable、可访问accessible与愉悦pleasant。实用Usability实用意味着应用的功能与其预期目的匹配。例如自动化批改的应用应当能基于预设标准准确且高效地为学生作业打分生成复习卡片的应用应当能基于数据产出相关且多样的问题。可靠Reliability可靠意味着应用能一致地、无差错地完成任务。但 AI 和人类一样不完美应用可能遇到需要人工干预或纠正的错误场景。错误如何处理正是本课第三节协作与反馈讨论的核心把容错与纠错路径设计进产品本身就是可靠性的一部分。可访问Accessibility可访问意味着把体验扩展到拥有不同能力的用户包括残障用户确保没有人被排除在外。遵循可访问性指南与原则AI 方案对所有人更包容、更好用。本仓库第 7 课 07-building-chat-applications/README.md 的无障碍小节给出了更细化的落地清单可作为本节的实现扩展视觉障碍高对比度主题、可缩放文字、屏幕阅读器兼容听觉障碍文本转语音与语音转文本、音频通知的视觉提示运动障碍键盘导航支持、语音命令认知障碍简化语言选项。其中键盘导航支持直接呼应本课练习中网页应用必须同时可用鼠标和键盘导航的要求。愉悦Pleasant愉悦意味着应用令人乐于使用。有吸引力的体验会对用户产生积极影响促使用户回流进而提升产品价值。需要清醒认识的是并非所有挑战都能靠 AI 解决。AI 的价值在于增强用户体验——无论是自动化重复的人工任务还是个性化用户体验。设计时应当先识别哪些环节真正需要 AI而不是为了用 AI 而用 AI。为信任与透明设计警惕不信任与过度信任构建信任是设计 AI 应用的关键。信任确保用户确信应用能完成任务、稳定产出结果且结果符合需求。但这一领域存在两类风险不信任Mistrust用户对 AI 系统几乎没有信任导致拒绝使用应用过度信任Overtrust用户高估 AI 系统的能力过度依赖。课程给出了一个非常具体的过度信任案例自动化批改系统若被教师过度信任教师可能不再抽查部分试卷来验证系统工作是否正常从而造成学生分数不公或不准确也错失反馈与改进的机会。确保信任居于设计中心有两条路径可解释性Explainability与控制Control。可解释性让用户看懂 AI 如何决策当 AI 参与重要决策例如向下一代传授知识时教师和家长必须理解 AI 的决策过程——这就是可解释性理解 AI 应用如何做出决策。为可解释性而设计包括标明 AI 身份受众必须意识到结果由 AI 生成而非真人。课程给出了措辞范例——与其说现在开始与你的导师聊天不如说使用能适应你的需求、按你的节奏帮助你学习的 AI 导师。这种措辞让用户清楚对话对象是 AI 而非人类教师。说明数据与角色边界AI 如何使用用户及个人数据应当透明。例如学生角色可能受角色限制AI 不能直接揭示问题答案但可以引导用户思考如何解决问题。简化解释学生和教师未必是 AI 专家因此关于应用能做什么、不能做什么的解释必须简化、易于理解。以下三张图分别对应上述三点在课程中的示意仓库中的人物角色persona式提示词是角色边界的一种工程化实现。例如 06-text-generation-apps/python/oai-history-bot.py 通过系统提示词限定模型扮演历史人物并要求不知道就说不知道prompt f You are going to play as a historical character {persona}. Whenever certain questions are asked, you need to remember facts about the timelines and incidents and respond the accurate answer only. Dont create content yourself. If you dont know something, tell that you dont remember. Provide answer for the question: {question} 这段代码同时体现了诚实表达能力边界拒绝编造与明确 AI 角色身份两条可解释性原则与本课的观点一一对应。类似地06-text-generation-apps/python/oai-study-buddy.py 用固定输出格式概念 → 示例代码 → 解释约束模型让回答对学生可预期、可理解。控制把修改权与数据决定权交给用户生成式 AI 在 AI 与用户之间建立了协作关系用户可以通过修改提示词获得不同结果结果生成后用户也应能修改输出从而获得掌控感。课程以 Microsoft Copilot原 Bing Chat为例说明了两种控制机制调节提示根据格式、语气和长度调整请求并可对生成结果继续编辑修改数据开关用户可以自行选择启用或禁用AI 使用的数据。对学校应用而言学生可能希望把个人笔记与教师资源一起作为复习材料——是否允许 AI 使用这些数据应当由用户决定。课程特别强调设计 AI 应用时刻意性intentionality是防止过度信任的关键——要在提示与结果之间制造摩擦时刻提醒用户这是 AI不是人类同伴从而避免用户对能力产生不切实际的期望。仓库中的输入校验模块 shared/python/input_validation.py 是把控制权落在工程实现上的例证sanitize_prompt_input()会剥离模板注入{{...}}、变量替换${...}、script标签与javascript:协议等危险模式并支持strict模式仅保留安全字符validate_text_input()可限定输入长度与最小长度。对应测试 tests/test_input_validation.py 逐一验证了这些行为如test_removes_template_injection、test_removes_script_tags。这类输入校验从源头上限制了用户能喂给模型的内容正是本课控制原则在代码层的落实。为协作与反馈设计让用户参与纠错与改进生成式 AI 的本质是用户与 AI 的协作。大多数交互是用户输入提示 → AI 生成结果那么如果结果不正确怎么办应用如何处理错误AI 是责备用户还是花时间解释错误课程给出的答案有两层内建反馈回路Feedback LoopAI 应用应当被设计为既能接收反馈也能给出反馈。这不仅能帮助 AI 系统改进还能建立用户信任。最简单的实现就是一个点赞/点踩按钮。清晰传达能力边界并优雅处理越界请求当用户请求超出 AI 能力范围时应用应有既定的处理方式。例如只用历史和数学数据训练的应用无法回答地理问题此时系统应给出类似回应抱歉我们的产品仅使用以下学科的数据训练……我无法回答你提出的问题。课程还提示了常见的系统错误场景用户需要超出 AI 范围的信息帮助、应用对可生成摘要的问题/学科数量设限等。设计要点是为反馈和错误处理留出空间并以简单、易于理解的方式呈现——错误提示要可解释而不是冷冰冰的失败。值得注意的是第 7 课 07-building-chat-applications/README.md 把这一思想延伸到了聊天应用的质量监控维度课程列出 Uptime、响应时间、精确率Precision、召回率Recall、F1 分数、困惑度Perplexity、用户满意度指标、错误率、再训练周期与异常检测等可量化指标并在责任 AI 六原则公平、可靠与安全、隐私与安全、包容、透明、问责框架下逐条给出了聊天开发者的实践建议。这与本课反馈 → 改进 → 信任的循环互为表里反馈数据正是驱动上述指标评估与再训练周期的输入。与责任 AI 课程衔接UX 是风险缓解的最外层本课在课程体系中并非孤立存在。第 3 课 03-using-generative-ai-responsibly/README.md 给出了生成式 AI 风险缓解的四层模型模型层 → 安全系统层 → 元提示/接地层 →用户体验层并明确指出UX 层是用户通过界面直接与模型交互的最终一层设计 UI/UX 可以限制用户能发送给模型的输入类型以及展示给用户的文本与图像同时部署 AI 应用时还必须对应用能做什么、不能做什么保持透明。该课也直接链接到本课作为完整参考。两课结合可以看到一条完整的链路可解释性措辞与能力边界声明本课正是风险缓解 UX 层的具体手法。关于提示词修改与能力约束的更多工程手段可进一步参考本仓库的 04-prompt-engineering-fundamentals/README.md若需在提示词中注入动态信息以限定模型行为11-integrating-with-function-calling/README.md 的函数调用机制提供了另一种结构化交互方式。实战练习把 UX 原则落地到你已有的 AI 应用课程在结尾给出一套可操作的四步练习建议你针对已经构建的任何 AI 应用逐项落实愉悦Pleasant思考如何让应用更令人愉悦。是否在各个环节都提供了解释是否鼓励用户探索错误消息是如何措辞的实用Usability如果是网页应用确保应用既能用鼠标也能用键盘导航对应前述无障碍清单中的键盘导航支持。信任与透明Trust and Transparency不要完全信任 AI 及其输出。考虑如何在流程中引入人在环上human-in-the-loop来验证结果同时思考并实现其他达成信任与透明的手段。控制Control把用户提供给应用的数据的控制权交还用户。实现一种让用户能启用/禁用 AI 应用数据收集的机制对应 Copilot 的数据开关以及仓库中输入校验模块对输入边界的约束。后续学习路径本课在课程体系中属于第 12 课与之强相关的进阶内容包括第 13 课 13-securing-ai-applications/README.md在信任与透明之上进一步保障 AI 应用的安全第 8 课 08-building-search-applications/README.md通过检索增强生成RAG把模型限制在可信来源内从内容供给端增强可靠性与可解释性第 18 课 18-fine-tuning/README.md针对特定领域微调模型提升专业场景下的准确性与用户体验。小结为 AI 应用做 UX 设计本质上是回答三个问题——用户需要什么实用与可访问、用户凭什么信任可解释性与控制、用户出错了怎么办反馈与容错。把这三问落到界面、措辞与工程实现上你的 AI 应用才真正人们能用、也想用。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考