风险与治理待审
幻觉Hallucination
AI 一本正经地编出不存在的信息，比如编一个参数、一个政策或一个数字。
动画讲解 · 共 5 幕
幻觉是什么？
文字版 · 共 5 幕
- 幻觉是什么？3.2 秒
- 顾客问有没有赠品，AI 一本正经地答「下单就送」，其实根本没这活动。5.5 秒
- 这就是幻觉：AI 像个怕说「不知道」的新员工，一问就硬编一个答案。5.5 秒
- 防幻觉三招：接上知识库，要它给出处，关键数字人工核对。5.5 秒
- 语气越笃定，越要核对出处：关键的参数、政策和数字，由人把关。6.0 秒
电商里打个比方
像一个怕说「不知道」的新员工，顾客一问就硬编一个答案。
一段话说清楚
防幻觉三招：接知识库、要求它给出处、关键数字人工核对。
常见误区
误区：AI 说得很肯定就是对的。语气越笃定，越要核对出处。