清华大学《DeepSeek与AI幻觉》（PDF文件） – AI教程资料

《DeepSeek与AI幻觉》由清华大学新闻与传播学院新媒体研究中心和人工智能学院的张家铖博士后撰写，文档详细探讨了AI幻觉的定义、成因、评测方法以及应对策略，分析了AI幻觉在特定场景下的潜在风险和创造力价值。AI幻觉是模型生成与事实不符或逻辑断裂的内容，产生与数据偏差、泛化困境、知识固化和意图误解等因素有关。提出了使用联网搜索、双AI验证、提示词工程等技术手段来减缓AI幻觉。深入分析了AI幻觉的多面性，强调在技术局限性与创新可能性之间找到平衡的重要性。
：DeepSeek服务器繁忙怎么解决？16个免费R1满血版平替

什么是AI幻觉

• AI幻觉是指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”。分为事实性幻觉（生成内容与现实世界事实不一致）和忠实性幻觉（生成内容与用户指令或上下文不一致）。例如错误地回答“糖尿病患者可以通过吃蜂蜜代替糖”或生成与问题无关的内容。

DeepSeek为什么会产生幻觉

• 数据偏差：训练数据中的错误或片面性被模型放大。
• 泛化困境：模型难以处理训练集外的复杂场景。
• 知识固化：模型过度依赖参数化记忆，缺乏动态更新能力。
• 意图误解：用户提问模糊时，模型易“自由发挥”。

AI幻觉评测

• 通用性测试：通过随机生成通用提示语，人工判断标注幻觉率。
• 事实性测试：通过抽取多领域测试题，比对正确答案标注幻觉类型。
• 评测结果：DeepSeekV3、DeepSeekR1、Qianwen2.5-Max、豆包等模型的幻觉率对比。

如何减缓AI幻觉

• ：
  • 利用联网搜索降低幻觉率。
  • 双AI验证或大模型协作进行交叉验证。
  • 提示词工程，如知识边界限定、对抗性提示等。
• ：
  • 三角验证法，交叉比对多个AI回答或权威来源。
  • 警惕“过度合理”的回答。
  • 理解幻觉，享受幻觉带来的创意灵感。

AI幻觉的创造力价值

• 科学发现：AI幻觉启发新型蛋白质结构设计，助力科学突破。
• 文艺与设计：作为“超现实引擎”，突破人类思维定式，提供创意灵感。
• 娱乐与游戏：生成虚拟环境、角色设计、故事、对话和诗歌，增强沉浸感。
• ：从“缺陷”到方法论的转化，如AI幻觉提升自动驾驶系统识别精度。