幻觉
Hallucination
也称编造 / 模型幻觉
AI 一本正经地说错了,甚至编出不存在的信息
怎么理解
AI 写答案时会根据已有信息组织出看似合理的内容,但其中的事实可能是错的。它有时会编造文章、链接、日期或数字,语气却很肯定。大家把这类现象叫作“幻觉”。
举个例子
你让 AI 推荐一本讲某个冷门主题的书。它给出书名、作者和出版年份,格式看起来很完整;你一查,却发现这本书根本不存在。这就是一个常见例子。
补充说明
回答写得详细、带有引用,仍需要核对。涉及重要决定时,打开原始来源看一遍;查不到的内容可以让 AI 明确标为不确定。