AI为什么会“胡说八道”?

新闻

作者：微信文章
      现实生活中，AI“胡说八道”，经常表现为大模型生成的文本不合逻辑或不忠于所提供的源内容，这种情况被称为AI“幻觉”。

      “AI幻觉”是AI思维模式的天然副产品，大语言模型“思维模式”在本质上是概率预测而非逻辑推理。当遇到信息模糊、训练数据不足或用户指令引导性过强时，AI为了完成生成任务，或者为了追求内容连贯，便会倾向于“创造”相关内容。