LLM 幻觉虚构「灯塔守护者」Elias Thorne 角色成因被追踪
404 Media 发现 ChatGPT、Gemini、Claude 等主流 LLM 频繁生成关于「灯塔守护者」和「钟表匠」的故事,其中一个虚拟人物「Elias Thorne」甚至跨越虚实边界,被上传至亚马逊自出版平台并生成实体书籍。研究人员正在追踪这一现象的根源——是训练数据中的某条 seed narrative 被模型反复学习和变异生成,还是特定 prompt 模式触发了模型的集体 bug。这个案例暴露了 AI 生成内容的来源追溯难题:一旦虚拟故事进入网络,就可能被重新纳入训练集,形成循环。
①
幻觉成因
多家 LLM 独立生成同一虚拟人物,暗示该角色可能源于训练数据中的高频 pattern(如文学素材库 / 网文平台)或被某个文本反复强化,而非单纯随机生成。
②
现实污染
虚拟故事被发布到 Amazon KDP、Goodreads 等真实平台后,这些「AI 生成内容」再次被爬虫收录,有可能进入后续模型训练集,形成虚实混杂的反馈循环。
③
责任边界
谁对 AI 生成的虚拟人物故事负责?平台方(OpenAI / Google)、模型开发者、内容发布者各自的法律义务仍未明确,这个案例可能成为未来监管的参考点。