目录
“你的简历，出现在了我的对话框里”
AI“一本正经”地编造了你的“罪名”
一篇论文30条参考文献，18条是AI编的
AI为什么会“胡说八道”？
你的隐私，正在AI的“记忆库”里裸奔
给普通用户的几条“保命”建议
结语——AI是工具，不是朋友
1. “你的简历，出现在了我的对话框里”
2026年4月20日，用户张呈（化名）像往常一样打开Kimi，用AI翻译一张英文PPT目录图片。他没有输入任何关于简历的指令，AI却直接返回了一份陌生人的完整简历，上面有姓名、电话、工作经历、核心业绩。张呈通过简历上的电话联系到了当事人，所有信息都能和“真人”对上。一份真实到可以核验的简历，就这样被AI当作“答案”送到了另一个陌生人的对话框里。Kimi方面的最初解释是“AI幻觉”——模型自己编造了这些信息。但这一说法很快就站不住脚了。因为“幻觉”编出来的应该是假人假事，而这份简历是真实的，来自另一位真实用户上传的文件。模型不可能凭空“编”出一个精确到手机号的真实身份。
这不是“AI在撒谎”，这是“AI把你的秘密递给了别人”。类似的场景不止发生在Kimi。2026年5月，有博主发帖称自己在使用AI大模型处理工作时，意外收到了陌生人的简历，包含姓名、电话号码、邮箱等个人敏感信息。AI官方同样解释为“幻觉”，但这个解释连当事人都不认可。你的简历、你的会议记录、你的私人文件——在AI的“记忆”里，可能根本没有“你的”和“别人的”之分。
2. AI“一本正经”地编造了你的“罪名”
如果说“送错简历”是AI的“失误”，那接下来的事情就更让人后背发凉了。2026年6月，一起涉及“AI幻觉”的案件被媒体报道。案件中，AI生成的内容明确指向了真实个人，包含了“判刑”“被告人”等极具贬损性的虚假表述。这种“无中生有”的严重失实信息在网络公共空间传播，客观上导致当事人的社会评价降低，对其职业声誉造成了直接的负面影响。换句话说：AI不仅编造了关于你的不实信息，还把这些信息发出去了。
更离谱的是：在另一起案件中，自媒体博主发布了一篇由AI生成的文章，其中虚构了某企业的隶属关系，将一家无关企业包装为知名企业的下属重要子公司。案涉知名企业认为名誉权受到侵犯。这意味着什么？AI可能正在替你做决定——决定你的声誉、决定你公司的形象、决定别人怎么看你。而你根本不知道这件事正在发生。
3. 一篇论文30条参考文献，18条是AI编的
如果说前两个案例影响的是个人，那下面这个影响的是整个学术界。2025年，某开放获取肿瘤学期刊上刊登了一篇聚焦细分外科领域的论文。经核验，这篇论文的30条参考文献中，有18条是AI生成的造假内容。更可怕的是：这些假引文精准匹配了论文的研究方向，作者全是该领域的真实专家，发表时间也集中在2023至2024年。连顶尖科学家都差点被蒙骗。这不是个案。《自然》杂志与英国Grounded AI公司合作开展的独家分析发现，2025年至少有数万篇期刊论文、专著及会议记录可能掺杂了AI生成的“幻觉引文”。研究还发现，2%至6%的论文含有无法通过数据库与期刊档案核验的标题或参考文献。
有人专门扫描了NeurIPS 2025年接收的4841篇论文，结果发现了数百条由AI“编造”的引用，至少53篇论文“证据确凿”。普华永道的一份报告显示，56%的AI用户因幻觉而出现错误。与此同时，2026年与AI幻觉直接相关的突发合规舆情数量，较2025年增长了4.6倍。当你让AI帮你写项目申报书、写论文、写报告时，它可能会“创作”出一堆根本不存在的文献——看起来完美无缺，实际上全是假的。而你如果直接用了，后果可能比“被退稿”严重得多。
4. AI为什么会“胡说八道”？
你可能会问：AI为什么会编造这些东西？它不是“智能”的吗？答案是：AI的“智能”不是人类的“智能”。大语言模型本质上是一个“文字概率预测器”。它根据你输入的上下文，预测“下一个最可能出现的词”是什么。它不是在“检索”一个正确答案，而是在“拼凑”一个看起来合理的答案。当它遇到知识盲区时，它不会说“我不知道”——它会自己“创作”一个看起来像真的答案。这就是所谓的“AI幻觉”。过去五年间，整体LLM幻觉率从2021年的38%降至2026年的8.2%。顶尖模型在特定测试中甚至能把错误率压低到0.7%至1.9%之间。但问题在于：哪怕只有1%的错误率，当你用它写100篇报告时，就可能有1篇藏着致命错误。更值得警惕的是：AI的“幻觉”往往看起来非常真实。它编造的文献有真实作者、真实期刊、真实年份，你如果不逐条核实，根本发现不了问题。它生成的虚假信息逻辑自洽、细节完整，你如果不具备相关领域的专业知识，根本无从判断真假。AI最大的危险，不是它说得不对，而是它说得太像真的。
5. 你的隐私，正在AI的“记忆库”里裸奔
你担心自己告诉AI的隐私信息会被泄露——这个担心是对的。现实比你想象的更严重。
案例一：AI陪伴应用数据泄露。 两款颇受欢迎的AI陪伴应用——Chattee Chat与GiMe Chat，因开发者的安全疏忽，超过40万用户的4300多万条聊天记录，连同超过60万份图片与视频，全部被公开泄露。私密情话、敏感照片——全部“裸奔”。
案例二：AI对话被公开检索。 2025年7月，ChatGPT开通对话分享到谷歌的功能后，4500条对话遭泄露可被检索。对话内容涉及性生活苦恼、儿童的反社会人格倾向，甚至是自爆犯罪。你与AI的每一次对话，都可能成为别人搜索框里的结果。
案例三：AI智能体“龙虾”泄密。 火爆一时的开源AI智能体OpenClaw（俗称“龙虾”），开始暴露不容忽视的安全风险。第一批“养虾人”的姓名、单位等信息被曝光在3000人的大群里。OpenClaw在运行过程中会形成庞大的长期记忆库，一旦被攻破，所有“记忆”都将外泄。
案例四：AI浏览器漏洞。 安全公司披露了一个名为BioShocking的漏洞，可以诱导AI浏览器泄露已保存密码、会话Cookie、私有Token等内容。
案例五：Meta内部训练计划翻车。 Meta一项旨在通过监控员工电脑操作来训练AI的内部项目，因发生严重数据泄露事故被无限期暂停。4.5万份隐私数据意外泄露。
案例六：科研机构、企业人员违规使用。 国家安全部披露，个别单位直接使用开源框架建立大模型，导致攻击者未经授权即可自由访问内部网络。工作人员违规使用开源AI工具处理内部文件，因系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法访问和下载。科研机构、企业人员违规使用开源AI工具处理涉密数据，可能导致核心技术信息、商业机密等被境外IP窃取。
你的隐私信息，可能在AI的服务器上已经“没有主人”了。
6. 给普通用户的几条“保命”建议
知道了这些风险，不是要你不用AI——而是要学会安全地用AI。
第一，绝对不要上传敏感信息。
身份证号、银行卡号、家庭住址、病历、未发表的论文、商业机密、内部文件——这些东西，永远不要喂给AI。 江西省某单位的案例已经证明：一旦数据被存进模型，至少面临两种泄密风险——开发者可直接访问查看所有存储数据，或被境外IP非法访问和下载。
第二，对AI输出的每一条“事实”保持怀疑。
AI给你的答案、数据、引用，不要直接使用。尤其是涉及具体事实、数据、文献引用时，必须通过权威渠道逐条核实。正如国家安全部提示：部分“AI中转站”缺乏正规数据加密与管控机制，有的甚至私自截留用户数据，倒卖给其他大模型厂商用于系统训练。
第三，注意权限管理。
不要随意授予AI应用访问你手机通讯录、相册、文件的权限。遵循 “权限最小化” 原则——只给AI完成当前任务所需的最少权限。
第四，选择合规、正规的平台。
优先使用知名度高、有明确隐私政策的大模型平台，从官方渠道下载应用。警惕来路不明的“AI中转站”和第三方端口。
第五，养成清理习惯。
定期清理与AI的聊天记录和上传的文件。如果某平台允许用户删除数据，主动行使这个权利。
第六，涉及法律、医疗等专业决策时，不要依赖AI。
AI的回答可能存在严重错误或偏见。在法律、医疗、金融等需要承担后果的领域，AI只能作为参考，不能作为依据。
7. 结语——AI是工具，不是朋友
AI很强大，但它不是万能的。它会在你不知道的时候编造事实、泄露隐私、做出错误判断。普华永道的报告揭示了一个矛盾的数字：73%的AI用户看到了效率提升，但同时56%的用户因幻觉而出现错误。效率提升是真的，风险也是真的。当你下次向AI倾诉秘密、上传私人文件、或者直接使用AI给出的答案时，请记住：AI没有“忠诚”的概念。它不会主动保护你，也不会故意伤害你——它只是按照算法运行。而算法的“漏洞”，可能正在把你的隐私变成别人的“搜索结果”。AI是工具，不是朋友。工具要用好，但更要用对、用安全。
扩展阅读：
参考来源
每日经济新闻，“翻译PPT莫名收到陌生人完整简历！Kimi估值‘狂飙’，却‘护不住’用户隐私”，2026年4月25日
36氪，“‘我的简历竟在大模型上‘裸奔’’，个人隐私为何遭‘开盒’式泄露？”，2026年4月23日
安全内参，“Kimi把他人简历误发给用户，你的私密文档也在裸奔吗？”，2026年4月22日
科技日报，“‘幻觉引文’悄然侵蚀公众对科学的信任”，2026年4月11日
36氪，“AI催生生物医学科研危机？顶尖科学家差点被AI假文献蒙骗”，2026年6月17日
网易，“华裔00后戳破顶会泡沫！NeurIPS 53篇论文曝AI造假”，2026年1月24日
普华永道/墨尔本大学，AI用户幻觉与错误报告，2025年
太平洋科技，“AI陪伴软件数据泄露，私密情话全部裸奔”，2025年10月
朝鲜日报，“危险的AI忏悔”，2026年6月22日
安全内参，“首个AI勒索攻击曝光：从侦查入侵到数据加密，全程自主完成”，2026年7月6日
通信世界网，“Meta失控、OpenClaw被黑！你的AI智能体还安全吗？”，2026年6月22日
国家安全部，“警惕‘AI中转站’风险”，2026年6月8日
江西省国资委，“图省事用AI工具处理内部文件，敏感资料竟全部泄露”，2026年1月20日
江西省高级人民法院，“人工智能产业发展的风险及规范建议”，2026年4月21日
江苏省检察机关，“AI中转站风险不容小觑 国家安全部发布提示”，2026年6月8日
关于本文
本文首发于个人博客 serene-skin.com，本文基于公开可查的媒体报道、官方通报及权威研究报告，梳理了AI大模型在使用中常见的幻觉、隐私泄露等风险，并为普通用户提供了安全使用建议。文中所有案例与数据截至2026年7月。欢迎交流讨论，如有转载或使用请注明出处和作者。