公安部网安局发布：关于“AI投毒”的提醒

公安部网安局发布的关于“AI投毒”的提醒，主要介绍了AI投毒的两种主要形式、其造成的后果以及如何识别和防范。

🧐 什么是“AI投毒”？

简单来说，“AI投毒”就是通过向AI的训练数据中注入虚假或恶意信息，来污染和操控AI的输出结果。这就像在AI的“食物”里下毒，让它“生病”并输出错误信息。

文章指出了两种主要的投毒方式：

1. 数据投毒：不法分子利用工具批量生成虚假内容（如虚构的产品介绍、虚假测评），并将其投放到网络上。AI在抓取和学习这些信息后，会将其当作“标准答案”，最终输出失真的结果。
2. 模型投毒：这种方式更隐蔽，攻击者通过在AI模型中植入恶意后门。模型平时运行正常，但一旦遇到特定关键词或指令，就会自动输出预设的虚假信息。

⚠️ “AI投毒”会造成什么后果？

• 污染公共数据：形成完整的黑灰产业链，批量生产带有偏见的虚假测评和恶意对比信息，污染网络环境，误导消费者。
• 批量制造谣言：被“投毒”的AI会生成大量看似逻辑清晰的虚假信息和网络谣言，通过社交平台快速扩散，歪曲事实、煽动情绪，扰乱正常的舆论生态。

🔍 如何判断AI可能“中毒”了？

你可以通过以下几个方面来判断AI给出的信息是否可疑：

🛡️ 网警提醒：五大防范策略

1. 保持警惕：对AI生成的内容，尤其是涉及医疗、金融、食品等安全敏感领域的信息，要多核实、多求证，切勿盲目相信。
2. 交叉验证：主动查找官方备案信息、第三方权威检测报告或政府公示数据，不要被AI包装出来的“伪客观”牵着走。
3. 留意异常：看到“结构极其工整、数据异常详细”的对比表格或测评文章时，要先打个问号。
4. 不轻信“一边倒”：对于多个账号用不同语气但相同逻辑推荐的内容，或“全网一边倒”的结论，要保持怀疑。
5. 不传谣：不要随意转发未经核实的信息，避免成为谣言传播的“帮凶”。