12-4 · 品牌安全、幻觉与提示注入
一句话：AI 会自信地说错你的品牌，你又改不了模型——只能用权威 + 一致去”影响”而非”控制”。提示注入是 #1 安全风险，可能永远修不完。
🧠 幻觉 = 品牌安全的新战场
- LLM 不实时核实事实，按概率预测答案 → 编造事实、错配引文、过期信息、漏关键语境、YMYL 给危险建议。
- 你改不了模型 → 用影响代替控制：权威内容 + 全网口径一致，挤掉错误版本 → A4-第三方共识源与提及来源鸿沟 · B4-新鲜度与时效。
- 这是品牌危机管理的一部分，不是可选项。
💉 提示注入（Prompt Injection）：#1 漏洞
- OWASP LLM Top 10 连续两版把提示注入列 LLM01（第一）；英国网安机构称可能永远修不完。
- 机制：恶意输入让模型无视既定指令、泄露系统提示、执行非预期动作。
- 2025 年中首个武器化提示注入 CVE 落地——从理论进入生产环境被利用。
- 对 GEO 的含义：你的页面/UGC 若被植入隐藏指令，可能污染抓取它的 agent → 内容卫生也是安全问题。
📊 风险版图（2026，方向性）
- 幻觉仍是最大单类（约 35% 事件），但占比在降——工具误用、提示注入在升（仍处”发现期”）。
- AI 事件库 2025 记 346 起；深伪/合成媒体占 179/346（52%）；含约 $25M 深伪支付欺诈——且这是下限（企业内部事件多不公开）。
🛡️ 应对（影响而非控制）
- 监测品牌查询：AI 怎么说你、引谁、情感如何 → 08-1-AI可见性监测工具 · 09-6-场景模板-新品防御对标。
- 修可机读事实源：官网事实页 + schema + 一致口径，喂正确版本 → C2-结构化数据Schema。
- 占住被引的第三方源：在 AI 实际引用处补权威正确信息（非删差评）。
- 把 AI 输出当”建议非事实”：过度依赖 = 系统性失败的温床。
⚠️ 坑
- 以为”截图证伪”就能纠偏 → 概率性输出，需重复采样看分布 → 07-2-采样方法论与统计可靠性。
- 用灌水/删评做”防御” → 反噬且无效。
相关
- 品牌防御场景 → 09-6-场景模板-新品防御对标；grounding 与幻觉 → 02-3-RAG与实时检索grounding
- 监测 → 08-1-AI可见性监测工具；模型波动 → 12-5-模型波动与监测预警