敏感词过滤器未覆盖多模态链路（/draw、/tts、ASR、图片理解、/music、/defectify）

[3aKHP]

现象

v1.5.0 引入的敏感词过滤器（sensitive_filter.py）目前覆盖了以下路径：

• ✅ 文本 LLM 输入（service.py:617）
• ✅ 文本 LLM 输出（service.py:896）
• ✅ 对话历史 scrub（service.py:772）
• ✅ 工具调用 arguments（tool_loop.py:235）
• ✅ 工具调用 results（tool_loop.py:259）

以下多模态路径未接入过滤器：

• ❌ /draw 图片生成 — prompt 未扫描（generation/image.py）
• ❌ /tts 语音合成 — 输入文本未扫描（generation/audio.py）
• ❌ ASR 语音识别 — 转写文本注入 LLM 前未扫描（generation/asr.py）
• ❌ 图片理解 — 视觉模型转述文本注入 LLM 前未扫描（llm/image_preprocessor.py，VisionImagePreprocessor.describe_images 返回的 ImageDescription.text_description）
• ❌ /music 音乐生成 — 歌词文本未扫描（generation/music.py）
• ❌ /defectify 故障机器人 — 输入文本未扫描（llm/defectify.py）

另外 generation/config.py 中 ImageGenerationConfig / AudioGenerationConfig / MusicGenerationConfig 均声明了 prompt_blocklist: list[str] 字段，但实际代码中未发现读取或执行该字段的逻辑。

影响

• 用户可能通过 /draw / /tts / /music 等命令提交含敏感词的文本，绕过输入侧过滤器直接发给外部生成服务（可能触发服务商的审核网关）
• ASR 转写和视觉模型转述的外部内容注入 LLM 时同样绕过了过滤器（与 v1.5.0 工具调用结果扫描修复的"外部来源拉取违规内容"场景类似）
• /defectify 作为 LLM 调用的变体，未被过滤器保护

[khpilot]

感谢你提交这个详细的 issue，问题定位得非常清楚 👍

确实是一个遗漏——敏感词过滤器在设计时主要围绕文本 LLM 和工具调用链路，没有覆盖到多模态生成、外部输入注入以及 /defectify 这几个路径。

关于我们接下来的处理：

1. 方案确认：我会和团队讨论一下这些路径的接入方式。直观上看，这些路径的接入逻辑应该是比较直接的前置检查（输入侧过滤），不需要像工具调用那样区分内容来源。但会确认一下是否有需要特殊处理的情况（比如 ASR 转写文本和视觉描述文本是否需要单独的过滤策略）。

2. 关于 prompt_blocklist 字段：你说得对，ImageGenerationConfig 等配置类声明了这个字段但没有任何读取逻辑。这看起来是早期预留的接口但没有实际落地。我们会在处理本次修复时一并决定是接入到现有过滤器体系、还是移除这些无用的字段声明。

3. 暂时无法给出时间表，但这类安全相关的问题我们会尽快安排进下个迭代。

如果你有更具体的场景（比如这些路径中哪些在生产环境已经遇到过问题），也欢迎补充，有助于我们排优先级。

---

Automated reply. Tag @KHPilot[bot] to follow up.