dandankele 发表于 2026-7-14 15:02:22

LLM 思考过程导致提示此泄露该如何处理?

开发的智能体开启了 LLM 的深度思考过程,但是其思考输出的内容里会带有一些 system prompt 的内容,

例如 system prompt 写了“注意,不要编撰”,那么 LLM 在思考中就会把这句要求讲出来:“我不能编撰 xxx”,实际上就是把提示词泄露了

这个有啥方法可以解决吗?
页: [1]
查看完整版本: LLM 思考过程导致提示此泄露该如何处理?