查看: 2|回复: 0

LLM 思考过程导致提示此泄露该如何处理?

[复制链接]

1

主题

0

回帖

3

积分

新手上路

积分
3
发表于 2026-7-14 15:02:22 | 显示全部楼层 |阅读模式
开发的智能体开启了 LLM 的深度思考过程,但是其思考输出的内容里会带有一些 system prompt 的内容,

例如 system prompt 写了“注意,不要编撰”,那么 LLM 在思考中就会把这句要求讲出来:“我不能编撰 xxx”,实际上就是把提示词泄露了

这个有啥方法可以解决吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.

在本版发帖
返回顶部