> 再使用不当，只要不是使用者下命令，AI 也不不该去全删文件。
不该 ≠ 不会 ≠ 能做到
https://www.theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database
就现在的技术路线，只要是大模型，就不能完全排除它执行用户没有明确要求的操作。这也是为什么 Agent 需要 Guardrails 和沙盒机制，就是为了最大限度的避免这个问题 开头这个 matt shummer 是个屁的大佬，他就是个 fraudster ，搜一下 reflection 70B 模型的骗局就知道了 @inza9hi #9 看了一下第一个链接，原来是新智元，这个我早就取关了。单就这个事我也在别的公众号里看到过，没仔细看是否真实。
不过新智元是 AI 公众号御三家里最离谱的，那个什么“奥特曼被吓到瘫坐，仿佛看到原子弹爆炸”就是他们造的，其他两家虽然也有夸张，但是相比新智元还是单纯不少 @dingawm 模型确实有这问题，问题是原作者是在 Codex 这种 Agent 里面操作的，可以看截图。
无论是再次调用大模型 API double check 确认，还是在执行时候在软件层再做拦截，都应该去避免这种危险操作。
所以我觉得 DCG 这种东西挺好的，我安装了。 我给 Codex 开了个 VM ，他把整个 VM 炸了也没大影响…… 被你 bug 完了。 是最喜欢的纯傻 X 无脑相信 AI 的环节 AI 那么牛逼能清空就能还原吧？ @inza9hi 该不该我都碰到过，让 AI 把文件传服务器，然后 AI 跑一个 rsync --delete 这么传，你说呢。
页:
1
[2]