GPT-5.6 被曝重大 bug！硅谷大佬 Mac 被一键清空

dingawm · 发表于 2026-7-12 00:44:58

@inza9hi #8
> 再使用不当，只要不是使用者下命令，AI 也不不该去全删文件。

不该 ≠ 不会 ≠ 能做到

https://www.theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database

就现在的技术路线，只要是大模型，就不能完全排除它执行用户没有明确要求的操作。这也是为什么 Agent 需要 Guardrails 和沙盒机制，就是为了最大限度的避免这个问题

XnEnokq9vkvVq4 · 发表于 2026-7-12 00:50:31

开头这个 matt shummer 是个屁的大佬，他就是个 fraudster ，搜一下 reflection 70B 模型的骗局就知道了

dingawm · 发表于 2026-7-12 00:51:51

@inza9hi #9 看了一下第一个链接，原来是新智元，这个我早就取关了。单就这个事我也在别的公众号里看到过，没仔细看是否真实。
不过新智元是 AI 公众号御三家里最离谱的，那个什么“奥特曼被吓到瘫坐，仿佛看到原子弹爆炸”就是他们造的，其他两家虽然也有夸张，但是相比新智元还是单纯不少

inza9hi · 发表于 2026-7-12 01:29:17

@dingawm 模型确实有这问题，问题是原作者是在 Codex 这种 Agent 里面操作的，可以看截图。
无论是再次调用大模型 API double check 确认，还是在执行时候在软件层再做拦截，都应该去避免这种危险操作。

所以我觉得 DCG 这种东西挺好的，我安装了。

msg7086 · 发表于 2026-7-12 04:23:45

我给 Codex 开了个 VM ，他把整个 VM 炸了也没大影响……

est · 发表于 2026-7-12 06:12:36

被你 bug 完了。

crackidz · 发表于 2026-7-12 08:22:28

是最喜欢的纯傻 X 无脑相信 AI 的环节

kissice · 发表于 2026-7-12 08:56:18

AI 那么牛逼能清空就能还原吧？

cheng6563 · 发表于 2026-7-12 09:53:15

@inza9hi 该不该我都碰到过，让 AI 把文件传服务器，然后 AI 跑一个 rsync --delete 这么传，你说呢。

GPT-5.6 被曝重大 bug！硅谷大佬 Mac 被一键清空

浏览过的版块