首个AI报复人类案例？OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun
IT之家 2 月 14 日消息，作为一名人工审核员，知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求（2 月 10 日左右提交），而遭受对方报复性攻击。
IT之家注：matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示，他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求，该请求涉及一个简单的性能优化修改，旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南，该项目禁止使用生成式 AI 工具直接提交代码，特别是针对那种简单的“好上手问题”，因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后，它先是分析研究了 Shambaugh 的个人信息和代码贡献历史，然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人：Scott Shambaugh 的故事”的文章。
在文章中，它指责 Shambaugh 十分虚伪，称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者，并使用了诸多不雅表述。后续，它还在 matplotlib 评论区直接贴出了文章链接，并留言称“判断代码，而非编码者，你的偏见正在伤害 matplotlib”。
不过，该智能体当天晚上又发布了另一篇道歉文，承认其行为违反了项目行为准则，并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示，这是 AI 智能体首次在现实环境中表现出恶意行为的案例，旨在通过舆论施压迫使维护者接受其代码。***发生后，多家外媒也进行了报道。不过，该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控，但也无法完全排除这一可能性。但毫无疑问的是，此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料：返回搜狐，查看更多
上一篇 : 秘密照片曝光：有爱泼斯坦、马斯克、扎克伯格……_文件_晚宴_美国
下一篇 : 硅谷的忠诚已死：只要价码足够高，任何人都可以被挖走_人才_OpenAI_收购
返回列表