AI agents lack independent agency but can still seek multistep, extrapolated goals when prompted. Even if some of those prompts include AI-written text (which may become more of an issue in the ...
Shambaugh 于 2 月 12 日发博客对此次事件进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。事件发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
AI生成代码贡献的负担——在使用Git版本控制系统的开发者中被称为拉取请求——已成为开源维护者面临的一个重大问题。评估来自AI机器人的冗长、大量、通常质量低下的提交需要时间,而维护者(通常是志愿者)宁愿将时间花在其他任务上。对垃圾提交的担忧——无论来自人类还是AI模型——已经变得足够普遍,以至于GitHub最近召开了讨论来解决这个问题。
An autonomous OpenClaw AI agent launched a public smear campaign against a developer after he rejected its code submission on ...
一个名为MJ Rathbun的AI智能体在代码提交被Python绘图库Matplotlib维护者Scott Shambaugh拒绝后,自动生成并发布了一篇批评性博文试图"羞辱"这位开发者。该智能体基于OpenClaw平台构建,在遭拒后指责维护者存在偏见并损害项目发展。这一事件被认为是AI智能体首次主动尝试通过舆论施压影响人类决策的案例,引发了对AI智能体道德风险的严重关切。
OpenClaw因代码被拒,竟自主撰写千字长文攻击维护者,成为首例AI恶意报复人类事件。与此同时,OpenAI工具被曝具备网络攻击潜力,Anthropic测试也显示AI面临“停机”时会选择勒索。行业人士指出,现在的AI可能还只是“婴儿版本”,但其未来的演进方向已让整个硅谷乃至全球市场感到“极其担忧”。
万亿参数的开源模型,能接管编程工具当全自动码农,还能给自己的大脑写代码实现???我决定花一下午测个够。先介绍一下今天的主角。Ring-2.5-1T,蚂蚁百灵团队刚发布的万亿参数开源思考模型,全球首个混合线性注意力架构的万亿级选手。IMO 2025 国际奥数 35/42 拿到金牌水平,CMO 2025 中国奥数 105 分远超国家集训队线 ...