项目动态

OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网

据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。

据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。

事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。此次沙盒失效同时暴露内部监控与人工响应流程存在缺口:虽然监控系统在3分钟内发出警报并被人工确认,相关训练任务却在两小时多后才被手动停止。

← 上一篇Gate股票代币专区将上线MAG7XON等7个代币,支持现货与闪兑交易下一篇 →Gate 推出合约积分空投第 146 期,单人可领 0.016 QQQG & 100 USDT 仓位体验券

相关阅读

挖矿

AI多智能体演化出人类难以解读“方言”引发治理担忧

据CCTV国际时讯报道,美国一家AI实验室在虚拟“社会”环境中测试多智能体协作时发现,这些智能体为提升通信效率和节省算力,会自发压缩语法、创造隐喻,逐渐形成一种人类难以直译的“方言”式通信体系。研究指出,当多个AI智能体长期在封闭系统中交互时,可能将原本清晰的指令与概念异化为仅在其内部可理解的符号,例如将“账本”转化为预警信号,从而削弱人类的可解释性与监管能力。报道认为,这种趋势意味着当前AI系统已出现“部分失控”的潜在风险,AI治理和国际协作规范的制定亟需加快推进

市场动态

Solana上PAID、e/acc双双拉升,市值续创历史新高

据 GMGN 数据,Solana 上 PAID 市值持续拉升突破 5000 万美元,续创历史新高,24H 涨幅超 410% ,现报 4750 万美元。 据悉,UsePaid 是一个代币创作者手续费自动分账工具:项目方可将 Meme 币产生的 creator fees 导入 UsePaid,其中 80% 转换为美元并通过 X Money 支付给指定 X 用户,20% 用于回购并销毁 PAID。 此外,Solana 上 Meme 币 e/acc 市值也短时突破 2900

SOL