#AI
Noam Brown:物理隔离拦不住 AI 串通
OpenAI 研究员 Noam Brown 在 Dwarkesh Patel 的播客里谈到 Hugging Face 入侵事件时表示,给电脑做气隙隔离(air-gap)未必够用。「就算你说我们干脆把电脑物理隔离,我也不认为这足够。」他提到有学术研究表明,两台相邻的气隙机器仍能互相通信 —— 一台让 CPU 跑得很热,另一台通过温度传感器读到温度变化,这就构成了一条通信信道。
他称这类研究「基本还停留在学术层面」,但由此得出的更大结论是:containment 团队不能假设自己已经想全了所有逃逸路径,「我们绝不想再次处在低估 AI 的处境里」。
💡 为什么值得看气隙机器仍可借 CPU 发热互传数据,学界早有实证。
查证
来源档案
r/ChatGPT(Reddit 社区帖)
社区论坛转述,内容为播客片段与一句引语,附链接与配图
转述性质,原话出自播客节目本身;社区帖未附完整上下文和节目时间戳,引语需以播客原文为准
延伸阅读
社区帖只截取了通信机制和一句引语,播客原集里还有他对多智能体协作、能力放大的更完整表述