探所 Curio 再探再报 了解探所 →
#AI

AgentHands 让 AI 助手在 XR 里用手势指物

Google 在 CHI 2026 发表了 AgentHands 研究原型,把大模型的语音输出接上**同步手势**:LLM 生成回复时内嵌 GestureEvent,XR 头显上的本地解析器用词级时间戳驱动动画,让手势与语音逐词对齐。手势遵循一套多维度分类法——单手/双手、空中/锚定物体、加上动效(如热量警告的红光)。

一篇 12 人组内对照研究(N=12)对比了 AgentHands 与纯语音基线:空间定位、复杂动作理解与安全警示效果均显着提升(p < 0.05),参与者用「拍档在引导我」描述交互。演示场景包括兰花根部指认、3D 打印机旋钮操作,以及健康伴侣的警告手势。研究由 Ziyi Liu 在 Google 实习期间主导,面向 Android XR 生态。

💡 为什么值得看LLM 输出接同步手势,AI 助手走向具身交互。

查证

来源档案

Google Research Blog

Google 官方研究博客,一手发布自家研究成果

官方一手源,方法与实验数据可信;但 N=12 样本小,结论属研究原型层面而非产品承诺

延伸阅读

手势分类法与工作流 · research.google
原文详细拆解了 handedness、spatiality、VFX 三个维度的手势分类,以及环境感知、手势事件库、内嵌推理、同步执行的完整链路,适合想了解技术实现的人。
用户研究细节 · research.google
对照实验的任务设计(兰花养护 vs 3D 打印机)和定性反馈展示了手势在哪些场景真正带来认知减负,适合评估落地价值。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store