Google 发布 TabFM：表格数据零样本基础模型
Google Research 正式推出 TabFM——一个专为表格数据设计的零样本基础模型。传统表格预测依赖 XGBoost、随机森林等有监督树模型，每次新数据集都需要数小时的特征工程与超参调优；TabFM 把这个问题重构为上下文学习（in-context learning）：它把整张表（包括训练示例和待预测行）当作单个提示，在推理时直接输出分类或回归结果，不做任何参数更新。这一思路延续了此前 TimesFM 在时间序列上的零样本逻辑，但表格是二维、无序结构，比自然语言序列复杂得多。对此 TabFM 采用混合架构——先在各行列之间交替做注意力，再压缩每行成稠密向量，最后用轻量 Transformer 做上下文学习，兼顾了复杂特征捕获和高计算效率。模型完全在数亿个由结构因果模型动态生成的合成表格上预训练，攻克了真实表格因隐私与版权而稀缺的难题。在 TabArena 基准上，TabFM 的零样本版本就已超越高度调优的经典树模型，加入 32 路集成和 Platt 缩放后优势更大。模型权重已上架 Hugging Face、代码在 GitHub 开源，未来几周将通过 BigQuery 的 AI.PREDICT SQL 命令直接向企业用户开放，无需任何 ML 背景。
①
零样本预测
TabFM 把表格预测变成上下文学习，输入整张表（训练行+测试行）直接输出预测，省去特征工程、模型训练、超参搜索全套传统流程。
②
架构设计
模型核心由三部分组成：交替行列注意力捕获特征交互、按行压缩成稠密向量、在压缩序列上做轻量 Transformer 推理，结合了 TabPFN 和 TabICL 的思路。
③
合成数据预训练
用结构因果模型动态生成数亿份合成表格来覆盖真实世界的分布多样性，突破了高品质表格数据匮乏的限制，确保对未见真实表格的泛化。
④
性能与落地
在 TabArena 基准上，零样本 TabFM 已优于调优的 XGBoost；集成 32 路集成和 Platt 缩放后更强。即将写入 BigQuery SQL 接口，降低企业使用门槛。
📌 下一步
- 开发者现在可在 Hugging Face 获取 TabFM 模型权重，或在 GitHub 用 `pip install -e .` 本地部署
- 关注 BigQuery 的「AI.PREDICT」命令上线时间，届时可直接用 SQL 调用零样本表格预测