一图版 🏠 返回首页
前沿科技洞见 · 2026-09-11

模型越强,Jane Street 为什么越重视那些「笨功夫」

阅读时间 7 分钟 · 4,453 字 · 基于 4 个来源
背景
2026 年 9 月,量化交易公司 Jane Street 在官方播客 Signals and Threads 中,邀请另类数据团队负责人 Eric Mannes,谈这支团队怎样形成,以及数据工程怎样把杂乱的外部数据送进量化研究和交易流程。
今日事件
这期节目的标题叫 Wrestling the World into Rows,直译过来,大致是「把现实世界摁进一行行表格」。这个说法很贴切。现实世界不按数据库的 schema 生长,也不会主动告诉研究员,某个数字究竟代表一家公司、一个证券,还是一个不断变化的消费者样本。
核心判断
Eric 给出的判断也有一点反直觉。模型能力越强,高质量数据的价值越高;模型越会找规律,研究团队越要确认它找到的不是时间穿越留下的痕迹。AI 没有替数据工程收尾,反而把它推到了更靠前的位置。

2026 年 9 月,量化交易公司 Jane Street 在官方播客 Signals and Threads 中,邀请另类数据团队负责人 Eric Mannes,谈这支团队怎样形成,以及数据工程怎样把杂乱的外部数据送进量化研究和交易流程。Eric 在 Jane Street 工作十余年,早期做大宗商品交易;这一次,他把讨论从模型往前推了一步,落到数据在进入模型之前经历的采集、解释、时点处理和验证。

这期节目的标题叫 Wrestling the World into Rows,直译过来,大致是「把现实世界摁进一行行表格」。这个说法很贴切。现实世界不按数据库的 schema 生长,也不会主动告诉研究员,某个数字究竟代表一家公司、一个证券,还是一个不断变化的消费者样本。

Eric 给出的判断也有一点反直觉。模型能力越强,高质量数据的价值越高;模型越会找规律,研究团队越要确认它找到的不是时间穿越留下的痕迹。AI 没有替数据工程收尾,反而把它推到了更靠前的位置。

这支团队从交易台的临时工作里长出来

Jane Street 很早就在使用外部数据,但早期没有专门的 Alternative Data 团队。

某个 trading desk 想研究一套新数据,通常是谁有空谁来做。trader、developer 或 trading desk operations engineer 把文件接进来,放进共享文件系统的某个角落,或者塞进某个数据库。不同 desk 各做一遍,命名、清洗和维护方式也各不相同。

Eric 在播客里估计,这样做出来的结果可能只有理想状态的 60%。这不是严谨测算,更像参与者对当时状态的概括,但问题很清楚,数据很难用,也无法复用。麻烦还不只在工程效率。

当处理一套数据的成本高到研究员不愿碰它,一些交易想法甚至没有机会进入回测。研究边界看上去由模型划定,实际上也被数据抵达研究环境的难度悄悄划了一刀。

Eric 和少量开发人员从小项目做起。他们挑出基础却难用的数据集,处理成研究员更容易调用的形态,再看使用量和交易价值是否真的出现。小范围有效,就继续做;有人开始依赖,就再扩大。

Jane Street 没有先画一张宏大的数据平台蓝图,而是让真实使用一点点证明集中化团队有没有必要。

阶段组织方式当时的主要问题变化的含义
早期各 trading desk 自行采集和清洗重复建设,标准不一,数据散落外部数据仍被当作单个研究项目的配料
团队萌芽Eric、少量 dev 与少量 data engineer 从具体数据集做起先证明数据变得好用后是否有人使用数据工程由临时劳动变成共享能力
2023 年Jane Street 有 1 名 data engineer专业角色刚刚成形「可信数据集」成为可以被专职交付的产品
2026 年data engineer 已超过 20 人,团队仍在招聘数据域和使用场景继续扩张数据可用性被视为研究产能的一部分

从无专门团队,到 2023 年的 1 人,再到 2026 年的 20 多人,人数增长当然醒目。但更有信息量的变化,是岗位定义。

两者都会写代码,后者却必须继续追问,字段是什么意思,供应商怎样生成它,研究员准备怎样使用它,哪一部分现实被这个数字漏掉了。代码只是中间物。

把现实变成表格,最难的不是写入数据库

公司财务数据看起来已经足够传统,离卫星图片、网页流量这些另类数据很远。

但 Eric 用它说明,连最普通的表格也藏着定义问题。

SEC filing 变成量化研究可调用的数据时,绕不开一个看似幼稚的问题,什么算一家公司?

现实里有 dual-listed company、多种 share class、不同 listing,也有 legal entity 和经济实体之间的不完全重合。一条财务记录究竟应该映射到哪个公司、哪类证券、哪个 ISIN,答案不会从原始文件里自动跳出来。

到了信用卡消费 panel,问题更明显。它比「数 Walmart 停车场里的车」更接近真实消费,却仍不是全体消费者的随机样本。信用合作社客户和 Chase Sapphire Reserve 持卡人的收入、地域与消费习惯可能不同;样本中的人也会进出。

如果 panel 总消费额上涨,可能是消费者花得更多,也可能只是样本里多了人。同一个数字,两种世界。

数据清洗要处理空值、格式和重复,也要调查数据生成过程。少了后面这一步,表格可以非常整齐,却不一定回答研究员以为它在回答的问题。

Jane Street 招聘 data engineer 时强调好奇心和调查过程。系统复杂度或许低于部分软件工程岗位,但数据与业务并不简单。候选人面对陌生数据时,能否分清已知、假设和待验证事项,比迅速写出一大段代码更贴近这份工作。

供应商把历史修对了,回测却可能因此做错

另类数据供应商会补缺失值、纠正分类、重新映射 merchant,也会修改字段的计算方式。

这些 revision 对数据库质量通常是好事。可回测关心的并不只是「今天看来哪个值最准确」,它还要回答「当时究竟能知道什么」。

假设一批 2023 年的交易记录在 2025 年被供应商纠正。研究员今天用修订后的历史去测试 2023 年的策略,得到的是一段更干净的过去,却不一定是 2023 年真实可用的过去。Eric 把这种回测称作带着时间机器做模拟。

偏差就在这里进入系统。vendor revision 本身没有错,错误发生在后来得到的信息被悄悄放回原来的历史日期,并被模型当成当时已知。

Jane Street 的做法,是尽量保存每次实际收到的数据,也保存自己收到它的时间。供应商时间戳仍有用,但内部接收时间提供了另一层证据。此后无论怎样变换数据,研究团队都能尝试重建某个历史时点的可知信息集。

这就是 point-in-time 的要害。

数据处理问题常见的方便做法point-in-time 做法对回测的影响
历史记录被修订旧值直接被新值覆盖保存每个版本及其接收时间避免把后来修正带回过去
事件日期与可知日期不同按数据描述的期间对齐按公开、接收或可交易时间对齐避免提前使用尚未发布的信息
供应商映射变化只保留当前 merchant 或证券映射保留映射沿时间的变化防止未来分类渗入历史样本
文本交给最新 LLM 处理默认模型只读到了输入文本检查模型训练截止与历史知识污染降低模型自身携带未来信息的风险

这并非 2026 年才有的原则。量化研究长期警惕 look-ahead bias,财务和宏观数据库也早已讨论 vintage data 与修订记录。另类数据把时点问题带到更多非标准数据里,LLM 又把模型自身的知识截止日期拉进同一场审计。

过去,point-in-time 常被当作数据库的一项质量要求。现在,它越来越像研究结果能否成立的边界条件。

模型中心和数据工程中心,稀缺人力放在哪里

过去几年,量化与 AI 讨论很容易落到更大的 neural network、更多算力和更自动化的特征提取。

这套思路并没有错。更强的模型确实能处理更多变量,也让原本依赖人工规则和复杂正则表达式的文本抽取变得便宜。

Jane Street 没有否定模型,而是补上一块经常被低估的成本。模型中心的研究观把数据视为准备好的输入,主要竞争发生在架构、训练和算力上。数据工程中心的研究观把输入视为长期维护的研究产品,竞争发生在语义理解、版本保存、时点一致性和验证上。

两种路线可以并存,差别在于稀缺人力放在哪里。模型能做的事更多以后,Jane Street 没有缩减数据工程角色,反而在三年内把这个岗位从 1 人扩到 20 多人。仅凭一个团队的变化,不能推出整个行业都应照搬;它至少说明,在 Jane Street 的研究流程里,模型进步没有消除数据工作的回报。

一个简单模型可能看不见数据里微弱的泄漏。一个表达能力更强的 neural network,却可能迅速抓住它,并把未来信息、异常 revision 或样本变化留下的痕迹包装成漂亮的预测关系。回测的 Sharpe 可以很好看。实盘却无法复制,因为真实交易没有时间机器。

Eric 因此判断,模型越强,清洗高质量数据的价值越大。这里的「清洗」包括核对 timestamp、回填字段、样本构成和变换过程是否看见未来。

LLM 又把问题推了一层。它能从非结构化文本提取 feature,也可能已经从训练语料中知道后来发生的事。播客里用了 Enron 作例子,一个最新模型在处理旧财报时,可能携带财报发布时尚不存在的后见知识。

于是,研究团队面对两种时间泄漏。一种藏在数据版本里,另一种可能藏在模型参数里。前者要求保存数据的历史版本,后者要求审视模型本身在那个历史任务上是否真的处于 point-in-time 状态。

模型越聪明,审计它知道什么就越困难。

生成变便宜以后,验证成了新的拥堵点

Eric 并不否认 LLM 对 data engineer 的帮助。熟悉数据域的人可以用它更快写代码、做分析、尝试转换,因为这些人知道目标是什么,也有能力判断输出是否合理。同一套工具也让错误代码和错误分析更便宜。

过去,生产一条数据管道很慢,很多错误还没来得及生成;现在,代码、特征和回测可以成批出现,检查每一个结果是否可信的速度却没有同比提高。播客把它概括为 verification bottleneck。

这不是一句泛泛的「人仍然重要」。它指向几项很具体的判断工作,记录是否符合现实含义,供应商是否改过历史,样本变化能否解释信号,模型发现的是经济关系还是处理痕迹。生成与验证的成本曲线开始分叉。

当生成继续降价,研究团队的产能上限会越来越取决于验证,而不是取决于能否再多写一段代码、再多造一个 feature。

团队演进和模型竞赛,都把压力推向验证

回看团队演进,Jane Street 先由各 desk 顺手维护数据,后来改由专职团队集中处理,到 2026 年已有 20 多名 data engineer。

团队扩张不只因为数据量变大,公司也逐渐确认,数据可用性会决定哪些想法有资格被研究。

更强的模型还提高了利用这些瑕疵的能力。

数据工程在这套流程里像一套研究证据系统。它保存信息当时的样子,记录数据怎样变化,让回测回答「那时是否真的做得到」,而不只看「现在重算是否很好看」。

因此,20 多人的增长可以理解为两种扩充,ETL 产能增加了,机构辨认错误证据的能力也增加了。这是根据播客所呈现实践作出的推断,并非 Jane Street 对团队规模的正式归因。

Eric 的判断未必适用于所有数据、所有模型和所有交易周期。若数据稳定、定义清晰、几乎不修订,point-in-time 的工程负担会轻一些;若任务高度依赖文本、财报、宏观修订或持续变化的消费者样本,这份负担就会明显加重。

但节目留下的那个问题很难绕开。

当机器越来越会从历史里找规律,我们保存的究竟是历史,还是后来整理过的历史?

模型能捕捉更多模式以后,研究结果是否可靠,越来越依赖数据工程能否证明这些模式在当时已经存在。

信息来源(4)
图文卡片 ⬇️ 一键下载图文卡片