深度学习时间序列：Autoformer自相关

可视化演示

展示系统处理流水线、实时性能指标曲线及多方案对比分析，包含数据流转、吞吐延迟监控与方案评估。

背景困境：逐点盯梢的笨办法

陈伯年轻时预报潮位，用的是一种“笨办法”:把此刻的潮位和过去每一个时刻的潮位挨个比对，找出最像的那天，然后照抄当天的后续水位。这种办法很直觉，但有两个毛病。第一是慢，每一刻都要和所有历史时刻比一遍，相当于每朵浪花都要和所有浪花打招呼。第二是笨，它只会“抄作业”,一旦出现过去没见过的大浪，就完全抓瞎。

早期用 Transformer 做时间序列预测，走的正是这条路。所谓自注意力机制，就是让序列里每个时间点都和其他所有时间点两两计算相似度，再按相似度聚合信息。从数学上看，它的计算量是序列长度 L 的平方，也就是 O(L²)。序列一长，计算量爆炸式增长；更麻烦的是，当注意力要在几百上千个点里做分配时，权重会变得很平均，最后输出趋近于所有历史的均值，预测变得平庸无力。

而且，自注意力把时间序列当成“一袋乱序的点”,只关心谁和谁相似，不太关心先后顺序。可潮水、温度、用电量这些信号恰恰是顺着时间方向流动的，里面藏着日出日落、周中周末的节拍。逐点盯梢的做法，把时间最重要的“顺序感”和“节奏感”全扔掉了。

陈伯想明白这一点后，不再盯浪花，而是翻出了爷爷留下的潮汐表。那张表记录了潮水看不见的节拍——这就是 Autoformer 后来替换自注意力的那件法宝：自相关机制。

核心思想：自相关机制

潮汐表为什么好用？因为它解决了“和谁比”的问题。陈伯不需要把今天的潮位和历史每一刻都比一遍，只需要问一个问题：每隔多少个小时，潮位会重现相似的样子？这个“隔多少个小时”就是延迟 τ。找到了这个节拍，预报就变成了“把 τ 小时前的潮位拿过来对照”。

自相关机制做的正是这件事。它不计算任意两个点的相似度，而是计算“当前信号”与“延迟了 τ 步的信号”之间的整体相似度。把 τ 从 0 一直试到某个上限，就能得到一条随 τ 变化的曲线，这条曲线就是数据自己的“潮汐表”。

陈伯的潮汐表上，峰值对应的延迟就是潮汐周期。Autoformer 的聪明之处在于：它不看单个点的相似，而看整条曲线平移后的重叠度，天然把“周期性”这个先验知识装进了模型。这就是自相关替代自注意力的底层逻辑。

序列分解：趋势与季节分离

老陈的账本上，水位记录是乱糟糟的一团。但他心里清楚，这一团可以拆成两笔账：一笔是缓缓上升或下降的“大趋势”,比如全球变暖让平均海平面每年抬升几毫米；另一笔是上上下下摆动的“潮汐节拍”。趋势是慢变量，节拍是快变量，硬混在一起记，两边都算不准。

Autoformer 的序列分解模块就是老陈的“分账本”操作。它用滑动窗口平均（平均池化）把原始序列磨平，磨出来的光滑曲线叫做趋势项；原始序列减去趋势项，剩下那些来回摆动的部分叫做季节项。一次分解做完，还能把分解块像抽屉一样叠很多层，每层剥走一点趋势，越剥越干净。

分开记账之后，陈伯就能给趋势线配一台“慢速预报仪”,给潮汐节拍配一台“周期预报仪”,各算各的再合并。Autoformer 里，这种分解不是做一次就完，而是嵌在每一层编码器和解码器里反复做，让趋势和季节逐步分离干净。

FFT加速：频谱仪扫出主周期

如果陈伯手动把 τ 从 1 试到 1000,逐个算 R(τ),虽然也能画出潮汐表，但实在太累。后来他淘到一台老式频谱仪：把水位录音带塞进去，机器一扫描，屏幕上就出现几个高高的峰，每个峰对应一个频率，频率一转就是周期。几秒钟的事，顶得上他算一整晚。

Autoformer 也配了这样一台“频谱仪”,就是快速傅里叶变换(FFT)。数学上有一条 Wiener-Khinchin 定理：信号的自相关函数，等于它的功率谱做一次逆傅里叶变换。换句话说，不用在延迟域里一个 τ 一个 τ 地硬算，而是先把信号变换到频域，在频域里做一次乘法，再变换回来，整条自相关曲线就齐了。

有了频谱仪，陈伯找周期从“熬夜翻潮汐表”变成了“扫一眼屏幕”。Autoformer 也因此在面对超长序列时，能快速找到不止一个主周期，而是 top-k 个最显著的周期，为后面的聚合做准备。

子序列聚合：加权平均更稳

陈伯虽然有了潮汐表和频谱仪，但预报时从不只信一个周期。他会叫上几位老船长，让他们凭经验给出明天的潮位估计，然后按每个人的可靠程度加权平均——经验越丰富的人，说话分量越重。这样出来的预报，比单独听任何一个人的都稳。

Autoformer 的子序列聚合就是这个“开经验会”的过程。它先用自相关曲线挑出 top-k 个最强的周期延迟 τ₁、τ₂、…、τ_c,然后把原始序列分别“滚动”这 k 个延迟，让每个周期的波形对齐；接着用 Softmax 把各延迟的自相关值变成权重；最后把 k 个对齐后的序列加权求和。

这个聚合过程是“软”的，不像以前抄作业那样只认一个时刻，而是综合多个周期的证据。老船长的经验会互相校验，单个周期的噪声被平均掉，预测自然更稳定、更精准。

架构与应用：完整预测流水线

陈伯的气象站如今是一条完整流水线：记录仪收集潮位 → 分账本拆趋势与季节 → 频谱仪扫主周期 → 请老船长们加权开会 → 输出预报。Autoformer 的模型架构，正是这条流水线的自动化版本。

在整体结构上，Autoformer 沿用编码器-解码器框架。编码器接收过去一段序列，内部堆叠着“序列分解 + 自相关聚合”模块，负责提炼趋势和季节特征；解码器则接收“后半段已知序列 + 待预测的占位符”,同样堆叠分解与自相关模块，逐层把未来“填”出来。输出时再把趋势预测与季节预测相加，还原成完整序列。

这样的设计让 Autoformer 在长期预测上表现突出。它突破了 Transformer 在时序任务中的长度限制：预测长度可以做到 720 步甚至更长，而计算量依然可控。现实中，电力负荷预测、交通流量预测、天气温度预报、云服务器资源监控等场景，都能看到它的身影——这些场景的数据无一例外都有明显的日周期和周周期。

老站长把一本潮汐表、一台频谱仪和一屋子老船长的经验整合成了气象站的完整预报流水线。Autoformer 也一样：用自相关找回节奏，用分解分清主次，用 FFT 加速探索，用加权聚合稳定输出。这就是它成为深度学习时间序列领域经典之作的秘密。

AI 应用场景

Python 演示

import numpy as np def autocorr(x, max_lag):    x = x - x.mean()    n = len(x)    corr = np.zeros(max_lag + 1)    for lag in range(max_lag + 1):        corr[lag] = np.dot(x[: n - lag], x[lag:])    return corr / np.dot(x, x) def find_best_period(x, max_lag=240, min_lag=6):    corr = autocorr(x, max_lag)    return np.argmax(corr[min_lag:]) + min_lag, corr def forecast_by_period(x, period, horizon):    reps = int(np.ceil(horizon / period))    return np.tile(x[-period:], reps)[:horizon] def main():    rng = np.random.default_rng(0)    t = np.arange(24 * 8)    x = np.sin(2 * np.pi * t / 24) + 0.4 * np.sin(2 * np.pi * t / 72) + 0.5 * rng.randn(len(t))    period, corr = find_best_period(x)    pred = forecast_by_period(x, period, horizon=48)    future_t = np.arange(len(t), len(t) + 48)    truth = np.sin(2 * np.pi * future_t / 24) + 0.4 * np.sin(2 * np.pi * future_t / 72)    mae = np.mean(np.abs(pred - truth))    print("检测到周期:", period, "MAE:", round(mae, 4)) if __name__ == "__main__":    main()

1. x = x - x.mean()先减去均值，排除趋势的干扰，专注周期。
2. corr[lag] = np.dot(x[: n - lag], x[lag:])用滑动点积计算延迟 lag 时两段序列的重叠相似度。
3. return np.argmax(corr[min_lag:]) + min_lag, corr跳过 6 步以内的小延迟，在剩余范围里找自相关峰值。
4. return np.tile(x[-period:], reps)[:horizon]取最近一个周期的数据作为模板，平铺成未来序列。
5. period, corr = find_best_period(x)从含噪声的数据里识别出主周期。
6. mae = np.mean(np.abs(pred - truth))用平均绝对误差评估周期外推的效果。

常见误区

面试题