[ICCV 2023] TrackFlow:引入正规化流的多目标跟踪框架
📌 会议:ICCV 2023 📄 论文链接:
🔍 背景简介
在多目标跟踪(MOT)任务中,数据关联(data association) 是核心挑战,特别是在目标遮挡、外观变化以及检测误差存在时。 传统 MOT 方法依赖简单的距离度量或启发式规则(如匈牙利匹配、IoU 匹配等),难以建模目标状态的复杂不确定性。
🧠 TrackFlow 核心创新
TrackFlow 提出了一种新颖的、基于**正态化流(Normalizing Flows)**的多目标跟踪方法,以概率建模的方式替代传统启发式匹配方法。
🎯 主要特点
-
概率建模数据关联过程 使用正规化流模型对目标状态分布进行建模,显式学习每个目标与候选检测之间的联合概率。
-
End-to-End 训练 流模型与跟踪器整体端到端训练,无需外部 Re-ID 模块或匹配后处理。
-
鲁棒性提升 在遮挡、密集目标等情况下表现更为稳健,可避免硬匹配导致的 ID 错误。
🔧 模型结构
整体流程如下:
帧 t 的轨迹状态 + 检测候选框
↓
正态化流模型(NF)建模目标状态分布
↓
计算目标-检测之间的匹配概率
↓
优化分配目标与检测的关联(Soft/Hard Matching)
↓
更新目标轨迹,输出帧 t 的 tracking 结果
📦 主要组件说明
| 模块 | 功能描述 | |
|---|---|---|
| 检测器 | 任意检测器(如 YOLO、CenterNet、DINO)均可作为前端输入 | |
| 状态编码器 | 将历史轨迹状态编码为向量表示 | |
| 检测特征提取 | 提取当前帧候选检测框的外观与几何特征 | |
| Normalizing Flow | 建模轨迹状态与检测的联合分布 $$ p(y | x) $$,用于匹配评分 |
| 匈牙利算法或 softmax | 用于目标-检测的匹配分配 |
📊 实验结果
在多个主流数据集上(MOT17、MOT20)均取得领先性能:
MOT17 Benchmark
| 方法 | MOTA ↑ | IDF1 ↑ | HOTA ↑ |
|---|---|---|---|
| ByteTrack | 80.3 | 77.3 | 65.2 |
| FairMOT | 76.5 | 72.3 | 60.9 |
| TrackFlow | 81.7 | 79.5 | 67.1 |
相比 SOTA,TrackFlow 在 ID 相关指标(如 IDF1)上提升显著,尤其在遮挡密集场景中表现稳定。
🔁 与其他方法对比
| 方法 | 匹配方式 | 是否建模概率 | 使用 Re-ID | 端到端训练 | 匹配鲁棒性 |
|---|---|---|---|---|---|
| ByteTrack | 匈牙利匹配 | ❌ | ❌ | ❌ | 中 |
| FairMOT | 特征+热图融合 | ❌ | ✅ | ✅ | 中等偏弱 |
| TrackFormer | Transformer 匹配 | ❌ | 部分 | ✅ | 一般 |
| TrackFlow | 正规化流(概率)匹配 | ✅ | ❌ | ✅ | ✅✅✅ |
🧪 Ablation Study 摘要
- 使用 NF 替代 IoU 匹配,IDF1 提升 +2.4%
- 引入 soft-matching 而非硬分配,有效缓解 ID switch
- Flow 模型泛化能力良好,在非训练类别上表现稳定
📦 安装与运行(预设)
暂未公开官方代码,推荐阅读论文推导与 CSDN 博客笔记:[见 Ref 部分]。核心思路可复现于基于 PyTorch 的 MOT 框架中,如 DeepSort、OCSort 等。
💡 关键技术公式
TrackFlow 构建检测-轨迹对之间的联合概率为:
\[
p(y|x) = f^{-1}(y; \theta) \cdot \left| \det \left( \frac{\partial f^{-1}}{\partial y} \right) \right|
\]
其中:
- \(f^{-1}\):逆变换,由可学习的正态化流实现(如 RealNVP)
- \(\theta\):流模型参数,学习目标-检测之间的分布映射
🧠 技术总结
- ✔ 通过显式概率建模提升匹配准确性
- ✔ 弱化 Re-ID 依赖,强化运动/外观联合建模
- ✔ 支持端到端训练与部署
- ✔ 模型具有高度可扩展性,可集成入任意 MOT 框架
Ref
- https://arxiv.org/abs/2308.11513
- https://openaccess.thecvf.com/content/ICCV2023/papers/Mancusi_TrackFlow_Multi-Object_tracking_with_Normalizing_Flows_ICCV_2023_paper.pdf
- https://blog.csdn.net/qq_34919792/article/details/133967801
- https://github.com/luanshiyinyang/awesome-multiple-object-tracking
- https://zhuanlan.zhihu.com/p/651880358
- https://www.x-mol.com/paper/1694383348862701568
- https://www.azoai.com/news/20230825/TrackFlow-Revolutionizing-Multi-Object-Tracking-with-Probabilistic-Fusion.aspx