想象你在逛一座包罗万象的“视频图书馆”,这里的每本“书”都是一段流动的影像。你给管理员递上一张借书条,上面写着“一只猫在沙发上打滚”——没有书名,没有编号,只有一句大白话。管理员需要先读懂这句话(文本理解),再扫视整座书库(视频库),把画面与描述最吻合的片段挑出来,按相关程度排成一张清单送到你面前。这套“按文字找画面”的本领,就是视频检索。它让机器既看得懂自然语言,又看得懂动态影像,在二者之间搭起一座语义桥梁。那么,怎么知道管理员找得准不准?这就轮到“视频检索评估”登场——它像一位考官,用标准化的试卷和评分规则,把每一次检索的准确率与排序质量,变成一组可比较的数字。

岗位关联

对 AI 从业者而言,掌握视频检索及其评测方法,等于同时握住“理解多模态模型”和“量化其真实能力”的两把钥匙,是进入视频搜索、内容审核、智能安防等落地领域的硬核基本功。

目录
  1. 可视化演示
  2. 任务定义
  3. 特征提取
  4. 语义对齐
  5. 排序检索
  6. 评估指标
  7. 评测基准
  8. 局限挑战
  9. 发展趋势
  10. AI 应用场景
  11. Python 演示
  12. 常见误区
  13. 面试题

可视化演示

展示文本到视频检索T2VR:文本与视频编码进统一嵌入空间,跨模态相似度排序,以及视频帧采样编码过程。

本节配有交互动效(进入视口后自动加载,约 3KB)。

跨模态检索 文本与视频编码到统一嵌入空间 sim=cos(q,v) 匹配对相似度高于不匹配对。

任务定义

在视频图书馆里,管理员每天会收到五花八门的借书条:“雨夜的霓虹灯”“孩子学步的瞬间”“无人机飞过峡谷”。视频检索任务,就是训练这位跨模态管理员的基本功——给定一段文字描述,从视频库中返回与之最匹配的视频片段。这看似简单,却要求机器同时理解“文字在说什么”和“画面在演什么”。

从技术视角看,视频检索定义了一个清晰的问题:输入文本查询 q 和视频库 V,输出一个按相关度从高到低排列的候选列表。这里的核心挑战在于,文字是离散符号,视频是连续像素流,二者在表面上毫无共同之处,只能通过“语义”这座桥连接起来。

现代视频检索普遍采用“编码器-检索”框架:文本经过文本编码器 f_T 压缩成一个向量,视频经过视频编码器 f_V 压缩成另一个向量,再用相似度函数 s 为它们打分。检索结果,就是给所有候选打分之后排序得到的列表。

对视频图书馆的管理员来说,这五个环节环环相扣:读得懂借书条、翻得懂藏书、算得准匹配度、排得出优先级,才算迈出了“跨模态图书管理员”的第一步。

Retrieval(q,V)=sortv∈V  s(fT(q), fV(v))\displaystyle \text{Retrieval}(q, V) = \mathop{\mathrm{sort}}_{v \in V} \; s\big(f_T(q),\, f_V(v)\big)
这个公式是视频检索的总纲:一切技术细节,都是为了算出式中那个相似度 s,并让排序结果更合理。
  1. 查询文本 q用户给出的自然语言描述,是检索的“起点”。
    q∈Tq \in \mathcal{T}
  2. 视频库 V待检索候选视频片段的集合。
    V={v1,v2,…,vn}V = \{v_1, v_2, \dots, v_n\}
  3. 编码函数 f把文本和视频分别映射成特征向量。
    fT(q)∈Rd,fV(v)∈Rdf_T(q) \in \mathbb{R}^d, \quad f_V(v) \in \mathbb{R}^d
  4. 相似度函数 s计算查询与候选的语义匹配分数。
    s:Rd×Rd→Rs: \mathbb{R}^d \times \mathbb{R}^d \to \mathbb{R}
  5. 排序算子 sort按相似度降序生成最终结果列表。
    Retrieval(q,V)=降序排列{s(fT(q),fV(v))}v∈V\text{Retrieval}(q,V) = \text{降序排列}\big\{s\big(f_T(q), f_V(v)\big)\big\}_{v \in V}

特征提取

管理员要给每本藏书建一张“索引卡”——先翻拍书的几张代表性页面(帧采样),再用“读图器”把每页提炼成一段摘要(帧级特征),最后把整本书的摘要汇成一张总卡(时间聚合)。与此同时,他还要逐字解读借书条上的句子(文本编码)。没有这两套功夫,后续的匹配就是空谈。

视频和文本天生异构。视频是每秒几十帧的画面连续流,不能直接扔进模型;文本是长度不定的字符序列,也需要压缩成固定长度的语义向量。因此特征提取的第一步,是为两种模态分别建立“可计算”的表示。

视频特征提取通常分三步:先对视频做帧采样,例如均匀抽 8 帧或 16 帧;再用预训练视觉编码器(如 ViT、CLIP 的视觉分支)把每帧编码成向量;最后通过时间聚合(平均池化、最大池化或注意力池化)把帧级向量融合成视频级向量。文本端则用文本编码器把整句压缩成一个语义向量。

好的索引卡能高度浓缩一本书,好的视频特征也要在保留关键信息的同时,把几十秒的动态画面压进一个向量,供后续检索使用。

fV(v)=Agg(EncoderV(Sample(v)))\displaystyle f_V(v) = \text{Agg}\Big(\text{Encoder}_V\big(\text{Sample}(v)\big)\Big)
一句话理解:视频特征 = 先抽样拍照,再逐张理解,最后合并成一段“视频摘要”。
  1. 采样 Sample(v)从长视频中抽取若干代表性帧,降低计算量。
    Sample(v)={x1,x2,…,xT}\text{Sample}(v) = \{x_1, x_2, \dots, x_T\}
  2. 视觉编码 Encoder_V把每一帧图像编码为视觉向量。
    zt=EncoderV(xt),zt∈Rdz_t = \text{Encoder}_V(x_t), \quad z_t \in \mathbb{R}^d
  3. 聚合 Agg把 T 个帧向量融合成一个视频级向量。
    fV(v)=Agg({z1,z2,…,zT})f_V(v) = \text{Agg}(\{z_1, z_2, \dots, z_T\})

语义对齐

图书馆使用一套统一的分类法——“动物-猫-动作-翻滚”的文字卡和一段“猫在翻滚”的录像封面,被分到同一排书架。视频检索中的语义对齐,就是要建出这样一排“共享书架”:文本向量和视频向量都放进同一个空间,语义越接近,向量距离越近。

实现这套对齐的经典结构叫“双塔模型”:一座塔处理文本,另一座塔处理视频,两座塔的输出被训练成共享语义空间中的坐标。训练时,匹配的文本-视频对在空间中互相靠近,不匹配的对则被推开。这样,检索时只需把查询文本映射进同一空间,再找它周围的视频“邻居”即可。

在共享空间中,最常用的距离度量是余弦相似度——它只看两个向量的方向一不一致,不看它们的长度。两个向量方向越一致,夹角越小,余弦值越接近 1,语义也就越匹配。

有了“共享书架”,管理员只需看看借书条向量和藏书向量站得近不近、方向一致不一致,就能快速判断“这本书是否符合需求”。

s(u,v)=u⋅v∥u∥ ∥v∥\displaystyle s(u, v) = \frac{u \cdot v}{\lVert u \rVert \, \lVert v \rVert}
余弦相似度像在问:“这两个向量的'箭头'指向同一个语义方向吗?”
  1. 点积 u·v对应维度相乘后求和,衡量向量同向程度。
    u⋅v=∑i=1duiviu \cdot v = \sum_{i=1}^{d} u_i v_i
  2. 模长向量的欧几里得长度,用于归一化。
    ∥u∥=∑i=1dui2\lVert u \rVert = \sqrt{\sum_{i=1}^{d} u_i^2}
  3. 余弦相似度点积除以两向量模长之积,值域为 [-1, 1]。
    s(u,v)=u⋅v∥u∥∥v∥s(u,v) = \frac{u \cdot v}{\lVert u \rVert \lVert v \rVert}

排序检索

面对上百万本书,管理员绝不会一本一本地精读——他会先扫书架分区,粗筛出一批“可能相关”的候选(召回),再在这些候选里逐本细看(精排),最后把最像的 TopK 本推荐给读者。视频检索的工业级流程,正是这条“先粗后精”的流水线。

召回阶段用近似最近邻索引(例如 HNSW、FAISS),在毫秒级从全库捞出数百个候选;精排阶段则对候选逐一计算精细相似度,重新排序。这样做既控制了计算成本,又保证了最终结果的质量。

最终返回给用户的,就是相似度最高的 K 个视频片段。这个“取前 K 个”的操作,用公式写出来就是:

聪明的管理员先“扫书架”再“精读”,既省力气又不漏掉真正的好书——这就是召回-精排两级结构的核心智慧。

TopK(q)=arg⁡topKv∈V  s(fT(q), fV(v))\displaystyle \text{TopK}(q) = \arg\mathop{\mathrm{topK}}_{v \in V} \; s\big(f_T(q),\, f_V(v)\big)
TopK 可以理解为:把所有候选视频按匹配分数排队,只放前 K 名“进店”给用户挑选。
  1. 相似度打分为每个候选视频计算与查询的匹配分。
    score(v)=s(fT(q),fV(v))\text{score}(v) = s\big(f_T(q), f_V(v)\big)
  2. 降序排序将全部候选按得分从高到低排列。
    v(1)⪰v(2)⪰⋯⪰v(n)v_{(1)} \succeq v_{(2)} \succeq \dots \succeq v_{(n)}
  3. topK 截断取出排序后最靠前的 K 个作为最终结果。
    TopK(q)={v(1),v(2),…,v(K)}\text{TopK}(q) = \{v_{(1)}, v_{(2)}, \dots, v_{(K)}\}

评估指标

馆长怎么考核管理员的服务水平?方法很简单:给他一张借书条,看你要的那本“书”是否出现在他推荐的 TopK 名单里。多做几次测试、算一算命中比例,就得到 Recall@K。这是视频检索最常用的评估指标,直观又公平。

除了 Recall@K,还有两个重要指标:中位秩(MR)衡量“正确答案在排序里的平均靠前程度”,平均精度均值(mAP)则综合考察整个排序的质量,而不仅仅看前 K 名。三者从不同角度回答同一个问题:管理员推荐得准不准、排得好不好。

Recall@K 的公式并不复杂,它的核心是“命中计数 + 平均”:

馆长的成绩单落到了纸面上:R@K 越大,说明管理员越擅长把正确书籍推到书单的显眼位置。

R@K=1N∑i=1N1[ranki≤K]\displaystyle R@K = \frac{1}{N} \sum_{i=1}^{N} \mathbb{1}[\mathrm{rank}_i \le K]
用大白话说:N 次检索里,正确视频排进前 K 名的比例有多高。
  1. 位置 rank_i第 i 次查询中,正确视频在排序里的名次。
    ranki∈{1,2,…,n}\mathrm{rank}_i \in \{1, 2, \dots, n\}
  2. 指示函数括号内条件成立记 1,不成立记 0。
    1[ranki≤K]={1,ranki≤K0,otherwise\mathbb{1}[\mathrm{rank}_i \le K] = \begin{cases}1, & \mathrm{rank}_i \le K\\ 0, & \text{otherwise}\end{cases}
  3. 平均对所有 N 个查询求平均,得到最终召回率。
    R@K=命中次数NR@K = \frac{\text{命中次数}}{N}

评测基准

不同管理员之间怎么横向比拼?必须用同一套试卷和统一的评分标准。视频检索评测基准就是这样一个“考试中心”:它提供固定的题库(数据集)、固定的考题(查询-视频对)、以及固定的阅卷规则(评估脚本),让不同模型的检索能力可以公平比较。

常用数据集各具特色:MSRVTT 包含 1 万个视频、20 万条文本描述,是 Text-to-Video 检索的“标配考场”;ActivityNet 聚焦 200 类人类活动,考验动作理解;DiDeMo 强调时间定位;VATEX 则提供多语言字幕,适合验证跨语言检索。评测任务通常分两个方向:文本→视频(给定句子找视频)和视频→文本(给定视频找句子)。

综合多个查询的检索精度,就要用到平均精度均值 mAP,它的公式是:

有了统一试卷,任何管理员(模型)都能放进同一把尺子下测量——这正是评测基准存在的意义:让“服务好不好”从主观感觉变成客观数字。

mAP=1Q∑q=1QAP(q)\displaystyle \text{mAP} = \frac{1}{Q} \sum_{q=1}^{Q} \text{AP}(q)
mAP 把每位“考生”(模型)在所有考题上的平均精度再取一次平均,得到一个总评分。
  1. 单查询 AP(q)某个查询的精度-召回曲线下的面积。
    AP(q)=1M∑k=1MP(k)⋅rel(k)\mathrm{AP}(q) = \frac{1}{M} \sum_{k=1}^{M} P(k) \cdot \mathrm{rel}(k)
  2. 查询集合 Q测试集中全部查询的数量。
    Q={q1,q2,…,qQ}Q = \{q_1, q_2, \dots, q_Q\}
  3. 均值 mAP对所有查询的 AP 求平均。
    mAP=1Q∑q=1QAP(q)\text{mAP} = \frac{1}{Q} \sum_{q=1}^{Q} \mathrm{AP}(q)

局限挑战

管理员也有头疼的时刻:读者递来一张极其抽象的借书条——“我想看一个治愈的视频”;或者是一部长达三小时的纪录片,关键情节藏在角落里;又或者是两本封面几乎一样的画册,差别只在细节。这些正是视频检索的真实困境。

第一个困境是语义鸿沟:文字极度凝练,画面信息异常庞杂,“治愈”这种抽象概念很难映射到具体像素。第二个是长视频处理:时长越长,信息越稀疏,简单的均匀帧采样可能错过关键事件。第三个是细粒度区分:两个视频画面高度相似,仅靠粗粒度特征几乎无法区分。这些挑战让模型在给出匹配概率时常常“犹豫不决”。

这种“犹豫”可以用软分配概率来刻画——模型给每个候选一个匹配概率,概率分布越平坦,说明越难以决策:

借书条越模糊,管理员越难下结论——语义鸿沟的数学本质,就是相似度信号太弱,难以拉开候选之间的距离。

P(v∣q)=exp⁡(s(fT(q),fV(v))/τ)∑v′∈Vexp⁡(s(fT(q),fV(v′))/τ)\displaystyle P(v \mid q) = \frac{\exp\big(s(f_T(q), f_V(v)) / \tau\big)}{\sum_{v' \in V} \exp\big(s(f_T(q), f_V(v')) / \tau\big)}
这个公式像一把“犹豫度温度计”:温度 τ 越大,模型对所有候选越一视同仁,也就是越拿不准。
  1. 温度系数 τ控制分布平滑程度,τ 越大分布越平坦。
    τ>0\tau > 0
  2. 指数加权把相似度转化为非负权重,相似度越高权重越大。
    w(v)=exp⁡(s(fT(q),fV(v))τ)w(v) = \exp\left(\frac{s(f_T(q), f_V(v))}{\tau}\right)
  3. 归一化分母对所有候选权重求和,使概率总和为 1。
    ∑v∈VP(v∣q)=1\sum_{v \in V} P(v \mid q) = 1

发展趋势

图书馆正在数字化转型:管理员身边多了几位 AI 助手。大模型能读懂更复杂的借书条,智能索引能在亿万册藏书中毫秒级定位,长时序分析工具则能追踪书中跨越几十页的伏笔。视频检索也随之迈入新阶段。

大模型融合是当前最明显的趋势:CLIP、GPT-4V 等模型为视频和文本提供更强的表征,甚至能直接推理复杂语义。长时序建模从“片段级”走向“事件级”,让模型理解“先跳上沙发,再打滚,最后睡着”这样的动作序列。实时检索则依赖近似最近邻索引,在超大规模库中保持毫秒级响应。

实际系统中,单一模型往往不够,常见做法是融合多路信号——用 CLIP 提供稳定的底层视觉-文本匹配,用大语言模型提供高层推理分数,再按权重合并:

新一代管理员正从“勤劳”走向“聪明”,而评测体系依旧守在一旁,用同一把尺子确认智能是否真的在进步。

Score=α⋅sCLIP(q,v)+β⋅sLLM(q,v)\displaystyle \text{Score} = \alpha \cdot s_{\text{CLIP}}(q, v) + \beta \cdot s_{\text{LLM}}(q, v)
两个“顾问”各抒己见,最终由权重 α、β 决定谁的声音更大。
  1. CLIP 分数基础跨模态相似度,计算快、覆盖广。
    sCLIP(q,v)=cos⁡(fCLIP(q), fCLIP(v))s_{\text{CLIP}}(q,v) = \cos\big(f_{\text{CLIP}}(q),\, f_{\text{CLIP}}(v)\big)
  2. LLM 分数大模型通过推理给出的语义匹配置信度。
    sLLM(q,v)=LLM 输出的匹配置信度s_{\text{LLM}}(q,v) = \text{LLM 输出的匹配置信度}
  3. 加权融合用权重 α 和 β 平衡两路信号。
    Score=α⋅sCLIP+β⋅sLLM\text{Score} = \alpha \cdot s_{\text{CLIP}} + \beta \cdot s_{\text{LLM}}

AI 应用场景

短视频平台素材检索

阶段:跨模态特征提取与语义排序

解决的问题:传统素材管理依赖人工打标签和文件夹分类,创作者面对上万条素材只能靠记忆和关键词碰运气;输入自然语言描述即可秒级定位所需画面,把“找素材”从半小时缩短到几秒。

具体案例:某短视频平台上线“以文搜片”功能,剪辑师输入“黄昏海边情侣奔跑”,系统从百万级素材库中召回匹配片段并按相似度排序,极大提升创作效率。

安防监控视频取证

阶段:视频-文本对齐与候选召回

解决的问题:传统监控取证靠人工回看海量录像,线索散落在数十路摄像头、数百小时画面中;视频检索模型将文字描述与监控画面语义对齐,快速召回可疑片段供人工复核。

具体案例:公安系统接入视频检索引擎后,侦查人员输入“穿红色外套的男子在停车场徘徊”,系统从一周的监控录像中定位相关片段,检索时间从小时级压缩到分钟级。

电商商品视频搜索

阶段:多模态检索排序与评测调优

解决的问题:图文搜索无法覆盖“白色连衣裙夏天穿搭”这类长尾描述,用户意图在文字之外还藏在画面里;视频检索让商品视频直接与自然语言匹配,改善搜索体验。

具体案例:电商平台将商品主图视频接入检索系统,用户用口语化描述即可找到对应商品,长尾 query 的点击转化率提升明显,评测团队用 Recall@K 持续追踪效果。

Python 演示

python49 行
import numpy as np  def cos_sim(a, b):    """余弦相似度: 衡量两个向量的方向一致性"""    return float(np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b)))  def build_videos(n=100, dim=64, seed=42):    """模拟视频库: 每段视频用一个归一化嵌入向量表示"""    rng = np.random.default_rng(seed)    return [vec / np.linalg.norm(vec) for vec in rng.randn(n, dim)]  def encode_text(query, dim=64, seed=0):    """模拟文本编码器: 将查询句子映射为归一化嵌入向量"""    rng = np.random.default_rng(seed + len(query))    vec = rng.randn(dim)    return vec / np.linalg.norm(vec)  def retrieve(videos, query_vec, top_k=5):    """计算所有视频与查询的余弦相似度, 返回 top_k 个结果"""    scores = [cos_sim(query_vec, v) for v in videos]    order = np.argsort(scores)[::-1]    return [(scores[i], i) for i in order[:top_k]]  def recall_at_k(videos, query_vec, gt_idx, k):    """评估: 正确视频是否出现在前 k 个检索结果中"""    results = retrieve(videos, query_vec, top_k=k)    return 1.0 if any(idx == gt_idx for _, idx in results) else 0.0  def main():    videos = build_videos()    query_vec = encode_text("一只猫在沙发上打滚")    results = retrieve(videos, query_vec, top_k=5)    print("模拟视频检索 (真实系统使用 CLIP 等预训练特征)")    for rank, (score, idx) in enumerate(results, 1):        print(f"第 {rank} 名 视频{idx}  相似度 = {score:.4f}")    gt_idx = results[0][1]    print(f"假设正确视频为第 {gt_idx} 号")    for k in (1, 5, 10):        print(f"Recall@{k} = {recall_at_k(videos, query_vec, gt_idx, k):.2f}")  if __name__ == "__main__":    main()
目的:用随机向量模拟“文本-视频”嵌入,完整演示视频检索的查询、排序、评估闭环。
  1. def cos_sim(a, b):定义余弦相似度函数,衡量两个向量方向是否一致,是检索打分的核心。
  2. [vec / np.linalg.norm(vec) for vec in rng.randn(n, dim)]生成模拟视频库并归一化,让向量只保留语义方向信息。
  3. def encode_text(query, dim=64, seed=0):模拟文本编码器,把一句话变成固定维度的向量。
  4. scores = [cos_sim(query_vec, v) for v in videos]对全库逐条计算查询与视频的相似度,得到候选分数。
  5. order = np.argsort(scores)[::-1]按相似度从高到低排序,得到检索结果的“名次”。
  6. return 1.0 if any(idx == gt_idx for _, idx in results) else 0.0判断标准答案是否挤进前 K 名,返回 1 或 0。
  7. for k in (1, 5, 10):分别计算 R@1、R@5、R@10,观察 K 越大召回率越高的规律。

常见误区

误区给视频打上类别标签,比如“猫”“运动”“夜景”,再用标签匹配文本不就行了?这和视频检索有什么区别?

正解分类只能输出有限个离散标签,而检索面对的是开放式的自然语言描述——“一只橘猫在灰色沙发上打滚”这样的查询,很难被单一标签覆盖。分类像给书贴固定类别,检索则要按任意借书条找书,借书条可能千变万化。

为何常见:早期视频理解以分类为主,人们习惯把一切视频任务都归约为“打标签”,忽略了检索本质是文本-视频的细粒度语义对齐。

误区模型输出的相似度分数越高,说明这个模型越厉害,只要分数高检索就准。

正解检索系统的核心是排序——正确答案是否排在错误答案前面,而不是绝对分数有多高。一个模型给所有视频都打高分,分数毫无区分度,检索照样一塌糊涂。评估指标 Recall@K、mAP 都是基于排序位置,而不是原始分数。

为何常见:人们习惯用“分数高低”判断好坏,但检索任务更关心相对顺序,绝对分值的意义只在跨模型比较时才存在。

误区把视频的每一帧编码后取平均,就得到了视频的特征向量,简单又有效。

正解平均池化会把时序信息彻底抹平。“猫先跳上沙发再打滚”和“猫先打滚再跳上沙发”可能得到几乎一样的特征,但这显然是两个不同的故事。需要注意力池化、时序 Transformer 等带顺序感知的聚合方式。

为何常见:图像检索中全局平均池化非常流行,初学者容易把图像习惯直接套到视频上,忽略了“时间”这个新增维度。

误区模型在自己的数据集上跑出很高的 R@10,就认为它已经超越了所有公开模型。

正解评测必须遵循公开基准的协议——官方数据划分、统一的查询集合、一致的评估脚本。如果自己随意切分数据、换了评估口径,数字再高也不可比。这就像考试用了不同的试卷和评分标准,分数没法跨考场比较。

为何常见:研究社区反复强调评测一致性,但初学者往往只关心“涨点”,忽略了分数背后的评测条件是否公平。

误区都是“输入查询、输出文档列表”,视频检索无非是给文本检索加了个视频特征而已。

正解文本检索可以直接做精确的字符匹配,而视频没有天然的“词”单元,必须从连续像素中抽取语义;视频还包含运动、时序、多模态(画面+音频)信息,检索的复杂度远高于纯文本。视频是一片流动的画面,而文本是一行固定的符号。

为何常见:两者共享“检索”这个词,且早期的确借用过文本检索的稀疏向量思想,容易让人忽略底层模态的巨大差异。

面试题

Q1. 视频检索的核心任务是什么?

单选题 · easy

  • A.为视频打上分类标签
  • B.根据文本找相关视频片段← 正确答案
  • C.对视频进行压缩与存储
  • D.预测视频的下一帧图像

答案:B。视频检索的本质是“文本查询驱动视频查找”,对应 B。A 是分类任务,C 是编码任务,D 是预测任务,都不涉及跨模态匹配。就像管理员的核心职责是“按借书条找书”,而不是给书贴标签。

Q2. 处理长视频时,提取视频特征常用的做法是?

单选题 · easy

  • A.完全丢弃音频信息流
  • B.仅保留视频的第一帧
  • C.均匀抽取若干代表性帧← 正确答案
  • D.对每帧进行精细编码

答案:C。长视频帧数过多,逐帧处理代价高,通常采用均匀采样或关键帧抽取,对应 C。A 丢弃音频可能丢失重要线索,B 只取首帧会丢失动态信息,D 全量编码计算量不可接受,都不符合工程实践。

Q3. 余弦相似度主要衡量两个向量的什么性质?

单选题 · mid

  • A.两个向量的长度差异
  • B.两个向量的方向一致性← 正确答案
  • C.两个向量的元素个数
  • D.两个向量的数据类型

答案:B。余弦相似度 = 夹角余弦,只关心方向是否一致,与向量长度无关,对应 B。它不比较长度(A)、维数(C)或类型(D)。就像判断两个人“思路是否一致”,与身材高矮无关。

Q4. 双塔模型中的“双塔”指的是什么?

单选题 · mid

  • A.一个编码器内部的两层堆叠结构
  • B.视频画面被切分成的块状金字塔
  • C.文本句法分析生成的层次结构树
  • D.两个独立编码器分别处理视频和文本← 正确答案

答案:D。双塔指两个独立的编码器分支,分别处理视频和文本,再把输出映射到共享语义空间,对应 D。A、B、C 分别是网络结构、图像分块、语法树概念,与“双塔”定义无关。

Q5. Recall@K 指标的含义是?

单选题 · mid

  • A.前K个结果包含正确视频的比例← 正确答案
  • B.全部检索结果的平均精确程度
  • C.正确结果在排序中的中位位置
  • D.检索耗时小于K毫秒的概率

答案:A。R@K 统计 N 次查询中,正确视频出现在前 K 名的比例,对应 A。B 是平均精度的描述,C 是中位秩,D 是效率指标。R@K 关心的是“正确答案有没有排进前 K”,而不是平均精度或耗时。

Q6. 以下哪些是视频检索的典型应用场景?

多选题 · easy

  • A.短视频平台的素材高效查找← 正确答案
  • B.公共场所监控视频快速取证← 正确答案
  • C.视频文件码率压缩与编码
  • D.电商平台商品视频智能搜索← 正确答案

答案:ABD。A(素材检索)、B(监控取证)、D(商品视频搜索)都是“文字找视频”的实际应用。C 属于视频压缩编码,不涉及跨模态检索,故不选。

Q7. 视频检索性能评估常用的指标包括?

多选题 · mid

  • A.召回率指标Recall@K值← 正确答案
  • B.正确结果的中位秩MR值← 正确答案
  • C.视频压缩的比特率指标
  • D.平均精度均值mAP指标← 正确答案

答案:ABD。R@K(A)、MR(B)、mAP(D)都是检索排序质量的评估指标。C 的比特率是视频压缩领域的概念,与检索无关,故排除。

Q8. 视频检索面临的主要挑战是什么?

单选题 · hard

  • A.视频文件太大无法有效存储
  • B.视频画面通常是彩色图像
  • C.文本与视频之间的语义鸿沟← 正确答案
  • D.用户输入查询的速度太慢

答案:C。核心挑战是语义鸿沟——文字高度抽象,画面具体丰富,两者在表示层面难以直接对应,对应 C。A、B、D 分别是存储、色彩、输入速度问题,不是检索特有的核心难点。

Q9. 处理长视频检索时,常见的建模策略包括?

多选题 · hard

  • A.滑窗切分视频片段再聚合← 正确答案
  • B.抽取关键帧做稀疏采样编码← 正确答案
  • C.对每个像素单独进行编码
  • D.使用时序注意力机制建模← 正确答案

答案:ABD。长视频常通过滑窗分段(A)、关键帧稀疏采样(B)、时序注意力(D)来建模动态信息。C 对每个像素单独编码既不现实也无语义意义,故排除。

Q10. mAP 相比 Recall@K 的优势是什么?

单选题 · extreme

  • A.完全不需要标注训练数据集
  • B.综合考量所有位置的排序质量← 正确答案
  • C.能够自动压缩视频文件大小
  • D.只需要GPU加速计算速度

答案:B。R@K 只关心前 K 名是否命中,mAP 则通过精度-召回曲线综合评估排序中每个位置的正确性,对应 B。它仍需要标注数据(A 错)、不涉及压缩(C 错)、与 GPU 无关(D 错)。