【论文阅读】[meta learning]cross-domain few-shot classification via learned feature-wise transformation.

发布时间：2023-12-18 15:30

cross-domain few-shot classification via learned feature-wise transformation.

本文依旧对少样本的分类泛化性能进行了讨论，作者认为由于跨域的特征分布存在很大差异，因此这些方法通常无法推广到看不见的域。
在本文中，作者解决了基于度量的方法在域移位下的少样本分类问题。 核心思想是在训练阶段使用基于特征的变换层通过仿射变换来增强图像特征，以模拟不同域下的各种特征分布。

$\"【论文阅读】[meta$
基于度量的方法包括1）特征编码器和2）度量函数。
作者的观察结果是，从看不见的领域中的任务中提取的图像特征的分布与可见领域中的显着不同。

作者建议集成基于特征的变换层，以将经过适当变换的特征激活调制到特征编码器中。这些按特征进行变换的层的使用使我们能够在训练阶段模拟图像特征的各种分布，从而提高测试阶段度量函数的泛化能力。

同时作者还提出了一种元学习算法来优化这个层的超参数。

具体的实现如下：
$\"【论文阅读】[meta$
与特征变换层集成的特征编码器E可以产生更多种特征分布，从而提高度量函数M的泛化能力。如上右半图所示，在批量归一化之后插入特征变换层。超参数θγ∈RC×1×1和θβ∈RC×1×1表示用于采样仿射变换参数的高斯分布的标准偏差。

给定特征编码器中尺寸为C×H×W的中间特征激活图z，首先从高斯分布中采样缩放项γ和偏置项β：
γ ∼ N(1, softplus(θ γ )) β ∼ N(0, softplus(θ β )).
之后计算：
zc,h,w ˆ = γ c × z c,h,w + β c

更新超参数算法为：
$\"【论文阅读】[meta$