本文来自《A Discriminative Feature Learning Approach for Deep Face Recognition》，时间线为2016年。采用的loss是Center loss。
0 引言
通常使用CNN进行特征学习和标签预测的架构，都是将输入数据映射到深度特征（最后一层隐藏层的输出），然后到预测的标签，如图1.
在通用目标，场景和动作识别中，预测的样本归属的类别也处在训练集中，这被称为“闭集识别”。因此，预测的标签能表示模型的性能，且softmax loss可以直接处理分类问题。这时候，标签预测问题就类似一个线性分类模型，且深度学到的特征也具有可分性。
而对于人脸识别任务来说，学到的深度特征不止具有可分性，也具有辨识性。因为不可能在训练集中收集到所有预测的ID类别，CNN输出的特征并不总是可用的。需要让训练出来的特征具有辨识性，且能够足够泛化到那些未见过的人ID的类别。辨识性即需要特征能够保证类内变化的紧凑性和类间不同的可分性。如图1所示，辨识性特征可以很容易的通过KNN去划分。然而，softmax loss只保证了特征的可分性，生成的特征还不足够用于人脸识别。
在CNN中，构建让特征具有高度辩识性的loss函数是很有意义的。在CNN中的SGD通常是基于mini-batch，其不能很好的反映深度特征的全局分布。因为训练集本身很大，也没法每次迭代的时候把整个训练集都放进去迭代。作为一种解决方法，contrastive loss和triplet loss各自构建了基于图片二元组和图片三元组构建loss函数。然而相比于图片样本，需要投入的训练图片二元组和三元组的数量会急剧增长，同时也不可避免的会减慢收敛和增大不稳定性。通过仔细的选择图片二元组和三元组，虽然这些问题可以部分解决。不过也明显增加了计算复杂度，且也让训练过程变得不够方便。
这里作者提出了一个新的loss函数，叫center loss，可以有效的增强深度特征的辨识性。特别的，对每个类别的深度特征，会学到一个中心（和特征有着一样维度的一个向量）。在训练中，会同时更新该中心，且最小化深度特征与对应中心向量的距离。所以该CNN是基于softmax loss和center loss联合训练的，通过一个超参数去权衡这两个loss。直观的，softmax loss强制不同类别的深度特征保持分离。center loss有效的将同一个类别的其他特征往其对应的中心紧推。通过联合训练，不止让类间特征的区别变大，同时让类内特征的变化减小。因此让学到的深度特征辨识性可以增强。
1 Center Face
这里先通过一个例子介绍下深度特征的分布，然后基于该分布提出了center loss来提升深度特征的辨识性。
1.1 简单的例子介绍深度特征的分布
本部分是基于MNIST数据集进行呈现的。通过将LeNet网络修改的更深更宽，不过减少最后一层隐藏层的神经元个数为2（即学到的深度特征维度为2）。所以可以直接在2D坐标系上呈现学到的特征。网络结构的详细部分如表1。
softmax loss函数式子为：
其中，(mathbf{x}_iin R^d)表示第(i)个深度特征，属于(y_i)类，(d)是特征的维度。(W_jin R^d)表示最后一层全连接层中权重(Win R^{d imes n})矩阵的第(j)列，(mathbf{b}inR^n)是对应偏置项。mini-batch的size和类别的个数分别为(m)和(n)。这里忽略偏置项以简单说明（实际上，忽略了之后，性能也没什么差别）。
生成的2D深度特征如上图所示。因为最后的全连接层表现的和一个线性分类器一样，所以不同类别的深度特征可以通过决策面简单的划分。图2中可以得出：
- 基于softmax loss的监督之下，学到的深度特征具有可分性；
- 深度特征不具有足够的判别性，因为仍然有明显的类内变化
所以还不能直接将softmax学到的特征直接用在人脸识别上。
1.2 Center Loss
所以，如何提出一个有效的loss函数去提升深度特征的辨识性呢？直观的，是减小类内变化的同时保持不同类特征的可分性。所以，这里提出一个center loss函数：
其中(mathbf{c}_{y_i}in R^d)表示深度特征的第(y_i)个类中心。该式子可以有效的表达类内变化。理想情况下，(mathbf{c}_{y_i})可以随着深度特征的改变而更新。换句话说，需要将整个训练集都考虑在内，并在每次迭代中对每个类别的特征进行平均，这在实际实践中不具有可操作性。因此，center loss不能直接使用，这也可能就是在CNN中center loss一直没有应用的一个原因吧。
为了解决该问题，提出两个必须的修改：
- 不直接基于整个训练集合更新center，而是基于mini-batch进行操作。在每次迭代中，通过平均对应的类别特征来计算center（这时候，一些center可能并不会被更新）；
- 为了避免误标记样本带来的较大扰动，使用一个标量(alpha)来控制center的学习率。
(L_C)关于(mathbf{x}_i)的梯度和更新(c_{y_i})的式子如下：
当(condition)满足的时候(delta (condition)=1)，反之(delta (condition)=0)，(alpha)取值在[0,1]之间。通过将softmax loss和center loss 联合训练CNN以保证辨识性特征学习，对应的式子为：
可以看到，由center loss监督的CNN是可训练的，可以通过标准SGD进行迭代，标量(lambda)可以用来权衡这两个loss函数。传统的softmax loss可以看成该联合loss的一个特殊情况，即(lambda =0)。
上述流程简单介绍了网络训练的过程。
从图3可以发现，不同的(lambda)会导致不同的深度特征分布，在值合适的情况下，深度特征的辨识性可以增强不少。
1.3 讨论
- 如果只是用softmax loss，则会导致较大的类内变化；如果只用center loss，则深度特征和center就会下降为0（此时center loss是很小的）;
- 相比于contrastive loss和triplet loss，它们都需要对数据进行扩展成二元组或者三元组，而center loss不需要对训练样本进行组合操作，因而CNN网络能够更直接的训练。
2 实验及分析
这里介绍下实现的一些细节和个别超参数的影响对比。
2.1 实现细节
- 基于MTCNN先对人脸数据集进行人脸检测和对齐，人脸检测框统一裁剪成112x96大小，然后通过每个像素值减去127.5并处以128进行大致的归一化。
- 使用网络上收集了的数据集如CASIA-WebFace，CACD2000，Celebrity+，在移除了出现在测试集中的ID图片，大概有0.7百万张，17,189个ID。并且做了简单的水平翻转以数据增强。
- 采用caffe库进行实现，网络结构如图
为了公平对比，只在loss函数层做了不同的设定，如softmax loss(model A)；softmax+contrastive（model B）；softmax+center（model C）。这些模型的batchsize都为256，在两块TitianX上完成。对于模型A和模型C，学习率始于0.1，然后在16K和24K迭代次数时分别除以10。大致需要28K次迭代14小时完成整个训练。对于模型B，发现收敛的更慢，其以0.1初始化学习率，然后在24K和36K进行变化。一共42K次迭代，大致22小时。- 将第一层全连接层的输出作为深度特征，通过提取每个图片的该特征并对图片进行左右翻转并再次提取特征，将这2个特征进行合并以此来表示该图片。先通过PCA进行降维，然后采用cos距离来计算两个特征的距离。最近邻和阈值对比分别用来作为人脸识别和验证。
2.2 基于超参数的实验
超参数(lambda)控制着类内变化，(alpha)控制着模型C中center c的学习率。他们对网络的训练都很重要。
上图中的一个实验是固定(alpha=0.5)并变化(lambda)，可以发现只用softmax((lambda=0))效果并不好；同样的对于第二个实验，固定(lambda=0.003)，改变(alpha)发现还是挺稳定的。
从上图可以发现，在小数据量上，center Face效果还是挺不错的，当然还是干不过谷歌那种包含超大数据量的FaceNet