扬州建设网站,公司网站建设全包,360建设网站免费,哈密建设局网站模型
softmax回归是多类分类模型#xff0c;用于获取每个分类的置信度#xff0c;置信度计算方式如下 经过全连接层#xff0c;得到输出O#xff0c;将O作为softmax的输入 O是输出向量#xff0c;每个分量表示一个类别#xff0c;y_hat_i表示i类别的置信度#xff0…模型
softmax回归是多类分类模型用于获取每个分类的置信度置信度计算方式如下 经过全连接层得到输出O将O作为softmax的输入 O是输出向量每个分量表示一个类别y_hat_i表示i类别的置信度softmax回归使得所有类别置信度都为非负数且相加等于1
损失函数
使用交叉熵来衡量两个概率之间的区别交叉熵计算方式如下 y_i是真实标签第i个分类的置信度真实标签y只有一个分量是1其他是0
损失函数torch实现
torch.CrossEntroyLoss//这里的CrossEntroyLoss函数返回batch个样本的总loss值因此要取个平均值
from torch import nn
loss torch.CrossEntroyLoss(reductionNone)
loss.mean().backward()
