asp.net空网站,阆中市网站建设,搜狗推广平台,万载网站建设近年来#xff0c;随着互联网的发展#xff0c;在线广告营销成为一种非常重要的商业模式。出于广告流量商业化售卖和日常业务投放精细化运营的目的#xff0c;需要对广告流量进行更精准的预估#xff0c;从而更精细的进行广告库存管理。
因此#xff0c;携程广告纵横平台…近年来随着互联网的发展在线广告营销成为一种非常重要的商业模式。出于广告流量商业化售卖和日常业务投放精细化运营的目的需要对广告流量进行更精准的预估从而更精细的进行广告库存管理。
因此携程广告纵横平台实践了LSTMLong Short-Term Memory长短时记忆网络模型结合Embedding的广告库存预估深度学习算法在节省训练资源的同时构建更具泛化性的模型支持根据不同地域分布、人口学属性标签等进行库存变动预估并能体现出节假日特征对库存波动的影响从而对广告库存进行更为精确的预估。
技术交流
技术要学会分享、交流不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。
相关文件及代码都已上传均可加交流群获取群友已超过2000人添加时最好的备注方式为来源兴趣方向方便找到志同道合的朋友。 方式①、添加微信号dkl88194备注来自CSDN 加群 方式②、微信搜索公众号Python学习与数据挖掘后台回复加群 问题和挑战
广告库存预估实现有诸多挑战 现实中对广告库存的影响因素非常多比如节假日、周末、自然灾害等等 广告库存样本周期以天为单位训练样本很少 需要支持不同维度交叉进行广告预估例如同时选择地域、年龄、性别、会员等级等定向交叉预估未来N天的库存情况 广告库存日新月异随时间推移不断有新的库存样本生成模型更新频率要求较高。
这些因素让广告库存预估工作从资源和效率等角度都带来压力。
算法简述
RNNRecurrent Neural Network循环神经网络是一种特殊的神经网络被广泛应用于序列数据的建模和预测如自然语言处理、语音识别、时间序列预测等领域。RNN对时间序列的数据有着强大的提取能力也被称作记忆能力。相对于传统的前馈神经网络RNN具有循环连接可以将前一时刻的输出作为当前时刻的输入从而使得网络可以处理任意长度的序列数据捕捉序列数据中的长期依赖关系。 图 3-1
LSTMLong Short-Term Memory长短时记忆网络是一种特殊的 RNN它通过引入门控机制和记忆单元等结构来增强 RNN 的记忆能力和表达能力。
LSTM 的基本结构包括一个循环单元和三个门控单元输入门、遗忘门和输出门。循环单元接受当前时刻的输入和前一时刻的输出作为输入并输出当前时刻的输出和传递到下一时刻的状态。输入门控制当前时刻的输入对状态的影响遗忘门控制前一时刻的状态对当前状态的影响输出门控制当前状态对输出的影响。记忆单元则用于存储和传递长期的信息。基于此使得LSTM具有长期的记忆能力并且具有防止梯度消失的特点故我们选择LSTM作为库存预估模型的训练基础。 图 3-2
Embedding是一种特征处理方式它可以将我们的某个特征数据向量化可以将离散的整数序列映射为连续的实向量它通常用于自然语言处理中的词嵌入Word Embedding任务用于将每个单词映射为一个实向量从而使得单词之间的语义关系可以在向量空间中进行计算。
在本文中我们是使用它进行实体嵌入Entity Embedding 任务也就是将我们的特征实体进行向量化通过大量的数据训练得到实体向量之前的细微关系从而帮助模型更清晰的识别不同实体对广告库存的影响进而提高模型的泛化能力。
数据处理
4.1 特征定义
基础特征为下图所示 图 4-1
由于节假日的特殊性我们又将其细分为以下维度保证模型抓住节前和节后购票效应。 图 4-2
4.2 归一化
在深度学习中对数据进行归一化主要目的是将数据缩放到一个合适的范围内便于神经网络的训练和优化。对数据进行归一化可以改善梯度下降、加速收敛、提高模型的泛化能力。
我们选择Z-score标准化方法对数据进行处理Z-score 标准化也称为标准差标准化是一种常见的数据归一化方法其基本思想是将原始数据转换为标准正态分布即均值为 0标准差为 1。公式如下图所示是一个实测值与平均数的差再除以标准差的过程。 4.3 数据聚类
我们在第二章节问题和挑战中聊到过广告库存预估需要对多个维度支持预估功能不同维度交叉组合后库存量千差万别导致我们的样本数据中标签值min和max差距非常大。
如图4-3所示本图Y轴表示某组合维度标签值的库存数据量级库存数据量较小的组合维度占有很大一部分而库存数据量较大的组合维度相对较少仅凭数据归一化手段数据压缩的效果非常不明显如果强行一起训练会互相影响导致模型难以拟合训练中的损失函数如图4-4所示训练时模型无法正常拟合损失值不能够正常下降训练出的模型效果可想而知无法支持正常的预估功能。 图 4-3 图 4-4
所以我们以库存样本的标签值为依据使用K-means算法对不同维度的库存进行数据聚类将近似类别的维度放在一起进行训练提高模型的拟合速度和泛化能力。
我们选择“肘部法则”来确认本数据集的最佳分类数也就是K-means的簇数K的具体值。随着K的增加聚类效果不断提高但是当K到达某个值的时候聚类效果的提高变得越来越慢此时再增加K已经不能明显提高聚类效果因此这个点就是最佳的K值。具体过程如下 对数据集进行K-Means聚类分别尝试不同的簇数K。 对于每个簇数K计算该簇数下的SSESum of Squared Errors即每个数据点到其所属簇中心的距离的平方和保存SSE 到数组。 使用numpy库中的diff函数计算相邻两点的差异并除以最大值得到变化率。然后我们使用numpy库中的argmax函数找到最大斜率的位置加上n即为肘部点的位置。 n的取值要考虑自身数据集一般来说K的值至少要为2不然没有分类意义而且argmax计算出来的是数组的索引位置小于真实位置1个点位综合考虑我们将n设置为2。
# 计算不同聚类个数下的聚类误差n 2sse []for k in range(1, 10):kmeans KMeans(n_clustersk, random_state0).fit(data)sse.append(kmeans.inertia_)# 自动寻找肘部点diff np.diff(sse)diff_r diff[1:] / diff[:-1]nice_k np.argmin(diff_r) n#绘制SSE随簇数变化的曲线如图4-5观察曲线的形状。plt.plot(range(1, 10), sse, bx-)plt.xlabel(Number of Clusters)plt.ylabel(SSE)plt.title(Elbow Method for Optimal k)plt.show()图 4-5
经过K值选择后我们将样本数据集进行聚类得到如下图4-6所示结果Y轴为某组合维度的标签值X轴为某组合维度出现在样本数据集数组中的索引位置。其中最右侧最高的点明显是没有任何维度交叉的全部广告库存其他位置都是经过维度交叉后的库存最终我们将其分成了3份进行训练。 图 4-6
经过聚类处理后模型训练时损失函数输出的损失值如下图所示出现了正常的损失值下降的过程并逐渐趋于稳定。 图 4-7
五、网络结构定义与训练
5.1 网络结构定义
1网络模型结构图 图 5-1
2网络模型定义
我们将各维度组装特征数据和标签数据的数据经过Embedding 实体嵌入输入到LSTM学习并提取历史库存的时间序列特性最终经过激活函数和全连接层输出与标签值进行损失值计算不断拟合直到损失值接近稳定或到达最大训练批次。
import torch
from torch import nnclass LSTM(nn.Module):def __init__(self, emb_dims, out_dim, hidden_dim, mid_layers):super(LSTM, self).__init__()self.emb_layers nn.ModuleList([nn.Embedding(x, y) for x, y in emb_dims])self.rnn nn.LSTM([sum(x) for x in zip(*emb_dims)][1] 1, hidden_dim, mid_layers, batch_firstFalse)self.reg nn.Sequential(nn.Linear(hidden_dim, hidden_dim),nn.Tanh(),nn.Linear(hidden_dim, out_dim),)def forward(self, cat_data):var_x []for cat in cat_data:x self.emb_layer(cat)var_x.append(x)stack torch.stack(var_x)y self.rnn(stack)return y5.2 训练
1组织数据
我们获取任意维度历史N天数据作为训练集如下图所示我们设定滑动窗口时间为七天定义广告请求数为标签数据。使用DataLoader组织数据shuffle设为True保证样本是随机获取的仅需保证滑动窗口内部有序即可这样训练可以提高模型的泛化能力。
loader Data.DataLoader(datasetset, batch_sizesize, shuffleTrue, num_workersnumWorkers)需要注意的是LSTM要求的入参顺序为seq_length, batch_size, input_size即序列长度、批次量数、特征维度然而DataLoade组织出的数据第一个维度是batch_size因此设置batch_first true即可解决问题继续正常的使用LSTM模型训练数据。但是这会拉低训练效率原因是NVIDIA cuDNN 的RNN API 设置的batch_size参数就是在第二个位置这样设置的原因如下
举个例子1假设输入序列的长度seq_length等于3batch_size等于2假设一个batch的数据是[[“A”, “B”, “C”], [“D”, “E”, “F”]]如图5-2所示。由于RNN是序列模型只有T1时刻计算完成才能进入T2时刻而batch就体现在每个时刻Ti的计算过程中图1中T1时刻将[“A”, “D”]作为当前时刻的batch数据T2时刻将[“B”, “E”]作为当前时刻的batch数据可想而知“A与D在内存中相邻比A与B相邻更合理这样取数据时才更高效。
而不论Tensor的维度是多少在内存中都以一维数组的形式存储batch first意味着Tensor在内存中存储时先存储第一个sequence再存储第二个… 而如果是seq_length first模型的输入在内存中先存储所有sequence的第一个元素然后是第二个元素… 两种区别如图5-3所示seq_length first意味着不同sequence中同一个时刻对应的输入元素(比如A”, “D” )在内存中是毗邻的这样可以快速读取数据。 图 5-2 图 5-3
因此使用batch_first true并不是好的选择可以选择permute函数解决此问题
batch_x batch_x.permute((1, 0, 2))使用此方法改变数组的shape以适应原始LSTM模型的入参要求在不影响训练速度的原则下解决参数顺序问题。
2训练步骤
输入: 任意维度前七天组成的窗口数据包括所有的特征数据 标签数据
输出: 第八天的标签数据
第N步 图 5-4
第N1步: 图 5-5
3离线与在线增量训练
第二章节问题和挑战中提到由于广告样本数据每天都在产生而且影响其因素非常多所以历史模型仅凭历史库存学到的时间序列特性预估出的未来库存除了可以带有假期周末等时间特征的正向影响外很难紧跟近期的库存数量级。
所以这要求我们要高频次的更新广告库存预估模型但这也加大了维护成本如果仅采用离线训练的方式每次都拉取全量历史库存样本数据训练出新的优质模型无疑是不可取的所以我们选择一次离线训练N次在线增量训练的方式解决此问题。
a. 离线训练
首先使用Spark Sql组织广告库存Hive表中现存所有的历史数据导入CSV文件使用GPU训练此样本数据由于是各维度交叉训练一般在这个阶段数据量在亿级别如果资源有限离线训练可以拆分广告位分别进行。经过多次训练选择优质的离线模型文件作为基础预估模型可以用于短期的库存预估工作。此时我们需要将优质模型以字节的形式存储至Redis便于后面的预估服务和在线训练脚本使用。
此时需要注意的是我们需要将模型和优化器打包为一个字典以二进制的方式读取模型文件并保存在Redis中。
#保存模型:
#net:模型
#optimizer:优化器state {net: net.state_dict(), optimizer: optimizer.state_dict()}
torch.save(state, netPath)#存储至Redis:
def saveModel(modelName, netPath):with open(modelPath, rb) as f:pth_model f.read()result redis.set(modelName, pth_model)b. 在线训练经过离线训练后我们得到了一个优质的预估模型此时我们需要开发两个脚本
① PySpark 拉取hive表中昨天的库存样本存储在GPU机器实时文件目录。
② 读取实时文件目录获取近八个文件前七个作为一个滑动窗口数据第八个作为标签值组成单次训练样本在Redis中获取并加载预存的模型和优化器进行一次在线训练再将其覆盖保存至redis中。
# 在Redis中加载模型
def readModel(modelName, path):pthByte redis.get(modelName)with open(path, wb) as f:f.write(pthByte)return torch.load(path, map_locationlambda storage, loc: storage)# 加载模型和优化器状态,用于训练# 读取字典
model readModel(modelName, path)# 加载模型
net LSTM(emb_dims, out_dim, mid_dim, mid_layers).to(device)
net.load_state_dict(model[net])# 加载优化器
optimizer torch.optim.Adam(net.parameters(), lr1e-2)
optimizer.load_state_dict(model[optimizer])最终我们将以上两个脚本配置在携程大数据定时任务设置每天0点后执行即可实现不断的在线训练保证模型在优质状态的基础上使用最新的库存数据对模型进行微调修正使用Redis保存模型可以快速存取模型文件流保证在线训练结束后预估服务可以立刻反应获取到新的模型用于预估工作无需对预估服务做任何改动。根据以上方案可以不断维持模型提供精准的预估能力。
4早停机制
训练过程中为防止过拟合也为提高效率当loss 不再明显变化时终止训练输出模型每次训练不断记录并更新loss最小值当loss 连续N次小于x时视为可触发早停机制。
class EarlyStopping:def __call__(self, val_loss):score val_lossif self.best_score is None:self.best_score scoreelif score self.best_score:if score x:self.counter 1if self.counter self.patience:self.early_stop Trueelse:self.best_score scoreself.counter 0下图为早停效果图设置的训练批次为150批 此模型训练至115批截至可以观察到loss已经非常低, 已经没有下降空间符合早停预期。 图 5-6
5指标验证
经过模型的构建和训练后我们需要对模型做出评估以决定模型是否可以推到线上使用因为基础数据量较小所以本次模型未设置验证集训练集和测试集 9 1。评估指标采用WMAPE(加权偏差率) TorchMetrics 类库对80 多个PyTorch 指标做了实现.
这里我们直接调用api : WeightedMeanAbsolutePercentageError
import torchmetricserror torchmetrics.WeightedMeanAbsolutePercentageError()
# 调用模型得到预估值
predict net(valid_x)
# 计算偏差
error error(predict, valid_y)
error_list.append(error.item())指标验证可以更科学的观察到模型对所有维度的测试集的预估能力, 可以更科学的验证模型是否符合我们的预期指导我们进行调参控制唯一变量并观察指标变化。某广告位置调参验证示例如下, 比较不同批次训练模型后指标比较, 明显表现出200批次的模型指标更好。
Group Model 1: 150批次 测试集ERROR: 0.09729844331741333 200批次 测试集ERROR: 0.08846557699143887
Group Model 2: 150批次 测试集ERROR: 0.10297603532671928 200批次 测试集ERROR: 0.09801376238465309
Group Model 3: 150批次 测试集ERROR: 0.0748182088136673 200批次 测试集ERROR: 0.07573202252388
6内存释放
在大数据量的深度神经网络训练过程中内存是我们的一大瓶颈在组织数据过程中python的List由于不能确定其存储内容的数据类型不支持快速切割结构我们经常需要将List转换为数组再做处理此时需要copy一份数据那么List就成了闲置内存这种类似的闲置内存我们可以操作主动释放以快速释放无用内存让我们的机器可以在有限的内存空间中支持更大数据量的训练。
不同的数据类型的释放方式如下假设变量名称为 X
# 1、List
del X[:]
# 2、数组
X []
# 3、字典
X.clear()
# 4、Tensor(此方式需要调用gc.collect()触发GC才可以真正清除内存)
del X
# 5、清理CUDA显存
import torch
torch.cuda.empty_cache()下图5-7为训练过程中主动释放内存操作后得到的内存释放监控反馈。 图 5-7
5.3 预估验证
1历史预估
整体模型训练完成需要对模型做预估测试我们选择2022年的10月作为测试样本10月1日国庆节有特殊的节假日特性可以考量模型预估能力。以携程启动页广告位为例图 5-8 分别展示了全量库存、某特征定向和两种会员等级定向不同维度的预估效果都成功表达出10月1日的节假日上涨特性与实际值的走势相似证明我们训练出的模型具有预估未来广告库存的能力。 图 5-8
2未来预估
以下是对未来库存的预估效果示例从未来预估示例中可以直观看出在4月26-29左右有流量的高峰经过5月1日后高峰下跌回归正常值符五一的节假日效应。
图5-9 定向交叉为某年龄段、某地 图 5-9
图5-10 定向交叉为某年龄段、某类会员 图 5-10
图5-11 定向交叉为某地、某类会员 图 5-11
六、模型部署
6.1 python 服务部署
使用python flask组件开发部署restful接口支持预估服务。
from flask import Flask
from flask import request, jsonifyapp.route(/model/ad/forecast, methods[post])
def forecast():# 在clickhouse中实时获取前七天的标签值传入接口prepareData request.json.get(prepareData)return forecast(prepareData)从Redis中读取对应维度的模型文件流加载到内存生成模型对象将前7天的标签值和对应其他特征组织好输入模型得到预估结果。
# 在Redis中加载模型def readModel(modelName, path):pthByte redis.get(modelName)with open(path, wb) as f:f.write(pthByte)return torch.load(path, map_locationlambda storage, loc: storage)七、总结
通过使用LSTM算法结合Embedding特征处理方式训练得到优质的广告库存预估模型能够捕捉库存时间样本数据中的长期依赖关系表达节假日、周末等特殊时间点对库存变化的影响更具泛化能力支持地域、年龄、会员等级、性别等定向交叉预估对比早期使用全量库存乘以定向比例的预估库存方式此方式更能体现出不同维度之间的相互影响关系更贴近事实预估准确度高。
使用离线与在线增量训练相结合的训练方式使模型更具活力每天在优选出的广告库存模型基础上进行微调可以不断维持模型提供精准的预估能力。后续我们会继续优化和探索更优秀的模型和特征处理方式优化方向考虑在Embedding层 与 LSTM 层之间增加CNN 卷积层提高模型的特征提取能力进而提高广告库存模型的泛化能力、预估精准度。
