当前位置：首页 > news >正文

酒店类网站建设开发书织梦cms侵权开庭

news 2025/12/20 11:01:25

酒店类网站建设开发书,织梦cms侵权开庭,常州高端网站建设公司,电商一键上货软件绪论什么是机器学习#xff1f; 机器学习研究能够从经验中自动提升自身性能的计算机算法。机器学习经历了哪几个阶段#xff1f; 推理期#xff1a;赋予机器逻辑推理能力知识期#xff1a;使机器拥有知识学习期#xff1a;让机器自己学习什么是有监督学习和无监…绪论什么是机器学习机器学习研究能够从经验中自动提升自身性能的计算机算法。机器学习经历了哪几个阶段推理期赋予机器逻辑推理能力知识期使机器拥有知识学习期让机器自己学习什么是有监督学习和无监督学习并各举一个算法例子有监督学习从有标记的样本中学习如决策树。无监督学习从不含标记的样本中学习如K均值算法。性能度量经验误差和泛化误差经验误差泛化误差欠拟合和过拟合欠拟合相较于数据而言模型参数过少或者模型结构过于简单以至于无法捕捉到数据中的规律的现象。过拟合模型过于紧密或精确地匹配特定数据集以致于无法良好地拟合其他数据或预测未来的观察结果的现象。合适的拟合模型能够恰当地拟合和捕捉到数据中规律的现象。留出法留出法直接将数据集D划分为两个互斥的集合分别为训练集S和测试集T。在S上训练出模型后用T来评估其测试误差。 K折交叉验证法首先将训练集均匀分成K份。每次取其中一份作为验证集剩下部分作为新的训练集从而得到在该验证集的学习精度。重复K次得到平均精度。对于每一组超参数执行上述步骤并基于验证性能选择最佳的超参数集。在确定了最佳的超参数设置后使用这些超参数和整个数据集来训练最终的模型自助法有放回采样。给定包含个样本的数据集D,我们对它进行采样产生数据集D’:每次随机从D中挑选一个样本将其拷贝放入这就是自助采样的结果。查准率、查全率与分类精度混淆矩阵查准率查全率 F1 真正例率假正例率错误率精度 ROC AUC ROC曲线根据学习器的预测结果对样例进行排序按此顺序逐个把样本作为正例进行预测每次计算出假正例率真正例率。分别以它们为横、纵坐标作图。 AUCROC下的面积线性模型什么是线性回归线性回归是一种用于预测和建模的统计方法。线性回归的目的是找到一个线性关系用来最好地预测一个因变量基于一个或多个自变量的值。给定数据(X1,y1),(X2,y2),…,(Xm,ym),此处X可以是多维向量。线性回归的目标为学习合适的参数w和b使得损失函数用于度量yi和f(xi)的差异均方误差最小二乘法基于均方误差最小化来求解模型参数通过计算E(w,b)对w和b的偏导并令其为零得到最优解概率、几率与对数几率关系概率:事件发生的可能性几率事件发生和不发生的比率对数几率几率取对数对数几率回归模型使用对数几率作为连接函数将线性回归模型的输出映射到0,1区间内表示为概率。对数几率回归提供了一个概率分数表明观察属于正类的可能性所以常用于二分类任务。极大似然法极大似然法是一种参数估计方法。在逻辑回归中它用于估计模型参数即权重 w 和偏差 b使得观测数据出现的概率最大化。似然函数首先定义一个似然函数 L(w,b)表示在给定参数 w 和 b 的情况下观测数据集发生的概率。对数似然由于乘积形式的似然函数可能会导致数值计算上的问题如下溢通常转而最大化对数似然函数 log(L(w,b))。求解参数找到一组参数 w 和 b使得对数似然函数取得最大值。梯度下降法梯度下降法是一种优化算法用于找到函数的局部最小值。在逻辑回归中我们通常使用它来最小化代价函数。梯度下降法的核心思想是迭代地调整参数以最小化目标函数。初始化参数首先随机选择一个参数的初始值或者从某个预定的起点开始。计算梯度计算目标函数关于每个参数的梯度。梯度是目标函数上升最快的方向所以负梯度就是下降最快的方向。更新参数沿着负梯度方向更新参数。重复迭代重复步骤2和步骤3直到满足停止条件比如梯度的大小小于某个阈值或者达到预定的迭代次数。收敛至最小值最终梯度下降法会找到损失函数的局部最小值在凸函数的情况下是全局最小值这时的参数就是我们优化的结果。学习率梯度下降法中一个决定参数更新步长的超参数。什么是线性判别分析? LDA 主要用于分类和降维。思想是寻找一个直线使得同类样本的投影点尽可能接近异类样本的投影点尽可能远离。使得在这个投影中不同类别的数据点能够被最好地区分开来。求解最佳投影向量选最大特征值λ2 最后归一化二阶求逆矩阵公式决策树什么是决策树决策树的优点决策树是一种基于树结构来进行决策的机器学习方法。这恰是人类在面临决策问题时一种很自然的处理机制。优点不需要数据清洗省去了数据标准化和虚拟变量创建的步骤。训练速度快成本与数据点数量呈对数关系。能够同时处理连续和离散变量。易于理解、解释和可视化有助于逻辑分析。可使用统计检验验证模型结果的可靠性。即使与实际数据模型不符也能表现良好。信息量信息熵选择最优划分属性的准则信息增益基尼指数计算每轮选择信息增益/基尼指数最大的扩展神经网络感知器 PLA 感知器是一种简单的神经网络是用于二分类的线性模型。通过接收输入特征并将其与权重相乘加上一个偏置项然后通过一个阶跃激活函数来预测输出结果。感知器的核心是其学习规则它根据预测错误来调整权重适用于线性可分的数据集。尽管单个感知器的功能有限但它们可以构建成多层架构成为现代深度学习的基础。一个感知器包括以下部分输入值这些是输入数据或特征通常表示为一个向量x。权重每个输入值都有一个对应的权重表示为一个向量w。偏置一个常数通常表示为b可以看作是权重向量的一个额外维度。激活函数一个数学函数用于计算输出。多类别感知器一对多One-vs-All: 对于每个类别训练一个感知器来区分该类别和其他所有类别。每个感知器的输出是一个分数表示输入属于对应类别的程度。在分类时所有感知器都对给定的输入进行评分选择得分最高的类别作为预测类别。一对一One-vs-One: 对于每对类别训练一个感知器。需要训练N(N−1)/2 个感知器其中 N 是类别的数量。每个感知器只负责区分两个类别。在分类时每个感知器投票决定输入属于哪个类别最终选票最多的类别为预测类别。深度神经网络 DNN 有很多隐藏层的神经网络每个隐藏层都是全连接层。卷积神经网络 CNN 比DNN多了卷积层和池化层。CNN是一种专门用于处理具有类似网格结构的数据如图像的深度学习模型。卷积层卷积核是一个小窗口。每个卷积核在输入图像上卷积并计算卷积核和其覆盖的图像区域之间的点积。卷积层负责提取输入数据中的有用特征。多个卷积层可以捕获从低级到高级的特征。池化层用于降低特征图的空间维度宽度和高度从而减少参数数量和计算量防止过拟合同时提高特征的不变性。CNN 激活函数作用引入非线性到神经网络中。三种梯度下降通过迭代方式最小化损失函数从而找到最佳的网络参数。梯度下降基本思想是在每次迭代中沿着损失函数梯度的反方向更新参数因为这个方向是损失函数下降最快的方向。批次梯度下降使用整个训练数据集来计算损失函数的梯度。可以保证在凸函数上收敛到全局最小值。随机梯度下降随机选择一个训练样本来计算梯度。不一定收敛到全局最小值而且有波动。小批量梯度下降使用一个小批量的样本来计算梯度。收敛更快更容易收敛到全局最小值。支持向量机 SVM 什么是支持向量机 SVM在高维空间中寻找最佳的超平面以最大化不同类别之间的间隔。对于非线性可分的数据SVM通过核技巧将数据映射到高维空间以实现有效的分类。寻找参数使得间隔最大转化为目标函数对偶问题对偶问题提供了一种方式来优化原始的分类问题使其更易于计算且能够应用核方法处理非线性可分的数据集。原始的SVM问题旨在找到最佳的分割超平面以最大化类别之间的间隔但直接求解这个问题涉及复杂的约束优化。通过构造拉格朗日函数并将问题转化为其对偶形式就得到了一个二次规划问题。求解对偶问题在数学上更简洁能给出与原始问题相同的解。对偶问题目标函数核函数如果原始样本空间不存在能正确划分两类样本的超平面可以使用核函数通过一个非线性映射将原始空间映射到一个更高维的特征空间使得样本在这个特征空间内线性可分。软间隔现实中很难确定合适的核函数使训练样本在特征空间中线性可分。即便貌似线性可分也很难断定是否是因过拟合造成的。所以引入软间隔允许在一些样本上不满足约束。支持向量回归 SVR 在回归问题中需要预测一个连续的输出而非一个类别。在SVR中我们不是寻找一个将两类数据分开的最大间隔超平面而是寻找一个能够拟合尽可能多数据的函数同时保持预测误差在一定阈值内。集成学习集成学习集成学习通过构建并结合多个学习器来完成学习任务。先产生一组个体学习器再用某种策略将它们结合起来。个体学习器通常由一个现有的学习算法从训练数据产生。 Boosting Boosting是一组可将弱学习器提升为强学习器的算法。不是同时训练所有模型而是顺序地训练模型每一个模型都尝试纠正前一个模型的错误。先从初始训练集训练出一个基学习器再根据基学习器的表现对训练样本分布进行调整使得先前基学习器的做错的训练样本在后续受到更多关注然后基于调整后的样本分布来训练下一个基学习器如此重复进行直至基学习器数目达到事先指定的值T最终将这T个基学习器进行加权结合。 AdaBoost 对同一数据集训练一系列的弱分类器然后将它们组合起来以提高整体性能。每一轮迭代中调整样本权重使得被之前弱分类器错误分类的样本在后续的迭代中获得更多的关注。 Bagging 基于自助采样法对原始训练数据集进行有放回的随机抽样创建多个相同大小的子样本。使用每个子样本独立地训练出一个弱学习器。将所有弱学习器的预测结果进行聚合。分类问题采用投票机制回归问题取平均值。随机森林随机森林是Bagging的一个扩展变体在以决策树为基学习器构建 Bagging 集成的基础上进一步在决策树的训练过程中引入了随机属性选择。传统决策树在选择划分属性时是在当前结点的属性集合中选择一个最优属性;而在RF中对基决策树的每个结点先从该结点的属性集合中随机选择一个包含k个属性的子集然后再从这个子集中选择一个最有属性用于划分。自助采样对原始训练数据集进行有放回的抽样创建多个不同的训练子集。构建决策树对每个训练子集独立地构建一个决策树。在构建决策树的过程中每次分割时都会从所有特征中随机选择一部分特征候选项。多数投票或平均在分类问题中随机森林的预测结果是所有决策树的预测结果的多数投票在回归问题中则是平均值。结果输出输出预测结果。使用集成学习优化SVM Bagging Bagging对原始数据集进行重采样通常是有放回的抽样形成多个不同的训练子集然后在每个子集上独立地训练一个SVM模型。所有模型的预测结果通过投票分类问题或平均回归问题来汇总。Bagging对于减少模型的方差特别有效这可以在数据集含有较多噪声时改善SVM的性能。 Boosting Boosting是另一种集成方法它不是同时训练所有模型而是顺序地训练模型每一个模型都尝试纠正前一个模型的错误。对于SVM来说可以使用如AdaBoost算法将弱SVM分类器组合成一个强分类器。在每一轮中数据样本的权重会根据前一个SVM的错误率进行调整使得随后的SVM更专注于那些之前被错误分类的样本。聚类什么是聚类聚类分析是将数据集分组使得同一组内的数据相比与其他组的数据更相似。聚类有哪些应用市场分割根据客户的消费记录进行聚类进而合理地推荐基因分组根据基因的表达模式进行聚类用于分析基因功能。医学图像分割将肿瘤图像中的像素进行聚类用于自动分割出肿瘤部分自然图像分割基于图像的模式识别的重要数据预处理步骤。什么是K均值(K-Means)聚类算法例题 K均值(K-Means)聚类算法优缺点依赖类别数K的选择依赖初始类中心的选择对异常点和孤立点敏感 K-Means:优化了初始化时选择类中心的方法避免类中心过于集中。对于数据集中的每个点 x计算它到最近中心的距离 D(x)。什么是K中心点(K-Medoids)聚类算法更新类中心计算每个类别内所有样本点到其中一个样本点的曼哈顿距离和选出绝对误差最小的样本点即跟同类别其他样本点最相似的样本点作为作为新的类中心曼哈顿距离每个维度的距离和。什么是层次聚类算法降维与度量学习什么是降维降维是将数据从高维空间变换到低维空间使得数据的低维表示能够保留原始数据的某些有意义的性质理想情况下接近原始数据的本征维。主成分分析 PCA 将n维特征映射到k维上这k维是全新的正交特征也被称为主成分是在原有n维特征的基础上重新构造出来的k维特征。PCA的工作就是从原始的空间中顺序地找一组相互正交的坐标轴新的坐标轴的选择与数据本身是密切相关的。其中第一个新坐标轴选择是原始数据中方差最大的方向第二个新坐标轴选取是与第一个坐标轴正交的平面中使得方差最大的第三个轴是与第1,2个轴正交的平面中方差最大的。依次类推可以得到n个这样的坐标轴。通过这种方式获得的新的坐标轴我们发现大部分方差都包含在前面k个坐标轴中后面的坐标轴所含的方差几乎为0。于是我们可以忽略余下的坐标轴只保留前面k个含有绝大部分方差的坐标轴。事实上这相当于只保留包含绝大部分方差的维度特征而忽略包含方差几乎为0的特征维度实现对数据特征的降维处理。例题 PCA和LDA的异同 PCA和LDA都是降维技术用于数据特征提取和降维。PCA是无监督学习目标是找到数据中方差最大的方向并将数据投影到这些方向上旨在捕获最大的方差。LDA是监督学习找到最佳的投影方向使同类数据点尽可能接近而不同类数据点尽可能远离最大化类别可分性。PCA产生的是正交主成分LDA产生的是最大化类别分离的线性组合。PCA更多用于数据的压缩和去噪而LDA更多用于优化分类器的性能。

查看全文

http://www.dnsts.com.cn/news/81494.html