食品网站建设规划书,百度指数排行榜哪里看,上网建站推广,铁道部售票网站多少钱建设1. Motivation
针对机器学习中的出现的数据隐私泄露的风险#xff0c;提出了线性回归、逻辑回归以及简单神经网络的隐私保护模型。
2. Contributions
2.1 为线性回归、逻辑回归以及神经网络设计安全计算协议
2.1.1.1 线性回归
线性回归损失函数为#xff1a; ,
采用SG…1. Motivation
针对机器学习中的出现的数据隐私泄露的风险提出了线性回归、逻辑回归以及简单神经网络的隐私保护模型。
2. Contributions
2.1 为线性回归、逻辑回归以及神经网络设计安全计算协议
2.1.1.1 线性回归
线性回归损失函数为 ,
采用SGD算法处理损失函数权重w的更新公式为 式子只有加法、乘法运算秘密分享的形式为 写成向量的形式为 根据Beavers triple 计算矩阵乘法 这里需要注意的是文章中说明的是两个服务器,都以获得数据的一个份额并不是各方持有一份完整的数据。 可得之后的乘法运算都依据这个式子。 完整过程如下 2.2 运算中小数的处理
计算小数乘法x*y,假设x和y都最多有D为小数。
1将x和y进行扩大
,
2截断小数 扩大后结果为,小数位数最多D为所以将最后D位截取截断后的结果可写为用表示截断操作则最的相乘结果为。 2.3 优化激活函数 在逻辑回归算法中有函数,其中在实数域中该函数包含的除法和求幂运算很难支持2PC和布尔运算比之前工作用多项式去逼近函数不同的是作者提出一个Friendly activation function函数为f(u),f(u)图像如下图所示。 构造的灵感来源于
1函数值应该收敛在0和1之间2RELU函数
2.4 引入了面向秘密共享的向量化计算
线性回归下模型权重更新公式为仅涉及加法和乘法。秘密分享形式下的加法在本地即可计算而乘法需要借助Beavers Triple。但是元素级别的运算效率太低这里优化为矩阵乘法由2.1节可知C的Share为这样可以大大加快计算效率。 3. QR
3.1 为什么加法秘密共享是环上shamir是在域上? 答加法秘密分享只需要加减法就可以定义分享和恢复算法shamir的恢复算法需要计算离散空间的除法环中因为有些元素没有逆元所以没法保证恢复算法能成功。域中元素都有逆元可以计算除法。 3.2 隐私计算往往要求在有限域上运算实际问题怎么去应用 答需要转化为将实际的运算转化到有限域的代数系统中。 4. Summary 优化一个问题可以从各个方面入手有的对结果有直接影响有的是间接影响有的直接影响大有的直接影响小。
Reference
1.论文阅读笔记SecureML: A System for Scalable Privacy-Preserving Machine Learning - 知乎
2.为什么不可以直接在实数上进行秘密分享 - 知乎 (zhihu.com)
