管城郑州网站建设,甘特图模板关于网站建设,顺德网站建设服务平台,如何判断网站好坏一、背景
Serverless 精确到毫秒级的按用付费模式使得用户不再需要为资源的空闲时间付费。然而#xff0c;对于给定的某个应用函数#xff0c;由于影响其计费成本的因素并不唯一#xff0c;使得用户对函数运行期间的总计费进行精确的事先估计变成了一项困难的工作。以传统云…一、背景
Serverless 精确到毫秒级的按用付费模式使得用户不再需要为资源的空闲时间付费。然而对于给定的某个应用函数由于影响其计费成本的因素并不唯一使得用户对函数运行期间的总计费进行精确的事先估计变成了一项困难的工作。以传统云资源的周期性租赁模式为例通过周期数乘以周期单价用户可以很容易地估计出租赁期间的总费用形成清晰的心理账户预期即使在云平台采用阶梯定价或价格歧视策略的情形下计算租赁总成本也不是一件难事。但在 Serverless 场景中事先估计函数总成本仍缺乏有效的理论指导。一方面影响函数计费的关键因素不唯一如包括函数内存规格、单实例并发度、函数执行时长等另一方面函数调用流量的波动通常具有随机性和非平稳性使得基于流量的“按用计费”具有较大的不确定性。当然寻找函数计费的理论指导主要是为用户评估函数总成本提供一种有效依据但更加重要地如何进一步利用估计模型帮助用户优化应用函数及其配置选择进而显著降低用户函数总成本是 Serverless 领域中FinOps 亟待回答的问题。FinOps 聚焦云上资源管理和成本优化通过有机链接技术、业务、和财务专业人士来优化用户、企业、组织的云资源成本提高云上业务的投入产出比。结合华为云 FunctionGraph 在 Serverless 领域的 FinOps 探索和实践剖析 Serverless 场景下的函数计费模式和关键影响因素分享一种对函数运行期间总计费进行事先估计的模型框架更重要地该模型为帮助用户优化函数运行总成本、提升用户云上 Serverless 资源管理效能实现经济型 Economical Serverless 提供有效依据。Serverless 函数常见名词
内存规格MemoryMB单实例最大并发度Maximum Requests per Instance/函数执行时延Function Execution Timems单函数最大实例数Maximum Instances per Function/
内存规格Memory内存规格也即函数规格、函数实例规格表示 Serverless 平台为函数的单个实例所分配的资源大小一般表示为函数可使用的内存大小由用户指定实例可使用的 CPU 份额与内存大小成正比。Serverless 云平台通常提供多种规格供用户选择以 FunctionGraph 为例用户可选 15 种函数规格。函数执行时延Function Execution Time这里指完成一次调用请求响应的过程中函数本身执行所消耗的时间主要由函数代码逻辑决定。一般地对于 CPU 密集型的函数增大函数资源规格内存-CPU Share可以显著降低函数执行时延但对于消耗大部分时间在网络 IO 等操作上的函数增大资源规格对执行时延的改善则非常有限。单实例最大并发度Maximum Requests per Instance函数的单个实例可以同时处理的最大请求数主要适用于函数执行过程中有显著时间在等待下游服务返回的场景如访问数据库操作或磁盘 IO 等对于相同的流量负载提高函数的单实例并发度可以降低按量实例个数为用户节省计费同时也可以降低函数调用请求的冷启动比例。单函数最大实例数Maximum Instances per Function指同一函数同一时刻下同时运行的实例数上限。对用户来说最大实例数可以防止异常流量洪峰下或函数发生故障时由于云平台的过度扩容而导致的费用失控对云平台来说最大实例数可以防止异常情况下平台资源被部分函数耗光从而保障不同函数间的性能隔离。
二、函数计费与成本模型
单实例视角下的函数计费估计模型在真实生产环境中除异步函数外Serverless 云平台通常采用FCFSFirst Come First Serve的方式响应调用请求对于函数流量的潮汐波动平台通过自动扩缩容实例进行自适应系统中运行的并发实例数随时间的变化可以由一个分段常线性函数完全刻画如下所示 尽管不同 Serverless 云厂商之间的计费方法存在差异函数计费一般主要包括两部分对函数所使用资源的计费以及对请求次数的计费表示如下 其中 图片表示对资源使用的计费单位为 GB-秒GB-second 表示对调用次数的计费。为方便计算用 MGB 表示函数的资源规格单位为 GB。例如对于 128MB 规格的函数其 MGB 128/1024c 表示该函数的单实例并发数μ 表示函数的平均执行时延单位为毫秒并用 α0α1表示 Serverless 平台的调用链路性能在最理想的情况下该指标为 1表示在当前 Serverless 平台上该函数响应单个请求的端到端时延等于函数执行时延 μ 本身不同 Serverless 平台的 α 值可能略有不同但通常在 0.9 以上。给定上述指标可以得到单实例在理想状况下的请求处理能力即理论上每秒可以响应的调用次数为 因此单实例的实际请求处理能力则为 以一个月作为估计周期假设一个月内函数共经历了 n 次扩、缩容形成了 n 个常线性子区间。先考察单个子区间 ΔTsecond 内的计费成本模型总成本模型则为各个连续子区间的加和。在时间窗口 ΔTsecond 内假设函数调用次数为 QΔT则该时间窗内的并发实例数为 对应的资源计费部分则可表示为 其中PGB-second 表示每GB-秒的资源的计费单价。现在记第 i 个子区间为 ΔTi则一个月内的总成本模型可以估计为 其中PRequest 表示每次调用的计费单价Q∑n~i 1QΔTi~ 表示函数该月总流量CostGB-second-free 为云平台提供的月度免费计量时间Qfree 为月度免费计量调用次数。在上式中单实例并发度 c 和函数规格 MGB 可以认为在用户配置之后属于常数α 属于平台侧参数也可视作常数对于函数执行时延 μ实际中通常会由于冷热启动差异、网络抖动、调用请求入参等的不同而波动且考虑到 Serverless 计费是精确到毫秒级别的因此严格意义上不能被视作为常数。不过作为估计模型这里暂且假定 μ 也为常数。综上总成本模型可以表示为 后半部分代表云平台提供的免计费总量与函数调用流量以及函数配置无关。
三、成本优化方法
有了函数成本的估计模型就可以对影响用户成本的关键因素进行讨论。在上面的估计式中忽略云平台提供的免计费总量函数月度总成本的结构如下 ① 优化函数代码逻辑本身降低函数执行时延
对于同样的函数流量负载更低的执行时延μ可以为用户节省更多计费成本。在用户业务逻辑允许的前提下不断优化函数代码、提高函数执行效率是软件工程本身天然的诉求但在 Serverless 场景下这一点显得更为迫切。具体地考虑采用 Python、Nodejs 等轻量化编程语言减少函数初始化配置中的非必要项将连接其它服务如数据库等的操作尽量移到函数执行入口之前的初始化阶段完成简化代码逻辑等。另外为帮助用户掌握函数运行情况Function Graph 为应用函数提供深度可视化的可观测能力支持丰富的观测指标配置包括调用次数、错误次数、运行时延等如下所示的函数运行时间监控示例 ② 优化函数代码包、依赖包、镜像大小
当函数调用触发冷启动的时候从计费角度看冷启动时延包含在执行时延 μ 中一起计费而冷启动中有相当比例的时延消耗在云平台从第三方存储服务如华为云对象存储服务 OBS中下载用户的代码包、依赖包或从镜像仓库服务中拉取用户应用镜像如下所示 尽管为了优化冷启动性能目前大部分云平台均会采用各类缓存机制对用户代码和镜像进行预缓存但实例启动中消耗在用户代码加载上的时延仍然十分显著。因此应尽可能优化函数代码包大小包括对依赖包、镜像等进行瘦身进而降低计费时长。
③ 编写功能聚焦的轻量化函数
在 Serverless 编程框架下尽可能将函数编写为轻量型的、功能聚焦的程序代码即“functions should be small and purpose-built”让“一个函数只做一件事”一方面功能单一的函数运行时延也更容易针对性地进行优化另一方面当一个函数内同时实现多个功能的时候大概率会以所有功能都在性能上同时做出妥协为结果最终提高了函数运行期间总计费。 若应用函数的确需要提供多个功能可以考虑将大函数分解为多个小函数然后通过函数编排的方式实现整体逻辑下所示的 FunctionGraph 函数流功能。大函数分解也是 Serverless 计算中用户处理超时timeout等异常场景的最佳实践之一。
④ 业务模型支持的前提下采用单实例多并发
从上面公式的函数成本结构中可以看出在用户业务模型支持的前提下配置一定的单实例并发度 c可以有效降低函数月度总成本若用户不进行配置云平台默认值通常为1即单个实例同一时刻只能处理一个请求因此在函数被并发调用的情形下平台会启动多个实例进行响应从而增大了计费实例数目如下所示同时采用单实例多并发也能改善调用请求处于等待状态的尾时延 当然单实例并发度并非越高越好例如过高的并发度设置会使得函数实例内多线程之间的资源竞争加剧e.g., CPU contention导致函数响应性能恶化影响用户应用的 QoS 指标等。同时如本文在背景知识中所提并非所有的应用函数都适合设置单实例多并发。单实例多并发主要适用于函数执行过程中有相当比例的时延消耗在等待下游服务返回的场景这类场景下实例资源如 CPU 等有显著比例处于空闲等待状态如访问数据库、消息队列等中间件、或磁盘 IO、网络 IO 等。单实例多并发也需要用户在函数代码中对错误捕获e.g., 考虑请求级别的错误捕获粒度和全局共享变量的线程安全e.g., 加锁保护问题进行适配。
⑤ 函数资源规格的选择需考虑对执行时延的影响
从函数月度总成本的结构的公式明显可以看出更大规格的实例内存图片对应更高的计费成本。但内存规格的选择需要同时考虑对函数执行时延 μ 的影响。从用户函数的角度看函数执行时延除了由代码本身的业务逻辑决定之外还受实例运行时可使用资源大小的影响。更大的实例规格对应更大的可使用内存和更多的 CPU 份额从而可能显著改善高内存占用型或 CPU 密集型函数的执行性能降低执行时延当然这种改善也存在上限超过某个资源规格后资源的增加对降低函数执行时延的效果几乎可以忽略上述事实表明对于给定的用户函数为降低总计费成本需要配置合理的实例规格图片使得图片尽可能取得最小值如图7中实线所表示的过程。如下所示 例如考虑实例规格的初始配置为 m0GB例如从最小规格开始i.e., 128MB, 经测试该规格下函数执行时延为 μ0则可以得到基线 m0GB · μ0然后逐步增大资源规格测试对应执行时延直到某一组 miGB, μi出现使得 此时表明资源增大对计费成本的边际提升已经超过了对执行时延的边际改善因此从成本的角度看此时的 miGB 为帕累托最优解即最佳规格对应执行时延为 μi。最后如下对上述几个决定函数成本的关键因素做了一个总结其中箭头方向表示元素之间的直接影响“”号代表成正比“-”代表成反比 四、Serverless 函数成本研究中心
为用户降本增效是 FunctionGraph 的核心理念尽管前文分析的五种函数成本优化手段是站在用户视角下的讨论但这些问题远不是只属于用户需要考虑的范围相反地FunctionGraph 在持续探索如何最大限度地帮助用户在 Serverless 领域实现最佳的 FinOps 效果让用户能够真正享受到 Economical Serverless 的福利例如在实例级别的深度可视化、可观测性前提下帮助用户实现函数 FinOps 全流程的自动化为用户提供透明、高效、一键式的函数资源管理和成本优化服务。 为此基于内部实践FunctionGraph 将于近期推出“用户函数成本研究中心 – Cost Analysis and Optimization Center”为用户提供包括离线式函数最佳配置调优offline power tuning、在线式资源消耗感知与规格动态推荐online resource recommendation 如图9所示、预测性函数弹性预览predictive auto-scaling preview等在内的多个重量级特性服务最大限度降低用户实现函数FinOps 的技术门槛为用户业务开发、Serverless 化改造等提供极致便捷性。
五、总结
一项新兴技术领域的兴起首先需要回答的问题是“Why Value”FunctionGraph 作为华为元戎加持的下一代 Serverless 函数计算与编排服务结合 FinOps 等技术理念持续为用户提供经济型 Serverless 服务。
