建设网站公司怎么收费,做网站要icp备案吗,网站制作视频教程新手必看,营销型网站建设测验题作者#xff1a;拂衣、丛霄
2019 年 Berkeley 预测 Serverless 将取代 Serverful 计算成为云计算新范式。Serverless 为应用开发提供了一种全新系统架构。借助 2023 年由 OpenAI 所带来的 AIGC 风潮#xff0c;以阿里云函数计算 FC、AWS Lambda 为代表的 Serverless 以其更高…作者拂衣、丛霄
2019 年 Berkeley 预测 Serverless 将取代 Serverful 计算成为云计算新范式。Serverless 为应用开发提供了一种全新系统架构。借助 2023 年由 OpenAI 所带来的 AIGC 风潮以阿里云函数计算 FC、AWS Lambda 为代表的 Serverless 以其更高成本效益、更简化的后端代码 扩展性及更极致的弹性等众多特性将开发者从繁重的手动资源管理与性能成本优化中解放再次激发开发者蓬勃的想象力与创造力。国内越来越多开发者及企业开始尝试如何将 Serverless 应用于实际业务或者场景。
但在优雅使用 Serverless 之前依旧有不少小问题需要提前解决。由于 Serverless 平台的扩缩容是基于请求处理/事件驱动的并发度进行扩缩容的对于习惯基于 CPU 指标进行 Pod 水平扩缩的的开发者而言就会遇到以下难题比如并发度、最小实例数、最大实例数这几个参数之间的关系是什么样的又比如单个实例最大并发度怎么设置才能够符合自己的业务需求
01 Serverless 参数配置的考量维度
Serverless 能提供一定通用能力但针对不同业务逻辑需要采取合适的配置才能更好的发挥 Serverless 价值。但如何评估函数的最佳配置涉及到多变量协同优化的问题虽然函数计算 FC 提供了基于应用“每日请求总数”和“平均请求响应时间”的请求预估、基于应用目前使用的服务器“规格”和“利用率”的现有服务器用量预估等方式辅助进行参数配置。但想要更好进行配置我们建议从以下三个维度去评估配置 Serverless 服务参数。
1在成本与性能之间进行取舍
如何根据业务偏好选择性能优先或成本优先是参数配置需要考虑的第一大难点。在单实例多并发数相对固定的情况下可以提高单实例并行处理请求数量减少实例数从而降低成本。当并发数过高时会增加资源竞争导致性能延迟增加从而增加成本如果对于延时敏感度相对较低可以选取较低实例规格单价成本更低与之相反想要更短延时可以选择较高的实例规格但单价成更高。
2结合不同函数业务逻辑的复杂度
除了成本和性能取舍针对不同类型函数逻辑不同配置参数效果也有着巨大差异。很多函数业务逻辑复杂只针对单一逻辑分支进行特定配置并不代表整体性能最优不恰当的配置可能产生大量预期之外的运维成本。对此我们针对 CPU 密集型、 IO 密集型不同类型函数进行测试以便更好的挖掘不同规格与不同类型函数TPS之间的关系。
在不同规格下对 CPU 密集型函数进行压测 可以看到 CPU 密集型规格越高 maxTPS 越大规格与 maxTPS 呈现明显线性关系。规格越大maxRT 越低 说明 CPU 密集型的函数增大资源规格可以显著降低 RT。但规格增大到 4G、8G 后对 RT 的降低效果边际效应递减。
在不同规格下对 IO 密集型函数进行压测 可以看到规格提升对 IO 密集型的性能改善非常有限规格与 maxRT、maxTPS 关联度有限。特别扩展到高规格后对于 maxTPS 的提升较小。
借助上面压测我们可以看到这样子的结论对于 CPU 密集型函数规格增加对单实例性能的提升能够提供较大的改善。但对于 IO 密集型函数规格增加对单实例性能的提升存在边际递减效应。当超过一定规格后规格提升对性能提升几乎没有提升。
3兼顾函数配置对计算资源配置的影响
由于函数并发度、最小实例数、最大实例数等配置会影响到 Serverless 平台的资源分配保证单函数资源刚性交付、多函数的资源隔离同时合理利用平台弹性调度能力并提高资源利用率是最后要考虑的问题。
以同时处理 x 个并发请求场景举例当实例并发度设置为 1 时每个实例同时只能处理 1 个请求函数计算需要创建 x 个实例来处理这 x 个请求。当实例并发度设置为 X10 时每个实例同时可以处理 X10 个请求函数计算只需要创建 1 个实例就能处理这 x 个请求。 单实例多并发适用于函数中有较多时间在等待下游服务响应的场景。等待响应一般不消耗资源在一个实例内并发处理可以节省费用。但较低单实例并发度在函数流量波动变化时会提前达到单实例并发上限导致实例扩缩容、冷启动更频繁。与此同时需要创建和维护更多实例个数造成整体资源利用率偏低。
02 评估参数配置的合理性
结合以上三个维度我们可以看到评估 Serverless 的参数配置绝非易事。很多用户在开始尝试使用 Serverless 时仅是通过文档指引进行相关参数配置。在函数正式上线后很快就会发现之前配置不合理所造成的成本超预期以及性能不及预期等问题并尝试反复修改函数配置进行验证。资深开发者会选择进行压测以便测试出最佳的函数配置。但压测脚本配置、压测数据报告解读需要有一定的实践经验开发者也无法十分笃定压测所得出的配置结论是否是符合业务预期的最优选择。在统计了海量用户实际配置使用情况后我们发现表示用户实际资源使用量较低实际配置规格偏大造成一定的浪费。 为了更好的验证配置参数的合理性函数计算 FC 提供基于性能测试 PTS 能力的函数性能探测功能来评估函数单个实例在不同规格下的性能上限借以推荐满足用户预期延迟的最佳并发度与函数规格配置探测方法基于 little’s law [ 1] 排队理论并发数 请求的平均延迟 * TPS 如图示 横坐标是并发数左边的纵坐标是 TPS右边的纵坐标是延迟
由于每个服务器的处理能力都有限所以会出现随着并发数上升吞吐量先上升后平缓可能出现下降即性能恶化当并发度过高时延迟会变高甚至会急剧恶化。通过性能探测我们会得到每种规格的关键性能数据即每个规格最高能承受的 QPS在知晓自身对业务流量规模前提下即可得出最恰当的函数所需的最小实例数和最大实例数以最佳规格和规格下的最佳并发度。我们可以只压测单实例因为在性能表现平稳的系统多实例的性能是单实例性能的线性叠加所以只需要压测出单实例的性能就可以推算出多实例的性能。
比如用户预期函数调用端到端延迟为 1000 ms根据 1000 毫秒的延迟限制选型出最佳的规格及该规格下最佳并发度即满足延迟限制的最高 QPS 的对应并发度。
由于目前性能探测仅支持对 HTTP 函数进行压测不支持对事件函数进行压测。仅支持单实例压测不支持多实例压测。因此我们提供性能探测单实例、性能测试 PTS多实例两种方式进行验证。
关于性能探测
作为函数计算 FC 的功能之一为了进一步降低行能探测的使用门槛功能采取流程化指引同时性能探测功能完全免费 用户只需要为函数承接的请求流量付费不需要为压测功能付费。 关于性能测试 PTS
作为阿里巴巴集团淘宝双十一的性能测试工具性能测试 PTS 支持按需发起压测任务可提供百万并发、千万 TPS 流量发起能力100% 兼容 JMeter。提供的场景编排、API 调试、流量定制、流量录制等功能可快速创建业务压测脚本精准模拟不同量级用户访问业务系统帮助业务快速提升系统性能和稳定性。目前提供新用户 5000VUM 的免费试用额度。
03 针对单实例如何通过性能探测验证单实例配置参数
接下来我们简单介绍性能探测的配置流程仅需三步即可快速发起性能探测。 登录函数计算控制台 [ 2] 在左侧导航栏选择服务及函数并在服务列表页面选择目标服务。 在函数管理页面选择目标函数并在性能探测页签新建压测任务。 在单实例性能压测评估页签输入必要的压测 API 信息见下表单击执行压测。
在执行压测前请先点击 API 测试验证 API 的 HTTP 请求参数是否配置正确函数是否能成功执行。 查看压测结果分析报告在单实例压测结果分析页签查看压测结果。压测过程中界面会提示压测预估时间。压测的规格越多压测时间越长压测费用也越高。压测结果中包含推荐的实例规格和最佳并发请求数。您还可以从压测结果下方的两张分析图中查看分析过程。 说明 函数计算的压测功能仅支持单实例压测。如您需要配置多实例压测请单击单实例压测结果分析页签右侧的多实例弹性能力压测跳转至 PTS 控制台 [3 ] 配置。
查看单实例压测数据详情单击查看单实例压测详情跳转至单实例压测数据详情页签查看每个规格的压测详情。每个规格的压测详情中您可以看到随着并发度增加延迟和最大 QPS 的变化情况。 但需要特别说明的是性能探测推荐的函数配置优先保证满足性能需求实现最高的资源利用率但真正实现最低成本配置需要结合函数线上历史流量数据分析进行推荐。在进行成本优化推荐规格时不仅需要达到节约成本的目的还需要保证不破坏现有服务的 QoS即性能不会因为实例规格的降低而导致延迟增大。
04 针对多实例如何借助性能测试 PTS 进行多实例配置参数
接下来我们简单介绍性能测试 PTS 的配置流程仅需配置 API即可快速发起压测。 前往性能测试 PTS 控制台。在左侧导航栏中选择性能测试创建场景。 在创建场景页面单击 PTS 压测。 在创建 PTS 场景页面设置场景名例如函数计算 Serverless 应用压测然后在场景配置页签输入压测 API 名称例如 demo单击添加压测节点右侧的[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传图标。在压测 URL 区域中输入上一小节复制保存的 Serverless 应用的访问域名。配置完成后您可以单击调试 API验证 API 接口配置是否符合预期。当调试的响应状态码为 200 时表示该 API 可以正常访问。 在创建 PTS 场景页面单击施压配置页签配置相关压测参数递增模式选择自动递增最大并发输入 500递增百分比输入 20单量级持续时长输入 1压测总时长输入 5串联链路1的最大并发权重输入 100串联链路1的起始百分比输入 20。确认参数后单击保存去压测。在温馨提示对话框中确认任务预估的预估消耗未超过免费额度。确认后单击确定启动压测。以上参数仅为示例请根据实际业务进行调整 大约等待 3 分钟即可在压测中页面查看当前应用实时的压测数据。 在压测中页面您可以看到成功率、RT 和 TPS 等概览数据。 在压测完成之后会自动跳转到编辑场景页面然后单击压测报告。在压测报告页签找到您的压测报告单击右侧操作列下的查看。 在压测报告了解详细的压测报告内容查看本次压测详细的性能数据。关于压测报告的更多详情请参见查看 PTS 压测报告 [ 4] 。此时已实现通过性能测试 PTS 对 Serverless 应用的压测。 05 开发者场景体验
目前「通过性能测试 PTS 对 Serverless 应用进行性能压测」场景已经上线云启实验室。在提供相关的免费试用额度的同时提供相关操作流程与模板以便大家快速体验通过 FC 创建应用以及通过 PTS 进行压测。
传送门https://developer.aliyun.com/adc/scenario/186a9f71954b42419ebfa1f27fd8b042
相关链接
[1] little’s law
https://en.wikipedia.org/wiki/Little%27s_law
[2] 函数计算控制台
https://account.aliyun.com/login/login.htm?oauth_callbackhttps%3A%2F%2Ffcnext.console.aliyun.com%2Flangzh
[3] PTS 控制台
https://account.aliyun.com/login/login.htm?oauth_callbackhttps%3A%2F%2Fpts.console.aliyun.com%2Flangzh#/pts/create
[4] 查看 PTS 压测报告
https://help.aliyun.com/document_detail/65304.html
点击此处立即体验
