汽车网站开发思路,wordpress程序迁移,国外室内设计网站大全,电子 东莞网站建设以下内容是我在陕西理工大学2023级人工智能专业和网络专业的演讲内容#xff0c;分享给大家。 各位老师、同学们#xff0c;大家好啊#xff01;能在这里跟大家一起聊聊咱们计算机专业那些事儿#xff0c;我真的觉得超级兴奋#xff01;
首先#xff0c;自我介绍一下分享给大家。 各位老师、同学们大家好啊能在这里跟大家一起聊聊咱们计算机专业那些事儿我真的觉得超级兴奋
首先自我介绍一下我叫袁庭新不过你们也可以叫我老袁因为同事们都这么叫我这样感觉更亲切些。我呢算是计算机行业里的一个“老炮儿”了当然这里的“老”不是指年龄是指在这个领域里摸爬滚打的时间一晃眼就是好多年。
今天呢我来到这里就是希望能跟大家一起分享一些我在计算机行业里的所见所闻包括最新的技术趋势、行业动态还有一些我个人的心得和体会。主要介绍5大核心方向分别是Serverless、研发智能、可观测、AI原生架构、消息中间。
介绍一位顶级大佬——里德·霍夫曼。他是著名互联网企业家领英联合创始人知名风险投资者Open AI早期投资人《纽约时报》畅销书作者、播客主持人。著有《GPT时代人类再腾飞》一书这本书探讨了AI尤其是像GPT-4这样的大语言模型如何在教育、商业、创造力、社交媒体、新闻、劳动方式等方面提升人类的能力与强化人类的特质。今天我把这本书带过来了这是人类历史上第一部由GPT-4与人类合著的开创之作
人工智能近一年可谓是火的一塌糊涂。对于计算机学院的同学而言我们更加关注AI如何编程以及软件研发工作的智能化。
过去一年AI辅助编程工具爆发式增长呈现百家争鸣之态。AI辅助编程在Gartner报告中处于期望顶峰备受关注。根据最新数据显示自2023年初以来全球AI编程工具行业已经吸引了数亿美元的投资足以显示出这一领域的巨大潜力。
国内外相关厂商积极布局并相继推出自家研发的智能化产品。国内的有百度的文心快码阿里的通义灵码字节跳动的豆包MarsCode等。国外的有微软与OpenAI共同推出了一款AI编程工具GitHub Copilot瑞士一家公司开发的Bito亚马逊推出的生成式人工智能助手Amazon Q等。会发现各家大厂都选择在开发环节智能化布局这也是互联网行业当前的最新趋势。
这里我没有办法把所有的AI编码助手给大家介绍一遍以阿里的通义灵码为例。来看一组数据通义灵码的插件下载量超过500万为开发者编写超过10亿行代码通义灵码受到广泛开发者的喜爱。
通义灵码获得国内外研究机构的哪些荣誉呢我们来看一下
Gartner——阿里云是唯一进入国际市场研究机构Gartner AI代码助手挑战者象限的中国厂商阿里云通义灵码是唯一进入到代码助手挑战者象限的中国代码助手产品。
信通院——通义灵码首批通过信通院AI代码大模型评估获最高等级认证通义灵码首批通过信通院“可信AI智能编码工具”权威评测获得4评级。
镇馆之宝——2024年7月阿里云通义灵码入选2024世界人工智能大会展览镇馆之宝是首个入围的AI编码助手。
为什么通义灵码能获得国内外研究机构和开发者的广泛认可呢
多编程语言、多编辑器全方位支持。支持Java、Python、Go、JavaScript、TypeScript、C/C、C#等主流语言同时兼容Visual Studio Code、Visual Studio、JetBrains IDEs等主流编程工具为你提供高效、流畅、舒心的智能编码体验。
通义灵码有三大核心功能提供代码智能生成、研发智能问答能力、企业级智能编码。主要介绍下代码智能生成功能通义灵码经过海量优秀开源代码数据训练可根据当前代码文件及跨文件的上下文为你生成行级/函数级代码、单元测试、代码注释等沉浸式编码心流秒级生成速度让你更专注在技术设计高质高效地完成编码工作。
通义灵码的功能远不止我给大家演示的这些需求协作、代码生成、异常排查、测试辅助再到代码审核、文档辅助。可以说是从企业级到工程级全面覆盖各类研发场景。
AI辅助编码对于程序员的工作效率提升很大。 在日常工作中程序员花费三分之一的时间编写新代码或改进现有代码32%花费 35% 的时间来管理代码包括代码维护19%、测试12%和响应安全问题4%另外 23% 的时间花在会议以及管理和运营任务上。数据显示引入AI编程辅助工具后开发者的个人工作效率至少提升11.2%且随着人工智能的不断发展开发效能将持续被提升。
AI编程辅助工具并不是无所不能也有它的局限性。不了解用户仓库用户仓库私有大模型未在用户数据上进行训练对用户仓库不了解。无环境交互大模型无法实时与环境交互无法调用现有软件工具。自主能力差由于是在静态数据训练大模型无法端到端解决复杂软件任务。
AI大模型对软件工程的产生深远的影响。可总结为三个阶段第一个是工具辅助软件工程阶段开发者使用各类工具提升软件开发效率其中部分工具已经集成神经网络能力。第二个是AI辅助软件工程阶段AI充当Copilot的角色与开发者结对编程辅助开发者完成特定任务提高开发者的效率。最后一个是AI驱动软件工程阶段AI成为软件开发的主力开发者负责是决策、指导、审核等工作大幅提高开发者的效率和能力范围。
我们期望的是基于大模型的AI编程智能体能独立承接软件研发活动中的各类任务让开发者专注于创造。AI程序员应运而生。像阿里的AI程序员海外Cognition AI推出的全球首个AI程序员——Devin。无论是哪家公司的AI程序员产品他们的使用场景是类似的。开发这负责输入需求然后AI程序员来理解需求和任务拆解再交由开发者来确认计划确认完成后AI程序员开始编码实现、自主测试和提交代码最终开发者进行结果确认。
AI程序员实际落地比学术探索更困难。面临的问题有如何进行软件过程数据构建、项目感知、解决方案生成、缺陷修复。还有像模型效果、响应时间、可干预性、推理成本等。都是摆在我们面前需要攻克的难关。
尽管AI程序员在落地过程中面临诸多挑战但我依然持乐观态度。从需求分析阶段、系统设计阶段、软件开发阶段、软件演化阶段、软件维护阶段AI程序员将成为领航者。我大胆预测下未来软件开发将从依赖团队配合(人)逐步过渡到依赖超大算力(机器)逐步形成“机器开发人审核”的智能化软件工程范式
Serverless与AI的结合是云计算和人工智能领域的一个重要发展趋势。Serverless架构是一种云计算的部署模型Serverless架构为AI系统提供了有效的解决方案。随着云计算和人工智能技术的不断发展ServerlessAI的应用将会越来越广泛。
Serverless无服务架构是如何演进来的呢应用程序的运行环境从早先的物理机到虚拟机最后演进到Serverless这种架构。那Serverless有什么价值这里我给大家举一个例子为了出行方便最早会买私家车但是这种方式带来资源占有和维护成本高以及平时大量闲置这就好比是物理机。为了解决这些问题我们可以汽车租凭好处是灵活租凭使用时长闲置相对较少但是带来一个新问题扩容相对麻烦虚拟机就像是汽车租凭。最优的方案就是打网约车它完全按需使用没有闲置成本根据负载自动弹性伸缩。Serverless架构的价值也就显而易见了按需付费成本节省弹性伸缩省事省心聚焦业务降低Ops。
什么是函数计算函数计算Function Compute简称FC是事件驱动的全托管计算服务。使用函数计算您无需采购与管理服务器等基础设施只需编写并上传代码或镜像。函数计算为您准备好计算资源可靠地运行任务通过弹性伸缩应对流量峰谷并提供日志查询、性能监控和报警等功能。以更少的代码为AI业务创新加速。
函数计算的应用场景有哪些函数计算的典型应用场景包括Web应用、数据ETL处理、AI推理、视频转码等。也可应用于秒杀、大促等突发流量场景同时也适用于资源密集、有弹性交付需求的场景。
如果我们想在云端最大程度简化管理应用程序的流程并想轻松上线一个应用可以使用Serverless 应用引擎SAE。SAE是一个全托管、免运维、高弹性的通用PaaS平台平台即服务它支持开源微服务/单体Web/定时任务框架提供开源增强和企业级特性。总之如果把业务迁移到SAE后产品将更加稳定用户体验更流畅提高了业务连续性和稳定性甚至降本达60%。
ServerlessAI让应用开发更简单。按需模型托管服务极低成本Serverless GPU 算力模型服务平均成本降低60%。一键极速创建AI应用快速落地解决AI应用开发者无从下手的困境。流程式开发先进工具针对AI场景的Studio开发能力效率提升90%。灵活组装便于二次开发丰富的云服务集成自定义插件扩展快速组装沉淀业务资产。
随着AI技术的迅猛发展和广泛应用业界普遍认识到要确保“模型算力数据”这一体系的高效运行以规模化生产具备商业应用价值的AI能力AI用户面临着三大严峻挑战。第一个就是成本需要昂贵的算力投入。第二个是弹性诉求在不同场景下为实现弹性扩容需要分钟级。最后是开发运维的诉求软件环境维护复杂。想根本解决这些问题生产环境必须要向“资源池化工程平台化”模式跨越。
如何提高模型推理效率Serverless GPU集成了NVIDIA TRT。TensorRT-LLM是一个在NVIDIA GPU上优化最新大型语言模型(LLM)推理性能的开源库。它基于NVIDIA FasterTransformer和TensorRT并提供了一个简单的Python API用于在生产环境中定义、优化和执行LLM推理。
没有不出问题的系统出问题了能否避免业务不受影响是关键。那么系统的可观测性对企业而言是至关重要的。随着AI模型的深入发展导致数据处理方式与技术架构发生了深刻的变化相关应用产生的日志、链路等可观测数据规模呈指数级增长数据结构复杂度也与日俱增。这个时候一套AI 原生全栈可观测平台就显得非常重要。
应用程序上云后运维工作也逐渐从监控演进到可观测。什么是系统的可观测呢类比理解下汽车行驶中的仪表盘建筑师的设计图纸这就是可观测的一种体现。而我们这里的可观测指的是应用程序运行中的全链路实时观测、告警与诊断构建一套可观测体系更高效地管理与观测IT资源与服务。
云原生可观测工具在AI的加持下正引领着可观测加速迈向智能化。企业用户可以像“搭积木”一样轻松、灵活地构建可观测体系。
我们来看在企业中一个典型云原生架构应用的可观测性诉求。多语言、前后端分离一套可观测体系如何覆盖全应用复杂度高如何快速定界定因AI浪潮下如何借助智能化提升运维效率这是企业真实所面临的一些问题。
全栈智能可观测平台有哪些核心功能第一个是可观测平台能力具有数据接入、数据处理、AI引擎、智能告警和可视化大盘等能力。第二个是可观测数据存储日志、时序指标、事件和观测对象都可以进行相应的存储。
2024年9月份阿里云宣布日志服务 SLS、云监控 CMS、应用实时监控服务 ARMS 等可观测产品家族重磅更新面向模型训练、推理及应用提供全链路的可观测服务。
阿里云的这套AI Stack可观测解决方案可以做到AI应用的全方位可观测。一个AI应用程序通常可划分为5层架构从底层到上层分别是智算服务PAI-灵骏(IaaS)、容器服务Kubernetes版(CaaS)、人工智能平台PAI(PaaS)、大模型服务平台百炼(MaaS)、AI应用。阿里云AI Stack可观测解决方案可以做到云资源监控、容器可观测、模型推理可观测、模型训练可观测。
2024年巴黎奥运会阿里云为奥运会14个场馆提供AI增强的多镜头回放系统MUCAR。把多个镜头采集到的图像发送到云端由构建在“ACK Pro集群GPU节点”的AI算力作实时空间重建和3D渲染只需数秒即可在云端生成并无缝融入赛事直播分发至全世界。保障奥运会多个业务系统稳定运行保障超大流量访问顺滑。
以一个在线业务线上故障的排查路径为例ACK可观测体系提供链路各层观测能力覆盖并最终定位问题。业务异常诊断大致可分为6个步骤收到报警、网关业务流量监控、多维指标分析、业务日志、分布式追踪Profiling定位根因与诊断、Fix终态修复异常。
还提供有容器场景的GPU观测的能力。提供有开箱即用的容器GPU监控能力、成本套件对Pod的GPU资源成本分析、GPU坏卡状态检测任务自愈、GPU资源使用Profiling等。
可观测的应用场景是非常丰富多样比如基础设施可观测、容器可观测、云产品可观测、应用可观测和用户体验可观测等。总之未来可观测与智能化紧密结合是大势所趋。
常用的消息队列产品有RocketMQ、Kafka、RabbitMQ、MQTT等现都已实现Serverless化支持自适应弹性能够秒级扩展以满足业务流量的变化。这个模块来介绍下云消息队列演进与AI赋能如何面向企业提供高弹性、低成本更稳定、更安全全智能、免运维的消息队列产品。
ApsaraMQ是阿里云提供的云消息队列产品体系ApsaraMQ涵盖了RocketMQ、Kafka、RabbitMQ、MQTT以及轻量消息队列原MNS等多种消息队列产品旨在满足企业多样化的需求。这一产品体系已累计服务超10万家企业覆盖20多个行业场景。
消息队列架构的演进是一个伴随着技术发展和业务需求变化而不断优化的过程。架构演进从单机架构、本地存储架构、多级存储架构到存算分离架构。主要是存储架构发生了改变存储层进行了基于云的重新设计是绝大部分商业化消息产品重点投入的方向重点在于分离是否彻底解决成本和性能的矛盾并保证计算弹性的轻量和扩容的可靠。
ApsaraMQ采用的就是存算分离架构。这种架构的优势在于第一个是轻量级SDK多语言适配更加容易第二个是无状态消息代理搭建无状态服务节点Proxy通过LB进行服务暴露分离Store存储节点Proxy和Store节点分离部署、独立弹性第三个是存储集群最后一个是整体架构Kubernetes化充分利用IaaS层资源弹性能力。
ApsaraMQ积极拥抱AI面向AI应用的实时处理、面向AI应用的异步解耦、面向AI应用的消息负载、面向AI应用的消息弹性。ApsaraMQ这种面向AI原生应用的事件驱动架构赋能AI应用蓬勃发展。
曹操出行通过使用ApasaraMQ for Kafka的全托管服务简化了运维工作无需投入系统级运维并将集群的部署、升级、扩缩容、Topic迁移、leader rebalance等高频高危操作简化到三个操作购买集群、升级集群、集群升配客户无需感知扩缩容和 Topic 迁移过程。
基于大模型的AI原生应用越来越多后端开发者扮演着构建AI原生应用的重要力量同时以容器和微服务为代表的云原生技术已加速渗透到传统业务中安全、稳定和效率成为大家关注的重点。
这个模块主要是聊聊AI原生应用在各行各业的发展情况看看企业是怎么利用AI原生技术来加快业务创新还有怎么在改进过程中提高效率、提升性能、降低成本和加强安全防护的。目的就是为了给将来成为一线工程师的同学们分享些实用的经验让大家都能学学。
先来看看软件架构的演进历程从单体架构、垂直架构到SOA架构、微服务架构再到云原生架构演变到现如今的AI原生架构。从云原生到AI原生网关也发生重大的变化。从早期的流量网关、ESB-企业服务总线到微服务网关、云原生网关发展到现在的AI网关。
AI原生应用架构面临些技术的新挑战像API多、长连接、高延时和大宽带等问题。因此如何设计一个能随时随地控制和管理应用流量为企业AI调用提供更好的安全性的AI网关变得尤为重要。
问题来了我们到底需要多少个网关接入网关、流量网关、安全网关、业务网关、云原生网关、AI网关......等等。同时还需要考虑网关的稳定性、安全性、是否方便集成、性能是否出众、是否智能化等问题。
Higress是一款云原生API网关可以帮助开发者零代码构建AI原生应用。介绍下Higress生态它是AI先行者国内首发AI插件集帮助用户低代码构建AI应用阿里云内部PAI、百炼、通义已经全部接入Higress。生态丰富AI领域Al Proxy对接了20大模型厂商且对微服务领域、容器领域和安全领域都做了集成。社区活跃自2022.11开源以来累计发布版本35。易于扩展国内首发Wasm插件市场支持C/Rust/Go/AssemblyScript等多语言开发插件。最后一点关键它还是开源的同时还提供了商业版。
云原生 API 网关Higress是基于真实的业务需求而孵化出来的。比如通义APP、模型服务灵积、人工智能平台PAI用的都是Higress网关。在AI应用、AI模型服务平台、AI模型等业务领域都有很好的实践案例。
在分布式微服务开发领域Spring Cloud Alibaba提供了一整套的微服务解决方案成为技术选型的主流。在AI的浪潮下Spring Cloud Alibaba积极拥抱AI技术研发了Spring AI Alibaba项目。
Spring AI Alibaba重磅发布项目也正式开源。Spring AI Alibaba开源项目基于Spring AI构建是阿里云通义系列模型及服务在Java AI应用开发领域的最佳实践提供高层次的AI API抽象与云原生基础设施集成方案帮助开发者快速构建AI应用。可以说是让Java开发者一步迈入AI原生时代。
作为未来的软件工程师大家可能比较关注的是微服务的发展趋势是什么第一个是标准化微服务已经进入成熟发展阶段常用的组件已历经多年版本迭代如RocketMQ 5.0、Dubbo 3.3、Spring Cloud 2023、Nacos 2.4。第二个是多语言化随着业务的多样性微服务支持Java、Golang、Python、Rust等多语言SDK。第三个是高可用化研发态、运行态、变更态领域默认就高可用。
在微服务全景图里绝大多数的组件都是由阿里提供的像Dubbo、SCA、RocketMQ、Nacos、Sentienl、Seata、Higress等都是阿里的产品。阿里引领国内微服务架构相关开源产品有60%市场份额。同时Spring Al Alibaba开源项目可用于快速构建Spring AI标准应用在AI场景中有着最佳的实践。更为重要的是以上提到的有关阿里的组件或产品都是开源免费的。
聊了这么多有关云原生和AI原生的技术它们之间是相互依存的通过云原生让应用场景更多注入AI通过AI原生让更多云原生应用赋予智能。
想象一下未来30年、50年或100年后由AI驱动的世界会是怎样的我不知道。身处在这个行业我明明已经深刻意识到一项真正具有革命性的技术正汹涌的渗入这个时代。面对未知普通人难免会感到惶恐、不安甚至害怕。最后我借用《GPT时代人类再腾飞》书中的一段话来结束今天的讲演“我们正在亲历前所未有的变革——互联网改变了信息传递的方式指数级技术快速发展并颠覆商业世界人工智能正在侵占越来越多的人类领地。面对这些变化我们需要问自己未来需要什么样的人才答案是成为终身学习者”。
谢谢大家
