中国风电商网站建设,做招聘信息的网站有哪些方面,成都市房产透明网官网,专业进出口贸易网站前提#xff1a;学习一项技术#xff0c;要从原理、实践、认知三个方面进行攻克。 不懂原理就不会举一反三#xff0c;走不了太远。 不懂实践就只能纸上谈兵#xff0c;做事不落地。 认知不高就无法作对决策#xff0c;天花板太低。
一、知识体系 二、什么是AI
基于机器…前提学习一项技术要从原理、实践、认知三个方面进行攻克。 不懂原理就不会举一反三走不了太远。 不懂实践就只能纸上谈兵做事不落地。 认知不高就无法作对决策天花板太低。
一、知识体系 二、什么是AI
基于机器学习、神经网络的是AI基于规则、搜索的不是AI
三、大模型可以做什么
大模型全称大语言模型缩写LLM。
相关产品
国家对话产品大模型链接美国OpenAI ChatGpt GPT-3.5、GPT-4 https://chat.openai.com/ 美国Microsoft CopilotGPT-4和未知 https://copilot.microsoft.com/ 美国Google BardPaLM和Gemini https://bard.google.com/ 中国百度文心一言文心 https://yiyan.baidu.com/ 中国 讯飞星火星火 https://xinghuo.xfyun.cn/ 中国智谱清言ChatGLM https://chatglm.cn/ 中国月之暗面MoonShot (https://kimi.moonshot.cn/ 中国MiniMax星野abab https://www.xingyeai.com/
注册 ChatGPT、Copilot 教程https://agiclass.feishu.cn/docx/Jt8ydP0RroFCPaxcWGDcUzVrnnd#YtxodWqgdofsa8xb0GOcaD1nny5
把大模型看做是一个函数给输入生成输出。
任何业务问题都可以用语言描述成为大模型的输入就能生成业务问题的结果。
实际工作中通常需要将业务任务拆解为若干个子任务分别解决。理解业务本质对拆解任务有很大帮助
四、大模型是怎么生成结果的
其实他只是根据上文猜下一个词(的概率) OpenAI 的接口名就叫「completion」也证明了其只会「生成」的本质。 用不严谨但通俗的语言描述大模型的工作原理 1.大模型阅读了人类曾经说过的所有的话。这就是机器学习这个过程叫训练。 2.把一大串token后面跟着的不同token的概率记了下来。记下的就是参数也叫权重。 3.当我们给它若干token大模型就能算出概率最高的下一个token是什么。这就是生成也叫推理。 4.用生成的token再加上上文就能继续生成下一个token。以此类推生成更多文字。 Token 是什么
1. 可能是一个英文单词也可能是半个三分之一个。可能是一个中文词或者一个汉字也可能是半个汉字甚至三分之一个汉字
2. 大模型在开训前需要先训练一个 tokenizer 模型。它能把所有的文本切成 token
再深一点呢
这套生成机制的内核叫「Transformer 架构」。但其实transformer 已经不是最先进的了。
架构设计者特点链接TransformerGoogle最流行几乎所有大模型 都用它 https://github.com/openai/finetune-transformer-lm/blob/master/train.py RWKVPENG Bo可并行训练推理性能极佳适合再端侧使用 https://www.rwkv.com/)、[RWKV 5 训练代码](https://github.com/BlinkDL/RWKV-LM/tree/main/RWKV-v5 Mamba CMU Princeton University 性能更佳尤其适合长文本生成 https://github.com/state-spaces/mamba
五、用好AI核心方法
OpenAI 首席科学家 Ilya Sutskever 说过
数字神经网络各和人脑的生物神经网络在数学原理上是一样的。
所以重点是把AI当人看。
六、大模型应用架构
1.业务架构 Agent还太超前Copilot值得追求。
2.技术架构
纯 Prompt
就像和一个人对话你说一句ta 回一句你再说一句ta 再回一句…… Agent Function Calling
AgentAI 主动提要求Function CallingAI 要求执行某个函数场景举例你问过年去哪玩ta 先反问你有几天假 RAG Embeddings 向量数据库
- Embeddings把文字转换为更易于相似度计算的编码。这种编码叫向量- 向量数据库把向量存起来方便查找- 向量搜索根据输入向量找到最相似的向量- 场景举例考试时看到一道题到书上找相关内容再结合题目组成答案。然后就都忘了 Fine-tuning
努力学习考试内容长期记住活学活用。 七、编程调用API 官方文档https://platform.openai.com/docs/api-reference 主打语言是Python因为 1. Python 和 AI 是天生的一对 2. Python 是最容易学习的编程语言 安装 OpenAI Python 库 在命令行执行 pip install --upgrade openai
