深圳市工商注册信息查询网站,wordpress 站内链接,公司网站建设解决方案,福州seo计费前言
dashscope是阿里云大模型服务平台——灵积提供的在线API组件。基于它#xff0c;无需本地加载大模型#xff0c;通过在线方式访问云端大模型来完成对话。
申请API key
老规矩#xff1a;要想访问各家云端大模型#xff0c;需要先申请API key。
对于阿里云#x…前言
dashscope是阿里云大模型服务平台——灵积提供的在线API组件。基于它无需本地加载大模型通过在线方式访问云端大模型来完成对话。
申请API key
老规矩要想访问各家云端大模型需要先申请API key。
对于阿里云需要先访问https://dashscope.console.aliyun.com/。然后注册一个账号接着就可以申请sk-开头的api-key了如下图所示。 有了key后就可以点击上面选项模型体验中心输入简单的prompt来验证本地电脑访问阿里云网络通信有没有问题 代码
下面是一个简单python代码自己封装message并添加api-key并通过在线方式访问Qwen大模型进行对话。
import dashscope
from typing import List
import loggingclass Params:def __init__(self, model, temperature, api_key, messages):self.model modelself.temperature temperatureself.api_key api_keyself.messages messages #List[Dict[str, str]]class QwenClient:def __init__(self, log_verbose: bool False):self.log_verbose log_verboseself.logger logging.getLogger(__name__)if log_verbose:self.logger.setLevel(logging.INFO)def call_qwen(self, params: Params) - List[dict]:# 加载配置文件根据需要选择第一个模型 if self.log_verbose:self.logger.info(f{self.__class__.__name__}:params: {params})# 初始化生成器对象gen dashscope.Generation()# 调用千问API并获取回复responses gen.call(modelparams.model,temperatureparams.temperature,api_keyparams.api_key,messages params.messages,result_formatmessage,streamTrue,) print(responses: , responses)# 处理API返回的结果response_list []for resp in responses:if resp[status_code] 200 and output in resp and choices in resp[output]:choice resp[output][choices][0][message][content]response_list.append({error_code: 0, text: choice})else:error_data {error_code: resp[status_code],text: resp[message],error: {message: resp[message],type: invalid_request_error,param: None,code: None,}}self.logger.error(f请求千问 API 时发生错误{error_data})response_list.append(error_data)return response_list# 使用示例
if __name__ __main__:logging.basicConfig(levellogging.INFO)#model_names [qwen-turbo]client QwenClient(log_verboseTrue)user_input 你好请问今天北京天气怎么样messages [{role: user, content: user_input}]params Params(qwen-turbo, 0.7, sk-axxxxxx3b4a2fa1cb1dd7e71a4bee, messages)responses client.call_qwen(params)print(千问的回答, responses[-1][text]) 需要先安装好组件dashscopetyping以及logging。本平台是ubuntu20.04直接输入python3 xxx.py即可到预期结果
