想问问大家,更喜欢用文心千帆还是通义千问呢?排除openai
前面废话比较多,更适合小白体质的文章(不过学到这的应该是中白吧)。=v=
申请通义千问API
首先,找到通义千问在哪里,直接在阿里云官网主页:
然后点击搜索通义千问:
点击申请通义千问API:
我这里是第一次申请,然后系统提示需要开通模型服务灵积,点击去开通:
点击已阅读并同意:
然后好像是点击确认,系统就会提示开通成功:
回到下图的这个界面,点击我已开通,刷新页面(这步也可以在上一图直接点击前往控制台,然后在模型广场的通义千问下点击申请体验):
此时需要填一个问卷,模型名称就是通义千问,其他信息如实填写即可:
然后就是等待审核通过了:
此时,原本申请体验
就变成了体验申请审核中,请耐心等待
的状态了:
在等待审核中,让我们看看让人关心的计费情况:-3:
下图是文心千帆大模型的计费情况(大模型训练里的服务,都比预制服务的价格贵),对比起来,都差不多,openai的其实价格换算一下,其实差不多,所以我选通义千问(因为我是白嫖怪,而且我也不知道怎么给上线的服务器加魔法,如果是分布式的话,是每个服务器都要给魔法?):
然后就可以看看快速开始了:
ps:以上内容是我第二次写了,明明typora有设置自动保存,但是电脑突然关机了,再打开,写的东西就全没了QAQ,所幸图片还在。所以上面有个地方我有点回忆不起来了,不过不是大问题。
不得不说,这审核通过的速度好快,我快速开始都还没看个大概就申请通过了(我刚刚在申请公众号,还有设置typora图片上传到Gitee,看了一点别人写的Java接入通义千问)。总之这个审核我这大概要等一两小时(我看别人申请文心千帆要两三天),审核通过后,会发短信到手机上:
然后就按照官方文档继续整吧。
前置工作
创建并获取API-KEY
根据官方文档说:
所以需要先获取API-KEY:
复制并保存创建的API-KEY:
(ps:我这现在如果没复制到API-KEY,可以通过安全验证的方式查看API-KEY,以后可能就不可以这样了,所以还是好好保存吧)
安装DashScope SDK
注意这样要求Java SDK支持java8及以上环境:
在maven网站查看DashScope Java SDK
版本号,我当前查看的最新版本是2.3.0,所以我在pom.xml文件中添加以下依赖项:
<!--https://mvnrepository.com/artifact/com.alibaba/dashscope-sdk-java --><dependency><groupId>com.alibaba</groupId><artifactId>dashscope-sdk-java</artifactId><version>2.1.1</version></dependency>
然鹅,可能是我配置的镜像还没有2.3.0的版本,所以说没找到,所以我加载2.1.1的版本了。
另外,我这里应该是DashScope依赖和项目里的其他依赖冲突了,出现报错,有两份酸辣粉4斤了(bushi):
SLF4J: Class path contains multiple SLF4J bindings.SLF4J: Found binding in [jar:file:/D:/Program%20Files/apache-maven-3.6.1/mvn_repo/ch/qos/logback/logback-classic/1.2.10/logback-classic-1.2.10.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J: Found binding in [jar:file:/D:/Program%20Files/apache-maven-3.6.1/mvn_repo/org/slf4j/slf4j-simple/1.7.36/slf4j-simple-1.7.36.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.SLF4J: Actual binding is of type [ch.qos.logback.classic.util.ContextSelectorStaticBinder]
查到冲突的包:
对依赖添加排除依赖,然后就不会报依赖包冲突的错了,如下:
com.alibabadashscope-sdk-javaorg.slf4jslf4j-simple2.1.1
参考博文:maven依赖包冲突如何处理 SLF4J: Class path contains multiple SLF4J bindings._debug time的博客-CSDN博客。
代码部分
通义千问支持http调用,可以参考官方给出的请求和响应实例:
再利用hutool来帮助代码的编写:
<!--添加hutool的依赖--><dependency><groupId>cn.hutool</groupId> <artifactId>hutool-all</artifactId><version>5.8.16</version></dependency>
Controller类:
import cn.hutool.http.HttpRequest;import cn.hutool.json.JSONUtil;import org.springframework.web.bind.annotation.PostMapping;import org.springframework.web.bind.annotation.RestController;//还需要引入下面两个domain类@RestControllerpublic class ChatController {@PostMapping("/chat")//文档要求使用post请求public ChatResponse chat(String q){String url = "https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation";//这里看官方文档String ApiKey = "sk-xxxxxxxxxx3d7fe";//这里换成你自己的ApiKeyChatRequest chatRequest = new ChatRequest(q);String json = JSONUtil.toJsonStr(chatRequest);//System.out.println(json);//正式发送给api前,查看请求的主要数据情况String result = HttpRequest.post(url).header("Authorization","Bearer "+ ApiKey).header("Content-Type","application/json").body(json).execute().body();System.out.println(result);return JSONUtil.toBean(result, ChatResponse.class);}}
domain类:
//这个是用来处理请求的import lombok.AllArgsConstructor;import lombok.Data;import lombok.NoArgsConstructor;import java.util.ArrayList;import java.util.List;@Data@AllArgsConstructor@NoArgsConstructorpublic class ChatRequest {String model;Input input;Parameters parameters;public ChatRequest(String q){model= "qwen-v1";input = new Input(q);parameters = new Parameters();}class Input {public List<Chat> messages;Input(String q){ArrayList<ChatRequest.Chat> chats = new ArrayList<>();chats.add(new Chat("system","你是达摩院的生活助手机器人。"));chats.add(new Chat("user",q));messages = chats;}}class Chat {public String role;public String content;Chat(String role,String content){this.role = role;this.content = content;}}class Parameters {public String result_format = "text";}}
//这个是用来处理响应的import lombok.AllArgsConstructor;import lombok.Data;import lombok.NoArgsConstructor;@Data@AllArgsConstructor@NoArgsConstructorpublic class ChatResponse {Output output;Usage usage;String request_id;class Output{public String text;public String finish_reason;}class Usage{public String output_tokens;public String input_tokens;}}
启动项目,访问Knife4j的文档地址http://localhost:8081/api/doc.html,测试后端api/chat端口(这里也可以用postman、apipost、apifox、Swagger等测试端口工具):
响应数据为:
{"output": {"text": "I am a large language model created by DAMO Academy. I am called QianWen.","finish_reason": "stop"},"usage": {"output_tokens": "20","input_tokens": "30"},"request_id": "1f92c2ac-ccb9-9498-9870-55fbc04d2e9c"}
我问中文时候就是回中文,回答的语言可能和问的语言有关吧
小结
可以在上面代码的基础上,根据自己的项目实际情况,进行修改,上面的代码只是对数据进行了基础的处理。