AI学习：文本对话 -通义千问

通义千问是阿里云自主研发的大语言模型。

模型具备的能力包括但不限于：

1. 创作文字，如写故事、写公文、写邮件、写剧本、写诗歌等
2. 编写代码
3. 提供各类语言的翻译服务，如英语、日语、法语、西班牙语等
4. 进行文本润色和文本摘要等工作
5. 扮演角色进行对话
6. 制作图表

通义千问以用户以文本形式输入的指令（prompt）以及不定轮次的对话历史（history）作为输入，返回模型生成的回复作为输出。在这一过程中，文本将被转换为语言模型可以处理的token序列。Token是模型用来表示自然语言文本的基本单位，可以直观的理解为“字”或“词”。对于中文文本来说，1个token通常对应一个汉字；对于英文文本来说，1个token通常对应3至4个字母或1个单词。例如，中文文本“你好，我是通义千问”会被转换成序列[‘你’, ‘好’, ‘，’, ‘我’, ‘是’, ‘通’, ‘义’, ‘千’, ‘问’]，而英文文本”Nice to meet you.”则会被转换成[‘Nice’, ’ to’, ’ meet’, ’ you’, ‘.’]。
由于模型调用的计算量与token序列长度相关，输入或输出token数量越多，模型的计算时间越长，我们将根据模型输入和输出的token数量计费。可以从API返回结果的 usage 字段中了解到您每次调用时使用的token数量。您也可以使用 Token计算器 或者调用 Token计算API 来预估文本对应的token数量。

注：您可以在调用时按需选择不同版本的模型。但请您注意，不同模型版本的计费规则不一致，点此查看计量计费。

配置

开通DashScope并创建API-KEY。

安装 SDK

# pip 安装pip install dashscope

# API-KEY设置export DASHSCOPE_API_KEY=sk-########################

SDK 使用

单轮对话

messages调用

import randomfrom http import HTTPStatusimport dashscopedef call_with_messages():messages = [{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': '如何做西红柿炒鸡蛋？'}]response = dashscope.Generation.call(dashscope.Generation.Models.qwen_turbo,messages=messages,# set the random seed, optional, default to 1234 if not setseed=random.randint(1, 10000),result_format='message',# set the result to be "message" format.)if response.status_code == HTTPStatus.OK:print(response)else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))if __name__ == '__main__':call_with_messages()

prompt 调用

# For prerequisites running the following sample, visit https://help.aliyun.com/document_detail/611472.htmlfrom http import HTTPStatusimport dashscopedef call_with_prompt():response = dashscope.Generation.call(model=dashscope.Generation.Models.qwen_turbo,prompt='如何做炒西红柿鸡蛋？')# The response status_code is HTTPStatus.OK indicate success,# otherwise indicate request is failed, you can get error code# and message from code and message.if response.status_code == HTTPStatus.OK:print(response.output)# The output textprint(response.usage)# The usage informationelse:print(response.code)# The error code.print(response.message)# The error message.if __name__ == '__main__':call_with_prompt()

多轮会话

messages调用

from http import HTTPStatusfrom dashscope import Generationfrom dashscope.api_entities.dashscope_response import Roledef conversation_with_messages():messages = [{'role': Role.SYSTEM, 'content': 'You are a helpful assistant.'},{'role': Role.USER, 'content': '如何做西红柿炖牛腩？'}]response = Generation.call(Generation.Models.qwen_turbo,messages=messages,result_format='message',# set the result to be "message" format.)if response.status_code == HTTPStatus.OK:print(response)# append result to messages.messages.append({'role': response.output.choices[0]['message']['role'], 'content': response.output.choices[0]['message']['content']})else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))messages.append({'role': Role.USER, 'content': '不放糖可以吗？'})# make second round callresponse = Generation.call(Generation.Models.qwen_turbo,messages=messages,result_format='message',# set the result to be "message" format.)if response.status_code == HTTPStatus.OK:print(response)else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))if __name__ == '__main__':conversation_with_messages()

流式输出

from http import HTTPStatusfrom dashscope import Generationdef call_with_stream():messages = [{'role': 'user', 'content': '如何做西红柿炖牛腩？'}]responses = Generation.call(Generation.Models.qwen_turbo,messages=messages,result_format='message',# set the result to be "message" format.stream=True,incremental_output=True# get streaming output incrementally)full_content = ''# with incrementally we need to merge output.for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']print(response)else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))print('Full response:\n' + full_content)if __name__ == '__main__':call_with_stream()

参数配置

返回结果

message 结果示例

{"status_code": 200,"request_id": "05dc83af-7185-9e14-9b0b-4466de159d6a","code": "","message": "","output": {"text": null,"finish_reason": null,"choices": [{"finish_reason": "stop","message": {"role": "assistant","content": "首先，准备两个鸡蛋，一个西红柿，适量的盐、糖、料酒和生抽。将鸡蛋打入碗中，搅拌均匀，西红柿切块。锅中加油，油热后加入鸡蛋液，炒至金黄色，盛出备用。锅中加油，油热后加入西红柿块，翻炒均匀，加入适量的盐、糖、料酒和生抽，炒至西红柿软烂，加入炒好的鸡蛋，翻炒均匀即可。"}}]},"usage": {"input_tokens": 12,"output_tokens": 98,"total_tokens": 110}}

text 结果示例

{"status_code": 200,"request_id": "e3472c22-274a-9551-b197-f6510608fe1b","code": "","message": "","output": {"text": "材料：\n西红柿2个，鸡蛋3个，葱花适量，盐适量，糖适量，食用油适量\n\n做法：\n1. 西红柿洗净切块，鸡蛋打入碗中搅拌均匀备用。\n2. 热锅凉油，油热后加入葱花爆香。\n3. 加入西红柿块翻炒，炒至西红柿出汁。\n4. 加入适量的盐和糖，继续翻炒均匀。\n5. 倒入鸡蛋液，用铲子快速翻炒均匀，使鸡蛋液均匀地裹在西红柿上。\n6. 炒至鸡蛋熟透即可出锅。\n\n提示：\n1. 炒西红柿时可以适当加一些水，可以使西红柿更加鲜美。\n2. 炒鸡蛋时要快速翻炒，使鸡蛋均匀地裹在西红柿上，避免炒糊。\n3. 可以根据个人口味调整盐和糖的用量。","finish_reason": "stop","choices": null},"usage": {"input_tokens": 6,"output_tokens": 193,"total_tokens": 199}}

返回参数说明

参考文档：包括上面的内容和HTTP调用接口进行功能描述。