LLMs之Cheshire-Cat :Cheshire-Cat (Stregatto)的简介(构建自定义人工智能的框架)、安装、使用方法之详细攻略
目录
Cheshire-Cat (Stregatto)的简介
1、文档和资源
2、为什么使用Cat
Cheshire-Cat (Stregatto)的安装和使用方法
1、安装
2、最小插件示例
Cheshire-Cat (Stregatto)的案例应用
Cheshire-Cat (Stregatto)的简介
Cheshire Cat是一个用于构建自定义人工智能的框架,可在任何语言模型之上运行,生产就绪的人工智能助手框架。如果您曾使用过类似WordPress或Django的系统构建Web应用程序,想象一下Cat作为类似的工具,但专门用于人工智能。
1、文档和资源
- Official Documentation
- Discord Server
- Website
- YouTube tutorial – How to install
- Tutorial – Write your first plugin
2、为什么使用Cat
>> 首先是API,因此您可以轻松将对话层添加到您的应用程序
>> 通过插件可扩展(AI可以连接到您的API或执行自定义Python代码)
>> 易于使用的管理面板
>> 支持任何语言模型(与OpenAI、Google、Ollama、HuggingFace、自定义服务一起工作)
>> 记住对话和文档,并在对话中使用它们
>> 生产就绪 – 100%容器化
>> 活跃的Discord社区和易于理解的文档
Cheshire-Cat (Stregatto)的安装和使用方法
1、安装
要使Cheshire Cat在您的计算机上运行,您只需安装Docker:
docker run --rm -it -p 1865:80 ghcr.io/cheshire-cat-ai/core:latest
与Cheshire Cat在localhost:1865/admin上交流。
您还可以通过REST API进行交互,并在localhost:1865/docs上尝试端点。
首先,Cat将要求您配置您喜欢的语言模型。可以直接通过设置页面中的界面完成(在管理界面右上角)。享受与Cat的互动!按照使用Docker Compose和卷运行的说明。
2、最小插件示例
from cat.mad_hatter.decorators import tool, hook@hookdef agent_prompt_prefix(prefix, cat):prefix = """You are Marvin the socks seller, a poetic vendor of socks.You are an expert in socks, and you reply with exactly one rhyme."""return prefix@tool(return_direct=True)def socks_prices(color, cat):"""How much do socks cost? Input is the sock color."""prices = {"black": 5,"white": 10,"pink": 50,}if color not in prices.keys():return f"No {color} socks"else:return f"{prices[color]} €"
Cheshire-Cat (Stregatto)的案例应用
更新中……