ChatGPT 使用 拓展资料:如何处理OpenAI 对 API 的调用限速

目录

  • 使用嵌入向量进行分类
  • 如何处理速率限制
    • API请求并行处理器
    • 为什么存在速率限制
    • OpenAI API的默认速率限制
    • 速率限制示例
    • 如何避免速率限制
    • 如何在给定速率限制的情况下最大限度地提高批处理的吞吐量
    • 批处理请求

使用嵌入向量进行分类

对文本进行分类的方法有很多,本文分享 一个使用嵌入的文本分类的例子。对于许多文本分类任务,我们已经看到经过微调的模型比嵌入做得更好。参见Fine-tuned_classification.ipynb中的一个用于分类的微调模型示例。

在这个文本分类任务中,我们基于评论文本的嵌入来预测食品评论的得分(1到5)。我们将数据集分为用于所有以下任务的训练集和测试集, 数据集创建在