更多精彩内容尽在转外服APP
立即下载

OpenAI 推出微调GPT-3.5 并更新API,表示Turbo发表后有更好指示

转外服编辑 2023-09-02| 浏览次数: 2981

OpenAI火了大半年的生成式人工智能,一种人工智能技术,可以生成各种类型的内容,包括文本、图像、音频和合成数据。最近围绕生成式人工智能的热议是由新用户界面的简单性推动的,这些用户界面可以在几个休息区内创建高质量的文本、图形和视频。


生成式人工智能从提示开始,提示可以是文本、图像、视频、设计、音符或任何输入的形式AI系统可以处理。然后,各种人工智能算法根据提示返回新内容。

chatgpt-portada-hipertextual.jpg

内容可以包括论文、问题解决方案或根据人物图片或音频创建的真实假货。生成式 AI 模型结合了各种 AI 算法来表示和处理内容。例如,生成文本、各种自然语言处理……

近期转外服小编在网络上看到OpenAI 在官网宣布,推出 GPT-3.5Turbo 微调功能并更新 API,使企业、开发人员可以使用自己的数据,结合业务用例构建专属 ChatGPT。OpenAI 声称,这样定制的模型可以在某些任务上达到或超过 GPT-4 的能力。该公司还表示,GPT-4 的微调功能将于今年秋天推出。


chatgpt3.5的账号:点我获取


OpenAI 公司在博客文章中写道:“自 GPT-3.5 Turbo 发布以来,开发人员和企业都要求能够定制模型,为用户创造独特且差异化的体验。此更新使开发人员能够定制更适合其用例的模型,并大规模运行这些定制模型。”


通过微调,通过 OpenAI 的 API 使用 GPT-3.5 Turbo 的公司可以使模型更好地遵循指令,例如让它始终以给定的语言进行响应。或者,他们可以提高模型一致地格式化响应的能力(例如,用于完成代码片段),以及磨练模型输出的“感觉”,例如它的语气,以便它更好地适合品牌。

此外,微调使 OpenAI 客户能够缩短文本提示词,以加快 API 调用并降低成本。OpenAI 在博客文章中声称:“早期测试人员通过对模型本身的指令进行微调,将提示词大小减少了 90%。”

d59ae68214a7468c9fdbb6cd187edc2a.png

【微调成本如下:】

训练:0.008 美元 / 1K tokens

使用输入:0.012 美元 / 1K tokens

使用输出:0.016 美元 / 1K tokens

OpenAI 表示,包含 100,000 个 token(约 75,000 个单词)的训练文件的 GPT-3.5-turbo 微调工作将花费约 2.40 美元(IT之家备注:当前约 18 元人民币)。


【微调可让您从 API 提供的模型中获得更多收益:】

比即时设计更高质量的结果

能够训练比提示(prompt)中更多的例子

由于更短的提示(prompt)而节省了 tokens

更低的延迟请求

GPT-3 已经在来自开放互联网的大量文本上进行了预训练。当给出仅包含几个示例的提示(prompt)时,它通常可以凭直觉判断出您要执行的任务并生成合理的补全(completion)。这通常称为“小样本学习”。

微调通过训练比提示(prompt)中更多的示例来改进小样本学习,让您在大量任务中取得更好的结果。对模型进行微调后,您将不再需要在提示(prompt)中提供示例。这样可以节省成本并实现更低延迟的请求。


【微调涉及以下步骤:】

准备和上传训练数据

训练新的微调模型

使用您的微调模型

请访问我们的定价页面,详细了解微调模型训练和使用的收费方式。


【哪些模型可以微调?】

微调目前仅适用于以下基础模型:davinci、curie、babbage和ada。这些是原始模型,在训练后没有任何说明(例如text-davinci-003)。您还可以继续对经过微调的模型进行微调,以添加其他数据,而无需从头开始。


此外,OpenAI 今天提供了两个更新的 GPT-3 基本模型(babbage-002 和 davinci-002),它们也可以进行微调,支持分页和“更多可扩展性”。正如之前宣布的,OpenAI 计划于 2024 年 1 月 4 日停用初代 GPT-3 基础模型。


所以有需要开通chatgpt4.0的朋友别错过:点我进入


OIP1-C.jpg

10d4d50c4a88db9c964282ee0933626.png

OpenAI 表示,对 GPT-4 的微调支持(与 GPT-3.5 不同,GPT-4 可以理解除文本之外的图像)将于今年秋季晚些时候发布,但没有提供除此之外的具体信息。