OpenAI 正在扩展一项名为“自定义模型”的计划,以帮助企业客户使用其技术针对特定用例、领域和应用程序开发定制的生成式 AI 模型。
去年,在 OpenAI 首届开发者大会 DevDay 上推出了自定义模型,为公司提供了与一组专门的 OpenAI 研究人员合作来训练和优化特定领域模型的机会。自此之后,已有“数十名”客户注册了定制模型。但 OpenAI 表示,在与最初一批用户合作的过程中,它逐渐意识到需要扩展该程序以进一步“最大限度地提高性能”。
因此有助于微调和 定制训练模型。
辅助微调是自定义模型计划的一个新组成部分,它利用 微调以外的技术,例如用 OpenAI 的话来说,“更大规模的附加超参数和各种参数有效的微调方法”,使组织能够建立数据训练管道、评估系统和其他支持基础设施,以增强模型在特定任务上的性能。
至于定制训练模型,它们是使用 OpenAI 构建的定制模型——使用 OpenAI 的基础模型和工具(例如 GPT-4)——适合“需要更深入地微调其模型”或“注入新的、领域-特定知识,”OpenAI 说。
OpenAI 举了韩国电信巨头 SK Telecom 的例子,该公司与 OpenAI 合作对 GPT-4 进行微调,以提高其在韩语“电信相关对话”中的性能。另一位客户 Harvey 正在OpenAI 初创基金(OpenAI 专注于人工智能的风险投资部门)的支持下构建人工智能驱动的法律工具,该公司与 OpenAI 合作,为判例法创建了一个定制模型,其中包含数亿字的法律文本以及获得许可的专家律师的反馈。
OpenAI 在博客文章中写道:“我们相信,未来绝大多数组织将开发针对其行业、业务或用例的个性化定制模型。” “借助多种可用于构建自定义模型的技术,各种规模的组织都可以开发个性化模型,以从其人工智能实施中实现更有意义、更具体的影响。”
OpenAI 飞速发展,据报道年收入接近惊人的 20 亿美元。但肯定存在保持步伐的内部压力,特别是当该公司计划与微软共同开发价值 1000 亿美元的数据中心时(如果报道可信的话)。毕竟,训练和服务旗舰生成式 AI 模型的成本不会很快下降,而定制模型训练等咨询工作可能正是在 OpenAI 规划下一步行动时保持收入增长的方法。
微调和定制模型还可以减轻 OpenAI 模型服务基础设施的压力。在许多情况下,定制模型比通用模型更小、性能更高,并且随着对生成式 AI 的需求达到狂热程度,毫无疑问为历史上计算能力面临挑战的OpenAI 提供了一个有吸引力的解决方案。
除了扩展的自定义模型程序和自定义模型构建之外,OpenAI 今天还为使用 GPT-3.5 的开发人员推出了新的模型微调功能,包括用于比较模型质量和性能的新仪表板、支持与第三方平台集成(从人工智能开发者平台权重和偏差)以及工具的增强。不过,妈妈对 GPT-4 进行了微调,GPT-4 在 DevDay 期间推出了抢先体验版。