OpenAI泄露的面向开发人员的新项目 Foundry表明GPT-4将拥有强大的洞察力，甚至可能能处理“算法提示”。与之比较起来，眼下令人惊讶的ChatGPT 看起来就像一个演示。
据Dhe Decoder的报道，来自 Foundry 抢先体验计划的 Twitter 用户分享的文档截图显示，Foundry专为“运行更大工作负载、允许大规模推理的尖端客户”而设计，可以让企业完全控制模型配置和性能分析。据称，Foundry 承诺静态分配计算能力，用户可访问 OpenAI用来开发和优化自己的 AI 模型的各种工具。
Foundry的价格从每月 26,000 美元到 156,000 美元不等，具体取决于型号和合同期限。文档中的表格显示了三种模型：GPT-3.5 Turbo 和 DV的两个变体。GPT-3.5 Turbo 模型大概对应ChatGPT的 Turbo 模型，而 DV应该是GPT-3和GPT-3.5最大变体Davinci的简称。
DV 模型的两个版本，一个有大约 8,000 个上下文标记，长度是 ChatGPT 的两倍，另一个有 32,000 个上下文标记。上下文长度决定了像 GPT-3 这样的 Transformer 模型可以在其输入中处理的文本量，在 ChatGPT 的情况下是当前聊天的内容。如果这些数字得到证实，那将是一个巨大的飞跃，因此它可能是 GPT-4 或其直接的前身。
最大的 DV 模型的上下文长度是 OpenAI 当前 GPT 模型的八倍，并且可能处理超过 30,000 个单词或 60 页的上下文。这样的模型可以处理整篇科学类文章、执行更大的编程任务。由此产生的用例可能会使 ChatGPT 看起来像一个演示。
更多的上下文也意味着将启用新形式的提示。例如，在 2022 年底，蒙特利尔大学和谷歌研究院的研究人员推出了“算法提示”，这种方法可以使大型语言模型在解决数学和逻辑任务时的错误率降低多达十倍。该团队开发了详细的提示，描述了解决相关任务的算法。在论文中，他们推测，随着上下文长度的增加，更广泛的算法提示是可能的，这将显著提高逻辑推理的性能。
到目前为止，OpenAI 尚未正式确认该计划，但据 Twitter 用户称，该公司已经删除了之前在 Google Docs 上提供的泄露文件。
