spot_img
首页文本AIChatGPT将出专...

ChatGPT将出专业版,OpenAI拟提供AI文本识别工具以打消疑虑

尽管ChatGPT遭到了机器学习国际会议(ICML)等研究组织的抵制,但OpenAI仍计划推出这一对话AI系统的专业版本,该版本将能更快地处理更多的字符。此外,该公司将提供一种可帮助识别使用ChatGPT创建的文本的工具,以尽可能地消除AI文本对科研和教育造成的危害。

据OpenAI联合创始人Greg Brockman在Twitter上披露的消息,API的使用将不会与专业版相关联。但目前似乎还没有具体的商业化计划,OpenAI正在收集有关定价的意见。根据Discord上OpenAI员工的说法,OpenAI的目标是保持ChatGPT的运行和改进。“货币化是我们正在考虑确保其长期可行性的一种方式。”

同时,OpenAI对Techcrunch称,该公司正在研究一项“缓解措施”,以识别使用ChatGPT生成的文本。早些时候,一位OpenAI研究人员谈到了OpenAI AI文本的水印系统,预计未来几个月内会有相关的研究论文发布。

如果AI文本能够被可靠地识别,那么科研和教育领域对人工智能生成文本的批判性观点将不再适用。OpenAI发言人辩称,ChatGPT从现实世界的使用中学习,只是提供一种“研究预览”。

我们一直呼吁在人工智能生成的文本的使用方面保持透明度。我们的政策要求用户在使用我们的API和创意工具时,必须坦诚告知受众。我们期待与教育工作者合作,提供有用的解决方案,以及其他帮助教师和学生从人工智能中受益的方法。

但OpenAI开发的识别工具能否打消科教领域对AI文本的质疑还有待观察。AI文本识别只有在所有生成器标准化的情况下才能消除对文本真实性的任何怀疑。AI文本识别工具的第一批方法已经存在,例如GPTZero或Crossplag,但目前还没有关于其可靠性的数据。此外,对生成文本系统或特殊提示方法进行一些更改可能会绕过这些识别工具。

机器学习国际会议(ICML)虽明确表示禁止使用AI生成论文,同时承认目前还无法自动检查可能的违规行为。生成和识别之间的持续竞争可能是未来的状况。因此,无论如何,科教领域最好积极地面对并为此做好准备。

收藏 (0)
请先

还没有账户?注册

赞赏
lighting
lighting
新的开始
本文系反讽机器原创(编译)内容,未经授权,不得用于商业目的,非商业转载须注明来源并加回链。

欢迎订阅我们的内容