因准确性不高,OpenAI 关闭内容检测工具 AI Classifier
据 Decrypt 7 月 25 日报道,今年 1 月,OpenAI 发布 AI 检测工具 AI Classifier,可用于检测内容是否是使用生成式 AI 工具创建的。然而上周,OpenAI 悄然关闭了该检测工具,原因是“它的准确率很低”。这一解释并没有出现在新的公告中,而是添加到了首次发布该工具的博客文章的注释中。目前,AI Classifier 的链接已不再可用。
OpenAI 写道:“由于准确率较低,截至 2023 年 7 月 20 日,AI classifier 已不再可用。我们正在努力采纳反馈意见,目前正在研究更有效的文本出处技术,并承诺开发和部署相关机制,使用户能够了解音频或视频内容是否由人工智能生成。”OpenAI 表示,AI Classifier 的局限性包括:在少于 1000 个字符的文本中不可靠、错误地将人类撰写的文本标注为人工智能撰写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。