OpenAI发布工具来检测AI生成的文本,包括来自ChatGPT的文本 
2023-02-01 10:21

2月1日消息,OpenAI推出了一款的工具,用来区分人工编写的文本和人工智能生成的文本——例如OpenAI旗下的ChatGPT和GPT-3模型生成的文本。

不过,目前分类器不是特别准确,它的成功率约为26%。但OpenAI表示,分类器与其他方法结合使用,可能有助于防止AI文本生成器被滥用。

据报道,分类器在评估给定的文本是否是人工智能生成时,会根据其置信度,将文本标记为“非常不可能”(少于10%)、“不可能”(10%-45%)、“不清楚”(45%-90%)、可能(90%-98%)、极有可能(超过98%)。

根据OpenAI的说法,分类器错误地将人类编写的文本标记为AI编写的文本概率为9%。同时,新工具在分析少于1000字的文本方面并不可靠,且修改AI编写文本中的部分单词就可以规避分类器。

虽然分类器在某些情况下可能有所帮助,但它们永远不会成为确定文本是否由AI生成的可靠且唯一的证据。(来源:TechCrunch)

生成海报
大数跨境
跨境资源整合、信息共享平台
www.10100.com

公众号

公众号

大数活动

小程序
旗下产品 M123.com
M123