化工仪器网手机版
移动端访问更便捷
OpenAI开发反作弊工具 效用如何引发质疑
2024年08月07日 10:16:33
来源：化工仪器网 点击量：6695
《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。
【化工仪器网 时事热点】《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。 OpenAI首席执行官山姆·奥特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)都参与了反作弊工具的讨论。知情人士说，奥特曼鼓励这个项目，但没有推动发布。
OpenAI内部在透明度承诺和留住用户之间摇摆不定，它对ChatGPT用户开展的一项调查发现，近1/3的用户会因为反作弊技术而关闭服务，这些受访者表示，如果ChatGPT使用反作弊技术而竞争对手没有，他们会减少使用ChatGPT。
ChatGPT可以预测句子中接下来会出现的token，OpenAI的反作弊工具将略微改变token的选择方式，这些变化会留下水印。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。根据内部文件，当ChatGPT创建足够多的新文本时，水印的有效性为99.9%。
首先，从技术角度来看，OpenAI的反作弊工具利用了一种类似“水印”的方法，在文本中嵌入不可见的标记。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。据称，当ChatGPT创建足够多的新文本时，水印的有效性高达99.9%，且不会影响ChatGPT的性能。然而，内部员工担心这些水印可能通过简单的技术被删除，比如将文本翻译成另一种语言再转换回来，或者在文本中添加表情符号后手动删除。此外，如何决定谁可以使用这种检测器也是一个挑战。
其次，从用户角度来看，OpenAI对ChatGPT用户进行了多次调查，发现近三分之一的用户表示，如果ChatGPT使用反作弊技术，他们会减少使用ChatGPT。这些用户担心，如果ChatGPT使用反作弊技术而竞争对手没有，他们可能会转向其他工具。此外，该工具还可能对非英语母语的用户产生不成比例的影响，这进一步增加了OpenAI在发布该工具时的顾虑。
因此，尽管OpenAI在技术上已经取得了显著的进展，但在是否发布和使用这一反作弊工具上仍然存在诸多争议和未解决的问题。目前，OpenAI尚未正式对外公开这一工具，但已有一些外部公司和研究人员正在开发类似的检测工具，并尝试在教育和学术领域中使用。
相关阅读 Related Reading
查看更多+-
日前，2025年度重庆市科学技术奖评审工作已经结束。2026-05-19 15:54:23
-
国机仪器仪表集团将合计持有上市公司153,510,000股股票，占川仪股份总股本的29.91%，将成为川仪股份的控股股东。2026-05-19 14:47:56
-
金华市农产品质量安全中心2026年实验室仪器设备的预算金额为330万元，项目编号为330700263656210000002-WQ...2026-05-19 11:45:49
-
受漳州市产品质量检验所委托，漳州毅达招标代理有限公司对[350601]EYD[GK]2026002、漳州市产品质量检验所实验室仪器...2026-05-19 10:59:52
-
与此同时，在国产科研仪器加速突围、高校科研仪器开放共享不断规范的背景下，一场聚焦高等教育创新与产学研融通的行业盛会即将启幕。2026-05-19 08:59:13
-
政策支持带来了一道清晰的市场信号：中国高校实验室的装备升级已上升为国家行动，而在这场行动中，国产仪器迎来了前所未有的“主场机遇”。2026-05-19 08:48:07
版权与免责声明
- ①凡本网注明“来源：化工仪器网”的所有作品，均为浙江兴旺宝明通网络有限公司-化工仪器网合法拥有版权或有权使用的作品，未经本网授权不得转载、摘编或利用其他方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：化工仪器网”。违反上述声明者，本网将追究其相关法律责任。
- ②本网转载并注明自其他来源（非化工仪器网）的作品，目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时，必须保留本网注明的作品第一来源，并自负版权等法律责任。
- ③如涉及作品内容、版权等问题，请在作品发表之日起一周内与本网联系，否则视为放弃相关权利。
