化工仪器网手机版
移动端访问更便捷
OpenAI开发反作弊工具 效用如何引发质疑
2024年08月07日 10:16:33
来源：化工仪器网 点击量：4324
《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。
【化工仪器网 时事热点】《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。 OpenAI首席执行官山姆·奥特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)都参与了反作弊工具的讨论。知情人士说，奥特曼鼓励这个项目，但没有推动发布。
OpenAI内部在透明度承诺和留住用户之间摇摆不定，它对ChatGPT用户开展的一项调查发现，近1/3的用户会因为反作弊技术而关闭服务，这些受访者表示，如果ChatGPT使用反作弊技术而竞争对手没有，他们会减少使用ChatGPT。
ChatGPT可以预测句子中接下来会出现的token，OpenAI的反作弊工具将略微改变token的选择方式，这些变化会留下水印。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。根据内部文件，当ChatGPT创建足够多的新文本时，水印的有效性为99.9%。
首先，从技术角度来看，OpenAI的反作弊工具利用了一种类似“水印”的方法，在文本中嵌入不可见的标记。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。据称，当ChatGPT创建足够多的新文本时，水印的有效性高达99.9%，且不会影响ChatGPT的性能。然而，内部员工担心这些水印可能通过简单的技术被删除，比如将文本翻译成另一种语言再转换回来，或者在文本中添加表情符号后手动删除。此外，如何决定谁可以使用这种检测器也是一个挑战。
其次，从用户角度来看，OpenAI对ChatGPT用户进行了多次调查，发现近三分之一的用户表示，如果ChatGPT使用反作弊技术，他们会减少使用ChatGPT。这些用户担心，如果ChatGPT使用反作弊技术而竞争对手没有，他们可能会转向其他工具。此外，该工具还可能对非英语母语的用户产生不成比例的影响，这进一步增加了OpenAI在发布该工具时的顾虑。
因此，尽管OpenAI在技术上已经取得了显著的进展，但在是否发布和使用这一反作弊工具上仍然存在诸多争议和未解决的问题。目前，OpenAI尚未正式对外公开这一工具，但已有一些外部公司和研究人员正在开发类似的检测工具，并尝试在教育和学术领域中使用。
相关阅读 Related Reading
查看更多+-
5月14日，重庆市科学技术局公布技术创新中心拟认定名单。经严格审核、评估等相关程序，共有10家单位通过评估。2025-05-15 14:54:39
-
七部门联合发布《加快构建科技金融体制 有力支撑高水平科技自立自强的若干政策举措》，重点围绕创业投资、货币信贷、资本市场、科技保险支...2025-05-15 13:51:55
-
5月14日，工业和信息化部组织开展2025年专精特新“小巨人”企业认定和复核工作。2025-05-15 10:13:03
-
助推新时代东北全面振兴迈向新高度 第63届高博会将于长春举办
由中国高等教育学会主办的第63届高等教育博览会将于5月23至25日在吉林长春举办，将围绕新时代推动东北全面振兴这一主题，集中展示吉...2025-05-14 17:06:17 -
近期，各大仪器仪表行业上市公司已披露2025年一季度报告。化工仪器网特整理了70家企业的一季报财务数据，从营业收入与净利润带大家了...2025-05-13 17:22:29
-
数字时代的动力心脏”支撑着“数字居民”的互联网日常，正在经历前所未有的建设热潮。2025-05-13 15:44:46
版权与免责声明
- ①凡本网注明“来源：化工仪器网”的所有作品，均为浙江兴旺宝明通网络有限公司-化工仪器网合法拥有版权或有权使用的作品，未经本网授权不得转载、摘编或利用其他方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：化工仪器网”。违反上述声明者，本网将追究其相关法律责任。
- ②本网转载并注明自其他来源（非化工仪器网）的作品，目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时，必须保留本网注明的作品第一来源，并自负版权等法律责任。
- ③如涉及作品内容、版权等问题，请在作品发表之日起一周内与本网联系，否则视为放弃相关权利。
