- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
OpenAI悄悄下架AI检测器，“用AI监管AI”暂不奏效
作者 | 黄金琼
编辑 | 邓咏仪
常言道，“一物降一物”，但对现在的生成式AI来说，事情也许很难如此。
据TechCrunch，OpenAI于7月20日悄悄下架了其AI检测器，但因为过于低调，不少人还没有发现。
OpenAI的通知显示，下架是因为检测的准确率过低。OpenAI团队“会继续研究更有效的文本技术”，希望未来能够对AI生成的音频、视频内容进行检测。
ChatGPT爆火以来，AI生成文本在各行各业得到了更广泛的应用。但比起广泛应用，AI生成内容引发了人们更大的担忧——AI或许会成为更大的假新闻源头、泄露人们数据和隐私。
AI生成内容引发的现实问题也不绝于耳——典型案例是是在大学里，学生们用ChatGPT生成论文，已经扰乱了学校的教学秩序，不少学校已经明令禁止在学术场景下使用ChatGPT。
面对汹涌的舆论，OpenAI在今年2月就迅速推出应对方案，也就是这款AI文本检测器。
AI文本检测器的主要功能，是用来判断文本是否由人工智能生成。此前，在检测过程中，用户无需付费，只要将所检测的文本复制到检测器上，就可以检查到内容是否为AI生成。OpenAI也没有限定可以检测的文本限定类型，用户可以检测包括邮件、文章以及论文在内的文件。
然而直到下架，这款产品寿命只有短短半年。
AI文本检测器其实一开始就并不完美。据OpenAI公布的数据，AI检测器在识别AI生成文本方面的正确率为26%，同时将人类所写的内容识别为AI生成的错误率为9%。
在发布检测器时，OpenAI就表明“AI文本检测器并不完全可靠”。同时，OpenAI团队也承认，检测器很容易将人类写的文本识别为AI写的，AI生成的文本性内容如果经过人类编辑，AI也无法进行准确地识别。
OpenAI已经大模型应用中的技术领头羊。如今AI检测器的下架，某种程度上也意味着，人们现在可能还没有更好的方式监管AI。“用AI监管AI”的路子，可能还不太能走通。
近期的一则斯坦福研究，也得出了同样的结论。
数位斯坦福的专家教授对目前主流的七款AI文本检测器进行了测试，研究结果显示，一些检测器生成的99%的准确率具有“误导性”。非英语母语的人写的文章，常被错误地标识为由AI生成，这会严重影响母语非英语的使用者如学生、学者以及求职者，也会很容易增加他们被歧视的可能性。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-07-27 15:45:20
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
