AI检测 不能既当裁判员又当收费员
本文转自:今晚报
今晚谈
AI检测 不能既当裁判员又当收费员
一模一样的文稿,前后检测数值大变;纯手搓的论文,AI疑似率忽高忽低;连姓名、基金信息、中药方剂都被算法无情标红……澎湃新闻调查发现,知网AIGC检测算法升级后结果反复无常,原创文本频遭误判,不少学生为此只能反复掏钱检测。
传统论文查重,比对的是文本与既有文献的重合度,标准清晰、依据可追溯。而AIGC检测输出的是概率数值,本质是判断文本“像不像AI写的”。尴尬的是,大模型的生成能力恰恰来自学习人类文本。有网友打了个比方——B跟着A学写作,目标是越来越像A,然后让B去查A,标准是A不能和B一样。
而学术写作讲究客观、严谨、规范,这恰好和大模型生成文本的统计学特征高度重合。悖论在于,写得越规范越通顺,越容易被标红;想把AI疑似率降下来,反而得把论文改得像口水话。这不是本末倒置吗?
实验数据、访谈记录被大面积误判,说明算法根本读不懂上下文,看见规整格式就当成机器出品。有网友吐槽:连个人基本信息都算重复,我自己还不能是我自己了?
众所周知,知网、万方、维普等主流学术平台的大模型研发投入,远不及头部互联网科技企业。用低级AI工具,去甄别不断迭代升级的AI生成内容,本身就缺乏科学性与说服力。
比技术缺陷更值得警惕的,是AI查重已经成了一门稳赚不赔的生意。平台一边做检测一边做降重,按次数收费,结果忽高忽低,学生只能反复掏钱复测。AI检测结果直接关联学生毕业、学位授予、学术声誉,早已不是普通商业服务产品,具备了学术审核的公信力属性。但各大平台始终不公开核心判定标准、不公示官方误报率、不开放结果复核渠道。所有算法误判、结果失真的代价,全部由学生和科研人员承担,而检测平台无需承担任何责任与损失。这种既当裁判又赚收益的模式,天然存在利益漏洞,极易滋生乱象。因此,行业需建立独立的第三方评测体系。
高校把AI疑似率纳入审核,初衷是防代写和造假。但AI疑似率检测结果只能当预警和参考,高校要依托教师专业评判、同行互评,开展真实、严谨的学术审核,这比外包给平台靠谱得多。
发布于:北京
相关推荐
不想再当“裁判员”,Arm要下场做芯片了
Spotify CEO 指责苹果和谷歌垄断:你不能既当裁判又当球员
谁来制约“评测博主”这位裁判员?
苹果继续和隐私较劲,会不会既做裁判员又做守门员?
刘强东回归的京东,亲历消费欺骗,各方狡辩!更大的笑话还不是这个
焦点分析 | 看完苹果的开发者大会,开发者们忧心忡忡
万物新生旗下拍机堂被指“坑人堂”,上市近两年市值缩水83%
华为,为什么要反腐
“头环”事件背后:教育不能“失智”,也不能“失温”
AI,站在奥运金牌背后
网址: AI检测 不能既当裁判员又当收费员 https://www.xishuta.cn/newsview155220.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519
