学术不端是被AI骗的？别再闹笑话了

嘉荫农场人

转自：长安街知事



近日，一篇题为《数据资产出资的风险类型及制度因应》的论文引发质疑，论文注释中的民事判决书分别来自不同省份，序号尾号却是1234、3456、4567等。

对此，论文作者所在高校发布情况通报称，该论文中部分案例相关问题系作者对人工智能（AI）检索结果的误信，对AI生成的内容缺乏应有的警惕性与严谨性。根据认定结果，对责任人作出相应处理。



论文水平有高低之分，但数据真实、引用准确等应当是最起码的要求。这篇论文为师生共同创作，按说该有一定专业度，但目前看来，其在网络公开发表前没有必要核实，实在有违诚信。

更值得追问的是，如果AI没有出现这种“连号式”低级错误，该论文是否会一直流传于公共视野中？又是否会被大模型当作可信内容继续采纳，进而“反刍发酵”输出更多学术赝品？



从AI代写论文成为黑产，到拿着AI工具降低AI率，这些年，AI在学术领域的存在感越来越高。客观来说，随着技术不断发展，AI在完成文献收集、数据整理等方面可以提高效率。然而，用工具辅助完成流程性工作，与全盘采信照搬AI生成内容，完全不是一回事。众所周知，AI基于大量数据训练而成，而网络信息本就真真假假，且“AI幻觉”问题一直未能有效解决，“一本正经胡说八道”相当常见。用拼出来的文献作为考据，拿编出来的数据印证观点，无异于问道于盲、谬以千里。这也提醒相关机构、高校等，应该有更严格、更细致的审核机制，让学术的出口再干净些，少些“被AI骗出学术不端”的笑话。

以更大视野来看，误信AI又何止发生在学术界？有人让AI识别野生蘑菇，只看答案不看提醒，误食后头晕目眩；有人爬山向AI问路，结果越走越偏、体力耗尽被困……正如有网友吐槽，“动不动就‘AI说的’，简直太荒唐！”随着AI产品深入工作生活各个维度，“AI幻觉”可能会给人们带来某种程度上的“认知幻觉”，这也是更加值得我们警惕的。

思考没有捷径。从专业领域到日常生活，工具固然能集纳起庞大的内容库，但终究无法代替人的求证与判断。

图源：视觉中国(16.830, 0.00, 0.00%)
撰文：关末