“探问AI参与科研的边界”系列报道之二
AI时代，我们需要什么样的学术规范
编者按
从想点子，到做实验、写论文，AI正深度介入科学研究的全过程。但效率提升的背后，原创归属、数据“美化”、实验“缺席”、信息泄露、论文审核等问题接踵而至，科研诚信和学术规范面临重新审视。
本期邀请五位一线科研人员，分享AI给他们带来的变化和思考。从他们的讲述里，我们可以读到一个共同的希冀：AI时代，我们需要建立新的学术规范。
研究人员在中国科学院生物与化学交叉研究中心的实验室中做实验。新华社发
AI生成的科研点子到底归谁
讲述人：南京航空航天大学物理学院副研究员 曹水艳
这些年，我一直从事微纳光子学及相关交叉领域的研究，围绕二维材料、微纳光学器件、光电探测与光信息调控方向开展理论和实验探索。人工智能进入科研之后，我和研究生们也越来越频繁地使用大模型。查阅文献、梳理研究进展、比较技术路线，甚至讨论一个新的器件结构是否值得尝试，AI都能很快给出答案。有时，我也会直接问AI：“这个方向还能怎么创新？”几秒钟后，它可能就会列出五六个“科研点子”：换一种二维材料、引入新的光场调控自由度、把偏振和光电探测结合起来，或者进一步拓展到光逻辑、信息编码等功能。单看文字，其中一些点子甚至颇有启发性。
于是，一个以前很少遇到的问题出现了：如果科研构想、创新思路甚至选题框架最初来自AI，当它们最终形成论文、专利等科研成果时，该如何认定原创归属，又该如何界定科研人员与AI的贡献边界？
在我看来，至少从自己的微纳光子学研究经历来看，仅仅根据一个科研点子最初由谁提出，就判断其最终成果的原创归属情况，是把科学创新理解得过于简单了。我们做微纳光子学研究，经常从一个最初的器件构想开始。比如，在二维材料光电器件上引入微纳结构，通过结构设计改变局域光场，再利用二维材料的光电响应实现新的探测或调控功能。
类似的点子，现在完全可以让AI一次生成十几个。但AI生成一个“看起来新颖”的点子，与真正完成一项原创研究之间，还有很大的距离。一些科研点子乍看很有启发，但真正进行理论分析和数值模拟后，就会发现并不可行：有的是忽略了必要的边界条件；有的是采用的材料参数脱离实际；有的是理论上存在某种效应，但信号量级小到实验难以测量；还有一些所谓的“创新”，进一步检索文献才发现近期已有类似工作，其原创性本身就需要重新审视。
我越来越觉得，AI能够生成的是科研点子，而不是已经成立的科学创新。一个科研点子是否真正具有创新价值，还需要研究者结合已有研究，通过文献检索、理论分析、数值模拟乃至实验验证，不断检验其原创性和科学可行性。以微纳光子学研究为例，一个器件在理论计算中可能表现出非常理想的光谱、调制深度或偏振响应，但真正制备出来以后，材料厚度、加工误差、电极接触等因素都可能使实验结果与最初设想存在很大差异，甚至直接否定最初的构想。
而在这一过程中，新的科学问题也可能随之出现。AI也许参与了最初构想的生成，但在判断原创归属时，不应只看“谁先提出了这个想法”，更应关注在成果形成过程中，谁作出了关键的科学判断，谁完成了实质性的创造性工作。这或许才是厘清科研人员与AI贡献边界的关键。
这一判断也延伸到成果署名和知识产权。即使AI参与了最初研究思路的生成，也不能简单据此认为AI应成为论文作者或专利发明人。最终形成的科学认识或技术方案，凝结的是研究者持续判断、验证和创造的结果。更重要的是，科研成果不仅意味着“贡献”，也意味着“责任”。论文发表后，如果理论推导存在错误、实验结果无法重复，最终需要科研人员作出解释；面对同行质疑，也不能以“这个科研点子是AI生成的”来逃避责任。最终站在成果后面、对成果负责的，仍然是科研人员。
未来，一个科学构想很可能产生于反复的人机交互，“最初的点子来自谁”或许越来越难追溯，但点子的来源并不能简单等同于成果的原创归属。
AI“美化”数据带来隐形造假
讲述人：西安交通大学电信学部副教授 刘晓明
我的研究方向为时空异常检测与人工智能生成内容（AIGC）检测，研究工作可分为两部分：其一为训练模型从数据中识别异常，其二为判别文本、图像、视频是否由AI生成。两个研究方向共同的核心前提均为数据真实性。近年担任学术期刊审稿人期间，我频繁收到方法、图表、指标均无明显问题，但数据真实性存疑的投稿。
最早引起我警觉的是一篇时空异常检测方向的投稿：作者采用某城市路网流量数据开展研究，所得结果的曲线平滑度接近教科书示例。但业内皆知，真实交通流量序列必然存在波动，传感器误差、时钟偏差、交通管制、天气变化等各类因素均会改变路网特征。我要求作者提供原始采样频率与缺失值处理方式，对方未作出正面回应。
传统数据不端行为以篡改真实数据为主，往往会留下痕迹；当前更为常见的情形，是真实数据经AI“重建”——经过去噪、补全缺失、平滑跳变处理后，单个数据点看似合理，整体分布却已无法反映真实状况。
如果说第一类是数据层面的“化妆”，第二类则出现在实验设计层面，且更为普遍：部分投稿中的异常检测模型F1指标（一种性能评估指标，取值范围为0~1，越接近1表示模型越好）高达0.99，在多个公开基准数据集上全面超越现有方法。我在核查时重点关注三点：训练集与测试集如何划分、是否报告多次随机运行结果、是否完成消融实验。一些投稿经不住追问。此类问题未必出自主观恶意，多因研究者对研究规范认知不足，但AI工具客观上降低了“无意识违规”的门槛，也使审稿人更难区分疏忽与蓄意造假。
前两类尚且属于方法失范，第三类则直接动摇研究的合法性，也是最令我忧心的问题。AIGC检测模型的训练需要大量真实人类创作内容作为负样本。我曾审阅一篇投稿，作者声称采集了某平台真实用户内容，但文本风格、标点习惯、错别字分布高度一致，符合AI批量生成的典型特征。退回修改后作者承认，为扩充数据集，其使用大模型合成了部分样本，且未在文章说明中标注。其中荒诞之处在于：该研究的目标是识别AI生成内容，训练数据却来自AI，指标再高也不过是自循环验证。
我的博士生导师管晓宏院士常说，研究要从物理世界来、回物理世界去，模型的可用性取决于真实工况下的运行稳定性。在电力系统中，一个被平滑处理掉的异常点，便可能对应一起未被发现的安全事故。共事多年的沈超教授也提出，AI的安全边界依靠标注失效场景来划定，敢于写明方法适用局限的论文，价值远高于五篇只报告正面结果的文章。
但如今，AI已将数据“美化”的成本降至近乎为零——一句提示词即可完成数据整理、结果重建、配套解释生成，连“局限性讨论”都可以一并由AI代笔。学术不端的风险由此成倍放大：一次随意的数据优化足以令整篇论文的结论不成立；若此类模型流入工程现场，误报、漏报造成的损失，最终将由一线运维人员乃至社会公众承担。
科研最珍贵的不是算力，也不是模型架构，而是保留原始数据偏差的勇气、承认工况不符的诚实。AI可以美化论述，却不能代替研究者为数据真实性负责。
科研人员在吉林大学古文字古文物人工智能实验室利用三维扫描仪进行文物数字化信息采集工作。新华社发
AI预测不应替代实验验证
讲述人：清华大学机械工程系副研究员 周梦然
过去需要花费数周甚至数月反复实验、试错的工作，现在AI几分钟就能得到一套看上去“相当完整”的答案。那真实实验是不是可以少做一些，或者完全用模拟预测替代实验？
有一次，我组里的一名博士研究生利用已有实验数据和文献数据，建立了一个镁锂合金搅拌摩擦加工后力学与耐腐蚀性能预测的模型。基于对搅拌头转速、加工速度等参数和材料最终性能进行建模与预测，模型很快给出了一个较为清晰的“最优工艺窗口”：某一组参数组合得分最高，强度预测最好，材料腐蚀速率也最低。一次课题讨论中，这名博士研究生兴奋地向我建议：“老师，既然预测结果已经这么明确清晰了，后续只做两三组‘最优参数’验证即可，其余实验可以省掉。这样既节省材料和机时，也能让论文推进得更快。”
我从事的是利用搅拌摩擦开展铝/镁等轻合金材料焊接及其增材制造研究。物理过程看起来很简单：一个搅拌工具头旋转、插入材料、沿着焊缝前进，最终使材料在“不熔化”的条件下实现连接，但事实上这个过程中材料内部情况远比想象的复杂得多，温度变化、应变梯度、应变速率、材料流动、动态再结晶、织构演变以及界面状态彼此耦合，任何一个局部变化，都可能影响最终所获得材料的性能。
正因如此，我向全组人员解释：我并不排斥AI。相反，我认为它会成为未来科研不可缺少的工具。它可以帮助我们缩小实验范围、优化方案、提出假设，甚至告诉我们哪些地方最值得重点验证。但目前“基于大语言模型”的AI，能给出的只能是“基于理论与他人结果最可能发生什么”，实验要回答的却是“事实上发生了什么，怎么发生的”。如果科研只去验证模型最有把握的答案，看似效率提高了，实际上也把最可能产生新发现的地方删掉了。
我们既借助模型的推演，在模型给出的“最优工艺窗口”内实现了镁锂合金综合性能的显著提升，又坚持把那些被模型认为“潜在价值不高”、从未有人尝试的极限参数样品做了出来。
事实很快给我们上了一课。某组AI评价很高的参数，材料表面看起来完整，但截面观察却暴露出局部材料出现偶发流动失稳产生缺陷的问题；相反，另一组并不在模型预测范围内的极限参数，材料内部组织反而展现出前所未有的均匀致密，力学与腐蚀行为也远远优于模型的“预测”。我们比对了当时所有公开报道的文献，发现我们“无意中”制备出了具有最佳“比强度—耐腐蚀性能”的超轻镁合金。
面对这一突破性的现象，我们紧锣密鼓地进行了显微组织观察、力学性能测试和材料流动分析，一点点追踪原因，最终发现决定材料性能的并不只是模型里被简化处理的“热输入高低和材料流动快慢”，而是复杂“热—力”耦合作用下材料中多个组分竞争性的“变形—析出—扩散”的全新机制。
那一刻，实验给出的强有力事实，推翻了非常“漂亮”的AI预测。
更重要的是，那个原本想被省掉的实验点，反而成为我后续研究中最关键的研究方向与线索。这些年，我和团队都沿着这个异常结果的新机制持续研究，重新调整了加工方法和研究思路，对搅拌摩擦加工组织演变和材料流动机制有了更深入的认识，相关研究也因此取得了超出预期的进展，并且进一步拓展到了制备高性能生物镁合金与超大镁合金结构的增材制造。
现在回头看，我常常觉得，这其实就是一次“真理打败偷懒”的过程。
所谓“偷懒”，并不是说科研人员不能借助工具提高效率。科学研究当然需要提高效率，AI也完全可以帮助我们减少大量重复劳动。真正值得警惕的是，把“提高效率”悄悄变成“省略实证”，再把模型预测包装成已经发生的事实。
AI预测可以减少盲目的实验，却不能替代必要的实验验证。AI擅长从已有知识中寻找规律，因此更容易告诉我们“通常会怎样”。但科学进步很多时候恰恰来自一句话：“为什么这一次不一样？”
如果没有真实实验，异常就可能被当作噪声过滤掉，未知也可能被已有规律提前“预测”掉。到最后，模型越来越漂亮，论文里的曲线越来越平滑，人类的科学研究却被锁死在已有知识内部循环中。
工作人员在位于上海浦东的上海光源内部动力学研究线站开展科研工作。新华社发
科研信息泄露风险须警惕
讲述人：中国石油大学（华东）化学化工学院副教授 邓深圳
2018年我进入南开大学读博，研究方向是水系锌离子电池。那时候AI还未走进日常，科研生活节奏简单，宿舍、食堂、实验室三点一线。白天合成材料、测数据，晚上看文献、整理结果、写论文。文献检索需要一条一条翻，一篇重要文献的参考文献列表也要逐条去查，顺着引文链条往下追。写英文论文更为耗时，需大量阅读国际顶刊文献，把好的句式记下来，积累语料库。真正动笔时依然不轻松，一个段落改十几遍是常事，一篇论文从初稿到投稿，折腾五六个月是常态。那时候觉得科研本来就该这样——缓慢、笨拙，但每一步都踏实。所有数据都在课题组内部流转。
2022年，我前往香港从事博士后研究。那年ChatGPT火了，组里开始有人用它润色英文、查文献。一开始我没觉得有什么，直到一次组会，一个师弟说他把原始数据“喂”给AI做分析，AI不仅整理了数据规律，还生成了讨论框架。我问他上传了什么，他说是最近半年的全部测试结果，还没来得及整理分析，更没发表。我当时脑子里冒出来一个念头，这些数据上传之后，还属于我们吗？我忍不住问了他一句：“你就不怕这些数据传上去之后，平台把它分享给别人吗？”他沉默了许久没有回答。
那天之后，我专门去看了几款主流AI平台的服务协议，发现几乎都有一句话：用户上传的内容可能被用于优化服务。“优化”具体指什么，没人说得清。那段时间我一直在想，如果师弟把数据上传后，这些数据被用于训练模型，那它们就不再只属于我们了。如果同行恰好在某个时间点问AI相关问题，AI会不会把这些数据“共享”出去？
2024年我回到本硕就读的课题组，开始带研究生。没想到，组里的学生也干了同样的事，一位学生把近一年的实验数据整理成文档，准备上传到AI平台“帮忙分析”。我拦住他：“如果这些数据被平台泄露给别人，研究成果被别人复刻、被抢先发表了怎么办？”他愣住，说了一句让我印象深刻的话：“我就是想快点出结果。”
那一刻我意识到，这不是一个人的问题，而是一代科研人的普遍心态——用最快的方式处理数据，却从没想过数据离开实验室之后会发生什么。从那以后，我在课题组定了一条规矩：严禁把未发表的实验数据、工艺参数、研究思路上传到公共AI平台。查文献、整理参考文献格式这些不涉及核心数据的工作可以用AI，但涉及未发表的数据和实验方案，一律禁止。
后来的多起泄密事件证明，这个担心并非多余。2025年7月，国安部披露某科研人员将核心数据上传至AI应用软件，致涉密信息泄露。同年9月，ChatGPTDeepResearch功能曝出零点击漏洞，攻击者只需一封恶意邮件，即可在用户毫不知情的情况下窃取敏感数据。看着这些新闻，我想起了那个学生。如果当时没有拦住他，那些数据现在会在哪里？
论文审核需要新的标准
讲述人：中国科学院大学资源与环境学院副教授 蔡晓琳
在长期参与环境领域同行评议工作的过程中，我们越来越清晰地感受到，生成式人工智能正在进入科研工作的各个环节。从文献梳理、语言修改，到代码编写、数据分析和模型预测，AI提高了信息处理效率，也拓展了研究者提出问题和验证思路的方式。但对学术期刊而言，这种变化带来的挑战并不限于论文是否像AI写的。更重要的是，当AI逐步参与知识生产，原有的披露方式、审稿标准和责任边界能否继续支撑学术信任。讨论的重点应从是否使用AI转向AI介入后，研究的可信度如何被证明、责任如何被追溯。
从环境领域的审稿实践看，一篇结构完整、表达流畅、图表齐备的论文可以更快形成，但文本的完整性越来越难以代表研究本身的扎实程度。环境研究通常涉及采样、实验分析、仪器表征、统计建模和机理解释，结论还受到区域特征、时间尺度和实验条件等因素制约。AI能够迅速连接概念、补充论述，也可能用看似合理的表达掩盖数据来源不清、条件交代不足或证据链断裂的情况。编辑和审稿人因此需要追问：数据从何而来？方法能否复现？推论是否超出证据边界？
审核难，在很大程度上源于AI放大了同行评议原有的信息不对称。审稿人能够看到作者提交的文本和材料，却未必能够还原数据处理与结论形成的全过程。仅凭措辞判断AI痕迹，既可能误伤正常写作，也无法识别经过人工修饰但研究过程并不可靠的稿件。审核标准应回到科学证据本身，并以更透明的研究过程降低判断难度。
界定难，则要求期刊更新AI披露制度。当前期刊常见的“使用”或“未使用”二元声明过于笼统，应让披露程度与AI对研究判断的影响相匹配。AI仅用于语言润色、格式调整等常规辅助，可以简要说明；如果参与数据清理、参数选择、模型构建、图表生成或文献归纳，并影响结果解释，就应交代具体用途和人工核验方式；若进一步参与实验设计、模拟或合成数据生成、关键推断以及核心结论形成，则需提供更充分的输入信息、验证过程和可复现材料。AI帮助研究者提出假设，不宜被一概视为越界。真正需要警惕的是隐瞒实质性使用、以生成内容替代真实证据，或把未经验证的输出直接写成科学结论。
对涉及AI的研究，应重点核查数据是否真实且可追溯，模型训练与验证是否清楚，关键处理步骤能否复现，不确定性是否如实呈现，结论是否得到独立数据或实验支持。在环境研究中，还要关注模型结果能否对应真实环境条件，局部数据得到的规律是否被过度外推。AI对研究过程影响越深，作者越有责任提供充分的透明度和可核查材料。
同行评议本身也需要新的规范。AI可以帮助审稿人整理问题、检查表达，但不能替代其对创新性、方法合理性和结论强度作出独立判断。审稿稿件通常包含未公开的数据、思路和合作信息，未经许可，不应上传至缺乏保密保障的开放式工具。即使期刊允许在安全条件下使用AI辅助，审稿人仍应对最终意见负责，编辑也应防止语言流畅但内容空泛的模板化评议影响决策。
广盛网提示：文章来自网络，不代表本站观点。
