AI写作软件是否会助长学术造假？该不该管？——专访清华大学人工智能治理研究中心主任梁正

央视网消息（记者/刘佳曈）：日前，有关使用AI完成论文的话题引发学生和网友讨论。不少高校组织AI代写论文检测，“多地高校将严查AI代写论文”“没想到论文查重要查AI率了”等话题一时间冲上热搜。对很多毕业生来说，完成论文答辩是他们走出大学校门的第一步。今年不少高校发布专门通知，明确将对毕业设计（论文）中的人工智能生成内容占比进行检测，并对AI代写在论文中的比例等问题作出规范。

　　那么AI辅助与AI代写之间的边界在哪？AI代写论文对学术界和教育界产生了哪些影响？如何积极应对AI技术带来的学术挑战？央视网《中国教育观察》记者采访了清华大学人工智能治理研究中心主任、公共管理学院教授、人工智能国际治理研究院副院长梁正。

　　《中国教育观察》：AI辅助与AI代写之间的边界在哪？

　　梁正：我们用AI，特别是生成式AI来进行科学研究等一些工作的辅助，如果不能够正确使用的话，会带来所谓学术不端的行为。其实从一个专门研究人工智能治理的研究机构来看，我们对于怎么去用AI辅助论文写作，主要是要对一些基本的界限做一个区分。其实在这个方面，前不久科技部等六部门也出台了一个在科研领域怎么去运用AI的行为准则，其中就特别提到，如果整篇论文都是用AI工具来生成的话，那属于学术造假，特别是在我们的学位法里边征求意见稿特别讲到这是属于严重的学术不端行为。那么是不是可以用AI辅助我们的论文写作呢？这个是可以的。其实现在的生成式AI，特别是大语言模型，它在帮助我们去整理研究文献、做一些日常的资料性的归纳工作的时候，它都可以给我们提供非常好的帮助，所以我们把这样的一些功能叫做AI的辅助功能，甚至有的时候AI可以帮我们提供一些写作的思路。当然，作为严谨的学生写作来讲的话，要特别注意这样一个界限，我们不太鼓励去用AI提出一些研究的题目和设想，我们更多的是把它作为一个知识整理和提高效率的工具，所以我想这是AI代写和AI辅助之间的区分和界限。

　　《中国教育观察》：教育者如何看待学生在写作中过度依赖AI的问题？

　　梁正：学生在写作当中如果使用AI的话，我想一方面是要有一个场景的区分，另一方面其实从教育工作者这个角度来讲的话，任何一种技术我们都不太鼓励大家过度地使用。比如说研究生的文献梳理，如果都是习惯了用AI去做，那么可能就丧失掉我们的阅读能力和整理能力。从整个科学研究来讲，应该说它是有一个阶梯，就好像我们从小学到中学，还是要去学习四则运算，因为它不光是数学，它可能对我们的逻辑、归纳、图形图像的理解能力都是有帮助的，这样的一些训练还是需要我们人去做的，所以不能够过度使用这样的工具去替代。我们在相应的年龄阶段应该去培养相应的能力，这就跟使用计算器一样，我们可能在小学学四则运算的时候不能使用，但是我们到了高中，这种能力已经具备的时候，就没有必要再进行这样的训练。我想对AI工具的使用，所谓适度、适量、不要过度依赖，也是一个我们需要把握的重点。

　　《中国教育观察》：学术界应如何制定相关准则来规范AI在论文写作中的使用？

　　梁正：从目前来讲，AI在学术写作当中的应用，国外的一些大学，包括国内也有一些学校已经出台了相应的指引，如哈佛大学对于AI用于学术写作就区分了几个场景，比如在一些需要创作的领域，没有太多涉及到所谓事实性、准确性的领域，那么可以借助AI技术给我们提供更多的创意和思路。但是对于比较严谨的学术写作，AI的使用就严格地受到限制。特别刚才我们也提到，如果是涉及到原创性的学位论文的写作，那么可能AI的使用就是严格禁止的，所以它其实是一个分场景、分情况的处理原则。与此同时，其实为了鼓励大家用好这个工具，相关的学校出台了一些非常细致的指引，包括使用生成式人工智能应该用什么样的提示词。因为很多不正当的使用会造成大模型给出不正确的、甚至是不符合规范和伦理要求的回答，所以对提示词的规范，学术机构给出一些指引，对于科研的伦理教育、学术规范教育是非常有用的。第三，其实学习机构还可以这样做，比如为了保障大家在使用这个工具的时候是安全的，可以提供相应的正版软件，就像我们现在在校园环境里给大家提供正版的办公、科学研究软件一样。同时，搭建一个安全的数据环境，防止科研数据的泄露，都是我们可以去做的。

　　《中国教育观察》：AI写作软件是否会助长学术造假？该不该管？

　　梁正：目前AI写作工具如果正当使用，我们认为它其实是可以提高我们的科研效率、写作效率的，也让我们可以把更多的时间用到创意、创造活动上，其实是件好事。但是如果被滥用的话，特别是现在科研的基本诚信建设还不够完善，相应的惩罚还不够到位的条件下，这样一些工具会被别有用心者用于学术的造假，甚至论文的代写交易，所以这样的情况可能会助长一些已有的问题，但是我们有一个基本的观点，不是这个工具本身给我们带来的问题，而是我们在学术呈现、学术规范，特别是在发现这样一些事件以后我们的惩戒措施落实得还不够到位所产生的问题。所以我们不认为这是由于这个技术本身带来的直接影响，我想从规范角度来讲还是要建立起学术诚信的规范机制，要加强这方面的诚信教育，让大家知道这样做是不对的。那么同时如果有这样的行为的话，我们和通行的学术共同体的原则是一样的，会予以严惩，有一次造假也许将来就终身禁入，在这样的一个比较严厉的惩罚条件下，大家就会比较小心地使用AI工具。从长远来看的话，这对我们保持对科学的好奇心、保持对学术的敬畏，特别是激发人的创造性是有利的，只要不过度地依赖这个工具，我想这是一个辩证的关系。

　　《中国教育观察》：AI代写论文对学术界和教育界产生了哪些影响？如何积极应对AI技术带来的学术挑战？

　　梁正：AI工具用于我们学术界、科研活动、教学活动可以提供非常大的助力。我们在蛋白质结构的分析预测，甚至下一步可能在新药的研发上，使用这种AI大模型工具的话，可以帮我们极大地提高研发效率。因为过去相当多的这种工作是要靠我们人眼或者体力劳动去进行一些重复性的、繁琐性的工作，那么现在其实AI是可以帮我们很大地提升效率，降低我们在这方面的时间投入成本，所以这是对我们学术研究提供的助力。另一方面，它也可以给我们提供一些可能。我们作为个人知识是有限的，不能够去穷尽一个学科的所有知识。那么它作为一个大模型，作为一个超级知识整理器，其实可以给我们提供一些非常有潜力的科研方向的提示，所以这都是AI对我们学术研究的帮助。那么在教育方面，比如清华已经有这样的计划，我们下个学期可能要在100门课当中都引入AI的辅助教学，所以可能会用AI大模型的方式生成类似于数字教师去给这个学生提供比如说课下的个性化辅导，这样的话就可以把教师解放出来，更多的不是去进行知识传授，而是更多地跟学生进行个性化的交流，对学生予以研究能力，包括个人的综合素质培养、成长的辅导，我想它对教育模式的改变也是巨大的。此外，从中小学基础教育角度来讲，这样一些先进技术的引用也会改变现有的教学方式、教育理念，我们讲“德智体美劳”，可能未来我们叫做智育，我们可以去求助于它，因为它的知识的广度和深度。更多来讲，可能我们的教育要放到德育美育、实践教育、体育等方面，不是说智育不重要，而是说我们可以更全面地去培养未来的人才，所以我想它对这种学术研究、对于我们的教育的影响都是巨大的。当然同时我们也要注意，它可能带来的一些风险，就是我们讲在学术造假方面。那么在教育方面，我们运用这样的技术的时候，要特别注意伦理问题，比如说对学生正确价值观的引导，特别是产生过度依赖的条件下怎么能够去掌握平衡。任何一个工具都有两面性，还包括对隐私的保护、对学生的公平等方面的机会的提供，这些方面都要靠我们教师去做选择和判断，我想这是我们在使用这个工具的时候要去考虑的问题。