马上评｜论文使用AI生成插图，AI使用的红线在哪里？

近日，一篇来自西安市红会医院的医学论文成为网红，论文发表三天就被撤稿，撤稿的原因是采用了AI生成的插图。这些插图引发了网友的热议，大鼠长出了巨大的四个睾丸和阴茎，细胞信号传导图像电路板，而“撒了糖屑的甜甜圈”更是让人难以理解论文所要表达的意思。

AI生成的论文插图，引发争议

这篇论文于2024年2月13日在线发布于开放获取期刊《细胞与发育生物学前沿》（Front. Cell Dev. Biol），作者在文中坦承，这些图片由人工智能绘图工具Midjourney生成。

文章的标题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》，在引发关注后，期刊编辑部在2月16日就宣布撤稿。编辑部表示，文章的有关人工智能生成图表性质的担忧被提出，“该文章未达到本刊编辑和科学严谨标准，因此文章已被撤回”。

仅仅是因为文章中采用了AI生成的插图就被撤稿，这显示了国际科学界正在执行严防生成式人工智能混淆真假科学研究的最严格标准，同时也在进一步明确在AI不断介入人们生活的方方面面时，哪些是科学诚信原则，需要遵循。

现在，全球的科学和学术期刊都有相似的规定，不发表AI生成和AI署名的学术文章，其中，英国《自然》杂志的解释具有代表性。

在2023年6月的一篇社论中，《自然》杂志称，为了保证研究的诚信、透明和道德，将不会刊登任何使用生成式人工智能（generative AI）工具创作的图片、视频或插图，除非是与人工智能相关的文章。

原因在于，生成式人工智能工具无法提供其数据来源的信息，使得编辑、出版者和读者无法核实其准确性和真实性。这违背了科学出版的诚信和透明原则。其次，生成式人工智能工具可能侵犯了数据所有者的隐私和知识产权，因为它们通常使用了大量未经授权的受版权保护的作品进行训练。再次，生成式人工智能工具可能加剧了虚假信息的传播。例如，深度伪造（deepfake）就是一种利用生成式人工智能制造假视频的技术，可以用来误导公众或诽谤他人。

基于这些原因，《自然》杂志坚决不承认任何生成式人工智能工具作为论文作者。

显然，《细胞与发育生物学前沿》对西安市红会医院的论文撤稿也是基于上述原因，但根本的原因是，生成式人工智能产生的无论是文章内容和插图，都会让人真假难辨，难以区分论文所研究的内容在现实中是真还是假。一旦论文造假，对于社会所有人都是灾难，例如医学论文关系着人的健康和生命，一旦论文描述的内容虚假，人们将付出健康和生命的沉痛代价。

进一步观察，西安市红会医院作者的论文被撤稿有更深刻的原因。一是论文插图违背事实真相，插图中实验大鼠有4个巨大的睾丸，但正常情况下大鼠只有2个睾丸，以及干细胞在培养皿中宛若可以用勺子进食的食物。二是，这些插图中含有生造的新词标签，如testtomcels、senctolic等。三是，论文图注中还有词语错误，如把“干细胞”（stem cells）写错了。

论文中细胞信号传导图像电路板，其中有的图案像是甜甜圈，引发争议。

这些问题一方面反映了审稿人的粗心大意，但另一方面似乎也表现出一些研究人员，包括审稿人对AI生成图片的宽容，认为图片只是一种对文字内容的形象说明。因为，《自然》杂志也表态称，并不完全排斥人工智能，杂志允许在文章中使用生成式人工智能辅助产生的文本，只要在方法或致谢部分明确说明。此外，所有数据的来源，甚至是由人工智能协助产生的数据，都必须由作者提供。

这也意味着，论文可以采用人工智能作为辅助手段，但是无论是文字和插图都应当说明是AI生成。其次，AI生成的所有数据，都是作者实际研究产生的。而且，从此次撤稿来看，采用AI辅助写论文有一个新的标准出现了，即便AI生成的图片可以用来生动解释研究内容，也要符合实际情况，而且不能太夸张。

随之而来的是，此次论文撤稿也提出了一个问题，学术论文采用AI生成插图的边界在哪里，这似乎是目前的一个模糊地带。采用卡通图、手绘图和AI生成图作为论文的插图或封面，在科研中不乏存在，中国神话内容，如女娲补天、盘古开天辟地、后羿弯弓射箭、哪吒闹海、大闹天宫、金刚葫芦娃等都在学术期刊封面出现过。

这些插图既有卡通绘画成分，也有人工绘图，还有AI生成。2020年4月，江苏师范大学化学与材料科学学院副院长石枫教授在《中国化学杂志》发表的一篇论文是描述设计了一类新型轴手性芳基烯烃-吲哚骨架，论文封面采用女娲使用五色石补天来比喻这一构建过程。这篇论文封面的女娲娘娘的脸是真人，即通讯作者石枫，这显然是AI生成的图片。

由此可以看到，学术论文未必是全面禁止AI生成图片，但是，具体使用需要有一个标准，但这种标准目前还没有非常明确的界线。对此，科研打假名人、荷兰微生物学家和科学诚信顾问伊丽莎白·比克（Elisabeth Margaretha Harbers-Bik）对此次西安市红会医院的论文撤稿的评论或许显示了某种具体标准。她称，论文中“由Midjourney生成的插图漂亮但无意义，在解剖学和科学上都是不正确的”，“同时作者附上的文本标签更是让人难以理解”。

石枫论文封面上的“女娲”的脸就是石枫自己的

这种正确既可能是具体意义上的正确，如正常大鼠不会有4个睾丸；也可以是抽象和理念上的正确，以及让人可以理解，如以女娲使用五色石补天来比喻一种新型化学分子构建，这种比喻比较容易让人理解。

不过，未来对于AI生成文本和图片更多地介入科研，哪些可用，哪些不可用，有很多原则和界线还需要探讨。