厦门大学的一小队研究人员对坏演员现在可以轻松生成用于研究项目的假AI图像表示震惊。他们在《模式》杂志上发表了一篇观点文章，概述了他们的担忧。googletag。命令。push（function（）{googletag.display（'div-gpt-ad-1453799284784-2'）；}）；当研究人员在成熟的期刊上发表他们的研究成果时，他们通常会附上照片来展示他们的研究成果。但现在，这些照片的完整性正受到某些实体的攻击，这些实体希望绕过标准的研究协议。他们可以使用人工智能应用程序生成照片，而不是生成实际工作的照片。研究人员表示，通过这种方式生成假照片，可能会让恶棍在不进行任何真实研究的情况下发表研究论文。
为了证明生成虚假研究图像的容易程度，研究人员使用生成对抗网络（GAN）生成了自己的一些图像，其中两个系统，一个是生成器，另一个是鉴别器，试图在创建所需图像方面相互竞争。先前的研究表明，这种方法可以用来创建非常逼真的人脸图像。在他们的工作中，研究人员生成了两种类型的图像。第一种是蛋白质印迹鈥攁n用于检测血液样本中蛋白质的成像方法。第二个是食管癌图像。研究人员随后向生物医学专家展示了他们制作的图像鈥攖三分之二的人无法将其与真品区分开来。
研究人员指出，有可能创建出能够识别此类假货的算法，但这样做充其量只是权宜之计。可能会出现新技术，克服检测软件，使其变得无用。研究人员还注意到，GAN软件易于获得和使用，因此很可能已经被用于欺诈性研究论文。他们认为，解决办法在于发表研究论文的组织。为了保持完整性，出版商必须防止人工生成的图像出现在其期刊上发表的作品中。进一步探索