社交媒体是传播虚假新闻和虚假信息的主要渠道。随着照片和视频编辑以及人工智能工具的最新发展，这种情况变得更糟，这些工具可以很容易地篡改视听文件，例如所谓的deepfakes，它将图像、音频和视频剪辑组合并叠加，以创建看起来像真实画面的蒙太奇。
加泰罗尼亚大学（UOC）互联网跨学科研究所（IN3）K-riptography and Information Security for Open Networks（KISON）和通信网络与社会变革（CNSC）小组的研究人员启动了一个新项目，开发创新技术，利用人工智能和数据隐藏技术，应帮助用户自动区分原始和掺假多媒体内容，从而最大限度地减少虚假新闻的转载。DISSIMILAR是由UOC领导的一项国际倡议，包括来自华沙理工大学（波兰）和冈山大学（日本）的研究人员。
David Meg教授解释道：“该项目有两个目标：第一，为内容创作者提供工具，为他们的创作添加水印，从而使任何修改都易于检测；第二，为社交媒体用户提供基于最新一代信号处理和机器学习方法的工具，以检测虚假数字内容。”铆KISON是IN3的首席研究员和主任。此外，DISSIMILAR的目标是在整个项目中包括“文化维度和最终用户的观点”，从工具的设计到不同阶段的可用性研究。
偏见的危险
目前，基本上有两种类型的工具来检测假新闻。首先，有基于机器学习的自动化系统，其中（目前）只有少数原型存在。其次，还有以人为特征的虚假新闻检测平台，就像脸书和推特一样，需要人们参与，以确定特定内容是真是假。根据David Meg铆因此，这种集中式解决方案可能会受到“不同偏见”的影响，并鼓励审查。他解释说：“我们认为，基于技术工具的客观评估可能是一个更好的选择，前提是用户在预评估的基础上对他们是否可以信任某些内容拥有最后决定权。”。
对于Meg铆因此，没有“单一的银弹”可以检测假新闻：相反，检测需要结合不同的工具进行。“这就是为什么我们选择探索信息隐藏（水印）、数字内容取证分析技术（在很大程度上基于信号处理）以及机器学习，”他指出。
自动验证多媒体文件
数字水印包括数据隐藏领域的一系列技术，这些技术将不可感知的信息嵌入到原始文件中，以便能够“轻松、自动”验证多媒体文件。“它可以用来表明内容的合法性，例如，确认一段视频或照片已由官方新闻机构发布，也可以用作身份验证标记，在修改内容时会将其删除，或者跟踪数据的来源。换句话说，它可以判断信息的来源（例如推特帐户）正在传播虚假内容，”梅格解释道铆像
数字内容取证分析技术
该项目将把水印的开发与数字内容取证分析技术的应用结合起来。目标是利用信号处理技术来检测在创建或修改任何视听文件时使用的设备和程序所产生的固有失真。这些过程会引起一系列变化，如传感器噪声或光学畸变，这些变化可以通过机器学习模型检测出来。梅格表示：“我们的想法是，与使用单一解决方案相比，所有这些工具的结合可以改善结果。”铆像
对加泰罗尼亚、波兰和日本用户的研究
“异类”的一个关键特征是其“整体”方法和“围绕假新闻的感知和文化成分”的集合考虑到这一点，将开展不同的以用户为中心的研究，并将其分为不同的阶段。“首先，我们想了解用户是如何与新闻互动的，他们感兴趣的是什么，他们使用什么媒体，这取决于他们的兴趣，他们使用什么作为基础来识别某些内容为虚假新闻，以及他们准备做些什么来检查其真实性。如果我们能够识别这些内容，我们设计的技术工具将更容易帮助防止虚假新闻的传播。”“假新闻，”梅格解释道铆像
在加泰罗尼亚、波兰和日本的用户群体研究中，这些观念将在不同的地方和文化背景下被扼杀，以便在设计解决方案时融入他们的特质。“这一点很重要，因为例如，每个国家都有政府和/或公共当局，其可信度或多或少。这对新闻的跟踪方式和对虚假新闻的支持产生了影响：如果我不相信当局的话，为什么我要关注来自这些来源的新闻？这可以在2019冠状病毒疾病危机期间看到：在世界卫生组织的国家CNSC研究员AndreaRosales说：“我对公共当局的信任度较低，对大流行和疫苗接种方面的建议和规则的尊重也较低。”。
易于使用和理解的产品
AndreaRosales说，在第二阶段，用户将参与设计该工具，以“确保产品受到欢迎、易于使用和理解”。David Meg补充道：“我们希望他们全程参与我们的工作，直到最终的原型制作完成，因为这将帮助我们更好地响应他们的需求和优先事项，并做其他解决方案无法做到的事情。”铆像
这种用户接受度可能会在未来成为一个因素，导致社交网络平台包括在该项目中开发的解决方案。David Meg总结道：“如果我们的实验取得成果，如果他们集成了这些技术，那就太好了。目前，我们很高兴有一个可以工作的原型和概念证明，这可以鼓励社交媒体平台在未来使用这些技术。”铆像
之前的研究发表在2021战神研讨会的特刊上。