学做土建资料员的网站,Git page wordpress,百度搜索优化怎么做,返利网站开发代码随着生成式 AI 图像工具的快速发展#xff0c;网络上越来越多的图像真假难辨。尽管已有技术能够区分真实照片和 AI 伪造图片#xff0c;但大多数在线平台尚未充分利用这一技术。随着美国总统大选临近#xff0c;网络上充斥着关于候选人唐纳德特朗普和卡玛拉哈里斯的各种照片…
随着生成式 AI 图像工具的快速发展网络上越来越多的图像真假难辨。尽管已有技术能够区分真实照片和 AI 伪造图片但大多数在线平台尚未充分利用这一技术。随着美国总统大选临近网络上充斥着关于候选人唐纳德·特朗普和卡玛拉·哈里斯的各种照片——从震撼的刺杀未遂场景到毫无特色的集会人群照片再到令人惊讶的候选人焚烧国旗或持枪的照片。这些图像中有些并非真实发生的事件但生成式 AI 图像工具现在已经变得如此娴熟和易用以至于我们不再能完全相信自己的眼睛了。
为了解决这一问题一些数字媒体巨头正在寻求技术方案他们的答案是通过增加数据特别是附加在照片上的元数据来告诉用户哪些图像是真实的哪些是伪造的伪造是如何发生的。其中C2PA内容溯源与认证联盟认证系统是最为知名的解决方案之一已经得到了微软、Adobe、Arm、OpenAI、英特尔、Truepic 和谷歌等公司的支持。这一技术标准通过提供图像来源的关键信息帮助用户识别图像是否被篡改。
C2PA 的指导委员会成员安迪·帕森斯表示“像内容凭证这样的溯源技术就像数字内容的营养标签通过为官方活动照片和其他内容提供可验证的元数据如日期和时间或标注是否使用了 AI提供了一种有前景的解决方案。这种透明度可以帮助消除疑虑特别是在突发新闻和选举周期中。”
然而尽管验证图像所需的所有信息都可以嵌入到文件中但目前这些信息并未被广泛应用。用户在网上看到的照片中几乎没有“已验证”的标志。问题的根源在于互操作性。尽管该系统的技术标准已经成熟但在实际应用中仍存在巨大的差距且需要数年时间才能让所有参与者加入进来。如果无法让各方达成一致这一倡议可能会面临失败的风险。
C2PA 是试图解决这一混乱局面的最大组织之一同时 Adobe 在 2019 年启动的内容真实性计划也在其中。这一技术标准通过加密的数字签名来验证数字媒体的真实性已经建立起来。然而对于那些在网上偶然看到可疑图像的普通用户来说这些进展仍然难以接触到。
帕森斯指出“我们仍然处于技术采用的早期阶段。标准已经定型它是稳固的并且经过了安全专家的审核。虽然实施的案例还不多但这是标准被广泛采用的自然过程。”
图像真实性问题的根源往往从拍摄设备开始。部分相机品牌如索尼和徕卡已经基于 C2PA 的开放技术标准在拍摄照片时嵌入了加密的数字签名这些签名提供了诸如相机设置、拍摄日期和位置等信息。然而目前只有少数几款相机支持这一功能既包括如徕卡 M11-P 这样的新型号也包括通过固件更新支持的现有型号如索尼的 Alpha 1、Alpha 7S III 和 Alpha 7 IV。其他品牌如尼康和佳能虽然也承诺采用 C2PA 标准但多数尚未采取实际行动。对于普通用户来说最常用的相机是智能手机而智能手机在这方面也缺乏支持。苹果和谷歌都没有回应是否会在 iPhone 或 Android 设备中实施 C2PA 支持或类似标准的询问。
即便相机本身没有记录这些重要数据编辑软件仍可以在后期处理中应用这些信息。像 Adobe 的 Photoshop 和 Lightroom 这样的图像编辑软件能够以 C2PA 支持的内容凭证形式自动嵌入这些元数据内容凭证可以记录图像是如何以及何时被修改的这包括任何生成式 AI 工具的使用从而帮助识别被错误篡改的图像。
然而问题在于目前许多图像编辑应用程序如 Affinity Photo 和 GIMP并不支持能够解决真实性问题的统一、可互操作的元数据解决方案。部分软件社区成员表达了希望这些软件支持此功能的意愿这可能会使这一问题得到更多关注。流行的专业摄影软件 Capture One 的开发者表示他们“致力于支持受 AI 影响的摄影师”并“正在研究包括 C2PA 在内的可追溯性功能”。
即便相机支持真实性数据这些数据也不总是传递给用户。例如用 C2PA 兼容的索尼相机拍摄了特朗普在刺杀未遂事件后握拳的那张标志性照片以及一张似乎捕捉到飞行中的子弹的照片。然而这些元数据信息并未广泛向公众公开因为这些图像传播的平台如 X前推特和 Reddit在上传和发布图像时不显示这些信息。即便是支持这一标准的媒体网站在使用这些数据验证照片后也没有明显标注验证凭证。
除了让平台加入之外如何将这些信息以最佳方式呈现给用户也是一大障碍。Facebook 和 Instagram 是检查内容是否包含 C2PA 标准标记的两个最大平台但它们只标记使用生成式 AI 工具篡改的图像并未为“真实”图像提供验证信息。
这种标签不清晰时也可能引发问题。Meta 的“AI 制作”标签在过于广泛应用时引发了摄影师的不满因为它们似乎甚至覆盖了微小的修饰。这些标签随后被更新以弱化对 AI 的突出强调。Meta 表示它认为“内容凭证的广泛采用”对于建立信任至关重要。
C2PA 的另一成员、真实性基础设施提供商 Truepic 表示这些数字标记中存在足够的信息可以提供比目前平台更多的细节。Truepic 的首席沟通官穆尼尔·易卜拉欣表示“架构已经在那里了但我们需要研究一种最佳方式来展示这些视觉指标以便互联网用户能够实际看到并使用它们做出更好的决定而不仅仅是简单地说某个图像要么完全生成式 AI要么完全是真实的。”
这一计划的关键之一是让在线平台采用这一标准。X前推特因传播虚假信息而面临监管审查但它并未加入 C2PA 倡议也没有提供其他替代方案。然而X 的拥有者埃隆·马斯克似乎愿意支持这一标准。在 2023 年 AI 安全峰会上帕森斯向马斯克提出这一建议时马斯克表示“这听起来是个好主意我们应该做它。某种认证方式是好的。”
即便技术方面取得突破否认主义仍然是一个强大且可能难以克服的障碍。即使提供了记录和基于证据的信息如果人们选择忽视这些信息也无法阻止虚假信息的传播。正如特朗普支持者毫无根据地指责哈里斯伪造集会人群的例子一样尽管有广泛证据表明这些指控是错误的但一些人只相信他们想要相信的内容。
尽管如此使用加密标签系统可能是目前大规模识别真实、篡改和生成式 AI 内容的最佳方法。其他模式分析方法如在线 AI 检测服务往往不够可靠。易卜拉欣表示“检测技术充其量只是概率性的——我们不认为你会得到一个可以在任何图像、视频或数字内容上实时且大规模提供 99.99% 准确率的检测机制。虽然水印技术可能是强大且有效的但在我们看来它不具备互操作性。”
尽管 C2PA 标准提供了更健全的选择但仍然存在局限性。例如图像元数据可以通过截屏轻易被去除目前对此没有解决方案。其有效性还取决于有多少平台和产品支持这一标准。
易卜拉欣总结道“没有任何系统是万能的。它可以减轻风险但坏人总会存在并使用生成工具来试图欺骗他人。”
