防堵AI深伪诈骗！谷歌搜索结果将标注由AI生成的图像

防堵AI深伪诈骗！谷歌搜索结果将标注由AI生成的图像

谷歌周二表示，计划对谷歌搜索进行调整，使用户更清楚地知道搜索结果中，哪些图像是由 AI 生成或由 AI 工具编辑的。

该公司表示，在接下来的几个月中，谷歌将在搜索、Google Lens 和 Android 上的 Circle to Search 功能的 " 关于此图像 " 窗口中标记 AI 生成和编辑的图像，类似的提示可能会出现在 YouTube 等其他谷歌的其他平台上。谷歌表示，将在今年晚些时候分享更多相关信息。

值得注意的是，只有包含 "C2PA 元数据 " 的图像才会在搜索中被标记为 AI 处理过的。C2PA（内容来源与真实性联盟）是一群致力于制定技术标准的组织，旨在追踪图像的历史，包括捕获和 / 或创建图像的设备和软件。

目前，包括谷歌、亚马逊、微软、OpenAI 和 Adobe 在内的公司都支持 C2PA。然而，该联盟的标准尚未得到广泛采用。此前有媒体报道，C2PA 在推广和互操作性方面面临诸多挑战，目前只有少数生成式 AI 工具和徕卡、索尼的相机支持该组织的规范。

此外，与任何元数据一样，C2PA 元数据可以被删除、擦除或损坏到无法读取的程度。而一些流行的生成式 AI 工具（如 xAI 的 Grok 聊天机器人用于图像生成的 Flux）生成的图像不含 C2PA 元数据，部分原因是它们的开发者尚未同意支持该标准。

但分析认为，尽管如此，有措施总比没有好，尤其是在 AI 深度伪造（deepfakes）迅速传播的情况下。调查显示，大多数人都担心被深度伪造欺骗，以及 AI 可能会助长虚假宣传的传播。根据一项估计，涉及 AI 生成内容的骗局在 2025 年到 2024 年之间增长了 245%。德勤预计，与深度伪造相关的损失将从 2025 年的 123 亿美元飙升至 2027 年的 400 亿美元。