SynthID

SynthID 是 DeepMind 开发的一项技术，旨在帮助识别由人工智能生成的内容。这项技术通过在内容中嵌入一个数字水印来实现，这个水印对人类是不可见的，但可以被用于识别。SynthID 并不是解决错误信息或错误归属问题的万能钥匙，但它提供了一套有前景的技术解决方案来应对这一紧迫的人工智能安全问题。

SynthID 的工作原理涉及使用深度学习模型和算法来嵌入和识别 AI 生成的内容。它包括两个主要部分：水印嵌入和识别。

1. 水印嵌入：SynthID 将数字水印直接嵌入到 AI 生成的内容中，而不损害原始内容。

2. 识别：SynthID 可以扫描图像、音频、文本或视频，以寻找数字水印，帮助用户确定内容或其部分是否由 Google 的 AI 工具生成。

对于AI 生成的文本，SynthID 通过调整预测的词汇概率分数来嵌入水印，而不损害文本的质量、准确性和创造性输出。这种方法可以用于至少三句话的文本，并且随着文本长度的增加，SynthID 的鲁棒性和准确性也会提高。

对于AI 生成的音乐，SynthID 通过将其嵌入到音频波形中来实现。它将音频波形转换为频谱图，将水印添加到频谱图中，然后再转换回波形。水印对许多常见的修改（如添加噪声、MP3压缩或加快和减慢音轨速度）都是稳健的。

对于AI 生成的图像和视频，SynthID 将数字水印直接添加到 AI 生成的图像的像素中，或添加到 AI 生成的视频的每一帧中。水印设计得不会影响图像或视频的质量，并且即使在诸如裁剪、添加滤镜、改变颜色、改变帧率和使用各种有损压缩方案保存后，水印仍然可以被检测到。

SynthID 技术目前可供使用 Vertex AI 的文本到图像模型的客户使用，例如 Imagen 3 和 Imagen 2，这些模型可以创建各种艺术风格的高质量图像。SynthID 技术也正在为 ImageFX 上的图像输出添加水印。此外，SynthID 已集成到 Veo 视频生成模型中，这是迄今为止最强大的视频生成模型，可供 VideoFX 上的选定创作者使用。

用户还可以通过搜索或 Chrome 中的“关于此图片”功能，扫描单个图像或视频的单独帧来检测数字水印，以识别图像或其部分是否由 Google 的 AI 工具生成。