为了提高透明度，Meta 周二宣布计划开始识别和标记其他公司人工智能服务创建的图像。 Meta 的最高政策执行官概述了这一举措，包括在未来几个月内将隐形标记整合到这些图像中。

Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 在一篇博文中表示，这些标记将应用于 Meta 平台上共享的内容，包括 Facebook、Instagram 和 Threads，以提醒用户这些图像（通常类似于真实照片）实际上是数字化的。生成的。

“随着人类内容和合成内容之间的区别变得模糊，人们想知道边界在哪里。人们经常第一次遇到人工智能生成的内容，我们的用户告诉我们，他们欣赏这项新技术的透明度。因此，我们必须帮助人们了解他们所看到的逼真内容何时是使用人工智能创建的，这一点非常重要。我们通过将“用 AI 想象”标签应用到使用我们的 Meta AI 功能创建的逼真图像来实现这一点，但我们也希望能够对使用其他公司的工具创建的内容执行此操作，”克莱格说。

Meta 已经将标签应用于使用自己的人工智能工具生成的内容，现在它计划将其扩展到使用 OpenAI、微软、Adobe、Midjourney、Shutterstock 和 Alphabet 旗下的谷歌等其他公司的服务创建的图像。

克莱格补充说，Meta 一直在与行业合作伙伴合作，建立通用技术标准，指示何时使用人工智能生成内容。检测这些信号将使我们能够标记用户在 Facebook、Instagram 和 Threads 上上传的人工智能生成的图像。

“这就是为什么我们一直与行业合作伙伴合作，制定通用技术标准，这些标准在使用人工智能创建内容时发出信号。能够检测到这些信号将使我们能够标记用户发布到 Facebook、Instagram 和 Threads 上的人工智能生成的图像。”

Meta 表示，目前正在开发这项新功能，在接下来的几个月内，它将开始为每个应用程序应用所有支持语言的标签。我们计划在明年继续实施这一方法，特别是在重要的全球选举期间。这一时期将为人们如何创建和共享人工智能生成的内容、用户喜欢什么程度的透明度以及这些技术如何进步提供宝贵的见解。我们的研究结果将有助于行业最佳实践并指导我们未来的战略。

这一公告揭示了科技公司正在开发的不断发展的标准体系，以解决与生成人工智能技术相关的潜在风险。这些技术可以根据简单的提示生成虚假但令人信服的内容。

这种方法借鉴了一些公司在过去十年中建立的框架，以协调删除各个平台上的禁止内容，包括描述暴力和剥削的内容。

在接受路透社采访时，克莱格表示对公司可靠地标记人工智能生成的图像的能力充满信心，尽管他承认标记音频和视频内容带来了更大的挑战并且仍在开发中。

克莱格表示：“尽管这项技术尚未完全成熟，特别是在音频和视频方面，但我们希望能够为行业其他公司创造一种动力和动力，让他们效仿。”

虽然音频和视频技术尚未完全成熟，但克莱格希望创造动力并鼓励行业效仿。

与此同时，Meta 计划要求个人对自己修改过的音频和视频内容进行标记，并对违规行为进行处罚。不过，这些处罚的具体细节并未披露。

Clegg 指出，缺乏可行的方法来标记 ChatGPT 等人工智能工具生成的文本，并表示这个问题已经得到解决。

至于 Meta 的加密消息服务 WhatsApp，目前尚不清楚该公司是否会对平台上共享的生成人工智能内容应用标签。

Meta 的独立监督委员会最近批评了该公司关于误导性篡改视频的政策，主张标记而不是删除。克莱格承认这些批评的正确性，表明鉴于合成和混合内容的激增，Meta 当前的政策是不够的。

他还引用新的标签举措作为 Meta 与董事会建议保持一致的证据，标志着朝着解决这些问题迈出了一步。

与此同时，Meta 并不是第一家尝试标记人工智能生成图像的公司。去年年初，热门 ChatGPT 的制造商还推出了一款免费的人工智能生成内容检测工具，但由于准确率较低而于 2023 年 7 月 20 日被关闭。人工智能生成的内容检测工具称为人工智能分类器，于一月份推出，旨在帮助教育工作者、记者和研究人员检测人工智能生成的内容。

“自 2023 年 7 月 20 日起，AI 分类器由于准确率较低而不再可用。我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”前面介绍了AI分类器。