2024-04-06 11:56

元标记ai生成的内容

me<em></em>ta to flag AI-generated content

科技巨头meta宣布,将从5月起开始在Facebook和Instagram上标记人工智能生成的内容。到目前为止,该公司的政策是删除这类电脑制作的内容。

该公司在周五的一篇博客文章中解释说,该公司将在用人工智能创建的照片、音频或视频内容上贴上“人工智能制造”的标签。当meta检测到人工智能内容的“行业共享信号”时,或者当用户自愿披露他们发布的内容是由人工智能创建的时,这些标签将自动应用。

梅塔说,如果有问题的内容“在重要问题上具有特别高的实质性欺骗公众的风险”,则可能会使用更明显的标签。

目前,meta的“操纵媒体”政策只涵盖“由人工智能创建或修改的视频,使一个人看起来说了一些他们没有说过的话”。违反此政策的内容将被删除而不是标记。

新政策将这一范围扩大到显示某人“做了他们没有做的事情”的视频,以及照片和音频。然而,它比旧的方法更宽松,因为有问题的内容将被允许留在网上。

新政策将这一范围扩大到显示某人“做了他们没有做的事情”的视频,以及照片和音频。然而,它比旧的方法更宽松,因为有问题的内容将被允许留在网上。

该公司解释说:“我们的媒体政策是在2020年制定的,当时现实的人工智能生成的内容很少见,人们最关心的是视频。”“在过去的四年里,尤其是去年,人们开发了其他类型的逼真的人工智能生成内容,比如音频和照片,这项技术正在迅速发展。”

自今年年初以来,美国监管机构宣布禁止人工智能生成的“机器人电话”,因为电脑生成的乔·拜登(Joe Biden)联系了新罕布什尔州的居民,敦促他们不要参加该州的民主党初选,而在流行歌手泰勒·斯威夫特(Taylor Swift)的假裸照在社交媒体上传播后,白宫承诺“处理”未经同意的色情问题。美国前总统唐纳德·特朗普也在这个问题上发表了看法,指责美国媒体使用人工智能让他在照片中显得更胖。

meta并不是唯一一家用标签对抗人工内容的大型科技公司。从去年开始,TikTok要求用户给自己的人工智能生成的内容贴上标签,同时让其他用户可以选择报告他们怀疑是人工智能生成的内容。YouTube上个月也推出了类似的荣誉系统。

随着欧盟6月和美国11月的关键选举,立法者已经敦促科技公司对人工智能创造的“深度造假”采取行动,他们认为这些“深度造假”可能被用来欺骗选民。今年早些时候,微软、meta和谷歌与其他十几家行业领导者一道承诺“帮助防止欺骗性人工智能内容干扰今年的全球选举”。

然而,TikTok和YouTube等使用荣誉系统的平台可能很快就会被迫采用meta的方法。根据明年夏天生效的欧盟《人工智能法案》的一项规定,科技公司将因未检测和识别人工智能创造的内容而被罚款,包括“为向公众通报公共利益事项而发布的文本”。