王舒杨:我们与假的距离

“你们的新闻室开始用人工智能了吗?”

几天前在一场由YouTube举办的媒体活动上,来自不同国家的编辑和记者们互相打探。几乎就在谈话的同时,YouTube美国总部宣布正式推出“AI标签”,要求在YouTube平台上发布内容者,清楚披露人工智能生成的内容。

YouTube是在去年11月宣布这项计划,目的并非一刀切地禁用AI,而是仅针对“会被认为是逼真”的影音内容。根据官方说明,下来在YouTube平台上载视频时,如果具有以下三项中的一项,就须将视频标记为“有改动的内容”:使真实人物看起来说或做了他们并未说或做过的事;窜改真实事件或场景;生成逼真但不曾发生的场景。对于敏感或重大事件,YouTube也将进一步突出相关内容的AI标签,并对不规范或恶意造假的内容加以限制。

简言之,这是一场视频平台的“打假”,打击目标是所有以假乱真、无中生有的内容。

2024年是大选年,相信所有看过深度伪造技术做出的视频的人,都不难明白为什么YouTube要赶着推出这样的计划。不过,这项计划虽是好的开始,却是“防君子不防小人”的礼义之举。YouTube目前每天平均有300多万支视频上载,而它也只是全球多个大型视频平台中的一个。TikTok则每天平均有3000多万支短视频上载。

这当中,绝大部分是兢兢业业产出内容的独立创作者。正规新闻媒体并非完美,但在只有你想不到、没有你找不到的视频世界中,也是独善其身的一群。在新闻从业者、自媒体人忐忑地探讨如何负责任地利用AI的当儿,一些缺乏监管且无自我要求的创作者,早已利用这项技术博得眼球并获利满满。

不久前,一支假视频在TikTok上被疯狂转发:知名播客主罗根(Joe Rogan)的形象被AI深伪技术套上了假口型,透露美国政府在隐瞒一个天大的坏消息——彗星将撞上地球,世界末日即将到来。不要低估这样一个危言耸听、阴谋论类型的视频可以吸引的流量,而依靠平台算法,有流量就能变现。这支视频因为引发广泛关注,已被TikTok拿下。就在本月,TikTok也宣布将透过奖励机制支持优质内容,希望良币终能驱逐劣币。

副总理兼财政部长黄循财星期二在英语新闻台CNA的25周年晚宴上致辞时说,半真实和具误导性的内容日益泛滥,传播速度远胜过平淡无奇的真实。借力AI的虚假内容会越来越难应对,政府会尽力防范这些威胁,而这也凸显出媒体业者的重任。

在良币要靠良知的浮躁年代,打假需要更有杀伤力的武器。虚假的恶意信息可以从无到有,负责任的优质内容却不会从天而降。

掌管内容生死大权的科技巨擘,注重真实可信赖信息传播的政府和机构,可利用AI技术识别、管制滥用AI者,让科技实现“以子之矛攻子之盾”,助优质内容一臂之力。与此同时,媒体业者也要抵住诱惑,时刻铭记我们与假的距离如果缩小了,我们与恶也就不远了。

(作者是《联合早报》影音群主任)