博客 时事热点 以AI技术排查“AI造谣”(锐评)

以AI技术排查“AI造谣”(锐评)

本文转自:河南日报

□江德斌

4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例。其中,广东公安机关查处编造“广州限制外卖配送”谣言案中,6人被采取刑事强制措施。除了“广州限制外卖配送”谣言案系人工智能(AI)生成外,公安部此次公布的10起典型案例中,还有3起案件涉及使用AI造谣。(据4月13日南报网)

在AI生成技术发布之后,以其强大的内容生产优势,迅速得到大众的认可,并在各个领域得到广泛应用。与之同时,“AI造谣”也不断涌现,一些人出于恶搞、牟利、引流等目的,肆意滥用AI生成技术,将其作为编造网络谣言的工具,制作、散播网络谣言,造成了恶劣的社会影响。从公安部此次发布的网络谣言典型案例看,10起案件里就有4起“AI造谣”,可见“AI造谣”已成气候,必须采取措施予以遏制。

防范“AI造谣”,并不是禁止AI技术,而是要制定规范标准,限制技术的使用范围,关键在于管住人。网络谣言呈现出爆发式、裂变式传播,瞬间就传遍全网,这是网络谣言非常突出的特点,也给辟谣带来了不便,需要跟时间赛跑,通过分析事实、澄清真相应对网络谣言,以降低网络谣言的负面影响。看似简单的造谣,核查成本却很高,尤其是用到了AI技术,令问题更为凸显,依靠传统打击手段,难免有些力不从心。

遏制“AI造谣”,需要借力打力,以AI技术克制“AI造谣”。无论“AI造谣”的水平有多高,其都是采用技术手段生成的,往往是对旧闻、网络素材、“投喂”材料的整理、篡改、编写,在逻辑性、完整性、真实性等方面存在瑕疵。因此,可以利用AI技术,对大量疑似“网络谣言”进行分析、查证,以高效辨识其真伪。同时,用AI技术拆解“AI造谣”,查溯制作源头,锁定造谣者。

监管部门还需制定AI生成技术的规范标准,要求技术服务商引入“数字水印”等防伪技术,明确在图片、视频等生成内容里添加不可篡改的“数字水印”,标注软件版本、创作者、时间、IP等要素,以便于技术识别内容真伪。同时,对“AI造谣”实施惩戒措施,如有多次使用AI生成技术造谣传谣,则可将其列入“黑名单”,在一段时间内禁止技术服务商、平台等为其提供服务,以限制其创作机会,视情节追究其法律责任。

本文来自网络。 授权转载请注明出处:http://dzdzw.com/blog/article/pid-1427.html

发表评论

(快捷键:Ctrl+Enter 或 Alt+Enter)
匿名评论时,请补充填写以下信息:
*以下联系方式请至少填写一种:

评论列表(0)

联系我们

联系我们

QQ:2686930

在线咨询: QQ交谈

邮箱: dwu365@126.com

手机访问
手机扫一扫打开网站

手机扫一扫打开网站

返回顶部