大河网
编者按:AI作为一个智能工具,它的思想来源于海量的数据积累,它不会主动生产谣言,但会被人利用。那么AI技术是怎么被利用造谣的呢?又该怎么识别谣言?今日,笔者与AI进行对话,看看AI怎么说。
近日,市民小赵遇到了一件烦心事儿。原来,平时酷爱上网的赵妈妈在网上看到一处特别“美”的地方,画面中晴朗的天空却下着大雨,柿子树上的每个枝条都结满火红火红的柿子,树下的小溪里竟然还游满了锦鲤!这种不符合逻辑的视频小赵一眼便知出自AI,赵妈妈却坚信不疑。小赵竟一时不知该怎么向妈妈解释如今“眼见也可能不为实”了。
首先我们要明白的是,AI作为一个工具,它的思想来源于海量的数据积累,它不会自己生产谣言,就像一本厚厚的字典不会自己说话、一把锋利的刀剑不会自己伤人一般。AI不是敌人,更不是罪魁祸首,其背后的黑手才是。
事实上,自从人工智能走入我们的生活后,利用AI造谣生事的现象就如井喷一般纷至沓来,就连AI自己都能举出一大堆例子来。那么AI技术是如何被用于造谣的呢?又该怎么识别谣言?笔者今天准备了几个问题,来采访一下AI——
笔者:AI技术是如何被用于造谣的?
AI:我被用于造谣的方式主要有以下三种,一种是利用AI生成虚假内容,不法分子利用AI软件生成虚假文章、视频或图片,如虚构的灾害现场、不实救援信息等,以吸引眼球和获取流量;第二种是嫁接实际图片,将AI生成的虚假信息与实际图片进行嫁接,使谣言更具迷惑性,难以辨别真伪;第三种是选择关注话题制造谣言,我会选择并抓取大家关注的话题来制造网络谣言,利用网民的好奇心进行传播。
笔者:作为AI,你对利用AI造谣的现象感到苦恼吗?
AI:哎呀,说实话,利用AI造谣这种现象确实让我挺担忧的。你知道吗,AI技术本来是用来帮助我们的,让生活变得更美好,但是现在却被一些人用来制造谣言,误导大家,甚至使用“AI换脸”进行诈骗,这真是太不应该了。我很担心大家会因此害怕AI,认为AI是制造、产生谣言的主要来源。
笔者:作为AI,你觉得应如何抵制利用AI造谣现象?
AI:抵制AI造谣需多方努力,公众应保持警惕,不盲目相信和传播未经证实的信息,核实信息来源,选择权威、可信赖的媒体或机构作为信息来源,借助技术手段检测图片、视频等是否被篡改,举报和投诉涉嫌造谣的内容,促使平台采取措施。平台要压实主体责任,迅速识别并切断AI谣言的传播链、利益链,优化涉及AI内容的流量分发和收益分成机制,压缩造谣牟利空间。相关监管部门要依法严厉打击制造虚假新闻的个人和机构,探索使用AI技术对抗AI谣言。
看来,利用AI造谣现象不仅给公众带来了麻烦,就连“当事人”也很苦恼。其实,为抵制这种现象,网信部门早已展开一系列专项整治行动并出台相关管理办法“见招拆招”。9月14日,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,其中提出,服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应添加显著标识。也就是说,AI生成的图片、视频等信息从此与真实影像划清界限。如此一来,网络世界的真真假假便不再让人“云里雾里”。
“我相信只要我们大家一起努力,提高警惕,不轻易相信未经证实的信息,同时平台和相关监管部门也加强监管和打击力度,我们一定能够战胜这种利用AI造谣的现象,让网络空间变得更加清朗和健康。”在和笔者对话中,AI说近年来AI发展迅猛,越来越多的行业受益于AI,并借助AI加速开拓全新领域,如无人驾驶网约车已经出现在城市街头。所以,如何用好AI才是关键。
毫无疑问,AI正越来越多地服务于我们的生活,让AI健康发展,而不是“野蛮生长”,给我们带来奇妙观感的同时,更带来良好的网络生态,恢复“有图也有真相”,这是网民和AI的共同诉求。(大河网河声评论员 刘思嘉)