新闻风向标AI造谣乱象“野蛮生长”AI表示很担忧

啃蝌蚕丝

近日，市民小赵遇到了一件烦心事儿。原来，平时酷爱上的赵妈妈在上看到一处特别“美”的地方，画面中晴朗的天空却下着大雨，柿子树上的每个枝条都结满火红火红的柿子，树下的小溪里竟然还游满了锦鲤！这种不符合逻辑的视频小赵一眼便知出自AI，赵妈妈却坚信不疑。小赵竟一时不知该怎么向妈妈解释如今“眼见也可能不为”了。首先我们要明白的是，AI作为一个工具，它的思想来源于海量的数据积累，它不会自己生产谣言，就像一本厚厚的字典不会自己说话、一把锋利的刀剑不会自己伤人一般。AI不是敌人，更不是罪魁祸首，其背后的黑手才是。事上，自从人工智能走入我们的生活后，利用AI造谣生事的现象就如井喷一般纷至沓来，就连AI自己都能举出一大堆例子来。那么AI技术是如何被用于造谣的呢又该怎么识别谣言笔者今天准备了几个问题，来采访一下AI――笔者：AI技术是如何被用于造谣的?AI：我被用于造谣的方式主要有以下种，一种是利用AI生成虚假内容，不法分子利用AI软件生成虚假文章、视频或图片，如虚构的灾害现场、不救援信息等，以吸引眼球和获取流量；第二种是嫁接际图片，将AI生成的虚假信息与际图片进行嫁接，使谣言更具迷惑性，难以辨别真伪；第种是选择关注话题制造谣言，我会选择并抓取大家关注的话题来制造络谣言，利用民的好奇心进行传播。笔者：作为AI，你对利用AI造谣的现象感到苦恼吗AI：哎呀，说话，利用AI造谣这种现象确让我挺担忧的。你知道吗，AI技术本来是用来帮助我们的，让生活变得更美好，但是现在却被一些人用来制造谣言，误导大家，甚至使用“AI换脸”进行诈，这真是太不应该了。我很担心大家会因此害怕AI，认为AI是制造、产生谣言的主要来源。笔者：作为AI，你觉得应如何抵制利用AI造谣现象AI：抵制AI造谣需多方努力，公众应保持警惕，不盲目相信和传播未经证的信息，核信息来源，选择权威、可信赖的媒体或机构作为信息来源，借助技术手段检测图片、视频等是否被篡改，举报和投诉造谣的内容，促使平台采取措施。平台要压主体责任，迅速识别并切断AI谣言的传播链、利益链，化涉及AI内容的流量分发和收益分成机制，压缩造谣牟利空间。相关监管部门要依法严厉打击制造虚假新闻的个人和机构，探索使用AI技术对抗AI谣言。看来，利用AI造谣现象不仅给公众带来了麻烦，就连“当事人”也很苦恼。其，为抵制这种现象，信部门早已展开一系列专项整治行动并出台相关管理办法“见招拆招”。9月14日，互联信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，其中提出，服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均应添加显著标识。也就是说，AI生成的图片、视频等信息从此与真影像划清界限。如此一来，络世界的真真假假便不再让人“云里雾里”。“我相信只要我们大家一起努力，提高警惕，不轻易相信未经证的信息，同时平台和相关监管部门也加强监管和打击力度，我们一定能够战胜这种利用AI造谣的现象，让络空间变得更加清朗和健康。”在和笔者对话中，AI说近年来AI发展迅猛，越来越多的行业受益于AI，并借助AI加速开拓全新领域，如人驾驶约车已经出现在城市街头。所以，如何用好AI才是关键。毫疑问，AI正越来越多地服务于我们的生活，让AI健康发展，而不是“野蛮生长”，给我们带来奇妙观感的同时，更带来良好的络生态，恢复“有图也有真相”，这是民和AI的共同诉求。

做这些简单的事情，也可以让agent开发播种下优质的基因，最终长成参天大树，成为行业的翘楚。通过API和SDK无缝接入企业微信、公众号、钉钉等渠道，助力企业低成本打造智能营销、客服与销售场景AI应用，解决大模型落地难题。https://www.betteryeah.com/agentstore