防不胜防的AI水军,比Deepfake还可怕
作者:admin浏览数:2020-08-05 16:10:22
萧箫 发自 凹非寺
量子位 报道 | 公众号 QbitAI
AI水军,到底长啥样?
这是一条微博下面的评论:
△图源微博@僵尸文学bot
其实这些评论的博主,从名字和语言风格来看,都 不是人,而是用AI生成的 僵尸号。
如果 GPT-3也成为 僵尸号活跃在我们的社交网络,还制造谣言,是不是很恐怖?
现实是,这样的事情正在发生。
相比于真实的流量,利用AI伪造成「水军」,用来在社交媒体上刷关注度和点赞量,显然性价比更高。
流量造假也罢了,如果「AI水军」在社交媒体上批量传播极具煽动性的假消息、假言论——
甚至欺骗过了你的妈妈,让她把炮制的假消息转发到了家人群……
△这批美国网络水军账号,基本都是机器人
但最新消息是,现在的「AI水军」,还可能足以影响2020年的美国总统选举。
美国总统,或许是AI选的
前段时间火爆的Deepfake,生成的以假乱真的图像及视频效果令人惊叹,一定程度上也导致了虚假视频和图像的大量传播。
甚至,研究人员在调查哪种类型的操纵活动可能威胁到2020美国总统选举时,AI产生的误导性视频言论 位居榜首。
此后,诸多社交平台不得不针对这些图像和视频出台了相关政策,以寻求自由表达和真实性之间的平衡。
Deepfake的视频图像伪造痕迹,或许有迹可循,但AI制造的「Textfake」却往往更加难以禁绝。
例如,在2016年美国总统选举时,就曾出现过大量文字版水军言论,如下图。
「惊爆!米歇尔奥巴马竟是男人!」
「重磅!奥巴马是穆斯林!」
「震惊!种族主义者希拉里践踏黑人!」
……
这些虚假消息往往根据真实信息改编,因此更具有迷惑和煽动性。
据悉,2019年末,Facebook关闭了来自美国和越南的610个账号、89个专页和156个群主,其中专页的关注者约有 5500万。
这其中,一些账号使用了AI生成并伪装成美国公民的个人资料图片,并用来发布虚假消息,支持特朗普。
或者,攻击特朗普的竞争对手。
想象一下,如果你是一名无倾向的美国选民,看见社交媒体上的「人」都在一边倒地支持某个候选人,你会怎么选择?
而AI伪造虚假信息的能力,也正随着AI技术的不断发展「进步升级」。
和你说话的「人」,也许是GPT-3
例如,最近大火的 GPT-3,文本信息生成的能力就备受瞩目。
与Deepfake不同的是,这种「Textfake」生成的文本内容,相比图片和视频,虚假信息往往也更隐蔽。
想象一下,GPT-3可以学习某个人的语言风格,甚至能扮演成那个人和你对话。
如果AI没有犯低级错误的话,你甚至可能判断不出来他的真假。
而且,即使有低级错误,研究人员表示,GPT-3也能通过微调来及时改正。
是不是有点细思极恐?
不可否认的是,各种AI水军的出现,正在让网路两端的信任不断降低。
随着AI检测变得越来越困难,我们可能也更难信任网上所看到的内容。
但这不意味着,我们就要否认一切来自网上的消息,在了解过真实情况后,最重要的还是拥有自己的判别能力。
毕竟,早些年的背背佳和小罐茶,也不是AI制造出来的假消息 (狗头)。
了解真实,洞鉴是非
其实最重要的是,人们要对潜在的假新闻、假消息有一个自我判断的能力。
毕竟,AI水军泛滥的情况,一定程度上也反映出,人们对AI造假的能力亟待重视。
预防的第一步,是人们必须对AI造假的真实情况有一个了解。
如果知道了社交媒体上有高仿机器人,那么人们在被煽动前,也许会冷静下来,去判断是非。
与其根据某条消息的「传播度」去判断它的真实性,更应该从事实出发进行评估。
— 完—
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。
报名 |「隐私计算+AI」技术直播
不了解任何隐私AI技术的情况下,开发者怎样做到只改动两三行代码,就将现有AI代码转换为具备数据隐私保护功能的程序?
8月6号, 中科院软件研究所博士、矩阵元算法科学家--谢翔将直播解析,加小助手“qbitbot9”或者直接扫码,即可进入直播交流群:
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「在看」吧 !
热门评论