芒果文学免费提供海量的短文学、文学名著、散文、诗歌、句子等文学作品及唯美图片！
利用生成式人工智能制造的虚假图片、音频和视频信息等“深度伪造”内容正在快速传播，被用来骚扰他人、诈骗金钱，甚至干扰选举。
英国《新科学家》网站近日报道，美国OpenAI公司的文本—视频模型Sora横空出世，让人们能更快捷、更廉价地制作出视频，事实与虚构的分界线也愈加模糊，进一步加剧了人们对“深度伪造”内容的忧虑，担心其引发虚假和错误信息泛滥。如何预防和阻止“深度伪造”内容误导大众，已成为摆在各国政府和科技巨头面前的重大难题。
图片来源：视觉中国
“深度伪造”愈演愈烈
2014年，随着生成对抗网络的发展，第一波“深度伪造”内容开始获得关注。生成对抗网络是一种让AI模型相互对抗的技术，这种技术不断发展，可逐步提高虚假图片的真实性。但这一代“深度伪造”内容制造不仅费时，而且需要创作者具备AI方面的技术专长。
美国纽约州立大学布法罗分校计算机与电子工程系教授吕思伟指出，在这段时间，制作一段30秒的视频通常需要数周的数字后处理工作和大量计算能力。尽管如此，视频的真实性仍差强人意。
但在过去两年间，新型AI技术的快速商业化使“深度伪造”内容很容易大批量生产。任何具备文本编写能力的人，都可使用DALL-E、Stable Diffusion等工具，在几秒钟内创建出图像。还有一些工具，能让用户通过上传或录制音频样本来克隆语音。
有研究发现，2023年网上有超过9.5万个“深度伪造”视频，比2019年增长了550%。有研究显示，以对特定受众造成冲击力为目的的虚假信息传播非常容易，速度可达真实信息传播速度的6倍。
虚假视频影响选举
“深度伪造”内容也通过错误信息和虚假信息对选举构成越来越大的威胁，使选举更加复杂化。
去年2月，美国芝加哥市长初选前夕，社交媒体上流传一个模仿候选人保罗·瓦拉斯的声音发表不实陈述的视频，声称“警察可随意射杀嫌疑人”，并呼吁削减警察预算。在瓦拉斯向社交媒体平台发出投诉之后，社交媒体删除了这段视频，但该视频在下架前已经被浏览了数千次。
今年1月底，新罕布什尔州检察长办公室发布一份声明称，一项机器人电话活动使用了由“深度伪造”技术制作的模仿拜登总统的声音，敦促人们不要在该州1月23日的总统初选中投票。该事件迅速在美国引起了广泛关注，并激发了关于AI“深度伪造”对大选可能产生影响的讨论。
去年11月发布的一份民调结果显示，在2023年10月参与调查的美国成年人中，有58%的人认为“AI将对2024年美国大选造成影响”，这一数字较2022年8月增长了5个百分点。此外，英国、印度、尼日利亚、苏丹、埃塞俄比亚和斯洛伐克等国去年都发现了据称利用AI制作并在网络上传播的虚假政客视频。
亟待采取措施加强监管
《新科学家》网站在报道中指出，很多人已经感受到了“深度伪造”可能带来的巨大影响，但眼下的预防措施还很不够。
欧盟的《数字服务法》要求科技平台识别和标记AI生成的内容，美国也正在制订类似的标准。此外，目前已有多个国家以及美国至少有6个州将创建或传播有害的“深度伪造”内容确定为非法行为。
科技平台需要承担起阻止“深度伪造”浪潮继续奔涌的最大责任。据《金融时报》报道，亚马逊、谷歌、元宇宙平台、微软、TikTok和OpenAI等20家科技公司2月16日在慕尼黑安全会议期间表示，将共同努力打击旨在误导选民的内容制作和传播，并针对这些内容以“迅速和适当”的方式采取行动。比如，在图片中添加水印，以明确其来源以及是否曾被篡改。
目前，科技行业已经采用了“内容来源和真实性联盟”的标准，该标准将用数字内容的来源和创建者的信息对数字内容进行编码。今年2月初，元宇宙平台公司宣布将在其社交媒体平台上标记AI生成的图像；谷歌公司表示将为其生成式AI工具集成C2PA水印系统，OpenAI也作出了类似承诺。
不过，有专家指出，添加水印的方式可能会有所帮助，但它们并不能阻止不怀好意者使用开源AI工具，也没有解决那些饱受“深度伪造”影响的人保护其隐私权的问题。
发布时间：2024-02-28 10:03
上述文字是💠《给“深度伪造”这匹“野马”拴上缰绳》✨的美文内容，大家如想要阅读更多的短文学、文学名著、精品散文、诗歌等作品，请点击本站其他文章进行赏析。
版权声明：本文由互联网用户自发贡献，该文仅代表作者观点。芒果文学仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件进行举报，一经核实本站将立刻删除。
为数据供需方搭建交流平台、赋能企业国际商业决策，7月11日，上海数据交易所举办DSM系列全球商业信用风险管理专题对接会。本次活动参与企业包含邓白氏、商安信(3ACredit)、中国经济...
很简单，之前我也问过，最终经过试验证明：1口杯（白矾水）:1（快捷旅店的小块香皂）:1勺（洗洁灵），装瓶里搅拌均即可，别调太稠就好，稀点。有效地 最好放置1-2天再用更佳。...
导读：弥生是什么意思？下面小编为大家整理推荐。1、弥生是日本的一种文化，弥生文化是由发现弥生式陶器的东京都文京区弥生町而得名弥生时代。2、中国和日本是一衣带水的邻...
导读：我家孩子今年6岁，总是用发脾气，哭闹来解决问题，很多要求一旦没有满足他，他就会大闹哭了起来，这时候不管家长怎么说，他都不会停止。不管是在幼儿园还是在家，都得让...
3600m³/h=1m³/s 1L/h=0.001m3/h 1立方米/小时＝1000升/3600秒≈0.28升/秒 1立方厘米/秒 =3600/10^6m^3/h =3.6×10^-3m^3/h 1升每秒＝0.001x3600=3.6立方米/小时...
怎么给关注转转号发私信息 不知道你说的聊天是什么，如果你是想找你的微信好友的话，你可以直接在关注某个人嘛，然后就可以跟别人聊天了。不过我觉得转转app他是一个二手平台，...
本篇文章给大家谈谈排骨需要焯水吗,以及蒸排骨需要焯水吗对应的知识点，希望对各位有所帮助，不要忘了收藏本站！ 内容导航： 排骨要焯水吗 排骨要焯水吗? 排骨需要焯水吗？ 排骨...
在常温下，也就是温度20-25度的环境下避光阴凉保存，每次用完后及时密封的话，可以用半年左右。如果开封后的放入冰箱冷藏室保存，可以延长其食用时间，能用一年左右。 味极鲜的...
综合国度统计局、国度信息中心、海关总署焖大虾是哪里的菜、行业协会等权势巨子部分发布的统计信息和统计数据，糅合各类年鉴信息数据、财经媒体信息数据、商用数据库信息数据...
财政部国库司司长李先忠9月20日在国务院政策例行吹风会上表示，今年以来，我国经济从过去几年疫情影响中逐步恢复，总体上呈回升向好态势。但是一些地方经济发展后劲不足，财政...
本篇文章给大家谈谈煲什么汤补肾,以及枸杞煲什么汤补肾对应的知识点，希望对各位有所帮助，不要忘了收藏本站！ 内容导航： 男人炖什么汤补肾壮阳 什么汤补肾最好 补肾汤的做法...
1.58同城上找的演艺吧走秀工作,对方说无需交任何费用就可以上班的, 58同城的 *** 信息即使不交费也不靠谱。 只要是58同城上的 *** 都不靠谱。58同城网站成了流氓诈骗网站，它的 *** 信...
沧州市东光县可以考单招，单招一般是学校统一报名的，也会有部分是学生自己网上报名。单招和自主招生其根本性质一样，只是面对的招生对象不同，不管是考生考哪个类别，需要符...
第一运程：属鼠人2019年每月运势 属鼠人在2019年的运势总体还是很不错的，不过一开始并没有多么的顺利，在感情以及工作上面都会遭遇一些难题，需要花费许多的时间和精力在上面，...
11月23日，由中国证券报、南通市人民政府联合主办的2023上市公司高质量发展论坛暨第25届上市公司金牛奖颁奖典礼在江苏南通隆重举行，备受瞩目的上市公司金牛奖榜单正式揭晓。万通...
PWM调光频率是很多手机都会搭载的一项功能，而PWM调光频率会根据数据值的不同，在手机屏幕上呈现不同的性能，为用户带来不同程度的护眼功能，而荣耀Magic5作为一款新型机号，它所...