每日新闻网
网站首页 每日要闻头条快讯纪实现场专题报道社会热点就案说法海疆之声 成为会员
成为会员诗坛荟萃焦点网谈生态环境热点追踪群众来信乡村振兴企业风采监督与法名人字画人物·访谈关注民生人民视点文化·旅游科技前沿快闪中国深度观察名医·健康关于我们免责声明联系我们 人员查询
  • 浙江
  • 新疆
  • 内蒙古
  • 吉林
  • 重庆
  • 辽宁
  • 贵州
  • 四川
  • 海南
  • 云南
  • 福建
  • 台湾
  • 江西
  • 湖南
  • 湖北
  • 河南
  • 广西
  • 江苏
  • 安徽
  • 山东
  • 青海
  • 甘肃
  • 陕西
  • 山西
  • 河北
  • 黑龙江
  • 天津
  • 上海
  • 北京
  • 广东
  • 宁夏
  • 西藏
每日新闻网 > 科技前沿 > 生成式AI或致虚假信息野蛮生长

生成式AI或致虚假信息野蛮生长

来源:人民网 | 时间:2023-06-13 13:28:39 | 点击:6884

所谓“深度造假”技术,是一种利用AI将现有图像、音频或视频中的人物替换成他人的技术。一些经过操纵的图像、视频和音频等“深度造假”内容,曾经需要专业人士才能完成,但在生成式AI的加持下,现在很多人都能更容易地创建出来。

◎本报记者 刘 霞

生成式人工智能(AI)横空出世,可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称,超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出,AI的最新创新也提出了新的版权问题,即如何界定AI创建或使用的内容属于侵权还是合理使用等。

美国《福布斯》网站在6月9日的报道中指出,另一个令人担忧的问题已经浮出水面:生成式AI能被用于社交媒体上的虚假信息活动。虚假信息活动指蓄意制造和传播带有政治目的的谎言,这与一个人犯错误或说谎不同。虚假信息活动可使用各种策略,还可利用各种新技术、新媒体以及传统媒体来扩大分歧和煽动动乱。

美国塔尔萨大学网络安全教授约翰·希尔表示,众所周知,脸书、推特、TikTok等平台现在是信息战的前线,生成式AI“染指”这一领域既造成了新的危险,也放大了现有的危险。

“深度造假”:假作真时真亦假

2017年,当名为“深度造假”(Deepfake)的用户在互联网上首次发布合成视频时,也许不曾想到,他已经打开了“潘多拉魔盒”。随着“深度造假”技术在缺少监管的状态下野蛮生长,已逐渐危害经济和社会的稳定。

所谓“深度造假”技术,是一种利用AI将现有图像、音频或视频中的人物替换成他人的技术。一些经过操纵的图像、视频和音频等“深度造假”内容,曾经需要专业人士才能完成,但在生成式AI的加持下,现在很多人都能更容易地创建出来。

希尔指出,“深度造假”使别有用心之人可窃取或盗用他人的声音,将其嵌入图像或视频中,或者以无法检测的方式操纵或更改数字内容。这一切才刚刚开始,随着技术的不断进步,“深度造假”技术制作的内容与真实事物之间的差距会越来越小。而且,随着制作出“深度造假”内容变得越来越简单,社交媒体会随时向大众传播此类内容。

希尔强调称,随着这些“深度造假”内容在社交媒体平台上不受限制、不受管理地传播,将导致一场虚假信息运动,以影响、说服和误导他人或特定受众。随着相关技术的不断发展,未来可能会发生什么令人非常担忧。

侵蚀对政治选举的信任

《福布斯》杂志指出,生成式AI再加上“深度造假”,可能会给2024年美国总统选举带来真正可怕的后果。

美国公共广播服务网站在5月份的报道中指出,生成式AI不仅可快速生成有针对性的竞选电子邮件、文本或视频,还可能被用来误导选民、冒充候选人并以前所未有的规模和速度破坏选举,诽谤候选人,甚至煽动暴力。

中佛罗里达大学研究生院教授兼副院长提摩太·塞尔诺博士表示,AI制造出的“深度造假”内容看起来非常真实,即使对专家来说,确定它们的真实性也是一个挑战。

与此同时,选民们被AI捏造的视频淹没,如果社交媒体平台故意或错误地允许AI修改或生成的信息在其网络上逗留并肆意传播,选民对其信任度可能会进一步降低。美国网络安全公司预测,试图干预美国选举的团体将利用AI和合成媒体作为侵蚀信任的一种方式。

“内容认证”标准尚在制订

《福布斯》网站在报道中指出,生成式AI相关行业正在制订“内容认证”标准,使用户验证数字内容的来源,但开发和采纳这些标准还需要一些时间。

希尔指出,这是数字媒体发展的必经阶段,尽管如此,用户在浏览或使用社交媒体平台上的内容时,必须更加谨慎。此外,社交媒体网站应更积极地监管AI操纵的帖子。

AI提供了颠覆性进步的强大能力,但这种能力也必须被谨慎使用,以便更大程度发挥科技向善的力量。

(责编:王震、陈键)


【作者:】

文章评论
评论
全部评论
更多推荐

装修工干活受伤,雇主、业主、工人三方谁担责?

阅读提示  装修行业用工模式呈现灵活用工等特点,存在工人冒险作业、雇主安全保护缺位、业主选用无资质施工方等情况,容易让农民工陷入“雇主是谁”“谁来担责”的维权困局。对此,律师建议,业主尽量选择正规装修公司;工人要树立风险...

《沉默的荣耀》热播后 他墓前的鲜花摆了5米长

近期,总台电视剧《沉默的荣耀》热播,这也是国内首部基于在台隐蔽战线真实人物和故事创作的主题电视剧。吴石、朱枫、陈宝仓、聂曦等隐蔽战线的英雄的事迹引发了观众强烈共鸣。  剧集在两岸同时掀起观剧热潮,位于北京的吴石将军墓前,...

海南自贸区封关在即 今年海南出入境人员突破200万人次

随着海南自贸区封关在即和免签政策持续优化升级,当前已有86个国家可免签入境海南。据海口出入境边防检查总站统计,今年截至昨天(15日)16时,海南出入境人员已超过200万人次,同比增长22.4%。  目前,海南省可适用的免...

中国对稀土等相关物项实施出口管制,这7个事实必须厘清

  责任编辑:刘文欣 编辑:王玉西 责任编辑:刘亮

月满华诞 童贺双节——烟台市莱山区实验小学(山韵校区)开展假期学科实践活动

每日新闻网讯(李艳玲)金秋送爽,丹桂飘香。刚刚度过了一个特别又温馨的假期——举国同庆的国庆节与阖家团圆的中秋节美好相遇。为了让孩子们深刻感受“家”的温暖与“国”的荣耀,烟台市莱山区实验小学(山韵校区)特开展了以“月满华诞...

【社会主义核心价值观我践行】美育新风浸润烟台高新区:创新实践构建全民共享新格局

每日新闻网讯:(文图/吕本政 郭健)一场机器人互动展演,让孩子们触摸到人工智能的温度;一次社区职业教育体验,让市民亲手制作鲁菜、体验漆扇非遗技艺;这些,正是烟台高新区美育实践中的生动片段。2025年以来,烟台高新区以创新...

AI赋能新篇章 示范引领促成长——烟台市莱山区第一初级中学举办AI课堂示范课

每日新闻网讯(文图/吕本政 任海英 曹晏宁)为重塑教学形态,推动教师角色向引导者、创新者转型,近日,一场别开生面的AI赋能示范课在莱山区第一初级中学精彩上演,为师生呈现了一场技术与教育深度融合的智慧盛宴。课堂中,王婧老师...

浪潮(烟台)人工智能创新中心揭牌成立 构建人工智能“全链条赋能枢纽”

每日新闻网讯(文图吕本政)10月10日,浪潮(烟台)人工智能创新中心在烟台高新区创业大厦揭牌。烟台市大数据局、烟台高新区管委、浪潮云信息技术股份公司和烟台市大数据协会等有关单位负责同志出席活动。近年来,烟台市积极探索人工...

供销社党组织联动企业搭建“烘干保障线” 与时间赛跑全力守护秋粮

央视网消息:连日来,持续的连阴雨天气给秋收带来了严峻挑战。眼下,多地多措并举抢收抢烘,与时间赛跑,全力守护秋粮。  多机械协同 昼夜不停抢收  这两天,在江苏省徐州市丰县多个乡镇,农户们正与时间赛跑,趁着阴雨间歇期抢收成...

空气定制时代:大金“大数据+真人”双驱动,创造空气新价值

AI时代的到来,正悄然改变人们的生活方式。基于大数据的AI算法让很多场景都变得更快速、更高效。然而,这样是否就是我们追求的终极目标?近日,全球空气先驱大金发布全新“空气定制”战略,可根据不同空间、不同人群、不同心情打造“...

2023
06/13
13:28
浏览量: 6884
大字号
分享
今日热点
上海:受台风“康妮”外围环流影响 市民街头顶风行走

上海:受台风“康妮”外围环流影响 市民街头顶风行走

科技创新产业融合 武安市连翘产业插上腾飞翅膀

科技创新产业融合 武安市连翘产业插上腾飞翅膀

全国昆虫农业与微生物农业无抗产业链发展论坛在京召开

全国昆虫农业与微生物农业无抗产业链发展论坛在京召开

青铜峡市举行 2023年全国科普日暨怡园社区科普馆揭牌仪式

青铜峡市举行 2023年全国科普日暨怡园社区科普馆揭牌仪式

安徽淮北:科普宣传日 感受科技魅力【2】

安徽淮北:科普宣传日 感受科技魅力【2】



友情链接

  • 人民网
  • 海彊之声
  • 小红书
  • 中国长安网
  • 海外网
  • 中国警察网
  • 中国经济网
  • 中国老区网
  • 新华网
  • 中国台湾网
  • 中国政府网
  • 中国经济网
  • 中国新闻网
  • 每日新闻网
  • 光明网
  • 央视网
  • 法制网
  • 中国青年网
  • 求是网
  • 关于我们         联系我们         免责声明         人员查询

    • 扫码看全网内容

    地址:北京市海淀区定慧西里乙18号 联系电话:电话/传真010-88117470 010–52463177 18611141167(微信同号)邮箱1026329972@qq.com (每日新闻) 内线800转108
    网站备案/许可证工信部:京ICP备2025111695号-2 京公网安备11010802046001号 信息网络传播视听节目许可证:0110537号
    每日新闻网http://www.everyday-news.com/提供最新国内外新闻及新闻资讯
    每日新闻网秉承“新闻视野、文化视角、思想深度、理论高度、脚踏实地”的理念,运用互联网的快速传播技术和丰富的移动链接平台,每日新闻网正确引导社会思想意识,传播优秀文化,凝聚民族精神,彰显快速展示网络舆论的优势。