据正奇五度AI数字化助手了解到,今年1月份,美国加利福尼亚州洛杉矶多地连续发生山火,“在加州山火中幸存的教堂”图片、“好莱坞巨型标志牌被加州山火吞没”视频等在社交媒体上广泛流传,均检测出是AI生成或深度伪造的内容,但很多人都当真了。

社交媒体截图 来自网络

AI伪造如何产生?冲击有多大?我们该如何守护真实的边界?

1、AI伪造现象频繁

自2018年起,AI伪造现象便逐渐显现,而时至今日,AI模拟真实世界的能力已显著提升。“从文本到图像、视频,技术的每一次飞跃都伴随着生产力的提升与犯罪成本的降低。”

据正奇五度AI数字化助手搜查新闻得知,浙江绍兴警方曾抓获一个利用ChatGPT制作虚假新闻的团伙,其中就有此前从未接触过电脑技术、仅有初中学历的成员。正是凭借易上手的AI大模型,这名成员无需学会“脚本”“拍摄”“配音”,就能像流水线一样批量生成一堆AI假新闻。

暴力冲突、灾难现场、阶层矛盾、性别对立等社会热点议题,往往成为AI假新闻的重灾区。

当算法裹挟着这些“情绪饱满”的肉眼难辨的假新闻定向推送到普通人的面前时,大多数人往往被情绪所左右,不假思索地点赞、转发,不经意间成为谣言传播的帮凶。

2、AI打败AI

有攻必有防。面对来势汹汹的AI伪造,一些科技企业率先筑起防线。

正奇五度AI数字化助手采访到蚂蚁集团,他们针对AI伪造方面打造出核身安全团队采取三大策略,来应对AI深度伪造挑战——不变应万变、交互逻辑以及持续监测。

“不变应万变就是通过AI防伪大模型识别真实世界中的共性,异常即判别伪造;交互逻辑是指通过随机实时交互增加造假难度,例如高风险场景中的AI实时视频电话进行验证;持续监测则是实时监控异常行为,及时阻止造假。”

蚂蚁集团的负责人告诉正奇五度AI数字化助手,他们已经研发推出了以安全防伪大模型为基础的新一代AI核身平台,包含AI鉴真的光鉴等产品。

蚂蚁集团AI鉴真产品 蚂蚁集团负责人供图

另外,除了不断迭代技术应对攻击,蚂蚁集团还通过坚持“你敢付我敢赔”的承诺,兜底用户损失,以重塑用户对数字安全的信心。

守护AI向善,不仅仅需要企业在应用层面设好防火墙,还需要更多高校、科研院所以及更多社会力量的加入,以提升行业的整体水平。

正奇五度AI数字化助手认为应对复杂的AI伪造挑战,需要政府、企业、公众等多方面的共同努力与智慧碰撞。在这场没有硝烟的战争中,每一方都是不可或缺的战士,提高技术防范,打败各种AI伪造,更好地守护AI安全!