AI狂飙元年:一张照片能骗走2亿,人人都在被AI围猎?

我爱免费

作者：微信文章
AI虚假内容泛滥，一场真假难辨的数字战争

2024年初，一张＂好莱坞标志牌着火＂的照片在社交媒体疯传。这张图片配合洛杉矶山火新闻，让不少网友信以为真。

就在人们还没从这场＂虚假视觉盛宴＂中缓过神来，西藏定日6.8级地震后又出现了AI生成的＂小男孩被困＂图片。



抖音平台数据显示，仅此一次地震相关谣言就处置了23652条不实信息。



这些造假者背后藏着惊人的产业链。一位MCN机构实控人王某某通过AI软件在2024年1月创造了惊人的记录 - 单日产出7000篇虚假新闻。

小红书平台上，有人炫耀同时操控1327个AI美女账号，没有一个被系统识别。



AI换脸技术更是成了犯罪分子的新宠。2024年2月，香港一家公司遭遇Deepfake诈骗，员工被骗转账2亿港元。



杭州警方破获的一起AI换脸案件中，查获涉黄视频高达1200余部。犯罪分子通过群聊接单，按时长和难度收费。

国外也未能幸免。2024年1月，AI生成的泰勒·斯威夫特不雅照在社交平台疯传，浏览量破千万。



数据显示，2023年可监测到的Deepfake视频达95280个，98%是色情内容，99%针对女性。

2023年5月，一张AI生成的五角大楼爆炸照片引发美股短暂恐慌性下跌。



互联网观察基金会IWF警告，AI生成的非法内容激增，专业机构已难以应对鉴别工作。

业内人士披露，AI模型训练也面临＂污染＂风险。DeepSeek V3模型测试中竟然声称自己是ChatGPT。



为应对这些挑战，各大平台纷纷出台措施。小红书启动AIGC治理体系，对AI内容进行标识。



抖音发布了《关于人工智能生成内容的平台规范暂行规定》。快手开设＂辟谣＂榜位。

监管层面，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》相继实施。

2024年9月，国家网信办发布《人工智能生成合成内容标识办法》征求意见稿。

法律专家指出，需要明确平台审核责任，加强版权保护，完善用户举报机制。

AI安全研究人员建议，普通用户可从视觉纹理特征识别AI创作，也可借助第三方检测工具。

目前全球至少60个国家已制定AI治理政策。在技术发展与规范管理之间寻找平衡点，成为各方关注焦点。

这场没有硝烟的数字战争才刚刚开始。如何在享受AI便利的同时守住真实与虚假的边界，考验着每个人的智慧。