孙燕姿都管不了AIGC了,平台怕也难|世界快看点
挑战可能真的来了。平台开始按不住AIGC了。
(资料图片)
最近两天,先是真的孙燕姿发文“原谅”了AI孙燕姿,然后AI又在美国闹出一个大新闻。美国当地时间5月22日,有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动,甚至美股还为此小跌了一下。
图:依照(目前还不成型的)AI传播道德,这里只放一张被打过叉的原图。
事件经过一天时间的发酵,现在我们知道:图片是AI合成的。假消息的源头之一是推特上一个叫作“Bloomberg Feed”的账号,原推的附文煞有介事地说:“华盛顿特区五角大楼建筑附近发生巨大爆炸。——初步报道”。
这次的假新闻风波,意味着推特的内容监管没能兜住AI内容风险。而且这不是个案,随着AI内容生态的萌发,平台的监管问题正逐一显露出来。
推特的难题
“五角大楼附近发生爆炸”事件在爆发的几小时内,就经历了几轮发酵。
根据各方考证,假消息的源头不止一个,最早的发布时间可以追溯到当地时间早8点42分。最原始的图在上午10点多被一些蓝标账号捡起来,配上“五角大楼附近发生爆炸”之类的文案再度发布。其中,前面那张图中的发布者@Bloomberg Feed看起来最为可信,因为名字中含有Bloomberg(彭博社),并且获得了推特的蓝标认证。但其实该账号和彭博社毫无关系。
消息发出来之后,好几条原推都被数百万人看到,被其他的蓝标认证用户转发,甚至被印度和俄罗斯带着推特“金标”的正规媒体账号。
早上十点多,美国股市也发生了小幅下跌。很多分析人士认为,这是该图片引发的市场恐慌。
图:当地时间5月22日的美国道琼斯工业平均指数行情。在10点之后发生了小幅下跌。
不过很快,网民掀起了对该消息真实性的讨论。首先,虽然很多最早发出来的推都说这是在五角大楼附近,但是照片上的楼并不是五角大楼。另外,照片里面路灯是歪的,并且栅栏与周围景物的遮挡关系也不很写实。
图:AI伪造图的细部。虽然像素不高,但还是看得出物体之间的穿插、遮挡关系非常不自然。
到了10点40多,图片引起了官方的注意。当地的消防机构首先辟谣说,当地没有爆炸发生。之后陆续又有别的组织出面辟谣,公众才确认这则消息为假消息,并且照片是AI生成的。
尘埃落定之后,一些网络舆论的矛头开始指向推特的蓝标政策。在马斯克收购推特之后,改变了蓝标用户的认证方式。在此之前,蓝标是免费授予经过身份认证的机构和名人的。去年11月,马斯克把蓝标政策改成了“付费+认证”的形式。但是,新的认证方式十分的不透明,被解读为“拿钱买认证”。本次“五角大楼爆炸”假新闻事件也进一步印证了,马斯克掌管下的推特,认证制度存在重大缺陷。
不过,这真的只是认证的问题吗?
国内“AI内容监管第一枪”?
舆论对本次“五角大楼爆炸”假新闻事件的问题意识,盯住的是推特的“蓝标认证”制度,因为“蓝标”意味着账号是由真实、负责任的人或组织运营的。这实际上的诉求在于“AI的使用者不能脱责”,这是目前针对AIGC(人工智能生成内容)监管的一种典型策略。
同样,像微信朋友圈、微博这种即时分享类型的平台让每个人都成了新闻资讯的发布者。那么,每个发布者为自己发布的信息负责,这一治理原则在这些平台强化AI内容治理时也被延续了下来。
在“可追责”的考虑之上,一些平台开始考虑给AI内容加标识,以防止观者混淆AI生成的内容与真实内容。5月9日,抖音祭出了被称为国内“AI内容监管第一枪”的举措,要求创作者给AI视频内容打上“AI生成”的水印。
图:抖音规定的“AI生成”水印样式。图片截取自《抖音关于人工智能生成内容标识的水印与元数据规范》
但眼下,随着AI内容生态的演化,我们可以得出一些新的判断:说抖音的举动是“AI内容监管第一枪”,可能夸大了其行业意义。
AI水印政策与抖音自身的属性有关。抖音的内容本质上是一个博眼球、争流量的注意力生意,所以抖音理应更关注为了争取流量而不顾道德原则的AI内容。把AI内容在明显的位置标出,或许能减少类似推特这次事件,有人把AI虚构的图当作真实图像来传播,造成意料之外的麻烦。
类似地,抖音平台要阻止用户利用AI生成的劣质内容来冲流量。所以抖音禁止了单纯读文案带货的虚拟人直播。这些虚拟人主播可以永不停歇地一直播,并且可以被低成本复制,同时用多个账号播出,但是它在视觉、文案、表达上都十分粗制滥造。这种内容对于抖音的问题在于,用大规模低质量内容冲流量,冲淡平台上的优质内容。
抖音的一些AIGC治理举措,其出发点还是抖音平台自身的一些特征。抖音对AIGC的问题意识不一定是普适的。
监管重点的分化
在逻辑不同的内容平台,例如B站这种看重用户创意的平台,AI内容治理又是另一个样貌。
3月30日,B站董事长陈睿在中国网络视听大会上放出豪言,说B站是目前AIGC内容质量最高、最丰富的平台。果然不久之后,“AI孙燕姿”就在B站火了。
纯从内容上说,“AI孙燕姿”是比较原始形态的AIUGC,即“AI辅助用户生成内容”。它是AI内容的另一种样态,甚至可能是未来AI内容的主流样态。和抖音对“用AI虚构内容博眼球”的担忧不同,AIUGC内容拼的依然是创意,这是UGC/PUGC生态的延续。只不过,正如“AI孙燕姿”所暴露出的问题,AIUGC目前暴露出了知识产权保护方面的重大缺陷。
在“AI孙燕姿”这件事上,B站不曾站出来表达自己的监管立场。倒是孙燕姿本人被炸出来,对“AI孙燕姿”表达了一种“无奈地宽恕”态度。孙燕姿的原话是:“我的粉丝们已正式改换门庭,接受我就是一名冷门歌手的事实,而我的AI角色成为了目前的顶流。我想说的是,你跟一个每几分钟就推出一张新专辑的人(虎嗅注:指AI孙燕姿)还有什么好争的。”
虽然孙燕姿个人很慷慨大度,但是AIGC的知识产权争议仍在。“AI孙燕姿”爆火之后,有人又提起了“数字水印”技术。简单讲,这种技术是在图像、声音、数据等载体上加标记,这些标记是人看不到、听不出的,但可以用技术手段识别,并且在原始版权素材被改动之后,依然可以识别出其中的版权标记。这种技术颇受看好,但其规模性的落地尚需时日。
但总之,B站这类重创意的内容平台,或许能在AIGC的某些元问题上压过那些重流量的内容平台。正如Pinterest——知名的创意分享平台、“设计师之友”——的首席执行官Bill Ready近期在评论AIGC时多次强调:AI内容应该是人们生活的“调味品”(additive)而非“瘾品”(addictive)。如果内容平台的核心算法原本就是让用户上瘾,那么AIGC会在这种算法中把人性的缺陷进一步放大。
Pinterest自身在推荐算法上,坚持探索如何推送具有创意、灵感、个性化价值的内容。这使得Pinterest对低质量的AIGC有一定的抵抗力;同时富有新意的AIUGC艺术作品开始在Pinterest上涌现。
图:Pinterest上一位AI辅助创作者的作品目录。他把自己利用Midjourney生成出来的近百个主题(如“科幻场景”“通灵旅程”“政治画”“圣经风格”等)分门别类,整理成库。| 图片来源:Pinterest @Vellectrum
所以在讨论AIGC平台监管的时候,也不能忽视AIGC反过来对平台的改造,以及潜在的相互成就的机会。
在较短的时间尺度上,AI内容给平台带来一些监管上的挑战,并且不同运营逻辑的内容平台,其AI治理重点还有分化之势。而在远期,AI内容或许反过来决定平台的发展前景。这个远期趋势,或许才是内容平台面临的终极挑战。
标签:
2023-05-25 23:31:40
热点聚焦:2023年凉山社保交多少钱一个月(凉山社保缴费标准是多少)
2023-05-25 22:53:22
涉及数万人、历时三年,国内最大的云原生实践是如何打造出来的?
2023-05-25 22:13:31
烧掉上百亿美元,元宇宙梦“压垮”Meta,苹果出手能否改写颓局?
2023-05-25 22:25:01
2023-05-25 22:21:52
热图推荐
创世纪
通信
最近更新
- 孙燕姿都管不了AIGC了,平台怕也难|世
- 天天滚动:新华三陈峰:算网融智,加速
- 百度AI布局手表场景,推出手表版AI产品
- 【全球速看料】马自达CX-50行也正式上
- 先进氢能储运技术推进清洁能源高效利用
- 工民建是本科专业吗_你好 工民建现在
- 全球消息!北向资金净卖出95.62亿元,
- 热点聚焦:2023年凉山社保交多少钱一个
- 世界今日讯!男子着急赶地铁把纪念日戒
- 这家美国芯片公司被彻底封杀,网友:求
- 涉及数万人、历时三年,国内最大的云原
- 烧掉上百亿美元,元宇宙梦“压垮”Meta
- Gartner:多云不是必需的 前沿热点
- 这默契没谁了!裁判回看VAR时武磊、吕
- 郑爽为什么会退出演艺圈?郑爽还有机会
- 当前关注:涨薪谈判陷入僵局!三星遇罢
- 简约不减爱 喜事新办有创意 婚俗改革
- 热头条丨美团买菜一季度交易额同比增长
- 起底电诈⑥丨“嘘寒问暖”还是“飞来陷
- 正业科技:公司在景德镇市高新区投建的
- 施耐德电气任婧:一个基座两手创新,智
- “大脑解码技术”实验成功,大模型越来
- “80后”的她,拟升正厅级
- 环球视点!停息挂账是国家法律法规吗?
- 全球观天下!高盛:予京东集团-SW“买
- 天天资讯:微信新增锁定功能 电脑端隐
- 每日消息!航天宏图: 关于可转债投资者
- 赢取巨大的 Club Mochi-Mochi- 动物
- 嗓子痛就是“二阳”?关于“二阳”,这
- 江苏索普:醋酸、醋酸乙酯及其配套装置
热点
想必每一个电竞玩家都梦想拥有一台可以随时随地开黑的汽车。今年上海车展上,合创亮相了一款移动电竞堡垒合创V09雷蛇版。这款新车是由合创
详细>>MPV这个以往冷清的细分市场正被一大波新车型推向增长轨道,也应验了合创汽车董事、联席总裁杨颖去年成都车展上的预言:电动车时代,SUV份额
详细>>5 月 17 日,2023 阿里云峰会·常州站上,阿里云正式发布第八代企业级计算实例 g8a 以及性能增强性实例 g8ae。两款实例搭载第四代
详细>>4月26日,中国信息通信研究院联合全球知名调研机构IDC发布《全球云游戏产业深度观察及趋势研判研究报告(2023年)》,瑞驰基于ARM架构自研的SoC
详细>>5月12日电 2023世界品牌莫干山大会系列活动5月10日-12日在浙江省湖州市德清县举行。11日,新华社品牌工程与浙江哈尔斯真空器皿股份有限公
详细>>摘要:5月7日,建筑产业AI应用领军企业小库科技于北京·望京嘉瑞文化中心举办「Enjoy AI with Xkool 享智于库」新品发布会。这一次,小
详细>>