您的位置: 首页 > 推荐

以复活之名赚钱 谁让AI跑偏

出处:北京商报 作者: 杨月涵 网编:王巍 2024-03-17

“其实我并没有真的离开。”近日,几段经由AI“复活”的已故明星视频广泛传播于网络,同时也引来不小争议。3月17日,有媒体报道称,此前发布“AI复活”明星视频的博主已下架相关视频。但北京商报记者发现,乱象却远不止于此,目前甚至已经有人开启了“AI复活”代理生意,“你只负责引流,我们负责制作”的话术让人心动。

法律风险大

AI“复活”明星引发的风暴仍在继续,目前已有不少家属相继发声。如乔任梁父亲表示,这种行为侵犯了儿子的肖像权,不能接受,感到不舒适,希望对方尽快下架。

江歌妈妈也同时在社交媒体平台表示,不接受用AI“复活”亲人,“如果能‘复活’,也仅限于我亲自来做这件事”。

“超级头脑”是国内最早一批推出“AI复活”类产品的小型团队。其创始人张泽伟在接受北京商报记者采访时透露,在“数字偶像”方面,需求其实特别大,包括很多孩子在内,都曾向他们提出过类似的要求。

而且这些孩子想要“复活”的也不只是已故明星,他们的主要目的通常是“克隆数字明星”从而获得一些陪伴服务。

“如果我们想做,很早就做了,‘数字偶像’的意识也很早就有了。但关键是,做这件事一定要有授权。”张泽伟称,他们在开展业务时,一定会与客户有三个方面的约束,包括合同约束、关系约束以及授权约束。

事实上,AI“复活”明星可能涉及多种法律风险。北京卓纬律师事务所合伙人、律师孙志峰对北京商报记者提到,这可能构成侵犯“复活”明星的肖像权、姓名权等情况。

例如《民法典》第一千零一十九条规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。如果利用AI技术“复活”明星制作的内容侮辱、贬损他人名誉或捏造歪曲事实的,还可能构成侵犯“复活”明星或他人的名誉权。

孙志峰进一步解释称,如果利用AI技术骗取他人钱财物,符合犯罪构成要件的,还可能构成诈骗罪等刑事犯罪。“至于是否构成其他侵权违法行为,还需要结合具体案例具体分析。”

除明星外,“AI复活”并不是新鲜事。北京商报记者以“AI复活”为关键词在电商平台搜索后发现,提供该类业务的商家并不少,主要形式包括让老照片动起来、让老照片开口说话等,价格主要集中在5—100元之间。

一位商家给北京商报记者提供的价目表显示,消费者需要提供一张正脸照片,人物动起来的价格为20元;动起来并说话价格为50元,可以自己提供说话内容,但采用固定AI声音;人物动起来说话+声音克隆需90元。

在社交媒体平台,也不难发现一些类似于“AI复活”名称的账号。备注通常都会标注承接虚拟数字人制作,用AI虚拟数字技术“复活”亲人等。

“复活”的成本

对于目前市面上的“AI复活”产品,“盖总AI”运营者沈观楷对北京商报记者提到,以是否可以交互为标准,大致可以分为两种。其中不涉及交互的,只需采用生者此前的视频资料,“克隆”出相应的形象和声音,本质上是利用改口型的技术,输出另一段视频,技术含量低,接近零成本,“市面上大多数‘AI复活’都是这种形式”。

据悉,这种方式采用的大多是AI视频生成工具HeyGen。HeyGen曾因歌手泰勒·斯威夫特讲着一口流利普通话的视频而被外界所知。根据公开报道,HeyGen目前已推出付费版,但可免费试用、生成1分钟时长视频。

去年末,还有媒体报道,在收到一笔最新的560万美元风险投资后,该公司的估值达到7500万美元。

后者则是可以交互的,原理则类似于D-IDAgent,本质上是让机器人扮演一个“有意识”的角色。根据公开信息,D-IDAgent是生成数字人平台D-ID推出的一项可定制AI化身功能,用户上传一张照片或一段语音就能生成属于自己的AI数字人,并且生成的数字人可实现人性化交互。

对于后者,沈观楷举例称,国内做的最多的,也是代表的企业是硅基智能。硅基智能专门研发了一个“AI复活”的项目,名为硅寿,售价9800元。“硅寿·EL”在介绍中提到,该项目可以“1:1克隆还原本人的外貌、声音、性格”。

沈观楷还提到,因担心风险,此前硅基智能已经将克隆数字人平台的克隆功能下架了,但硅寿项目仍在售。对此,北京商报记者也联系了硅基智能,但未收到回复。

“超级头脑”的产品也与此类似,可以克隆形象、声音和思想,并与外界进行实时互动。“一旦涉及互动,就跟视频完全不是一个东西了,它牵扯到的包括算力等在内的各方面成本都会极大地提升。”张泽伟说。

万亿市场的风口

暂且不论乱象,市场出现的根源在于需求。“粗略计算,从去年到现在,我们接到的需求单量已经达到5000单左右,其中正在制作的也有1000多单了。”张泽伟称。

张泽伟把“AI复活”的未来形容为一个万亿级市场。他解释称,目前“超级头脑”的合作伙伴包括养老院、医院、殡葬龙头以及一些传统影像企业。而大公司通常会更注重标准化的东西、通用的技术,而不会注重如此细分的赛道。

“AI复活”能够赋能的产业,也间接反映出了“AI复活”本身的市场前景。单以养老为例,公开数据显示,目前我国银发经济处在加快发展阶段,市场规模约7万亿元,占同期GDP比重约为6%。

但在利益的驱动下,也有人打起了“歪主意”。比如“AI复活”明星,赚取流量,以此做起AI推广、收费服务等。北京商报记者发现,还有人将“收徒”和“招代理”加在“ai复活亲人”账号昵称之后,在被问及如何代理后,对方表示,需要缴费980元,“我们团队给代理提供引流视频,你接单了,由我们团队制作,你只要负责引流就可以了”。

不久前,乌克兰视频博主Olga Loiek控诉:“中国有人把我克隆了。”事件源于中国社交媒体平台上一个叫做“娜塔莎进口食品”的带货账号。在这里,顶着Olga Loiek的脸的娜塔莎是一名定居中国的31岁俄罗斯人,讲一口流利的普通话,喜欢分享俄罗斯美食。

直到现在,二手电商交易平台上,以“AI俄罗斯美女”为关键词,还能搜索出大把的“定制教程”,“赶快做个账号吧”的标题随处可见。

这些教程的价格通常只有几元钱,但内页介绍显示“不要直接拍,先咨询”。除此之外,还有“软件是国外正版”“二十多个作品能涨粉50万”“分分钟做一个视频操作简单”等内容。

沈观楷提到,最初,HeyGen“克隆人”需要提供一段本人声明,大意是授权HeyGen用自己的形象构建虚拟数字人,但这个过程中,也有人利用其他软件伪造声明骗过机器检测。“娜塔莎”事件后,HeyGen更是立刻调整策略,要求被克隆人必须在电脑前现场录制这段授权声明。

张泽伟认为,监管在新技术出现时的落后,是乱象出现的主要原因。此外,在信息差的作用下,因为陌生驱使人们停留在此类视频的时间高,一旦数据好,别人自然觉得有流量,也自然会将其包装成赚钱的东西进行运作。

孙志峰称,除了《民法典》《著作权法》《刑法》等一般性法律法规外,针对AI生成技术,2023年我国还颁布实施了《互联网信息服务深度合成管理规定》,就深度合成服务提供者和使用者的法律责任和边界也作出了规定。

张泽伟透露,目前“超级头脑”也在按《互联网信息服务深度合成管理规定》的要求进行报备,而这也是其App到现在还没有上架应用商店的主要原因。

北京商报记者 杨月涵

本网站所有内容属北京商报社有限公司,未经许可不得转载。 商报总机:010-64101978 媒体合作:010-64101871

商报地址:北京市朝阳区和平里西街21号 邮编:100013 法律顾问:北京市中同律师事务所(010-82011988)

网上有害信息举报  违法和不良信息举报电话:010-84276691 举报邮箱:bjsb@bbtnews.com.cn

ICP备案编号:京ICP备08003726号-1  京公网安备11010502045556号  互联网新闻信息服务许可证11120220001号