首 页
 
联系我们
网站导航│Navigation
关于法阳
法治新闻
典型案例
法律法规
诉讼常识
律师风采
服务指南
网站公告
大理资讯
快捷通道│Fast passage
 
当前位置: 首页 > 法治新闻
 
 
老年人的AI陷阱
发布时间:2025-04-17 11:13:29 | 点击次数:
 

 来源:法治日报·法治周末

视觉中国供图

伴随数字技术、人工智能而生的数字人,已成了不少行业营销推广的宠儿,一些AI数字人“扮演”的权威医疗专家,向老年人24小时不间断地讲述着养生“奇迹”。一些账号持有人引入数字人新技术,批量起号、疯狂带货,让围猎老人的诱老坑老的骗术进入了“2.0版本”,已经形成了运作成熟、大肆逐利的产业

《法治周末》记者 高原

每天晚上9点,在北京工作的刘静怡都会收到妈妈转发的短视频链接,视频里,一个穿着白大褂的老人在介绍这个季节养生的诀窍,同时,视频正下方标注此人为国医大师某某某。而她的妈妈在这位国医大师的指点下,已经买了几千元的保健品。

刘静怡注意到,视频里这位所谓的大师,说话时口型和声音并不同步,视频里的背景也很迷糊,她告诉妈妈这个“国医大师”应该是AI合成的人物,可妈妈根本听不进去。

这让刘静怡很苦恼,她告诉《法治周末》记者:“年轻人比较同意甄别AI生成内容,而像我妈妈这样的老年人,对网络技术和规则了解有限,风险防范意识相对薄弱,很容易被情感绑架、权威背书等手法击穿心理防线。”

北京师范大学数字素养研究中心数据显示,65岁以上用户平均每天观看AI生成视频时长达到143分钟,是年轻用户群体的2.3倍。而当“父母刷起手机比我还狠”时,很多陷阱也盯上了老年群体,比如3天包会的AI课程,AI合成的名医在线指导用药……这些新型套路究竟有多深?

沉迷“AI”速成课

记者调查发现,市面上的“AI速成班”收费多为两千元至三千元不等,并且劝导老年人学习AI的话术层出不穷。据了解,这些机构大多是以前教授老年人剪视频的机构,转向又开始教授老年人“用AI赚钱”。

在小红书上,北京市的王琳告诉记者,自己的父亲最近沉迷于上网课,交了980元报了一个AI班,“我想不明白,一个智能手机都用不明白的人怎么报这个班。”王琳说,“一共7天的直播课,分别讲授DeepSeek用途和几句简单指令,是年轻人5分钟就能上手的入门级别,被包装成一节又一节高大上的专业课程。”

她表示,从《AI文生图底层逻辑》到《中视频计划流量密码》,其中充斥着“实操”“爆款”“变现”等关键词,而所谓的“专业剪辑技能”教学,就是教老人用某款免费APP一键套模板,连背景音乐都懒得换。

“课后他们还会给老人留作业,作业内容大概就是让他们自己去用AI生成视频,然后发在抖音、快手等平台,做账号。”王琳告诉记者。

王琳劝过父亲之后,父亲也并不准备退课,反而还给课程找到了“合理性”:“你们年轻人学东西快,一下就能学会,跟我们不一样,学AI就得从概念、起源开始,不然怎么能搞清用法?”

记者调查发现,在社交媒体上,多地年轻人反映父母的AI网课正学得“热火朝天”,他们对销售话术深信不疑,有网友吐槽,“所谓的七天AI速成课”,实际内容却与老年人真实需求严重错位。

有网友在王琳的帖子下留言:“我家现在跟你一样的情况,也是2680元的学费,学得热火朝天,我说是骗子,我爸说我不思进取。”

“我妈也是,昨天我跟他说AI如何使用这个东西不用学,你把它当工具,直接一问一答就好,我妈跟我发脾气,他说你们都把它当工具,我当然要去了解它的起源、历程才更好地使用。”另一网友说。

“我爸本来比较关注养生,怎么就突然学起了AI呢?”王琳想不明白。

后来父亲告诉王琳,是因为现在视频号上看到许多老人都在学这个,并且已经赚了不少钱。同样的理由,也在成为其他老年人学习AI的原因。

王琳翻看了父亲关注的视频号,发现了好几个账号都打着“985博士毕业”“多家AI公司创始人”“累计授课学员30000+,好评率99%”这样的标签,以教老人如何使用养老机器人,或者用AI制作短视频赚钱等理由,向老年人卖课。

除了这些打着专家旗号的博主之外,也有一些老年人现身说法的案例。

比如,有老年人发布视频号,宣扬“老年人也应该学习AI,不要被时代落下,用AI赚钱”等内容,引导观众关注公众号,并下单“AI训练营”。

在这些视频的评论区,经常留言:“老师你好,豆包软件是怎样下载的啊?”“理解能力接受慢,怎么使用豆包,豆包真的有这么好吗?”“请问那个窗口下载豆包,我也想学习”……

“数字医生”售卖保健品

除了老年人想学习AI赚钱外,老年人对健康的重视也给了不法商家通过AI牟利的机会。

每天晚上七点半,刘静怡的妈妈会雷打不动地在某养生直播间准时上课,听拥有“抗癌防癌专项基金会秘书长”“国家一级保健医师”“国家一级营养师”等多个头衔的讲师讲解养生知识。

三个月前,刘静怡的妈妈得了带状疱疹,在疹子好后又引发了带状疱疹神经痛,针灸拔罐了一个月没有效果,去三甲医院打了神经阻滞针后效果也不明显,正在刘静怡发愁下一步该怎么办的时候,妈妈告诉她保健医生的保健品可以治疗神经痛。

而直播中的保健医生说话时,嘴型与声音都不协调,还没等刘静怡劝阻,妈妈就已经下单买了三个月疗程的保健品,而妈妈口中说的有“奇效”的保健品,实际上只是普通的保健品或根本未经严格审批的药品,长期服用不仅无益,反而可能对身体造成伤害。

刘静怡发现,这类养生直播间主播通常以身着白大褂、冠以“专家”头衔的方式,滔滔不绝地讲述养生常识。

在直播一段时间后,主播逐渐将话题引导到所要出售的产品,开始“123上链接”。链接会将客户引流至网络聊天群的“私域直播间”,在小圈子范围内对中老年人进行“洗脑”;一些直播间则以“进群领赠品”等方式进行导流,不少老年人从一开始获得蝇头小利到购买价值数千元乃至上万元的保健品,一步步走进设计好的陷阱。

记者调查发现,伴随数字技术、人工智能而生的数字人,已成了不少行业营销推广的宠儿,一些AI数字人“扮演”的权威医疗专家,向老年人24小时不间断地讲述着养生“奇迹”。

一些账号持有人引入数字人新技术,批量起号、疯狂带货,让围猎老人的诱老坑老的骗术进入了“2.0版本”,已经形成了运作成熟、大肆逐利的产业。

还有网友反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品。老人信以为真,不仅下了单还转发到了很多群。经核实,该视频中的“张文宏医生”不是张文宏本人,而是利用AI技术合成的。张文宏对此回应称,这样的卖货账号已出现多个,而且一直在变。他虽然多次向平台投诉,但都收效甚微。

目前,该“冒牌张文宏”账号已搜索不到,但此前商品橱窗中显示由AI带货的产品已卖出1200多份。

而形象被盗用作带货的受害者,远不止张文宏医生。随着AI合成技术愈发成熟,再加上已被频繁应用在短视频制作中,AI合成冒充名人的骗局越来越频发。

今年10月,老牌港星黄百鸣通过社交媒体郑重声明,有人盗用其过去影片,利用AI替换声音,代言一个不知名的药膏品牌。

打着情感幌子围猎老年人

2024年,抖音曝光了以冒充名人、AI生成人像等手段,发布关心老人、领奖金/养老金、无脑称赞等内容骗取互动的违规行为。

短视频平台上,穿着虎头鞋的周岁幼童熟练操持四菜一汤,两岁AI萌娃能精准说出“奶奶腰疼要捶背”,这些违背人类成长规律的内容成了有些老年人的“心头好”。在年轻人眼中漏洞百出的AI视频,却让老年人深信不疑。

这种情感操控背后是精准的算法围猎。

北京师范大学数字素养研究中心数据显示,当老年人首次点赞AI孙子视频后,平台算法会在72小时内推送超过300条类似内容。

当AI孙子用稚嫩声音说出“奶奶给我发红包买糖吃”,有人会毫不犹豫转账2000元。这种看似荒诞的剧情正在全国上演,公安部2023年数据显示,涉及AI视频的养老诈骗案件同比激增218%,单案最大金额达87万元。

更隐蔽的是情感诈骗,某些AI账号通过长期互动建立信任后,逐步诱导老人购买“孙子同款”保健品或理财产品。

在抖音发布的打击诱骗老年用户内容的治理公告中,其中有个别账号通过AI生成人像发布第一人称关心的话术,如“阿姨,我可以叫你一声娘吗”“孩子好想你,愿意给我一朵小红花吗”“娘,您辛苦了”等,利用老年用户的情感需求,诱导吸引女性老年用户关注,骗取用户互动。

记者发现,社交平台上充斥着针对中老年群体的AI账号,这些账号的视频,大多是一个由AI生成的真人形象,通过套近乎、讲哲理等针对性话术,吸引不同老年人的关注和信任。有些AI账号,已经靠老年人的信任通过橱窗带货赚起了第一桶金。

这些视频大多以“我的宝贝姐姐开头”,发布的视频大多围绕老年女性的生活常态展开,“我发觉姐姐近来面容憔悴,弟弟跑了好多地方,找到这款面霜特别适合姐姐”,随后引诱用户点击主页关注、下单。

虽然该账号发布视频数量不多,但橱窗商品的销量已突破三位数。评论区大多是对被视频里“男人”温柔话语打动的用户。养生、情感内容一直是收割老年人的重灾区。

被骗的人通常与受教育程度无关,而是沉迷视频带来的情绪价值。

根据蓝鲸新闻报道,收割老人的数字人视频如今已经发展成一条灰色产业链。市面上涌现出制作数字人的外包公司,服务价格在5000元至10000元不等。商家会帮助客户搭建数字人形象,指导运营账号。

养生直播套路老年人

据新华社报道,目前已经有专门套路老年人的直播养生局:先以养生科普短视频引流,吸引老年人跳转微信加群;而后,群里老师通过开展公益直播课、设置有奖问答等,不断强化其对产品的认知;半个月后,群里开始推销产品,还有托儿配合演戏,诱导老年人跟风购买。

在黑猫投诉平台上看到,与老年人直播相关的投诉已达近千条。

中国政法大学传播法研究中心副主任朱巍告诉记者,没有获得相应资质的养生直播和短视频不具备合法性。根据最新修订的《互联网用户公众账号信息服务管理规定》和《互联网用户账号信息管理规定》,涉及医疗卫生等领域内容的自媒体、公众号等须获得相关资质。

“如果观看养生直播视频后购买了假冒伪劣保健品,一方面,可以向主播所在的网络直播平台投诉;另一方面,也可以向市场监督管理部门或当地的消费者协会举报。”朱巍指出。

今年9月1日起将实施的《人工智能生成合成内容标识办法》提出,所有AI生成的文字、图片、视频等内容,都要“亮明身份”。对此,技术提供方、内容提供者、平台和商家,应当主动对标,及时约束管理,整改到位。相关监管部门也要运用多种监管技术,打击跨平台起号频繁诱导、“围猎”老人购买商品等行为。

同时,多地已经有不少老年大学开始加入DeepSeek等AI课。

今年3月,广州老年干部大学开设的全国首个老年大学DeepSeek班,共16次课,计划招生60人,学费为350元/人/期;哈尔滨老年人大学、成都老年大学都在上新AI摄影与绘画、AI智能、DeepSeek教学等课程,体系化、适老化后的课程其实可以不只是概念讲解,而是作品实操。

(王琳、刘静怡为化名)



下一篇: 下面没有链接了
关闭