“AI复活逝者”也引发热议。有博主用AI“复活”亲人感动无数人,也有商家未经授权“复活”公众人物,把“数字永生”做成冷冰冰的生意。AI技术如同双面镜,映照出科技向善的可能,也暴露出技术滥用的深重隐患。
当AI既能“复活”逝者,也能“围猎”活人,我们不得不追问:技术狂奔的时代,监管的脚步跟上了吗?
“3·15”曝光的AI推流乱象,揭开了技术滥用的冰山一角。AI生成内容门槛极低,一条虚假好评几秒就能批量产出,平台审核却形同虚设。消费者在真假难辨的信息洪流中疲于奔命。当技术成了造假的“加速器”,消费者的信任便被一次次透支。
“AI复活逝者”领域同样尖锐。一些商家利用丧亲者的脆弱心理,以“情感陪伴”为名高价售卖“数字人”服务,却对隐私保护和授权机制避而不谈。未经同意擅自“复活”名人事件频发,肖像权、名誉权、个人信息保护等问题交织,法律边界模糊。技术的温情外衣之下,是赤裸裸的商业逻辑。
两件事指向同一症结:AI技术正快速渗透日常生活,而监管仍停留在“事后追责”的传统模式。平台责任虚化、法律定性模糊、技术伦理缺失,共同构成技术滥用的“温床”。
面对AI带来的新挑战,既要在制度层面系统破题,也需在价值层面强化引导,不能止步于个案查处。
平台须从“旁观者”变为“守门人”。 平台掌握流量分发的核心权力,不能再以“技术中立”为由推卸责任。要建立AI生成内容强制标识制度,完善审核机制,对利用AI造假的商家坚决下架、顶格处罚,主动斩断“AI造假—流量变现”的灰色产业链。
法律须从“模糊地带”走向“清晰边界”。当前法律对AI生成内容、“复活”逝者等新业态领域存在滞后性。要明确AI生成内容的版权归属、责任主体,确立“谁生成、谁负责”“谁传播、谁把关”的原则,对侵害合法权益、扰乱市场秩序的行为依法从严惩处。同时加快“数字人”相关法律研究,明确逝者数字形象的授权机制与保护范围。
技术须从“逐利狂奔”回归“伦理向善”。使用者不能只盯着流量和变现,更应承担社会责任,要在技术在研发中嵌入伦理考量,建立行业自律标准。对涉及情感陪伴、人格再现等敏感领域的应用,探索许可准入、伦理审查等机制,防止技术僭越伦理底线。
技术是一把双刃剑。AI可以“复活”逝者,让思念有处安放;也可能“围猎”消费者,让信任无处安放。这把剑挥向何方,取决于我们如何规范与引导。当技术加速奔跑,制度的网也必须织得更密。让AI真正成为服务生活的“帮手”,而非制造乱象的“推手”。