近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。
事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。不过,该技术一旦被用于违法犯罪,由于其足以产生以假乱真的效果,那么就会让人防不胜防,进而给公民个人财产安全带来威胁,并给网络空间秩序的维护、违法犯罪的打击治理带来挑战。
其实,我国法律对此类违法犯罪行为的态度是非常明确的。我国民法典、个人信息保护法均明确规定,公民肖像权、个人信息权益受法律保护。为了实现对电信网络诈骗的源头治理与综合治理,去年我国还专门出台了反电信网络诈骗法。特别需要指出的是,为了加强对深度合成技术的规范管理,去年12月,多部门还联合发布了《互联网信息服务深度合成管理规定》。这些都为打击治理此类违法犯罪提供了明确的法律依据。
当然,在完善法律法规的同时,也需要监管部门与时俱进运用先进技术、优化相关机制,不断提升打击治理此类违法犯罪的能力。在此次案件中,警方联动银行迅速启动止付机制,及时帮受害人挽回大部分损失,就非常值得肯定,这也启示相关部门要时刻加强专业能力建设。
技术从来都是一把双刃剑,技术治理也是一场永恒的攻防对抗博弈。面对技术发展衍生的违法滥用问题,只有“道高一丈”,完善法律制度与强化监管并举,加大反诈宣传与提升技术反制能力同行,才能更好“校准”技术运用方向,让技术进步真正为人类谋福祉。