用穿透式治理有效惩治AI犯罪
发布日期:2023-05-31 17:27:43 来源:法治日报 作者:夏伟 编辑:藤井树

  近期,“福州一老板10分钟被AI换脸诈骗430万元”“安徽一男子9秒被AI换脸诈骗132万元”等新闻引起社会广泛关注,有关AI犯罪的治理问题进入了公众的视野。

  AI换脸的技术本质是深度合成,是指通过深度学习、虚拟现实等技术形成生成合成类算法,用以制作人脸图像、视频等信息。为了规范深度合成技术、引导AI“技术向善”,2022年,国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》,明确要求有关主体提供智能对话、合成人声、人脸生成等深度合成服务的,应当进行显著标识,避免公众混淆或者误认。

  时至今日,AI换脸等深度合成技术已经达到“以假乱真”“眼见为虚”的欺骗效果,这使得公众辨明真伪的日常生活经验全面失灵。因此,AI换脸技术一旦被用于违法犯罪,公众几乎防无可防、防不胜防。

  AI犯罪是高科技时代犯罪形态和手段共同进化的结果,形态上的进化显著扩大了犯罪的危害性,遮蔽了核心犯罪行为;手段上的进化全面增强了犯罪的隐蔽性,掩藏了源头犯罪行为,这也决定了AI犯罪治理需要采取有别于传统犯罪治理的新思路、新方法。有效治理AI被用于犯罪的关键并不是从法律上否定AI技术的合法性,而是顺应AI被用于犯罪的进化趋势,转变犯罪治理逻辑,规范AI技术的应用,确立穿透式犯罪治理模式。具体可以从三个维度展开:

  在规制类型上,从边缘犯罪穿透至核心犯罪。AI诈骗是电信网络诈骗的新侵害形式,2022年我国通过反电信网络诈骗法,确立了电信网络诈骗全链条治理策略。全链条治理AI诈骗宜区分边缘犯罪与核心犯罪,边缘犯罪是指为AI诈骗提供“两卡”(手机卡、银行卡)或者其他帮助行为,核心犯罪是指AI诈骗的幕后操纵行为、具体实行行为。过去的司法实践经验表明,AI诈骗所牵连的边缘犯罪远多于核心犯罪,相对而言也更容易被查处。然而,如果将重点放在打击为数众多的边缘犯罪上,那么不仅会消耗过多的司法资源,也难以达到全链条治理的效果。只有穿透至核心犯罪,才能真正有效治理整个AI诈骗犯罪链条。

  在规制流程上,从下游犯罪穿透至源头犯罪。AI诈骗有迹可循,其之所以让人防不胜防,是因为犯罪分子利用个人信息制定“专属剧本”,对被害人实施精准诈骗。个人信息是深度合成的基本素材,AI诈骗犯罪分子实施诈骗,必须精确获取个人信息,因此,个人信息犯罪是AI诈骗的源头犯罪行为。产业链化是个人信息犯罪的重要特征,司法执法机关可以着重打击贩卖、非法提供个人信息的黑灰产业链,实现“处理一案、治理一片”的效果。

  在预防主体上,从个体防范穿透至平台责任。当下,面对层出不穷、形态各异、不断升级的AI犯罪,个体防范越来越无力,与之相对,平台预防违法犯罪的能力显著强化,因此也应承担更多的责任。平台的责任根据在于,它不仅可能成为AI诈骗的犯罪工具、犯罪空间,而且是个人信息的重要处理者,负有保护个人信息的法定义务。从技术治理角度来看,平台是高科技的载体,平台的参与能够精准识别AI诈骗与真人对话,以技术遏制技术犯罪,充分释放“技术+法律”在AI犯罪治理中的叠加效应。

  AI犯罪的涌现及其危害升级,让全社会的担忧情绪陡增,也使AI技术本身被打上了“道德可疑”的标签。AI技术的污名化虽不至于否定其重要性,但却足以影响其价值的实现度,值得反思和警惕。AI技术的健康发展需要法治的保驾护航,在犯罪治理资源有限与AI犯罪不断增长的紧张状态下,必须转变犯罪治理逻辑,确立具有时代适应性的犯罪治理理念,穿透至AI犯罪的根源,聚焦于核心犯罪、源头犯罪的打击与平台责任的确立,这才是有效治理AI犯罪、规范AI技术运用的正本清源之道。

  (作者系中国政法大学刑事司法学院副教授)

声明:本媒体部分图片、文章来源于网络,版权归原作者所有,如有侵权,请联系删除 025-84707368。

发表评论
用户名:
密码:
验证码:
匿名发表