广州市米朵服饰有限公司“AI诈骗”多发 完善监管体系迫在眉睫

本报记者 王丽新 见习记者 寇佳丽　　在AI技术给人们的工作和生活带来诸多便利的同时，也有不法分子借用这一新兴技术做起了坏事。6月份以来，“AI诈骗”一词频频冲上热搜。“10分钟骗走430万元”“换脸合成不雅视频试图敲诈18万元”“AI换声伪装好友借钱不还”等案件相继出现。　　受访专家认为，随着人工智能技术的发展，不法分子利用AI实施诈骗的精准性、隐蔽性进一步增强，需高度警惕 。人工智能安全治理需多方协力 
，完善监管体系迫在眉睫。　　相关诈骗呈链条化特征　　据记者了解，“AI诈骗”至少要具备以下几个条件：收集被换脸对象的个人身份信息、获取大量人脸图片和语音素材、通过AI生成以假乱真的音频和视频、充分掌握被诈骗人的身份信息、熟悉被诈骗人与被换脸人的社会关系。　　《证券日报》记者日前在某平台咨询后获悉，定制AI换声音 、AI换脸视频分别要支付4000元
、8000元
，打包一套11000元 ，前提是要向对方提供想要定制的音频样本 、照片。但定制内容只能在对方提供的平台上使用，不可下载保存到个人手机中
。　　由此来看，“AI诈骗”成本较高，由个人来实施并不容易
。盈科全球总部合伙人叶庚清律师对《证券日报》记者表示：“这类网络诈骗已呈现出明显的链条化
、平台化作案特征。”　　叶庚清称 ，一般由上游黑产提供各种基于人工智能技术的专用设备工具、算法 ，为下游电信网络诈骗提供技术支持 。“在这条产业链中 ，不法分子利用互联网分工配合 。诈骗案件发生时，位于上游的不法分子可能以自己不知情来规避法律制裁，这也是办理电信网络诈骗案件的难点之一 。”　　除了诈骗外 ，不法分子还能通过AI技术实施非法集资 、非法传销、侵犯知识产权等至少7类违法犯罪行为。　　“人工智能应用到经济活动中 ，还可能涉及不正当竞争与垄断行为。未来，我们甚至可能需要讨论AI能否成为独立承担责任的主体。待AI技术发展到一定阶段 ，它可能会被应用到无数场景，如果有违法行为 ，将可能涉及民事责任、行政责任以及刑事责任的承担。”中国政法大学资本金融研究院副院长武长海告诉《证券日报》记者 。　　跨境监管合作亟待加强　　事实上，随着AI技术的加速迭代应用，业界关于加强监管 、完善立法的呼声也越来越高 。　　据记者了解，中国现有法律体系能解决与AI技术有关的大部分违法犯罪行为 ，但前提是涉案人员归案。　　一位公安系统工作人员对《证券日报》记者表示：“涉及AI技术的诈骗案件，其涉案人员多在海外 ，资金也多流向海外 ，侦破难度较大。”　　一位检察院系统工作人员也告诉《证券日报》记者 ：“处理该类案件的难处主要有两方面：一是落地查人难，嫌疑人在网络上登记的信息基本都是假的；二是骗走的钱难追回
，嫌疑人拿到钱后很快就转走。”　　上海社科院数字化绿色化协同发展研究中心主任、清华大学国家治理研究院特聘研究员李易对《证券日报》记者表示 ：“国内法律规范能否对境外人工智能服务提供者进行有效约束 ，要打个问号 。这涉及到不同法律体系的跨国合作 。”　　叶庚清也表示，利用AI技术实施的违法犯罪行为 ，其精准性
、迷惑性、隐蔽性都大大加强 ，导致侦查打击难度加大；司法实践中
，治理该类违法犯罪行为时面临的“侦查破案难”“电子取证难”“认定处理难”等问题更加突出 。　　而我国已经开始探索并逐步构建完善的人工智能监管体系。　　此前 ，已有《新一代人工智能发展规划》《互联网信息服务深度合成管理规定》等文件正式公布。2023年4月份
，国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见 ，提出AI内容必须真实准确 ，禁止非法获取 、披露、利用个人信息和隐私、商业秘密
。　　不仅如此 ，近期，国务院办公厅发布的《国务院2023年度立法工作计划》还将人工智能法草案列为预备提请全国人大常委会审议项目 ，说明相关立法已提上日程 。　　武长海表示，人工智能法应当是综合性立法，会涉及刑事责任、行政责任以及民事责任 ，还可能涉及消费者权益保护以及反不正当竞争 、反垄断等
。“但最终也可能是原则性规定，实现和已有法律规范的有效衔接 。”　　“人工智能法可能会将打击跨境违法犯罪行为作为重要因素，加强与反电信网络诈骗法、反洗钱法、数据安全法的体系协同 ，通过建立区域合作
、国际公约等方式打击利用人工智能的违法犯罪行为，设定更有利于获取跨境犯罪证据的规则
。”北京扬涛律师事务所主任杨涛表示。　　但也有人担心较强的监管会阻碍AI技术的发展 。对此
，北京中科晶上副总经理杨小军对《证券日报》记者说 ：“现有的以及还在计划中的规范与监管，主要在于抑制AI技术带来的负面效应，并不会限制技术发展
。更为严苛的监管是用技术对技术进行管控 ，但这也需要技术进步到一定程度才行。”