近年来，随着人脸识别技术的广泛应用和人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施新型网络诈骗，类似骗局具有手段多样、门槛低、辨别难度大等特点，经常会防不胜防，短时间内造成较大损失。从形象到声音，如何警惕AI“深度造假”？
电话那一头，视频另一端，与你正在互动交流的人，是否真的是你认识的那个人？在“AI换脸”可以轻易模仿的当下，为了减少不必要的财产损失，可能必须要“知人知面又知心”。
包头市公安局曾在其官网发布，福州市某科技公司法人代表郭先生的“好友”通过微信视频联系郭先生，声称自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，想要借用郭先生公司的账户走账。“好友”向郭先生要了银行卡号，称钱已转入郭先生的账户上，并将银行转账截图发给他。基于视频聊天信任的前提，郭先生并未核实钱是否到账，而是陆续转给对方共计430万元，随后郭先生才发现被骗。
常州市公安局常州经开区分局横林派出所民警陈歆怡介绍，AI换脸换声的基本逻辑是通过深度学习特定算法，将目标人物的人脸、表情、声音等嫁接到模仿的视频中，最终实现视听合成的高仿真性，且软件成本低，合成速率高，检测鉴别难度大，一般人难以发现伪装痕迹。
总结下来，目前AI诈骗的主要形式有两种。
陈歆怡说：“第一种相对简单，通过技术手段直接合成换脸、拟声后的短视频或语音，在视频聊天、普通电话中直接播放，这类视频主要用于表达比较紧急的情况，比如遭遇事故求助等等，播放结束后就会掐断连接，无法与被害人形成回合性的对话，无法回答受害人的问题。另一种是在视频通话中直接换脸并替换声音，直接用拟声拨打电话。可通过让对方变换面部表情，比如眨眼、遮挡面部等方式识别是否存在换脸情况。由于拟声类诈骗在技术上是通过提取的声音特征生成模拟语音，或者对声音分解、重新排列而形成新的句子，由于这两者都会受限于样本的数量，所以可以通过延长通话时间，多次进行提问的方式让对方多说话，露出破绽。”
“AI换脸”诈骗底层逻辑依赖于 “深度伪造技术”，不法分子主要以冒充被害人的亲戚朋友、领导同事等身份，骗取被害人的信任，从而获得钱财。对此，北京航空航天大学法学院副教授赵精武表示，深度合成可能诱发的违法犯罪问题，监管机构早有关注。
赵精武说： “网信办、工信部和公安部在2022年专门制定了 《互联网信息服务深度合成管理规定》，明确了深度合成服务提供者的法定义务，例如应当采取技术或人工方式对深度合成服务使用者的输入数据和合成结果进行审核。”
赵精武进一步表示，相关部门加强监管的同时，需要我们自身树立起良好的防诈骗意识。
常州市公安局常州经开区分局横林派出所民警陈歆怡表示，日常生活中大家都常接到陌生人打来的广告电话，其实在和陌生人说话过程中，无意间就会把自己的声纹泄露，也许他们的目的本就不是为了推销，而是要获取你的声纹，进而实施进一步的犯罪行为。
陈歆怡说： “要想从源头上预防此类诈骗案件的发生，保护好个人信息是关键。首先对广大人民群众而言，陌生电话不要随意接听，防止有诈骗人员以电销推广等借口采集发音、语句；在个人互联网社交账户上，要避免过多暴露个人照片、声音、视频等信息；在对外提供人脸照片时需谨慎对待，使用小众软件身份认证、网络贷款实名放贷时提高警惕；不要随意去点击陌生的链接，链接中的木马程序会窃取用户手机内的照片、监听回传通话内容。”
此外，陈歆怡还提示，在开启 “定位服务”、输入身份证号或是录入 “人脸识别信息” “指纹识别信息”等个人生物信息时，一定要慎之又慎。 江晓晨
2023年11月01日 星期三
往期
第A2版:综合新闻
AI换脸搭配声音合成，“好友”以假乱真骗走钱款
如何警惕AI“深度造假”？
《山东工人报》（2023年11月01日 第A2版）
电话那一头，视频另一端，与你正在互动交流的人，是否真的是你认识的那个人？在“AI换脸”可以轻易模仿的当下，为了减少不必要的财产损失，可能必须要“知人知面又知心”。
包头市公安局曾在其官网发布，福州市某科技公司法人代表郭先生的“好友”通过微信视频联系郭先生，声称自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，想要借用郭先生公司的账户走账。“好友”向郭先生要了银行卡号，称钱已转入郭先生的账户上，并将银行转账截图发给他。基于视频聊天信任的前提，郭先生并未核实钱是否到账，而是陆续转给对方共计430万元，随后郭先生才发现被骗。
常州市公安局常州经开区分局横林派出所民警陈歆怡介绍，AI换脸换声的基本逻辑是通过深度学习特定算法，将目标人物的人脸、表情、声音等嫁接到模仿的视频中，最终实现视听合成的高仿真性，且软件成本低，合成速率高，检测鉴别难度大，一般人难以发现伪装痕迹。
总结下来，目前AI诈骗的主要形式有两种。
陈歆怡说：“第一种相对简单，通过技术手段直接合成换脸、拟声后的短视频或语音，在视频聊天、普通电话中直接播放，这类视频主要用于表达比较紧急的情况，比如遭遇事故求助等等，播放结束后就会掐断连接，无法与被害人形成回合性的对话，无法回答受害人的问题。另一种是在视频通话中直接换脸并替换声音，直接用拟声拨打电话。可通过让对方变换面部表情，比如眨眼、遮挡面部等方式识别是否存在换脸情况。由于拟声类诈骗在技术上是通过提取的声音特征生成模拟语音，或者对声音分解、重新排列而形成新的句子，由于这两者都会受限于样本的数量，所以可以通过延长通话时间，多次进行提问的方式让对方多说话，露出破绽。”
“AI换脸”诈骗底层逻辑依赖于 “深度伪造技术”，不法分子主要以冒充被害人的亲戚朋友、领导同事等身份，骗取被害人的信任，从而获得钱财。对此，北京航空航天大学法学院副教授赵精武表示，深度合成可能诱发的违法犯罪问题，监管机构早有关注。
赵精武说： “网信办、工信部和公安部在2022年专门制定了 《互联网信息服务深度合成管理规定》，明确了深度合成服务提供者的法定义务，例如应当采取技术或人工方式对深度合成服务使用者的输入数据和合成结果进行审核。”
赵精武进一步表示，相关部门加强监管的同时，需要我们自身树立起良好的防诈骗意识。
常州市公安局常州经开区分局横林派出所民警陈歆怡表示，日常生活中大家都常接到陌生人打来的广告电话，其实在和陌生人说话过程中，无意间就会把自己的声纹泄露，也许他们的目的本就不是为了推销，而是要获取你的声纹，进而实施进一步的犯罪行为。
陈歆怡说： “要想从源头上预防此类诈骗案件的发生，保护好个人信息是关键。首先对广大人民群众而言，陌生电话不要随意接听，防止有诈骗人员以电销推广等借口采集发音、语句；在个人互联网社交账户上，要避免过多暴露个人照片、声音、视频等信息；在对外提供人脸照片时需谨慎对待，使用小众软件身份认证、网络贷款实名放贷时提高警惕；不要随意去点击陌生的链接，链接中的木马程序会窃取用户手机内的照片、监听回传通话内容。”
此外，陈歆怡还提示，在开启 “定位服务”、输入身份证号或是录入 “人脸识别信息” “指纹识别信息”等个人生物信息时，一定要慎之又慎。 江晓晨