2023-05-27 12:05:58 来源：北京日报
谨防诈骗手法披上AI外衣（主题）
北京日报记者 袁璐
日前，全国多地警方发布了多个“AI诈骗”的典型案例，案件披露后，“AI诈骗正在全国爆发”话题一度冲上热搜第一，引发网友热议。记者调查发现，目前有不少人对外提供定制AI换脸视频，仅需正面半身照即可，成本低至数十元。
【资料图】
“当下AI换脸技术已相当成熟，容易被不法分子利用，但无需过分恐慌及妖魔化AI换脸的可用范围。”网络安全专家表示，面对利用AI技术的新型骗局，公众需提高警惕，碰到支付、转账等，尽量多渠道验证对方身份。
突然泛滥
多款软件可快速实现AI换脸
AI换脸技术，是一种利用人工智能和计算机视觉技术，将一张人脸图像的特征和表情转换到另一张人脸图像上，实现“换脸”效果。“AI换脸技术已相当成熟，使用门槛越来越低。”专注云计算与移动终端安全研究的“白帽黑客”陈玉（化名）告诉记者，早在2017年，就有某ID名为“Deepfakes”的用户首次发布AI换脸视频。“该用户账号不久被封杀，但他直接开源了其AI换脸项目的代码。”
代码开源后，AI换脸技术宛如被打开的“潘多拉魔盒”，迅速席卷全球。“只要具备基础的电脑知识，一个‘小白’也能在一天做出一个换脸视频。”陈玉表示，目前市面上有多款软件可快速实现AI换脸。除国外发布的专业软件外，国内部分娱乐APP也内嵌了AI换脸功能。
昨天，记者下载了一款名为Face-Play的APP。“一键AI换脸变装，还原平行宇宙的你！”该APP表示，用户需要在APP界面内拍摄完成一张比较规范的正面人像，点击变脸，选择自己想要的变脸特效即可获得AI换脸视频，模板多达3000多款，含“古风汉服”“经典角色”“气质美女”“港风女神”等。不过该APP采用付费制，周会员为17元，年会员为398元。此外，微信上还有不少有AI换脸功能的娱乐小程序，用户无需下载也可在线使用。
随便能买
定制AI换脸视频仅需数十元
“众女星换脸女儿国国王谁更适配？杨超越、迪丽热巴……”在B站上，这样的明星换脸视频播放量往往突破10万次。除明星换脸外，记者注意到，电商平台上有商家抓住了人们对过世亲人的思念，推出“AI想念的人”等视频合成服务，一条合成视频收费50元，月销量超40件。
“你只需要提供一张人物正面半身照给我，我就能让嘴巴眼睛动起来。你提供文字，他说出这段话。”该淘宝店主一边介绍，一边向记者出示了一条“客片”：“亲爱的家人们，我想念你们，我和你们的外公在这边过得很好，你们工作忙但也要照顾好身体。”在该店主发来的视频里，一位头发花白的老奶奶盯着镜头谆谆叮嘱，面部表情自然，甚至带有方言口音。
此外，还有不少商家以9.9元、19.9元等价格出售高清AI视频换脸制作的教程，并提供多套模板和数字虚拟人面部捕捉工具。但记者发现，这类商品大多差评多多。“不要买，没有用”“骗人的，谁买谁上当”“资料包没有想象中那么简单，也没有人工售后，全靠自学”，网友们评价道。
“找人定制AI换脸视频，看起来成片效果好，但实际上有很大的安全隐患。”陈玉表示，这一过程需要搜集大量的面部识别信息，而这恰恰是用户最核心的个人信息。“个人信息一旦被比对之后，如果落到不法分子的手里，极易威胁到财产安全和人身安全。”
加强防范
AI诈骗有待更高层面监管
AI换脸技术的可及性，让AI诈骗频发。近日，包头市公安局发布一起使用AI技术进行电信诈骗的案件，受害人郭先生10分钟内被骗430万元。5月25日，4月发生的一起AI换脸诈骗事件又被媒体曝光。在这起安徽安庆经开区发生的“冒充熟人”诈骗案中，诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”，诈骗金额达245万元。
基于AI换脸的诈骗手段已发展到什么地步？对此，奇安信首席反诈骗专家裴智勇对记者表示，不法分子在使用AI换脸进行诈骗时，大多以发送或展示AI换脸视频片段作为手段。“比如最近警方提到的9秒AI换脸视频，它其实没有和受害人发生真实交互，由于时间很短，受害人也很难详细分辨。”
“但我们无需过分恐慌及妖魔化AI换脸的可用范围。”裴智勇表示，以目前技术来看，想要盗取微信账号、劫持微信镜头并在实时视频聊天中运用AI实时换脸和变声技术，难度和成本都极高。“骗子通常都是用很低的成本博取很高的收益，不太可能花费高昂代价去批量寻找受害者。”
陈玉表示，普通用户防范AI诈骗，关键在保护个人面部信息，防止被不法分子所获取。“用户不要在互联网上随意公开发布包含自己高清正面人脸的照片和视频，或与不熟悉的人随意进行线上视频等。”
“没有经过训练的普通人想要用肉眼识别视频是否为AI合成，难度极高。骗子甚至不会给你详细判断的机会，几秒就挂断。”裴智勇认为，公众与其花费大量精力分辨骗子发来视频的真假，不如在有怀疑时直接换一种渠道验证对方身份，业内称为“双因子身份验证”。“比如好友视频聊天后要求转账，你就拨打对方电话号码再次确认；对方使用微信谈论交易，你就不妨用QQ再找他问问。多渠道验证要比肉眼分辨视频容易得多，也可靠得多。”
同时，业内专家认为，AI诈骗亟待更高层面监管，比如监管部门应该建立专门的人工智能安全机构，监督AI技术在不同领域内的应用。技术企业也应该加强数据合规建设，在人工智能设计中嵌入个人信息保护机制，并采用技术措施和管理制度，确保个人信息安全。
