公司回应ai换脸骗走2亿 AI“换脸”CFO!某公司被骗1.84亿

AI“换脸”CFO!某公司被骗1.84亿

2024年2月3日，香港警方披露首宗AI“多人变脸”诈骗案，一家英国企业在香港的分公司被诈骗2亿港元（折合人民币1.84亿元），这是迄今香港损失最大的“变脸”诈骗案例。

案件经过伪造身份准备：骗子搜集了该跨国公司英国高层在YouTube上公开的影像，利用人工智能“深度伪造”技术，将自己的面部和声音替换成英国高层的面部和声音。

发起视像会议：1月中旬，骗子以“英国总部首席财务官”的名义，向香港分公司的财务职员发信息，声称公司要进行一项“机密交易”，邀请香港职员登入网上多人视像会议“开会”。视像会议画面上有4名至6名英国总部高层人员，包括众人熟悉的英国总部首席财务官，其他高层也“熟口熟面”。会议诱导决策：会议期间，“英国总部首席财务官”要求香港分公司职员简短自我介绍，接着其他高层简短“讨论”公司的交易决策，并指示“首席财务官”跟进香港分公司汇款事宜。下达转款指示：该“总部首席财务官”透过实时通讯软件向香港分公司财务职员下达转款指示，一星期内分15次，将合共两亿港元存入5个本地银行户口，作为“机密交易”资金。发现受骗报案：1月底，香港公司财务职员向公司总部查询时方知受骗。案件背景香港警方最新数据显示，2023年1月至11月有31843宗科技罪案数，损失50.9亿港元；比较2022年同期上升了53%及72%。2023年损失最大一宗科技罪案涉及电邮骗案，受害人为一间国际资产管理公司，被骗子冒认生意伙伴发电邮要求转账，于两个月内被骗走7,820万港元。

警方分析网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，利用人工智能“深度伪造”的欺诈手法，与传统诈骗手法其实如出一辙，只是利用不同手段以取得受害人信任进行诈骗，最终目的主要是诱骗受害人将款项转账到骗子指定户口。他强调，虽然科技发展一日千里，但只要市民时刻保持警惕，养成高防骗意识的习惯，对任何社交平台或通讯软件所收到信息，都要有查证真伪的意识及行动，谨记在人工智能“深伪技术”下，网上已经“眼见不一定为实，有图有片亦不一定是真相”。

预防建议要求对方在镜头前做指定动作，留意对方在荧光幕上影像有否变异，以测试是否利用人工智能技术假冒他人样貌。当对电话或视频上的亲友有怀疑，尝试提问以测试对方身份真伪，例如问该名亲友背景等问题。提高防范意识，切勿轻易提供人脸、指纹等生物辨识数据，以免骗子利用犯案。当亲友及公司职员在视频或录音中提出汇款要求时，要提高警惕，必须致电或从其他渠道一再核实。避免接听陌生视像通话来电，以防骗案或骗子盗取肖像利用来犯案。如有怀疑，可在“防骗视伏器”输入电话号码、社交媒体账号、收款账号等评估风险，或致电18222查询。

假面横行!AI 换脸会议骗取香港职员 2 亿港元

该事件是一起利用AI换脸技术实施的重大跨国诈骗案件，犯罪分子通过伪造视频会议场景骗取香港某公司职员2亿港元，暴露了深度伪造技术滥用对金融安全的严重威胁。

一、案件核心手法解析犯罪团伙利用深度伪造（Deepfake）技术，通过以下步骤完成诈骗：

目标筛选：锁定香港某公司财务部门职员，可能通过前期信息窃取（如社交工程）掌握其工作职责。身份伪造：收集公司高层或合作伙伴的公开影像资料，训练AI模型生成逼真的换脸视频，模拟其面部表情与口型。场景构建：伪造视频会议环境，可能结合虚拟背景、语音合成技术，使受害者误以为与真实高层对话。指令下达：在会议中以“紧急资金调动”“项目保密款”等理由，诱导职员向指定账户转账2亿港元。

图：AI换脸技术通过生成对抗网络（GAN）实现面部特征替换，结合语音合成可伪造全息会议场景二、技术滥用背后的风险链条数据获取低成本化

公开渠道（如社交媒体、新闻视频）的影像资料易被获取，为训练AI模型提供素材。

犯罪团伙可能通过暗网购买定制化数据包，包含特定目标的面部、语音特征。

技术工具平民化

开源深度伪造框架（如DeepFaceLab、FaceSwap）降低技术门槛，非专业人员也可操作。

云服务与API接口的普及使犯罪分子无需自建计算资源，进一步压缩成本。

诈骗场景逼真化

结合实时换脸技术与语音克隆，可伪造动态对话场景，突破传统静态图片诈骗的局限性。

虚拟会议工具（如Zoom、Teams）的普及为犯罪提供“合法”外衣，增加受害者信任度。

三、案件暴露的安全漏洞身份验证机制缺失：企业未采用多因素认证（如生物识别+硬件令牌）确认高层指令真实性。财务审批流程漏洞：大额转账未设置双人复核或延迟到账机制，导致资金快速流失。员工安全意识不足：缺乏对深度伪造技术的认知，未能识别视频中的异常细节（如面部边缘模糊、口型不同步）。四、防御策略与行业建议技术防护层面

部署AI检测工具：使用反深度伪造算法（如检测面部扭曲、光影异常）筛查可疑视频。

引入数字水印：在关键会议视频中嵌入不可见水印，便于追溯来源并验证真实性。

流程管理层面

建立“双线确认”机制：对高层指令要求通过电话、邮件等多渠道二次验证。

设置转账冷静期：大额资金调动需延迟24小时执行，预留风险拦截窗口。

人员培训层面

开展深度伪造识别培训：教育员工关注视频中的异常细节（如眨眼频率、耳部变形）。

模拟攻击演练：定期组织红蓝对抗，测试员工对AI诈骗的应对能力。

法律与监管层面

推动深度伪造立法：明确技术滥用的刑事责任，提高犯罪成本。

加强跨国协作：建立国际执法机制，追踪犯罪资金流向与技术供应链。

五、行业影响与未来趋势企业安全投入升级：金融、科技行业将增加对AI安全领域的预算，预计全球深度伪造防御市场规模2027年达127亿美元（来源：MarketsandMarkets）。技术伦理争议加剧：深度伪造可能被用于政治操纵、名誉诽谤，引发社会对AI监管的广泛讨论。新型诈骗形态涌现：犯罪分子可能结合元宇宙会议、全息投影等技术，进一步迷惑受害者。本案揭示了AI技术双刃剑效应的极端案例。企业与个人需在享受技术便利的同时，构建“技术防御+流程管控+人员意识”的三维防护体系，以应对日益复杂的深度伪造威胁。

遇到AI诈骗利用换脸和拟声技术骗走你的钱怎么办

遇到AI诈骗利用换脸和拟声技术骗走你的钱，我们应该这样防范。首先，确保保护个人信息的安全是至关重要的。不要随意分享个人敏感信息，如银行账号、信用卡号码、身份证号码等，尤其是在未经核实的情况下。同时，要注意避免在社交媒体平台上发布过多的个人细节，以免给不法分子提供攻击的机会。

其次，要保持警惕，不轻易相信来自陌生人或不熟悉的来源的信息。在互联网上，谣言和虚假信息层出不穷。如果收到一份看似正规的电子邮件、短信或社交媒体消息，要仔细检查发送者的身份和内容的真实性。避免点击未知链接或下载附件，这可能导致恶意软件感染或个人信息被盗取。

此外，保持软件和设备的安全也是重要的防范措施之一。定期更新操作系统、浏览器和其他应用程序，以获取最新的安全补丁和功能改进。安装可信赖的杀毒软件和防火墙，定期进行系统扫描，并确保启用自动更新功能。此外，避免使用公共无线网络连接进行敏感的金融交易，因为这些网络容易受到黑客攻击。

另外，要养成良好的密码管理习惯。使用强密码并定期更改密码，不要使用简单易猜的密码，最好使用包含字母、数字和特殊字符的组合。同时，对于重要的在线账户，启用双重认证功能（如短信验证码、指纹识别等）以提高安全性。

最后，教育自己和他人也是防范AI诈骗的关键。了解常见的诈骗手法和技术，学会分辨真假信息，警惕不法分子可能利用的伎俩。同时，及时向当地执法机关报案，如果发现自己受到了诈骗行为的侵害。

面对AI诈骗利用换脸和拟声技术的威胁，我们需要保护个人信息的安全，保持警惕，保护设备和软件安全，良好的密码管理习惯，并持续教育自己和他人。

关于本次公司回应ai换脸骗走2亿和AI“换脸”CFO!某公司被骗1.84亿的问题分享到这里就结束了，如果解决了您的问题，我们非常高兴。