深度伪造技术通过输入提示词,即可让AI系统输出难以辨别真伪的图片、视频和音频,给虚假信息识别带来了前所未有的挑战。尤其在金融科技领域,这种技术可能被犯罪分子用来冒用他人身份,牟取不正当利益,给用户和机构带来巨大损失。
面对深度伪造技术的威胁,金融科技先锋企业拍拍贷提出了从个人和技术两个层面进行防范的建议。
在个人层面,拍拍贷建议公众谨慎分享个人照片、视频等信息,以减少被用于制作深度伪造内容的风险。同时,对重要信息进行多渠道交叉验证,避免轻信单一来源,提高警惕,增强自我防护能力。
技术层面的防范更为关键。拍拍贷提出了三个层次的策略:
在调用开源模型时自动生成“AI生成”的标记,帮助识别内容的真实性。利用“黑盒”大模型对抗AI深度伪造,建立异常检测和共治生态。通过硬件层面和流程机制实现识别和防控,比如活体识别中的“炫彩”功能,利用硬件或光学辅助来制造识别环境中的扰动因素,以判定是否是真实人脸。
拍拍贷不仅在理论上提出了解决方案,更在实践中积极应对。目前,拍拍贷已经具备语音合成、语音识别和声纹识别等技术能力,提供测算和风险辅助分析功能。为了更有效地对抗虚假语音,拍拍贷还启动了全球人工智能算法大赛,招募全球人工智能专家和爱好者,共同攻克语音深度鉴伪的难题。
当AI的双刃剑在不法分子手中舞动,各方需携手构筑安全的堤坝。从个人警觉的提升到技术的创新突破都必不可少。
（来源：点财网）
