2023年，ChatGPT一夜爆火，在不到3个月的时间里月活用户突破1亿；2025年，DeepSeek横空出世，短时间内就在谷歌、苹果的下载榜单中全球登顶。AI超强的学习能力和自我纠错能力使它能够精准匹配到用户的需求，大幅提高效率的同时还能降低成本，这些优点使AI深受大众的信任与喜爱。然而，某些别有用心的人却用AI换脸、AI生成音频等来进行诈骗，这种新型诈骗方式则是让人防不胜防。
无论是ChatGPT还是DeepSeek，作为开源式的AI，它们的共有特征就是发展迅猛，新兴的产品在短时间内迅速接入千行百业，加上大众对其知之甚少，导致群众防范意识淡薄和行业监管缺失，就可能会让不怀好意的诈骗分子有可乘之机。AI诈骗会在阻碍技术发展的同时造成社会信用体系崩塌。鉴于此，AI技术既要推动进步也要规范发展，才能让科技创新用得更加安心。
利用技术反制，借力打力打击AI诈骗。对于AI能轻易生成出肉眼难以分辨、高度逼真的假视频假音频，运用“师出同门”知己知彼的原理，让AI去检测音视频是否真实，通过在电脑和手机等电子设备中安装插件，发现AI生成的内容时自动报警，对使用人予以提醒从而避免上当；或者开发APP，对音视频等内容有“打假”需求的便可将其导入深度检测。例如腾讯推出的AI检测工具“朱雀”，目前可以高效识别AI生成的文本与图像内容。
受到AI诈骗牵连的不一定都是被骗人，还有可能是“行骗人”，必须做好个人防范的内防外控，双管齐下，才能提高“数字免疫力”。一方面要时刻保持警惕，对音视频索要钱款的行为要多次反复核验对方是否为本人，对经常有钱款往来的对象，如交学费、交房租、交生活费等要注意固定的时间、金额和方式，对于要求新方式付款或者异常时间内索要钱款的则要提高警惕，尽量选择线下交易，避免上当受骗。另一方面要保护生物信息。在游玩网络社交媒体平台时，要避免上传高清的照片和清晰的音频，尽量不要暴露个人信息，以防居心叵测之人盗用身份信息制作诈骗音视频，造成本人在不知情的情况下“行骗”。
防范AI诈骗，不是某个人、部门抑或团体的事情，它需要社会协同发力，共筑防范AI诈骗安全防线。法治必须首当其冲，用政策立法确定AI技术的使用范畴，用法律法规明文规定AI可涉足的领域，将AI技术牢牢控制在自己手里。其次平台要加强监管，对自身平台生成的AI内容要严加审核，对疑似生成用于诈骗的内容应当不予导出，或者对生成内容强制添加水印。另外，要进行全民反诈宣传，普及AI诈骗案例和识别技巧，同时设立快速举报通道，让AI诈骗无所遁形。如拨打中央网信办违法和不良中心举报电话（或登录举报平台）、关注“中央网信办举报中心”微信号等方式进行举报。
科学技术进步必然会促进社会历史变迁，AI技术是不可逆的，对于AI诈骗，要提高认知、强化防御才能抵抗风险。同时要理性看待AI技术，每一次的技术变革，总会伴生新的风险，多方共治下技术总会向善，要在警惕中保持科技发展的理性信心。
稿源：荆楚网（湖北日报网）
作者：蔡屹博（宜昌“我们正当阳”网评团队）
责编：丁玥
