通过AI换脸和拟声技术佯装熟人实施诈骗；用AI伪造问题商品图片申请“仅退款”；生成虚假音视频造谣博流量……随着AI技术加速迭代，涉诈犯罪风险也在积聚，AI滥用案例一次次提醒人们“眼见未必为实”，凸显“以AI治AI”的紧迫性。
近日，国家反诈中心APP正式上线“AI内容鉴定”功能，包括图像检测、视频检测、文本检测、音频检测等。各模块对上传文件的大小和时长有一定限制，比如图片需在30KB至5MB之间，文本需在10字至5000字之间，目前每日免费检测次数为10次。多家媒体实测发现，AI生成图会被检出“图像含AI生成痕迹”，上传真实拍摄图片则显示“未检测到合成痕迹”，所有图片均被正确识别。
“以白AI对抗黑AI”，对反诈防骗的重要意义无需赘述。放眼观之，互联网平台也在积极布局AI检测工具，有负责人称，从行业整体情况来看，综合准确率在95%以上。与之相比，国家反诈中心APP作为由公安部刑侦局推出的防骗保护软件，用户覆盖面广、权威性高，其推出的“AI内容鉴定”天然具有高信任度，这有助于将专业机构检测能力普及化，让技术“小白”也能轻易识别虚假内容，这也对工具检测准确性提出了更高要求。
目前来看，官方并未披露准确性相关情况，媒体多就图片开展少样本实测，新功能在更多元落地场景、更多次使用实践中，还能否保持100%准确率，需要进一步观察。这不是唱衰，而是必要的清醒——正如技术专家提到，AI通过元数据、与物理世界一致性、像素断层等细节来判断内容真伪，细节较少内容的鉴别准确性可能略低，通过技术“去伪”还存在一定局限性。每逢毕业季，也有不少高校师生因不认可论文AI率检测结果而面临一系列棘手问题，侧面说明文本检测难度。考虑到AI仿真能力不断变强、AI降痕工具也在不断更新，可以说，几乎不存在一款终极的、具有“一锤定音”效果的AI检测工具。
对“AI内容鉴定”，一方面要积极推广，扩大新功能覆盖面，尤其是在售后纠纷等重点领域的嵌入；另一方面要明白技术的“能力边界”，建立申诉渠道与人工复核机制，避免技术盲信。在此过程中，技术人员需从新情况中找到问题所在并加以改进，从技术上擦亮“白AI”的“火眼金睛”，也需要用户及时反馈，平台及时响应，并公开误判案例类型及原因，帮助用户合理设置预期，同时以高透明度赢得公众长期信任。
拨开数字迷雾，需要源头标识、技术检测、人工复核、公众素养等协同发力，“AI内容鉴定”是其中一环。用AI治理AI，用机制弥补不完美，用法律惩罚作恶，方能高效防治技术滥用，构建安全可信数字世界。（维辰）
配资网提示：文章来自网络，不代表本站观点。
