中新网北京10月21日电 (记者 张素)记者21日从中科创星获悉，多模态AI生成信息智能检测应用小程序“星眼鉴”已发布，这款反AI智能工具可以高效鉴别出用户上传的视频或图像是否为AI生成的伪造数据。
AI技术正在被大量应用于场景中，而人脸识别技术为人们的生活带来便利和乐趣的同时，其风险性也日益突出。比如，利用AI进行“逃逸攻击”“对抗样本攻击”和“数据污染攻击”的案例逐渐增多。
提升反AI安全防务迫在眉睫。南京摄星智能创始人兼CEO杨理想介绍，基于自主研发的人工智能技术，他们开发出反AI检测程序。“星眼鉴”分别面向B端和C端，其中，B端版本提供更全面和更高级的服务，用户可将其用于各种侦测、安防场景；C端加入用户猜测、评价机器判断结果对比、报告图片分享至朋友圈等互动性娱乐设计。
杨理想介绍，用户在上传视频或图像后，后台会基于深度学习的智能检测算法，对视频中的每一帧图像进行人脸检测和特征学习，包括人的生理特征、面部分辨率以及脸部运动等，将学习到的特征深度融合，形成真伪视频的判断结论。“经检测，该模型在反AI检测准确率已经达到95%以上。”他说。
据介绍，南京摄星智能的研发团队来自北京大学、中国科学院、西安交通大学等高校或机构，掌握的核心技术包括自然语言处理、机器视觉、语音识别等方向。此前，团队结合其对多模态数据理解、样本对抗等方法，自主研发出反AI检测算法框架，形成了反AI检测体系，军智内核平台已落地多个合作伙伴。
“这套内核是在军工领域深耕的成果，比如智能反AI检测体系，支持多模态虚假AI数据的检测。”杨理想说，经过技术脱敏处理，衍生出“星眼鉴”。他们计划陆续推出语音、文本等类型信息的反AI生成鉴别工具。(完)
