8月26日，2024年度上海市科学技术奖揭晓，蚂蚁集团与上海交通大学联合完成的网络内容安全检测技术项目获科技进步一等奖。中国工程院院士领衔的专家委员会鉴定认为，该技术整体达国际先进水平，其中AIGC检测等技术居国际领先。

随着生成式AI兴起，网络内容安全面临新挑战。双方团队攻克多模理解、AI鉴真等关键技术，构建起智能治理新模式。项目实现四大突破：缓解大模型幻觉、生成训练数据、打造获信通院5星评级的监测方案、建立对抗溯源防护体系，解决了泛化难题与隐晦内容检测等核心问题。

该技术已获41项专利及118篇论文支撑，应用于支付宝等平台后，将内容安全响应时效从天级压缩至分钟级，高效拦截不良内容。蚂蚁安全实验室首席科学家王维强表示，将持续深耕可信AI研发，推动网络安全智能化突破。

头图来源：蚂蚁集团