近日，百度发布了2017年度信息安全综合治理报告。报告显示，百度全年处置有害信息高达451亿余条。但是，值得关注的是，百度将AI技术应用于信息安全领域，在信息上线之前百度机器人就已能拦截超过99%的有害信息，让信息安全处置能力产生了质的飞跃。

百度内容安全中心基于百度AI能力，通过三层内容风控体系建设风险策略+模型、平台服务、服务应用，解决违法信息存在的风险威胁。具体来看，百度利用自然语言处理、深度学习、图像识别等多项AI技术在内容类别、网络架构及后续迭代上实现增量训练；基于百度深度学习，利用千万级业务训练学习有害样本。

百度内容安全中心采取“两拦一筛”手段综合治理违法有害信息，即：第一次拦截操作，利用已有机器策略针对未上线的海量数据进行高速甄别并将有害信息大量剔除；第二次拦截操作，对已上线信息，人工协同机器进行二次巡查；同时百度已在全产品范围内开放多类渠道接入来自个人、企业、政府职能部门等其他第三方的反馈。

通过“主动巡查”策略，主要拦截了淫秽色情、赌博、制假贩假等类别的有害信息；其余有害信息如危险物品类、毒品类及非法信息交易类等，需要进一步的评估、判断，因此需要机器+人工的“自主清理”操作。百度2017年全年利用自主清理共处置有害信息1.16亿条。此外，通过用户、企业和政府机构等各个渠道的第三方反馈收集处理，百度全年共清理有害信息高达421万条。