查看原文
其他

【爱心公益】半夜,他偷偷在互联网上呼救

科技,为不能作战的人而战。


“嘟~嘟~嘟~嘟”


凌晨2点,桌上的电脑突然响起警报声。武纲弹簧一般从椅子上直起身体:有人正在多个店铺中寻找涉自杀商品,这一疑似自杀的风险行为触发了AI风险预警系统。


有可能有人要轻生。每月要处理类似预警2400多条的阿里安全小二武纲本能得警觉起来,但还没有足够的证据支撑这个判断;早上九点上班后,武纲迅速与这几家店铺的商家逐一联络,询问这一消费者的购买行为是否有异常,当得知他询问过“你们这个东西吃几片会死啊”,武纲心下一沉,这个人轻生的概率一下子大了。


阿里守护生命项目的劝阻机制立即启动:阿里安全首先联合阿里客服团队对这一消费者的订单进行了分析,紧急拦截;与此同时,联系商家并迅速将线索推送给当地警方;警方收到信息后非常重视,当即出警,进行上门劝阻。


然而,警方根据收货地址仅仅定位到了某小区一栋楼的2单元,这个单元有100多个住户,此时收件人的电话又屡次无法接通。“没办法,爬楼吧。”民警一方面通过警务系统联系该手机号的家属,另一方面开始挨家挨户开始敲门询问。


信息到达警方手里后,武纲一直悬着心,但有心无力,只能焦急地握着手机等消息。终于,中午12点49分,手机响起,警方传来好消息:购买涉自杀商品的人找到了,是一个13岁的小男孩。


当民警扫楼终于找到这户人家时,男孩的妈妈对他自杀的念头一脸茫然。沟通中,才知道,原来疫情期间无法出门,只能在家上网课,家长每天在家里督促男孩写作业,因其作业没有按时完成,被妈妈恶言相向、说了几句,一时想不开就想到了自杀。男孩妈妈意识到自己沟通方式的问题险些酿成大错,同在一个屋檐下竟不知自己的孩子想放弃生命。


警方向阿里安全小二武纲发来的感谢短信


01
拯救3500多人 还可以更多


此前,世界卫生组织公布的数据显示,全球每40秒就有一人死于自杀。而仅阿里旗下平台,通过商家举报、用户进线咨询、技术识别等方式,每月就预警自杀风险事件2400余起。


武纲见过各种想自杀的人,有情感纠纷、有抑郁症患者、有家庭矛盾……“大部分都只是一时的念头、冲动,如果有人能在他站在悬崖边时拉他一把,这个生命就留住了。”抱着这样的念头,武纲和阿里健康、阿里客服等多个团队的小伙伴组成了一支虚拟的“自杀干预师”团队,过去一年他们已成功劝阻3500多人。


阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启。


这个守护生命项目又有了新进展。阿里安全在去年11月28日上午宣布了公益项目“绿网计划”的诞生。“绿网计划”关注的焦点是抑郁症等自杀人群的生命守护,珍稀野生动植物保护以及涉烟草、游戏沉迷、色情和毒品等未成年人保护。


28日,绿网计划启动仪式上,还吸引了林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星,担任“绿网计划”的形象大使,并通过录制寄语的方式呼吁大家关注。


林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星担任“绿网计划”的形象大使,呼吁大家关注。


它的发起来源于网络上令人震撼数级的非正常搜索。72亿与386.7亿,这是网民在网络上进行非正常搜索的数量,72亿是阿里平台一年的数据,386.7亿是百度前三个季度的数据。


所谓非正常搜索就是网民会以软色情、破解游戏防沉迷系统、野生动植物,甚至毒品、自杀等为关键词进行搜索,这些可能对社会带来风险和不适。这些搜索背后,有些是企图作恶,更多则是好奇或迷茫。


围绕非正常搜索问题,在浙江省市场监督管理局的指导下,28日当天,阿里安全、阿里巴巴公益基金会、百度安全联合发起“绿网计划”,淘宝、闲鱼、UC、高德、优酷、夸克迅速加入。


“以前你搜违禁词,出来的就是‘抱歉,无法显示’这样的空页面,今天之后,这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳介绍说,好比有人搜象牙,淘宝会给他推送野生象濒危、呼吁保护大象的信息。


“我们希望将这些时刻都在发生的非正常搜索,转化成为社会各界都能参与进来,一起做正向引导的公益项目。”郑俊芳说。


02
每一次求助都应得到回应


对平台而言,除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控,还需厘清到底哪些用户“请求”需要引导和帮助。比如,有些搜索可能是因抑郁试图轻生的绝望呼救,也可能是沉迷游戏的少年在无奈求助。


每一次求助都应该得到回应,但回应不应该是空白的页面和冰冷的报错,这也是“绿网计划”发起的初衷。“绿网计划”上线后,涉及相关关键词的搜索页将不会再出现“抱歉,页面找不到”,取而代之的是政策法规和科普知识的宣导,以及相关合法合规的替代商品推荐。



“绿网计划”计划也不仅仅是一个公益宣导项目,它其实有一套完善的运作机制来驱动,例如武纲和他的同事们做的自杀干预项目,就是一个系统化工程。从发现潜在问题,到快速响应,到7X24小时不间断值班,到拦截流程的SOP,再到与地方公安的联动,最后反馈结果,优化流程。


每快1秒,都有可能救下一个人。在网民敲下不正常搜索词的那一刻,温暖的引导可能多带来一些希望。

阿里商业体这么做了。同时,阿里安全表示,希望更多企业加入,阿里愿意共享自己积累的能力与信息,与大家一起做一点让科技更性感的事情。浙江省市场监管局网监分局负责人也呼吁,希望有更多的平台和企业参与进来,让网络治理从事后走向事前,从惩戒转向预防,用“智理”实现“治理”。

科技,为不能作战的人而战。



产业实践 往期推荐点击标题查看文章

博士毕业后,他在淘宝“扫垃圾”?



阿里AI黑科技成团出道,可防火防伪防疫还能反诈鉴黄与打假……



阿里“塔玑”太逼真:外籍模特不再吃香?



万能的淘宝上买不到什么?



阿里建全球最大奢侈品商标数据库:无偿提供给全球科研团队使用识别假货



AAIG参与发布《人工智能产业担当宣言》



一场猎杀AI的残酷游戏:把枪口对准人工智能,是为了吓退黑暗丛林中的对手



阿里实人认证安全性通过FIDO全球权威认证



多举措提升直播品质 阿里协助警方侦破直播售假案



为AI攻防测能力,清华联合阿里、RealAI发布全新测试基准平台Adversarial Robustness Benchmark



阿里巴巴成立人工智能治理与可持续发展实验室(AAIG)



技术干货 往期推荐点击标题查看文章

AI在茫茫人海中,看到只有你被Deepfake了



给AI系统做“安全体检”,阿里安全提出自动化AI对抗平台CAA | AAAI 2021



给图片打「马赛克」可骗过AI视觉系统,阿里安全新研究入选ICCV 2021



你算个什么鸟?AI十级“找茬”选手诞生



「启发式领域适应」成果入选NIPS2020,新一代算法「鉴黄师」诞生



4项新一代安全架构核心AI技术沉淀的论文被国际会议ICASSP收录



用“算法”模拟光束可攻击自动驾驶车辆,专家呼吁重视AI安全



张钹院士解读AI安全治理三大痛点+信通院AI数据安全治理的七条建议



准确检测DeepFake视频,阿里新算法从多个人物中识别被篡改的人脸



只要AI跑得快,色情黑话就追不上我



爱心公益 往期推荐点击标题查看文章

为数十万盲人修建网络盲道:阿里的追光者每天为数亿张图片把脉,帮助盲人“听图”



“绿网计划”对数百亿次非正常搜索进行公益化疏导



AAIG CUP 往期推荐点击标题查看文章

抱大腿攻击是什么?AAIG CUP暨第三届 Apache Flink 极客挑战赛启动!



更多人工智能治理和可持续发展技术

干货+产业实践分享

点击下方名片关注和星标

【阿里巴巴人工智能治理与可持续发展实验室】


为即将到来的更多治理干货点

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存