您的位置 首页 科技

原创 今天,阿里和百度联手发起了一个大计划

网商君这是互联网上令人痛心的数据。11月28日,2020数字化治理高峰论坛,阿里安全和百度安全公布了两组数据:阿里平台上一年有72亿非正常搜索,而百度前三个季度就有386.7亿。

网商君

这是互联网上令人痛心的数据。

11月28日,2020数字化治理高峰论坛,阿里安全和百度安全公布了两组数据:阿里平台上一年有72亿非正常搜索,而百度前三个季度就有386.7亿。

什么叫非正常搜索?指的是那些可能对社会带来风险和不适的搜索行为,以软色情、破解游戏防沉迷系统、野生动植物,甚至毒品、自杀等为关键词进行搜索。这些搜索背后,有些是企图作恶,更多则是好奇或迷茫。

如何破解非正常搜索问题?在浙江省市场监督管理局指导下,阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”,淘宝、闲鱼、UC、高德、优酷、夸克等互联网应用也已经加入。

原创             今天,阿里和百度联手发起了一个大计划

“以前你搜违禁词,出来的就是‘抱歉,无法显示’这样的空页面,今天之后,这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳说。

比如,假如有人搜“象牙”,淘宝会给这位用户推送野生象濒危、呼吁保护大象的信息;假如有人搜“自杀”,淘宝会推送心理援助信息和咨询热线。

林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星,则出任“绿网计划”形象大使,并通过录制寄语的方式呼吁大家关注。

用AI守护,致爱万物。

原创             今天,阿里和百度联手发起了一个大计划

展开全文

河南13岁少年的故事

今年疫情期间,河南少年小伟(化名)居家学习,母亲每天督促他写作业,因没有完成母亲安排的作业,引发冲突,他一时想不开,产生轻生念头。

“这个东西吃多了能死嘛?”小伟向一家淘宝店的客服人员问到。几经交流,客服发现小伟言语间有轻生倾向,一边安抚,一边询问他的收货地址,并及时把情况反馈给阿里安全自杀干预师团队。

自杀干预专家武纲接到通知后,立即启动紧急干预程序,根据店铺客服提供的信息,排查小伟的下单情况,并联动平台客服向小伟所在的河南漯河当地警方报警。

报警信息经110转到漯河市公安局沙北分局治安大队一中队,队长胡广战根据客服提供的收货信息开展综合研判,联系到亲属。民警上门后吃了一惊,有轻生念头的小伟竟是一位13岁的男孩。

原创             今天,阿里和百度联手发起了一个大计划河南漯河警方发来的感谢信息

在各方努力下,从发现风险情况,再到民警入户干预,前后只用了一个多小时。

“当我们上门的时候,男孩母亲还不知发生这样的事情,听说事情经过以后,表示以后教育孩子时会注意方式方法,并关注孩子近期动向,做好孩子心理疏导。”胡广战说。

武纲结合以往干预的案例分析说,有自杀倾向的年轻人,大部分是冲动型的,和他们多聊聊,交谈过程多倾听,身边的亲友多给一些帮助和温暖,大多数人都能迈过那道坎。

重庆年轻女孩的故事

作为国内最大的电商平台,淘宝已成为感知社会情绪的一个触角。在发现有自杀倾向的人后,如何借助平台的力量,关爱他们,避免悲剧发生?

2019年7月,阿里安全牵头,联动阿里健康、阿里CCO(阿里巴巴集团客户体验事业群)等部门推出守护生命项目,建立心理危机干预机制,一方面利用人工智能技术感知风险,另一方面对商家开展专业培训。当商家发现风险,会及时安抚、劝阻,筑起第一道保护屏障,并通知阿里安全“自杀干预师”。紧急情况下,平台联动警方及时介入。

今年3月的一天,阿里CCO的瑞符(花名)接到来自商家的求助。

以下为商家和消费者的对话:

“我朋友圈看到了有人要自杀,你可以不要发货吗?”

“亲,通过您提供的手机号码,没有查到订单哦”

商家无法查到订单,但又认为这个事情很危险,立刻联系了阿里客服。

瑞符迅速查找订单信息,发现这位消费者确实在其他商家分别购买了用于轻生的不同商品,且部分商品已到货。

瑞符立刻联系商家拦截尚未发货的风险订单;同时,拨通了用户所在地重庆市涪陵区警方的110报警电话。

原创             今天,阿里和百度联手发起了一个大计划

一场跨越千里的生死极速开始了。

涪陵区公安局荔枝派出所立即派民警前往消费者家中。但是民警到了收货地址发现,这并不是实际地址,拨打订单上的电话也一直未接。

民警开始在小区周边走访排查,两个小时后,终于找到了那位一时想不开的年轻女子。而直到民警上门,她父母才意识到,原来女儿有过这样的傻念头。

据她父母透露,女儿患有抑郁症多年,病情一直反复,时好时坏。原本想带女儿去看病,却因为疫情一直耽搁着。

警方反馈,女孩因为疫情一直在家闷着,这次原本好转的病情又恶化了。

经过这次事情,父母决定尽快带女儿去看病治疗。同时警方也带回了那个原本准备用于自杀、已经到货却还没来得及取回的物品。

几天后,重庆涪陵警方给瑞符打来电话,告知女孩目前情况稳定。涪陵警方还发来一封感谢信:“此次警企联动,接力相助,成功阻止女子轻生,及时挽回了一条年轻的生命,也挽救了一个幸福的家庭。”

原创             今天,阿里和百度联手发起了一个大计划重庆涪陵警方给“守护生命”项目组发来感谢信

今年6月,在心理干预机制运行近一年后,阿里安全联合中国网络社会组织联合会、共青团中央维护青少年权益部、阿里巴巴公益等推出“守护生命计划”,国家精神卫生项目办公室还给予专业知识支持。此外,项目邀请邓伦、谭松韵等知名艺人担任关爱大使。

每一次求助都应该得到回应

在“守护生命”公益计划中,页面转化引导也发挥了关键作用。

“亲,你不孤单,我们和你在一起”。当用户在淘宝手机端搜索与自杀相关的内容时,会自动跳出“守护生命”宣导页面,在显著位置提示12355青少年服务热线及国家免费心理咨询热线。页面还设置了心理健康知识板块,引导有焦虑、失眠、情感障碍等特征的人士,掌握科学应对的方法。

国家精神卫生项目办公室常务副主任马宁说,中国抑郁症患者呈现增长趋势,但就诊率很低。因此,需要加强宣传教育,营造理解、关爱、互助的社会氛围。

自去年以来,“守护生命”公益已救回因抑郁症等原因而轻生的数千个鲜活生命。

如今,在“守护生命”公益计划的基础上,阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”。

据介绍,“绿网计划”关注的焦点是抑郁症等自杀人群的守护生命公益,珍稀野生动植物保护公益以及涉烟草、游戏沉迷、色情和毒品等未成年人保护公益领域。

对参与这一计划的各家互联网平台而言,除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控,还需厘清到底哪些用户“请求”需要引导和帮助。比如,有些搜索可能是沉迷游戏的少年在无奈求助,也可能是因抑郁试图轻生的绝望呼救。

原创             今天,阿里和百度联手发起了一个大计划阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启

每一次求助都应该得到回应,但回应不应该是空白的页面和冰冷的报错。项目发起代表方、阿里巴巴集团首席风险官郑俊芳说:“我们希望将这些时刻都在发生的非正常搜索,转化成为社会各界都能参与进来,一起做正向引导的公益项目。”

用“智理”实现“治理”

作为“绿网计划”的共同发起方,百度副总裁马杰表示,利用人工智能技术结合人工巡查,百度安全2020年前三季度治理全网以色情、博彩、电信网络欺诈、非法信息披露及交易为代表的各类有害信息网页高达386.7亿次。

此外,在世界儿童保护日、“互联护苗2020”专项行动中,百度安全也联合监管部门针对影响未成年人健康成长的有害信息,进行了专项治理。

浙江省市场监督管理局网监局局长金翔评价,把无法搜到的相关信息变成了一个个公益宣导,“绿网行动”迈出的是对网络治理由堵到疏的一大步,也是用新理念、新思维对数字化治理新模式的探索。“我们对阿里巴巴、百度等主动担当以及勇于创新的精神,应当给予高度的肯定和全力的支持。”

他还呼吁,有更多平台和企业参与进来,让网络治理从事后走向事前,从惩戒转向预防,用“智理”实现“治理”。

本文来自网络,不代表华夏资讯网立场,转载请注明出处:https://www.cnbilin.com/5593.html

作者: 木易南嘉

为您推荐

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

联系我们

18171391846

在线咨询: QQ交谈

邮箱: 5877546@qq.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部