腾讯说他们是这样应对色情黑产的 是否有效呢?

2018-08-18 21:19| 发布者: | 查看: |

  腾讯是如何进行色情识别的
 
  色情是很主观的判断,在不同的场合和时期有不同的标准。
 
  腾讯公司信息安全部总监鞠奇用一张大卫的雕塑图像开始了他的演讲,但在实际情况中,遇到的问题往往更复杂。
 
  先开始,他们对图片的判定,分为“正常”“性感”和“色情”三档,但这种判定标准模糊,容易有漏掉一些色情图片。
 
  有的图片故意将一个小的色情主体放置于一个庞杂背景下;有的给色情图片加上噪点,还有的给关键部位打上马赛克,试图干扰机器判断。
 
  为了增加判断的准确性,鞠奇和团队尝试用深度学习的方法训练机器,找出包含细致标签的样本库进行人工智能的学习,让机器更加详细的了解图片中究竟出现了哪些隐私部位,相似度有多高,最后交由人工决策。简单来说,就是机器对各类隐私部位有了更多了解。
 
  除了对与图像的识别,鞠奇强调还应该加强对文字、二维码等信息的识别,一些有色情属性的qq账号就是通过文字的简介或者相关的二维码对用户进行诱导的,这些识别方式在腾讯是经常用到的。
 
  涉黄黑产新趋势
 
  对于色情黑产,雷锋网曾经报道过色情诱导诈骗:20秒小电影撑起6亿黑产。
 
  其中提到,APP或者视频网站的技术开发门槛很低,有经验的程序员可以用几天时间完成开发。而且,这类开发本身是一个开放的市场,可以公开购买,在某电商平台以“诱导源码”为关键字,只需要数十元即可买到源代码。
 
  唐兴波透露,从他们协助查获的案件来看,这些黑产发展呈现出公司化、平台化、国际化和智能化的趋势。
 
  你一查,全部是正规公司
 
  在此前的报道中提到,黑产团伙的运营者通常具备一定的“法律意识”。为了保证网站的生存周期,或者APP在上架应用市场时能通过审核,同时规避“淫秽物品”的法律界定,其展示出来的内容都是经过精心剪辑的边角料。
 
  比如武汉雷胜科技公司,其设有研发部、市场部、编辑部、财务部、客服部等,其中编辑部就主要负责色情诱导视频APP、网站内容的编辑和添加,还雇佣了律师对视频和图片内容进行审核,确保内容能够通过审核、上架。警方在扣押武汉雷胜科技公司的服务器时,查处其中存放的百部电影短片、数万张图片,但都很难直接鉴定为“淫秽物品”。
 
  唐兴波告诉记者说,目前色情黑产在对人工智能的利用也很多,比如一些对色情图片的处理,规避了机器对色情图片的识别机制。此外,随着国内加大对网络犯罪的打击力度,一些黑产团伙也开始转移阵地去东南亚和欧洲等地,继续做着针对国内的网络犯罪,这也增加了公安部门打击治理的难度。
 
  在论坛上,来自联合国儿童基金会儿童保护官员苏文颖给出了一个数据,目前18岁以下的网民占到了总网民数的三分之一,这批互联网的原住民现在已经成为上网的主力军,而且他们将主导未来网络世界的发展,希望在未来,我们不会有老张的烦恼。
<
>
柚播是一套集培训讲座、商品直卖、商务活动、互动分享等基础功能为一体的商业直播系统,一键接入微信公众号平台,搭建属于企业自己的“直播+”平台,并且对企业也可量身定制。柚播按分钟计费按小时充值、分类别实时回看、一键部署等人性化操作!

联系我们

山东省枣庄市运营中心

400-8585-677(服务时间:9:00-18:00)

150063222@qq.com

在线咨询 扫码下载扫码下载 官方微信官方微信

区域查询

全国招商 区域查询 投诉建议 咨询电话400-8585-677 返回顶部
返回顶部