第一条审核流程
1、系统自动审核:系统审核发布内容信息中的敏感词及违法词语来过滤,发现敏感词及违规字眼自动屏蔽发布信息内容
2、人工审核:影响重大或涉及敏感内容的信息人工审查,审核工作应在24小时内完成。
机器和人工审核的双重过滤会根据不同业务需求,信息量及风险权衡,人机审核比例会有所不同。具体方式有:全面审核:要求所有信息必须重一一核对;交叉审核:由录入员或者审核人员相互审核;抽查审核:对关键信息进行抽查;专项审核:同一信息按相同属性来审核如一个人审核所有的姓名这一专项信息。根据信息内容的分类进行以下审核:
一、文字内容方面
1、使用敏感词过滤系统。信息审核工作都是在信息审核平台上进行的,网站的运营审核系统中会预先设定一批关键词库并对词组进行排列组合,这批词库又会根据敏感性进行分类。系统会阻止用户发布敏感词汇,或将用户发出来的含有敏感词的内容直接删除。 对于某些敏感性较低的词汇,发出来不会立即删除,需要经过审核人员过目进行二次审核。
2、建立反垃圾信息机制。主要是通过技术手段对数据(垃圾信息)进行过滤和筛选,将我们认定为不合格的数据清理掉,将系统认为可疑的信息进行提示分类。
二、图片内容方面
1、对于图片内容的审核,传统的审核方式主要依赖于人工。图片不同于文字,无法提取关键词,对于互联网公司主要依靠人工。
2、引导用户使用举报功能。用户在浏览内容中发现色情视频、图片等不良信息,可以通过点击相应按钮或者链接的形式,向网站管理员举报,并由网站管理员完成删图或者封号等后续处理。
3、使用人工智能技术的审核方式。主要是基于深度学习图像识别云,通过针对目标特征专门训练的素材库和识别模型来甄别存在的违规图片。
三、视频内容方面
任何文件都有相应信息值,可以说是文件的“数字指纹”。对于含有视频内容的网盘或视频网站,采取的方式是建立涉黄文件的专属数据库,用户上传后自动分析视频是否合法,则能避免涉黄文件的重复分享。审核人员通过自动检测的每条视频进行审查。包括标题、简介、评论等文字部分也是在审核的范畴。
第二条:网站信息发布审核制度
发布信息必须遵守根据国务院《互联网信息服务管理办法》,本网站在提供互联网信息服务时,必须遵循下列制度:
一、建立由网站管理员、栏目管理员、编审三级管理的机构,分级负责。网站管理员负责对栏目的设璧和栏目权限的分配,明确栏目的内容和范围;栏目管理员负贵所属栏目信息进行审核、编辑、归类,如实记录信息发布的单位、时间、内容、账号、IP地址、电话等信息;责任编辑负责对栏目信息24小时的管理和检查,发现错误及时纠正,发现有害信息应做好备份,间时报告公安机关﹔编审负责网站全部内容的审核、把关和监督,间意后才能发布。
二、实行信息发布审核制。各责任部门专职人员认真填写“信息审核发布批阅单”,发布的信息采用先审后发措施,严格对发布的信息进行审查,批阅单妥善保存不得泄露,发布的信息资料必须全部备份,记录保存60日,发现问题在24小时内报告当地公安机关网监部门,备份后删除,在国家有关机关依法查询时予以提供。
三、实行版主负责制。网站指定专职人员充当版主,版主负责对栏目登载的信息人工过滤、筛选和监控的贵任,发现有违规或提供虚假信息有权暂停中止发布。
四、建立单位责任制。按照“谁运行谁负责、谁主管谁负责、谁维护谁负责”的原则,签订“网站内容维护更新责任书”,明确栏目内容和管理范围,分工协作。
五、用户不得制作、复制、发布、传播含有下列内容的信息:
1、反对宪法法所确定的基本原则的;
2、危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;
3、损害国家荣誉和利益的;
4、煽动民族仇恨、民族歧视,破坏民族团结的;
5、破坏国家宗教政策,宣扬邪教和封建迷信的;
6、散布谣言,扰乱社会秩序,破坏社会稳定的;
7、散布淫秽、色情、赌博、暴力、杀、恐怖或者教唆犯罪的;
8、侮辱或者诽谤他人,侵害他人合法权益的;
9、含有法律、行政法规禁止的其他内容的;