移动端app内容巡检的创新点
1、移动端软件的开发,实现了巡查人员现场完成采集,且数据可分析;
2、后台管理软件的开发,实现了巡查工作的管理,能自动汇总分析报表;
3、数据采用离线采集机制,通过同步功能,无网络覆盖也能采集数据;
4、具有异常推送功能;
5、实现制造业巡检管理的云架构方式,提高巡检管理的效率及有效性。
内容巡查的功能
网站内容自动抓取
对网站线上文字、图片、音频、视频等内容进行定时抓取,实现网站内容监管
扫描二维码签到
无需NFC标签等设备,仪需手机扫描二维码标签即可实现巡查签到,智能手机均支持
二维码防作假
特定地点强制拍照、随机拍照、无法选取手机本地照片等等,可以在一定程度上有效避免二维码签到方式作假。
二维码方式巡查虽成本低,但也容易作假,所以一定得具备防作假手段!
不断扩招的后顾之虑
综合各路媒体报道来看,字节跳动内容审核员已扩招超2万人,快手、B站、腾讯等各平台也分别有数千人。整体不到十万数量级的内容审核员,在面对数亿人民产生的倍量内容时,互联网秩序的维护者们也显得有些力不从心。
内容审核员就如“互联网保安”,24小时在文本、图片、音频、视频的不间断“巡逻”,拦截那些黄色、低俗、涉政、广告等违规内容,如果拦截不及时,随时就可能上演“全民知晓”的内容安全事故。而长期熬夜、身体紊乱、长期面对黄色、低俗等内容,对审核员的精神,心理,造成非常大的损伤。
国内外已有不少从业者受到类似困扰,轻则“恶心到吃不下饭”,“晚上做噩梦”,严重的心理创伤,甚至可以让人变得麻木和暴躁,越来越具有攻击性,甚至有审核员猝死。
可以说,当前依靠人工审核来控制内容合规安全,已达到较高负荷的状态。
那不断扩大审核团队规模,就可以“后顾无忧”吗?显然这已不再是较优解。眼下还是平台可以增加人力成本,扩招人工、“少赚一点”的阶段,但作为企业,都会在成本和收益之间想达到一个平衡。
如果单纯把内容风险控制当成一件纯技术性的事情,或者说只认为是企业的成本负担,不能创造收益。那企业只需要准备大量训练数据,一些判断模型就可以直接拿来用,甚至还可以拿出去做成生意。但真正经历过内容安全痛苦的企业就会知道,内容风险控制掌握着企业发展的命门。
海量的内容,在人工之外如何做好内容的合规和安全?现已成了所有内容相关企业绕不开的话题,而内容风险控制细分领域头部玩家们,也瞄准了贴近人类思维的AI内容审核机制的算法研究。