违禁词“逼疯”家长,儿童电话手表干预边界在哪
据媒体报道,话手近日,表干在社交媒体上,预边有部分家长反映,逼疯自己通过小天才电话手表App跟孩子聊天时,违禁“我是词家长儿你妈”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。童电
对于有经验的话手中国网友来说,遭遇这些毫不奇怪,表干肯定是预边因为家长在使用过程中,其发布的逼疯孝感市某某涂装工程维修站内容触碰了电话手机系统后台设置的敏感词,导致被屏蔽。然而,即便在保护儿童这个超级正确的目标下,出现这种明显荒诞的结果仍然显得很不正常。厂商对儿童手表的内容进行干预可以理解,但干预总要有个限定边界。厂商又并非监管部门,这种明显影响到用户日常使用的干预行为已经侵犯到消费者的合法权益。
针对舆论的疑惑,厂商官方客服表示,因为电话手表使用的群体大多是孩子,小天才电话手表设计了一些保护孩子的功能。“是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看,或许“绿色”在表面上实现了,但“沟通环境”却遭到严重破坏,未免本末倒置。
就像一些网友评论所说,把内容审核都交给无脑屏蔽系统(连AI都不是),厂商一可以节约成本,二可以推卸责任,但牺牲的却是用户体验。
需要指出的是,小天才电话手表粗暴设置敏感词一事并非孤例,它实际上代表了一种普遍现象。近年来,诸多社交平台几乎都加大了利用人工智能进行内容审核的力度,而这些人工智能又不够聪明,结果导致笑料、段子频出。用户体验还不如以前“微博小秘书”时代进行人工审核的水平。
内容审核事关内容安全和用户体验两个重要方面,以目前的AI技术水平,想靠技术手段简单解决的结果很可能就是两个方面都做不好。
所谓道高一尺,魔高一丈,AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”,讲的和听的都知道在表达什么,而其内容大部分也并非不合法,只是为了应付AI审核系统,包括平台在内大家都在做无用功,可能真正被困惑住的只有百年后的历史研究者。
从目前情况看,市场主体对互联网内容进行干预必不可少,但在干预的同时应兼顾互联网用户体验,同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义,类似发生在儿童手表上的笑话肯定还将层出不穷。
撰稿 / 信海光(专栏作家)
- ·玩转城市体育节丨街头风混搭国潮风,非遗市集等你来
- ·航天员带回31.5公斤太空特产,其中包括32种生命实验样品
- ·31.5公斤!空间科学实验样品顺利返回并交付科学家
- ·俄别尔哥罗德州州长称在坍塌居民楼废墟下找到2具遗体
- ·FF再次走到悬崖边 贾跃亭也想做网红卖货还债
- ·炫酷!数百架无人机点亮永川夜空
- ·减肥成功者都在做这6件事 看你做对了么
- ·将实施月背采样返回!嫦娥六号此次奔月的任务都有啥
- ·纳指收涨1.51%,纳斯达克中国金龙指数飙涨超6%
- ·女子因值机起冲突被航空公司永久拒载,法院这样判
- ·常熟:执行限时住房“卖旧买新”补贴,最高100%补贴契税
- ·续航超过800km 翼真L380被选定为东盟中心商务用车
- ·《浪姐5》的关系网:有人姐妹情深,有人却是塑料情
- ·动静结合 三里屯商圈更新进行时
- ·波音“星际客机”飞船首次载人试飞被推迟
- ·大利好!北京出手,今起实施