人民网>>人民创投

对话内容科技系列报道

内容与科技互相促进 赋能内容风控行业

——专访北京数美时代科技有限公司CTO梁堃

黄盛 单子璇

2020年11月12日08:48  来源:人民网-人民创投

如今,随着人工智能、大数据等新一代信息技术的发展,消费、娱乐、教育、医疗等越来越多的传统行业纷纷搭上了“互联网+”的快车,文字、图片、音频、视频等内容产业也呈现出“井喷”的态势。

进入5G时代,互联网的入口将呈现指数级的增长,意味着将来内容分发的场景会变得无比丰富,对内容需求量也会越来越大,而内容创作的门槛在不断降低,如何把控内容的风险,既是一个挑战,也是一个巨大的商机。

内容风控产业正成为一种“基础实施需求”

“当越来越多高价值的业务放到网上,在线化去执行的时候,产生的内容非常巨大,而黑产也就越来越多。所以对于内容风控来说,就像买云服务或者买水、买电一样,变成类似基础设施服务一样的需求。”

数美科技CTO梁堃认为,传统意义上的内容生产通常都集中在一些媒体或者创作平台,而如今几乎每一个有手机的人都是内容的生产者,将产生海量的内容。这种情况下,内容是否合规、是否足够安全,这些问题就变得非常凸显。

公开报道显示,今年以来,国家网信办先后开展了网络恶意营销账号集中整治、涉未成年人网课平台及网络环境治理、遏阻“祖安文化”、整治网络“有偿删帖”“软色情”传播等一系列专项行动。事实上,国内各大主流的网络平台,都曾因为内容风控问题而被约谈、被下架、被大量封号,甚至面临生死考验。

梁堃说,政府在推动“互联网+”和科技创新发展的过程中,像衣食住行,教育、金融、医疗等这些传统行业,都在做自己的业务的在线化,都在用这种新的互联网的形式来提供自己的服务。“包括做直播、做APP,这些都是跟互联网公司一模一样的。所以我们判断,未来这些基于互联网的传统业务将会产生海量的内容。这里面就存在一个很大的痛点,就是如何保证内容的合规和安全。”

梁堃表示,目前行业已经意识到,内容风控对业务而言正在成为一种基础设施,后面的投入和需求会持续地变大,会持续地变成每一个行业的刚需。

“内容科技”赋能内容风控行业

“内容科技”主要是指对内容产品的供给与消费链条、内容产业的组织与分工模式,产生重大影响的人工智能、大数据、区块链、云计算、物联网等各种新兴技术,以及由这些技术所催生的新业态、新应用、新服务。

梁堃认为,“内容科技”在内容风控领域以及数据安全、隐私问题等方面的应用会越来越广泛。

在2020年第二届中国内容科技创业大赛上,来自数美科技的“天净——全栈式智能内容识别系统”能够做到对色情、涉政、毒品、辱骂、暴力等300多个违规标签的抓取和分级,通过语义分析判别同一信息在不同语境中是否违规,甚至对经过处理后的变声进行识别,排除音频中的噪音,提高内容识别的准确率,其中语音识别正确率可高达90%以上。

“比如要识别一张照片是不是暴恐图片,会同时并行四种模型。首先是图像场景的分类模型,识别有没有血腥或者行刑这样的暴恐元素;第二种就是对暴恐敏感人物的人脸检测模型;第三组模型是标志的识别,比如国外的蓝鲸游戏标志就会在这个模型中被捕捉到;最后会通过第四组模型对文本中的违规信息进行检测与识别。”

“内容科技”在内容风控行业的应用,能从内容识别到行为识别的全流程违规审查,为客户提供全栈式的智能内容安全解决方案。比如说网络广告黑产,不仅仅从内容层面去识别它的风险,同时也会从账号的行为层面去识别它是不是一个黑产团伙里面的成员,去辅助甄别涉黄、涉赌等违规内容。

内容与科技互相促进、相互赋能

“内容和科技永远是相互促进的过程。”

梁堃认为,从技术层面来说,正是内容理解动机的存在助推着科技的进步。“海量的内容信息下,人工检索的成本巨大,使用技术以更好的理解内容是现阶段我们在做的事。通过技术辅助内容生成甚至创作内容,是下阶段科技发展的目标。”

在他看来,但仅靠科技生成的内容一定是冷冰冰的,所以需要内容行业从业者们把科技作为一种工具大胆的使用。简单模版化内容的生成可以靠技术手段来做,情感、艺术类等创造性的内容仍需要人工完成。

“未来有多少内容,决定了内容科技的市场和前景;生成的内容质量,也会决定内容科技企业在市场的位置。”梁堃表示,目前科技对内容产业的理解深度还不够,同时还存在内容的隐私及版权问题,“这是内容科技行业的两大挑战,但机会也跟着挑战”。

一种更好的内容理解方案,就意味着一种巨大的竞争优势。梁堃认为,中国内容科技创业大赛是内容科技企业展示自身技术和创新能力的一个舞台,也是给创业者提供了一个竞技交流的机会,能够让创业者去发现新的技术,发现新的机遇。

(责编:韦香惠(实习生)、王震)

深度原创

特别策划

    2019人民网内容科技创业创新大赛 首届人民网内容科技大赛总决赛 人民网内容科技创业创新长三角决赛
二维码