受人力资源和社会保障部委托，中国就业培训技术指导中心近日公布了10个新增就业岗位和8个新增就业岗位。其中，拟在“网络与信息安全管理员”职业下增加“互联网信息审计员”工作。
可见，在这个信息时代，互联网内容安全至关重要！那么问题来了，为什么要重视内容安全呢？内容安全有哪些风险？内容相关从业者应该具备哪些素质？人工智能能代替人工审核吗？今天，我们就来一一解答这些问题。
为什么要重视内容安全？
随着信息技术的发展和智能终端的普及，互联网内容的形式层出不穷，从文字、图片、音频到视频、直播，内容主体不断丰富。数量庞大、形式多样、主体多元的互联网内容产业，不可避免地出现鱼龙混杂的局面。粗俗、恐怖、抄袭...各种问题交织在一起，严重破坏网络生态。
为了抑制内容乱象，规范平台运营，相关监管部门和行业协会近年来频频整改，出台了多项法律法规和审核规则。这些政策法规的出台，有助于划定行业底线，但对于广大互联网内容从业者来说，还是需要更细致的解读，以便更好地理解政策，指导工作。
内容安全从业者应该具备哪些基本素质？
业内专家认为，内容风控行业具有“人才密集型”的特点。目前人工智能对内容的判别还停留在浅层次，比如关键词命中，80%以上的内容风险还是靠人工判断。因此，需要大量高素质的风控专业人才，具备高水平的意识和能力，应对各种违规内容及其形态变形自如。
具体来说，一个优秀的内容风控专业人员应该具备以下特征:
1.思想地位高，视野格局开阔。
风控专业人员站在大量有害信息的游戏第一线，首先要具备识别有害信息的综合能力。控制的尺度不应该以个人的接受程度为标准，而应该站在国家、社会和网民的角度，来识别信息的危害程度。这就需要有足够的思想高度，足够的格局和眼光去理解决策者的初衷。只有这样，我们才能在工作中把握正确的方向，做出正确的判断。
2.将政策转化为实际规模的能力
政策法规往往是极度细化和一般化的。在实际的风险判断中，需要充分理解政策精神，并将其转化为更为细化的可以直接指导实践的尺度规则。
比如“100个短视频”新规，要求不得传播宣扬不良、消极、颓废的人生观、世界观、价值观的内容。风控专业人士首先要辨别以上几类属于什么样的表现。有了具象的概念后，他们可以根据不同内容类型、不同平台的特点，将其转化为实际的判断规则。
3.丰富的知识储备
目前行业内风控专业人士的工作内容还没有纵向细分，也就是说一个风控专业人士每天都会接触到文史、经济、军事、政治等各个领域的信息，并对其做出准确的判断。如果你不熟悉某个历史事件或时事热点，你可能会造成严重的工作事故。这类知识的细致和全面程度，不仅是对风控专业人员本身的巨大挑战，对内容平台的风控程度和风控专业人员的培训体系也有极高的要求。
此外，内容风控人员还应具备较强的执行能力和细心耐心的性格。
除了风控专业人员的自我控制，上述能力，平台自上而下的风控培训体系也承担着重要的责任。但现实并不乐观。纵观各大互联网平台，一方面风控程度和培训有待提高；另一方面，能招到符合上述五个特征的风控人员，也是凤毛麟角。高素质的风控专业人才供需极不平衡，缺口巨大。
人工智能能代替人工审核吗？
答案是否定的，在内容风险控制中，人工智能技术发挥着越来越重要的作用，自然语言处理、图像识别、声纹识别等技术得到了越来越多的应用。但目前人工智能技术主要依靠深度学习算法，不具备演绎推理能力。对于大量各种形式边界不清的内容，人工智能无法判断其合规性，必须依靠人工判断。
诚然，对各类内容应用技术手段进行智能审核内容控制，可以节省人力成本，提高信息监管处置效率，是人工判断的重要辅助工具。但是，在目前以及未来很长一段时间内，人工智能技术都无法取代人工在内容风险防控中的作用。
来源:人民网
审核:王
校对:徐小薇
编辑:石
