金谷宇乃美国网友涌入，小红书该如何进行内金谷宇乃容风控？
美国网友涌入，小红书该如何进行内金谷宇乃容风控？
市地震局发布，2023年6月15日1时39分，在上海青浦区(北纬31.07度，东经121.09度)发生3.1级地震，震源深度8公里。本次地震距人民广场约40公里，根据区域构造特征、历史地震活动水平等判断，不会对本市造成严重影响。截至目前，未接到人员伤亡和建筑物损坏的报告。市地震局将继续做好后续监测工作。
本文来自微信公众号：产品变量，作者：亨哼，原文标题：《TK难民涌入小红书，深度分析如何进行内容风控》，头图来自：视觉中国小红书迎来泼天富贵，在 TikTok 封禁令即将生效的前夕，大量美国人涌入小红书，使得小红书在昨天成功登顶 美区 App Store 。要知道，在这之前，小红书从未进行海外运营，在这之前压根儿没有下载排名。于是，从昨天开始，小红书的首页就变成了这样：没想到国际互联网在小红书里实现了，学英语这个事儿，有语境确实挺重要的，我之前一直在学abandon，现在至少已经学到 refugee 了。但，大家都不约而同地想到一个问题——涌入大量美国用户，小红书如何进行内容风控和审核，以及，小红书是否就要从此被墙？作为一名产品经理，我认为有必要从产品角度和商业角度，来深度分析一下，内容社区产品在内容风控上的一些要点。我们将从事件原因的角度，具体分析小红书的实际情况，然后通过总结「内容风控策略」的核心要点，来预测小红书面对大量外来内容的情况下，应当如何进行内容风控。一、为什么是小红书？为什么美国用户，没有涌入更像 TikTok 的抖音，或者进入美国本土的ins、Facebook，而是涌向了小红书？主要是4个原因：1. 小红书不分区，小红书在最早期的阶段，本身就是个海淘应用，大量中国留学生用户，在海外使用小红书，所以在各国的应用市场，都能够方便地下载中文版小红书，而且所有用户都在一起，没有进行国家间的隔离。2. 抖音虽然更相似，但是抖音的用户注册门槛，隔绝了外国用户的使用。首先，抖音本身没有上架美区App Store，美国用户想要下载抖音，需要先翻进来搞一个国区Apple账号，其次，抖音在注册阶段采用的策略是，支持非+86的国外手机号注册，但注册完成后，必须进行实名认证，而实名认证的方式，只有身份证……3. 小红书刚刚进行改版，社区氛围非常接近 ins 的内容，加上刚刚改版、完全符合上下滑动操作习惯的第二个Tab “热门”，都让 TikTok 用户能够比较轻松地进行迁移和适应。4. 没有大量进入美国本土的ins、Facebook的原因是， TikTok 用户本身对于 TikTok 被封禁非常不满，因此对美国应用都产生了强烈的逆反心态，在 TikTok 大V的号召下，选择直接进入中国软件，彻底摆脱美国政府的管辖范围。所以，大量 TikTok 用户涌入，就会产生大量内容，小红书的内容风控，面临着巨大的挑战。小红书又应当如何处理这些国外用户，封还是不封？二、内容风控的核心要点是什么？一个内容社区的用户角色，大致可分为内容生产者（创作型用户）和内容消费者（浏览型用户），既有内容的生产创作，又有观众能够消化掉创作产能，形成良好的社区内容生态。对于一款产品，从风控角度来抽象，其基本业务框架的模型可以总结为“业务”、辅助业务的“增长”、保障业务的“风控”和支撑以上三点的“数据”。“业务”自然是产品最关键的地方，“增长”“风控”和“数据”都是辅助业务良态运行。对小红书的内容业务来说，协调内容生产者和内容消费者，形成良好的内容生态，是最关键的核心，辅以用户增长（包括用户增长和创作者增长两个方面），并且对社区进行风控。通过业务的发展和增长、风控的积累，形成用户基础数据、注册信息、浏览行为、视觉偏好、用户标签等数据，然后通过这些数据，再反向支撑业务发展，形成产品内的数据打通。那今天我们着重分析的，就是风控这一环节。金融产品、信贷产品有风控非常好理解，但其实，所有类型的产品都需要有风控。电商产品要防薅羊毛，社交产品要防欺诈，而内容产品，则是要对平台内容的质量和合规性进行风险控制。对于内容社区等UGC产品来说，风控线就是生死线。内容和社区产品的风控压力来源于监管侧，风控对象是用户在平台发布的内容。1.内容风控要“控”什么？来自内容侧的风险主要有三类。其一是政策层面的内容合规，要符合监管的要求。监管要求的内容可参考最新施行的《网络信息内容生态治理规定》，对于各项违规内容都做了详细规定，大致概括可分为涉政、违禁、暴恐、色情等四类，这部分是政策红线，一旦触及，轻则约谈，重则下架、封禁。其二是社区氛围的良性导向，如谩骂、隐私等。这一类型的内容虽然不会触及监管红线，但倘若内容社区充斥各种负能量，对于社区氛围是非常严重的损害，伤及用户体验，导致用户流失，影响产品商业利益。这一类型内容风控还包括对于产品运营主体的保护，例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等，属于商誉和公关层面的维护，同时也是对产品官方公信力的维护。其三是社区用户安全的保证。对于内容和社区产品而言，平台内一定会存在导流、灰产、诈骗等不法手段，如何保护平台内用户的财产安全和产品体验，是非常关键的，互联网发展至今，导流、诈骗等行为往往是成熟的灰黑产产业链所为，他们拥有丰富的反监查和防过滤经验，揪出他们并进行处理，需要平台与其斗智斗勇。2.内容风控的方法和手段在最最早期的阶段，对内容进行风险控制，只能通过编辑人工进行审核。这种方式需要大量的人力物力，而且稿件审核需要时间长，时效性也被大大削弱。一般的公司，很难负担起庞大的内容审核团队。之后，诞生了关键词过滤等手段，成为成本较低，并且使用最为广泛的内容风控措施。对于命中预设的违禁关键词的内容，直接阻止发出或者转交人工审核。这种方式性价比极高，耗费成本小，但基本可以过滤掉大多数的违规内容。关键词过滤存在的问题也很明显，准确率较低，经常出现误伤和漏网的情况，对于内容和社区平台来说，这是不能容忍的，前文已经讲过，哪怕一篇违规内容被放出来，产品都有可能被封禁，内容风控是一件“宁可错杀一百，不能放过一个”的事情。再加上网络的普及，越来越多的人学会了通过拼音、乱码、谐音等方式绕开关键词，关键词过滤逐渐不再能胜任内容风控的工作任务。以上基本还属于规则的范畴，之后内容风控的发展，就进入了AI+策略的时代。内容风控方面的AI，其实叫机器学习更加准确，这是一套组合拳。举个例子，对于一个视频稿件的审核，就需要对整个视频进行逐一拆帧，然后通过OCR文字识别检查字幕，此时对于字幕的检查和文字内容的检查基本一致，文字识别涉及到NLP分词、语义理解等AI技术；对于画面，则是图片识别，识别图片中可能出现的违禁内容，这里涉及到一个准确率的问题，暴恐视频不能够通过，但游戏视频也存在战斗画面，如何保证不误伤；对于音频，则需要两个方面的审查，一方面是视频当中的语句，将语音转文本，再通过文字的审核策略来审核，另一方面是音调识别，例如识别音频当中的娇喘等无语句的声音。这些在内容风控方面应用的AI技术，其实远远早于最近这几年的大模型AI技术，在内容风控上的AI应用，目前已经是非常成熟且完善的生态。机器学习本身还是就稿件论稿件，而一个优秀的内容风控平台，是需要配合策略的。策略产品经理是近几年一个特别火的岗位，提供更精细化的、动态的、效率的产品解决方案。对于策略来说，内容的风控不能只在单个内容上，还需要结合更高的维度，给予更加精细化的识别判断。策略要从单个内容出发，延伸到发布该内容的用户基础信息、关系链、过往内容、实名可信度等等诸多维度进行调参和计算，以判断这名用户的这条内容是否需要更细致的识别。这里要特别强调一点，即使平台的机器算法再先进，所有的内容还都需要过人审核。所有内容过人，所有内容过人，所有内容过人，重要的事情说三遍，至于原因，还是上面那一条，内容和社区平台不容有半点闪失。不过机器审核越先进，能够为人工审核提供的辅助也就越全面准确，人工审核的效率自然也就变高，审核人员的压力也相应减弱。另外，对于内容风控，又会有前置风控（先审后发）和后置风控（先发后审）等不同的方式，所以在小红书等平台，有的内容刚发就被风控限流，有的内容则是刚发正常、阅读量达到一定程度后，突然就被毙了，这就是前置风控和后置风控的策略产生作用。关于这一点，以后有机会再详细分析优劣和适用场景。对于小红书来说，随着内容量越来越大，如果只是单纯地对审核人工进行扩容，恐难以解决问题，一定会更多的由技术和机器进行介入。此次涌入大量外文内容，囿于审核中心本身都是中文母语的审核员工，也势必更加依赖AI对于英文内容的处理和识别。三、预测一手，如何收场？对于小红书来说，对于此次大量美区 TikTok 用户涌入，的确不是一件那么“幸福”的事情，毕竟，小红书的目前的整体战略并未有太多国际化的考量，产品技术上，也并没有做好全球化的准备。所以对于小红书的高层来说，此次大量美国用户带来的烦恼，恐怕要比喜悦多得多。在这种情况下，小红书应该采取怎样的应对策略，才能比较适宜当前的情况和现状？我们先穷举一下小红书所有能走的路。我预测，小红书大概率会走向第4条路和第5条路的融合版。1.放任不管，保持现有产品策略，中美用户自由交流，畅游国际互联网。这条路径显然不存在，基于当前国情和中美两国的立场，完全不做干涉，这不仅不是所谓“自由”，反而会适得其反，严重损害社区用户的氛围和利益，同时也会引发监管上的关注。绝对意义上的自由不是自由，有限的自由才是真正自由，有规则有法治才能享有自由。2.学习抖音，通过注册手机号和实名认证，将国外用户拒之门外。在这次 TikTok 关停风波中，美国用户之所以没有涌入和 TikTok 相似程度更高的抖音，就是因为抖音的用户注册门槛，隔绝了外国用户的使用。抖音采用的策略是，支持非+86的国外手机号注册，但注册完成后，必须进行实名认证，而实名认证的方式，只有身份证……美国人民没有身份证，自然无法正常注册使用抖音，只能刷一刷未登录状态下首页的视频，做一个纯纯的内容消费者（浏览型用户）。而小红书的用户群体，因为更偏向中产和精致人群，所以有相当一部分用户，是海外留学生，甚至小红书在最早期的阶段，本身就是个海淘应用，所以如果直接一刀切，对于小红书本身的用户来说，影响是非常大的。并且小红书并没有像抖音一样，通过不同的产品进行用户分区，以前抖音只做国内，国外有 TikTok ，所以抖音一刀切没有任何问题。小红书只有一个主产品，需要兼容国内用户和人在海外的用户（注意，是人在海外的用户，而非海外用户，这里有本质的区别）。所以在注册阶段一刀切，对于产品和生态来说，我认为这不是一个好的解决方案。当问题出现的时候，解决提出问题的人，这种行为，确实不太高明。3.考虑物理分区，借此契机推出国际版，开启国际化征程。这可能是个方法，但在现在并不现实。对于一家大公司来说，因为一次巧合，就改变公司战略，这并不明智，大概率最终既捡不到芝麻，又丢了西瓜。而且国际版开发也是需要时间的，等产品做出来，热度也早就过去了。4.在当前用户混杂的情况下，加强内容审核风控，把控好水龙头的出水口。前文提到，对于内容平台来说，风控的主要对象，是内容生产者（创作型用户），包括笔记内容发布、评论内容发布、头像昵称等，只要内容发布的口子审核过关，即使平台内有美国用户，也不会影响如今已经有3亿月活基本盘的小红书。有人用国内不能使用 Facebook 和 ins 来类比，认为国内用户不能与国外用户共用使用一个社区产品，但我认为这有本质区别，外国人在中国的地盘，和中国人在外国的地盘，这是完全不同的两种逻辑。小红书公司在国内、审核在国内、数据在国内、风控规则在国内，甚至公司党委下，已经有4个党支部，在这样的情况下，外国用户使用中国产品，只要风控到位，无论是在内容层面还是国家安全层面，都是比较容易掌控的。从另一个角度讲，国际化在未来是一个趋势，如何让中国科技和中国产品走向世界，我们还在进行各种探索，TikTok 的国际隔离路线是一种探索，也许小红书的社区融合路线，也是一次宝贵的探索，某种程度上，秉承文化的自信，这也是中国文化向世界展示的绝佳窗口，也是展现真实中国、让国际上抹黑中国言论不攻自破的机会。5.算法分区，建设虚拟的“软墙”，产品上生态融合，客观上用户软隔离。推荐算法下的用户社区，其实本身就是一个又一个茧房，不同兴趣的用户，看到的内容本身就已经被隔离，“看不见的墙”一直都存在，甚至小红书的茧房比抖音要更严密，这一点，我们体感上就有感知，在小红书上很难刷到其他圈层的内容。当前之所以会出现大量美国人攻占首页的情况，一方面是事发突然，算法也需要一点时间进行调教，另一方面是国内用户也都图新鲜，客观上增加了国外博主的热度。所以现在大量外国用户进入后，只需要加强内容风控，在把好发布关的基础上，进而在算法上进行区隔，以后美国人只和美国人玩儿，国内兴趣圈层只和同圈层的玩儿，非常妙哉。不同圈层偶尔能串个门儿，但也不会掀起什么大浪。这种策略，对于小红书的好处很明显：第一，算法推荐策略的调整，主要是后台策略的调整，不影响前端App的功能流程，甚至不需要发版更新；第二，不影响小红书整体业务战略，既定的业务框架继续进行；第三，数据上享受到了国外用户增长的机遇，用户新增表现佳；第四，兼顾到国内监管的要求；第五，为未来的国际化留下种子。算法分区后，对于用户来说，一切又回归平静，首页上的推荐依然是本来该有的内容，只是在用户看不见的角落，又多了几个新的茧房，茧房里的人也在茧房中劳作，以为那就是全部的世界。列举出小红书可行的路径后就发现，在充分考虑成本、利益和监管要求的背景下，采用第四种和第五种同步进行的方式，是小红书最有概率采用的方案。无论小红书最后采用何种方案，其实都并不影响内容风控的基础原理，对于商业平台来说，能否做好风控，往往决定着平台能走多远。在本文中，我一直强调的是“内容风控”而非“内容审核”，审核只是风控的一个环节，而非全部，审核也不是目的，将平台的结构性风险降到最低，才是目的。拭目以待，小红书此次的选择，很大程度上，也将影响中国产品出海的路径探索方向。本文来自微信公众号：产品变量，作者：亨哼（先锋创业者、产品人）本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.comkoa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:绍祖
TOP1热点：哪咤2将登陆俄罗斯影院
经论证，辽宁制定出“三大球”青训国际化具体实施方案，即：足球青训学日本，篮球青训学塞尔维亚，排球青训学日本。此后，辽宁女排随即引进了日本教练团队，辽宁男篮梯队也迎来了塞尔维亚青训教练团队。。
TOP2热点：广西藤县一面包车与大货车相撞
《中国新闻周刊》查询上海阳光采购网以往发布的临床紧缺药品信息，发现前述两种制剂多次被列入临床紧缺药品的名单。去年9月，天津金耀药业有限公司、山东新华制药股份有限公司生产的去甲肾上腺素注射液均紧缺，后者生产的盐酸肾上腺素注射液也紧缺。同年11月，远大医药生产的去甲肾上腺素注射液、武汉武药制药有限公司生产的盐酸肾上腺素注射液均紧缺。武汉武药是远大医药2002年投资组建的控股子公司，从事原料药生产、销售。
23年长期分管、主持辽宁这样一个体育强省的工作经历，宋凯运用举国体制主抓体育成绩的能力，在全运会、奥运会等大赛上得以突出体现。
TOP3热点：为何 AI 火之后人们想到的是大量裁员x7x7x7x7任意燥
丁铎表示，因为菲国内政治态势、美菲同盟关系、南海争议问题等内外因素的影响，多年来中菲防务安全合作无法达到两国在其他领域里的合作深度，但总体来看，双方还是在致力于提升安全合作与军事互信水平。“这种良性互动一方面需要双方共同营造好的政治氛围，另一方面也会推动两国关系的发展。”
TOP4热点：华为上汽敲定第五界gary2023入口网站
李伟分析说，原料药反垄断案例中，涉案企业最开始只是简单的直接涨价。随着监管收紧，企业开始出现违法行为并变得越来越隐蔽。随着原料药垄断案件的累积，监管部门会总结企业常见的违法行为，见招拆招。
TOP5热点：2025 年国内油价首次下调男朋友说迈开腿尝尝你
远大医药与武汉汇海多次沟通后，双方在2016年6月达成口头协议，约定武汉汇海停止销售两种原料药，远大医药则通过两种方式给其补偿：一是低价向武汉汇海销售两种制剂，再高价回购；二是要求相关制剂企业低价向武汉汇海销售两种制剂，再由武汉汇海高价转卖。
TOP6热点：「美队 4」首日票房不到四千万东京道一本东东热妖精
该文章称，垄断案例中，大多是中小型企业原料药价格垄断，表现为滥用市场支配地位及横向垄断，即同类原料药企业联合涨价；此外，也包括原料药经销商联合对外的不公平高价及不合理交易行为。
TOP7热点：modelq谍照首曝小早川怜子在线播放
“10%的原料药只能由个位数的企业生产。一些原料药企业虽然具有生产资质，但不进行生产，进一步加剧生产环节的高度集中。”国务院反垄断委员会专家咨询组成员、中国人民大学教授孟雁北5月28日曾撰文指出，由于药品和原料药是特定对应关系，使用不同原料药可能导致药效、副作用等方面差别，药品所需原料药种类与用量是被严格限制的，不同种类原料药间一般不会具有替代性。
而且，据媒体人黎双富6月12日称，梅西所有球赛以外的活动，包括代言品牌的商业活动、赛事欢迎晚宴以及媒体采访在内，都已被取消，其中一个主要原因是安保问题。
TOP8热点：广西藤县一面包车与大货车相撞嫩草入口
在李伟看来，在原料药领域，一方面，市场进入壁垒和门槛相对较高，导致有些企业进不来或不愿意进来，缺乏有效市场竞争；另一方面，有些企业即便获得了批文，也不建厂生产。因为建厂成本高、原料药市场需求较小、价格不稳定，生产线搭建好后，得不到预期收益，企业也没有太多动力生产。
TOP9热点：当我开始爱自己988.su黑料正能量入口8x
行政处罚决定书详细披露了两家企业被罚的前因后果。2010年至2023年5月，中国境内具有这两款原料药生产资质的企业仅有远大医药和山西振东泰盛制药有限公司（以下简称山西振东泰盛）。武汉汇海通过包销，即独家经销方式，实际控制山西振东泰盛两种原料药的销售，其与远大医药互为竞争关系。
TOP10热点：美国飞机又出事故gary2023入口网站
“能去国家队的明星球员多，全省人民都关注，辽篮是宋局的‘一把手工程’，毫无疑问。”一位辽宁的现役运动员告诉中国新闻周刊。而多位来自辽宁的运动员指出，当下拥有郭艾伦、赵继伟等明星球员的辽宁男篮，是公认可以建立“王朝”的球队。“全运会比赛，辽篮还拥有周琦（注：周琦早期受训于阜新篮球学校，属于辽宁青训球员），更是如虎添翼，没有对手了。”