过去一年，几乎没有几家中国科技公司能比今日头条做得更大。短短几年间，这款应用已经悄然一跃成为吸引中国人眼球的一块巨大磁铁，超过1.2亿活跃用户平均每天要花74分钟在这个平台上。
我的中国朋友(及头条的投资者)非常喜欢这个平台的一点是，它可以基于用户的喜好和习惯向其推荐内容。我使用的大多数应用都是英文的，所以我也没什么机会去观察它的算法是如何运作的。直到最近，我下载了今日头条的母公司字节跳动(Bytedance)推出的英文应用TopBuzz。TopBuzz的用户界面和今日头条不太一样，但它的核心后端架构与中国兄弟公司没什么不同，也是在此基础上为用户提供量身定制的内容流。
去年12月12日，阿拉巴马州特别选举进入最后关头，党格·琼斯(Doug Jones)击败了党人罗伊·摩尔(Roy Moore)。几个小时后，主流新闻都宣布琼斯赢了，而我却从TopBuzz的推送中读到了这篇文章:
世界上所有可靠的新闻都在报道琼斯的胜利，TopBuzz却在向我推送一些来自鲜为人知的极右翼新闻网站One America News Network(OANN)的最新消息。
几周前，我收到一条推送，说前披头士乐队约翰·列侬的遗孀小野洋子自称在上世纪70年代与希拉里·克林顿有过女同关系:
这个标题当然不正确。根据事实核查网站这个故事最初源于2015年发布在一个以吸引流量为目的而消息的钓鱼网站。没有任何能够证明这种事发生过，小野洋子本人也未曾发声。
这种假消息似乎是两党都涉及的，这个月初我收到一则头条新闻，报道了有关亚利桑那州党麦凯恩(John McCain)的一则丑闻:
该文章的来源甚至都不是一个新闻组织或者钓鱼网站，而只是一个名为“haitim738653”的用户。我在网上搜索了一下，根本找不到其所指的丑闻。尽管如此，TopBuzz还是把它放在了推送的顶部。
有天我还收到一条推送，称女演员朱莉娅·罗伯茨(Julia Roberts)在谈及前第一夫人米歇尔·奥巴马(Michelle Obama)和现第一夫人梅拉尼亚·特朗普(Melania Trump)时发表了一番的言论:
朱莉娅罗伯茨:“米歇尔奥巴马给梅拉尼亚扫厕所都不配”来源:作者
这种说法当然也是胡扯。朱莉娅·罗伯茨从来没做过这种评论，参照事实核查网站和Snopes.com所得的结果也是如此。罗伯茨过去一直是奥巴马的积极支持者，还曾为奥巴马2012年的总统竞选活动站台。
这样的故事每天都在我的TopBuzz中上演。即使事件是真实的，那些“搏流量”性质的标题往往也会读者，而就其内容本身则通常来自一些极右或极左的网站。
TopBuzz是字节跳动(Bytedance，今日头条母公司)全球扩张计划的投资组合中一系列应用程序之一。去年11月，该公司宣布以约8亿美元收购在和欧洲有强大用户基础的视频应用程序Musical.ly。同月，他们还收购了全球性的新闻聚合平台 “新”(New Republic)。在日本、韩国和东南亚，他们已经从去年9月推出的音乐分享应用Tik Tok中尝到了成功的甜头。而TopBuzz似乎主要瞄准和欧洲市场。
虽然字节跳动针对不同和市场推出了不同应用程序，但它们都采用相同的中国后端架构。“我们有覆盖不同地区的不同产品，但其后端推荐引擎是一样的”，字节跳动高级副总裁柳甄在996 Podcast上说，“我们所有的工程师和产品开发人员都在中国。”
字节跳动有两个野心:一是向海外的非中国用户提供内容，二是开发和运营一系列吸引国外市场中高等收入人群的应用。这两个野心的实现对于任何中国科技公司来说都是不小的挑战。
字节跳动已经为全球扩张计划制定了蓝图。人们想知道，他们的产品和雄心将会如何适应，特别是硅谷在过去一年发生的变化。
美国的科技巨头能够赢得一部分用户的信任，一个重要原因是其能够将自身定位为友好、而“向善”的，但他们最近也开始遭受来自的质疑。最引人注目的是Facebook。在其透露于2016年底美国期间因发布旨在“扩大社会和领域意识形态分歧”的广告而接受俄罗斯公司约10亿美元的广告费后，遭到了的。
虽然Facebook的内容在多大程度上影响了还未能得到专家共识，但有一点很清楚:几十年来，美国和世界上其他许多国家内部的分歧越来越大。在平台算法的不断放大下，这种效应不容小觑，这就是社交平台制造的“回音室效应”。
这种效应被记录在2015年6月《科学》上一篇题为“接触Facebook上意识形态多样的新闻和观点”的研究中。假设A与B是美国人。A倾向于投票给党人，而B倾向于投给党人。A会点击亲党的新闻报道，而B则更多会点击和党的报道。认识到他们的点击倾向，Facebook的算法试图策划符合他们习惯的内容，并开始推荐更多、而非挑战他们现有世界观的报道。
最终，算法与个人互动的递归效果创造了一个网络，在这个中，人们在各自的新闻中看到不同观点的同时，也得到了完全不同的事实。这种影响已经在进一步两极化，正如皮尤研究所(Pew Research Group)的图表所示:
去年12月，Facebook前用户增长副总裁Chamath Palihapitiya在斯坦福大学商学院时，毫不掩饰地表达了对这家他所帮助创立的公司的“巨大感”，他说:“我觉得我们创造了一些正在撕裂社会运作机制的工具。”
“我们所创造的这种短期的、多巴胺驱动的反馈循环正在社会的运作。”他所指的就是Facebook和字节跳动平台所依托的“点击、喜欢和赞赏”系统。“没有言论，没有促成合作，只有假消息和伪真理。这不是美国的问题--也无关俄罗斯广告，这是个全球性的问题。”他还讲述了印度发生的一件事，有关的恶作剧消息在WhatsApp上大肆被分享，导致7名群众被死刑处死。
众多科技都开始重新审视他们的产品给社会带来的影响，Palihapitiya只是其中之一。去年11月，Napster创始人、Facebook早期投资人Sean Parker公开表示，要成为社交“的反对者”，称Facebook和其他社交平台是在“利用人类心理的脆弱性”赚取成功。
这促使了Facebook一些认线月，马克·扎克伯格发表了一份近6000字的声明，详细阐述了Facebook平台作为全球社会力量的愿景，并指出了为达到此目标所需作出的变革。2017年1月，Facebook推出了“Facebook新闻计划”(The Facebook Journalism Project)，该项目旨在过滤虚假新闻、训练并培养记者和出版商，提升读者的新闻素养。10月，他们发布了一份专门抵制假新闻的新指南，并推出了“更多信息”按钮，让读者能在打开链接之前检查发布者的可信度。今年早些时候，扎克伯格宣布Facebook平台将从其内容-广告依托的模式转型，强调更多亲友之间的互动，而代价则是公司股价下跌4%。
当硅谷和Facebook正在反思他们所制造的社会问题时，我们很难得知字节跳动对此有何看法。当被问及如何处理假新闻以及如何面对社交所带来的社会影响时，字节跳动的公关正面作出回应。
来讲，字节跳动也在公开场合承认过理应承担社会责任，但很难得知“社会责任”被置于了这家公司的第几优先级上。
“人工智能逐渐成为我们社会的重要组成部分，今日头条相信，我们和我们的同行都有责任去理解、预见新技术所带来的影响，并能这些影响。很高兴能提供这样一个平台，让行业中最伟大的头脑和最有影响力的人聚在一起，讨论人工智能的未来，让它最好地发挥作用。”
至少，他们好像开始意识到了处理假新闻的问题。他们还公布了在中国寻找儿童的技术手段，他们的人工智能和内容变现方式也让一些小型内容创作者找到了目标读者，使内容成功为收入。他们还与大学公共管理学院合作建立了“创新治理中心”，共同探索人工智能等新技术对社会造成的影响及应对措施。不仅如此，他们还成立了“今日头条技术战略委员会”，旨在为“人工智能与社会”提供一个跨行业的交流平台。
在同一场活动中，字节跳动的人工智能实验室主任马维英博士向外媒发表了，谈到其公司是如何开发技术来训练人工智能识别并删除假新闻的。据马维迎介绍，用户可以举报“疑似假新闻”，平台还可以通过分析读者评论来检测这些内容是否为虚假内容。当系统识别出平台上发布的是虚假内容时，将通知所有阅读过该虚假内容的人。
尽管马维英这样说，这还是与我使用TopBuzz的体验相差甚远。我每天都会收到可查证的假新闻，通常都是主动推送给我的，但我从来没有收到过一个推送，告诉我罗伊·摩尔实际上并不是阿拉巴马州新选出的资浅，或是约翰·列侬的妻子小野丽莎和希拉里·克林顿从没有过绯闻。
事实上，就在这篇文章英文版刊发之日，我还在TopBuzz的“”和“科学”频道读到两条令人乍舌的消息:贝拉克·奥巴马出访时身边有，NASA在月球上有一个研究外星人的秘密。
我只是想强调，这种内容着TopBuzz的平台，假消息有着惊人的比例。2月1日，我在“科学”频道上读到，“月球距离地球其实只有4英里(商业客机的巡航高度都比这个数字大……)”;“水星将脱离运行轨道，世界将至”;“国际空间站实际上是在录影棚里搭建的”……
比起这些，更让人担忧的是平台的本质，它的算法和激励机制。字节跳动的核心竞争力在于其基于人工智能的内容创建、管理和系统，这个系统通常会根据点击率，以物质励的形式激励内容创建者，并根据每个阅读者个体的喜好来管理内容。
换言之，字节跳动似乎将其整个商业模式和全球扩张建立在一个Chamath Palihapitiya所说的“撕裂社会运作机制”的工具上，不仅如此，还是一个加速版。Facebook正在摒弃的东西，却是字节跳动全面投身的。
在中国，面对部门的压力，字节跳动在其平台实施审查。2017年12月，市网信办其“信息”，“在互联网上对产生负面影响”，并其暂停应用程序的部分热门板块。作为回应，字节跳动“”或暂时关闭了在应用程序上发布“低质量内容”的1100多名博主的帐户。它还以“新时代”频道取代了“社会”频道，主要用来推送一些国家对决策的报道。
在中国之外，字节跳动的目标海外市场是像和欧洲这样的地区，这些地区来自审查人员的压力要小得多，但对消费的影响却不容忽视。毕竟，这些人是选民。他们获取的信息直接影响他们的社会如何治理，而社交正越来越多地阻碍制度的有效运行。世界不需要更多“策划的”(curated)信息，而是准确的(accurate)信息。
全球化为中国企业带来了可喜的机遇，对于其中的大部分公司来说，他们提供的产品潜在满足了真正的全球需求。摩拜和ofo能够缓解交通堵塞、减少污染，提供低价的交通方式。阿里巴巴和京东则为外国企业提供了接触中国消费者的渠道。许多国有企业都在建设能够刺激世界欠发达地区经济发展的基础设施。但字节跳动究竟提供了什么?
与话语近来处于时刻。它正遭受社交平台向提供的不准确的、性的、带有严重信息的垃圾食品的侵害。字节跳动正在全球范围扩张，而面对全球“健康危机”，他们提供给这个世界的，似乎是一个更大块、更油腻的芝士汉堡。
同时，今日头条还首先应用了精准的技术，如果一条新闻被为假新闻，我们会定向向所有看过此条的用户，推送信息。
TopBuzz是今日头条的第一个海外产品，我们不断将国内版的成功经验推广到TopBuzz上，其中包括，站内的举报反馈机制，建立库，精准及召回功能。假新闻作为全球内容平台的大命题，接下来我们将继续发力，包括提高权威信息源在推送中的信息比重，在海外招募更多有经验的审核人员以及与全球知名科研机构合作进行研究。信息产品出海面临着不同国家的社会文化挑战，今日头条感谢全球用户的监督，我们会不断努力，更好、更精准的为全球用户提供信息。
作者Elliott Zaagman(艾略特·扎格曼)是一名培训师、组织变革管理咨询师，专注于帮助中国企业全球化。
本文经作者授权后译为中文发布。文章为作者观点，不代表世界说立场。字节跳动与世界说有投资关系。