数据文摘出品

作者：Caleb

说到社交媒体的算法推荐，还真是让人欢喜让人忧。

事情是这样的。

当时，我的一个朋友John正在申请麦吉尔大学的生物学博士，我也正在钻研生物化学领域。我们因为在同一家制药厂实习迅速热络起来，经常还在我家地下室打球、录制视频等。

但是一年后我发现，John变了。他开始狂热地信仰宗教，总是和我争论宗教知识应该是世界上唯一的科学，也是从那个时候开始，John把名字改成了Yahya，留起了胡子，说话也带上了明显的口音。

同时，John的Facebook账号上开始涌现出大量的激进内容，其中一些视频内还对美国和加拿大的所谓“异教徒”怀有明显的仇恨与恶意。

最后一次与John交谈的时候，我已经知道特勤局已经对他进行了长达数月的调查。

结合我在谷歌和DeepMind的实习经历，以及我在算法推荐系统领域的学习，John的事件让我开始思考如今风头正盛的基于推荐算法的社交媒体。

在John这件事上，可以肯定的是，John逐渐激进的事实与Facebook的推荐算法有着密切的关系。但是，还无法确定的是，是怎样的算法推荐让John开始转变信仰，当John的Facebook发帖变得越来越极端的时候，此时的新闻推送是根据怎样的算法得出的？

当我们尝尽了基于算法推荐的社交媒体的种种甜头之后，如今，严重的负面效应开始显现。这在最近美国所发生的一连串事件中都能得到印证，尤其是当平台自动为你推荐一些激进内容或者是发布一些激进组织的相关信息时。

于是我也开始思考，当我在推特或者其他新闻推送中点开一些激进视频时，我是否也在无形之中对其成型起到了推波助澜的作用？

在社交媒体中使用机器学习的风险

随着智能手机的普及，我们逐渐习惯于把虚拟助手、社交媒体等作为新闻来源来帮助我们了解这个世界。久而久之，平台的倾向性也会影响我们自身的倾向，甚至是行为。

这些推荐机制的原理都是来源于机器学习。

机器学习算法就是一组指令，帮助机器从数据模式中进行学习，这些模式还能帮助人们进行决策。比如，新闻源就可以通过被称为推荐系统的机器学习来创建。这在广告领域的应用可能更为广泛，广告商想知道的是，用户最可能点击什么样的广告，从而更大程度地进行资源分配。

但在这种好处背后是难以撼动的激励机制和权力结构，Facebook、苹果和谷歌等公司仍然忙于利用会员制和广告费来赚取收入，对于“房间里的大象”，所有人都选择了视而不见。

2020年，六家FAANGM公司（Facebook,亚马逊、苹果、Netflix、谷歌和微软）的商业模式组成一个季度标普指数和负责的大部分收益，这些公司的员工平均年薪为339,574美元。

当这种现象成为普遍的时候，社交媒体便能够利用机器学习来放大现有的不平等，以及针对易受错误信息影响的人群发布更带有偏激性的内容。

最大的证据便是Facebook成立了一支反恐团队，但具有讽刺意味的是，其本身依赖于机器学习，也不乏相同的商业动机。换句话说，当屏蔽的内容越多，被禁的人就越多，公司的收入就会减少。

目前，Facebook已经承认其对缅甸的报道具有倾向性。同样，推特、YouTube和Facebook也在近期美国的政治事件中发挥了作用，Facebook的举报人承认，全球政治操纵能力部分是通过机器学习来创建的，这可能会增加地缘政治风险。

针对如John般这样可能因为自己的经历而受到社交媒体影响的人，我们更需要在社会层面上，与相对自由的道德和法律专家以及机器学习研究专家进行更具有针对性的讨论。

如何减轻机器学习的社会风险

令人好奇的是，在算法社交媒体的有害影响已被记录在案的前提下，有哪些法律途径可以管理以机器学习为动力的企业。例如，在个人层面上，我们都会易受影响于某类新闻，这是受到法律保护，不能被歧视。也就是说，社交媒体利用我们的这些“弱点”进行攻击其实是非法的。

那么问题来了，哪些途径可以帮助保留机器学习的收益，同时保护弱势群体免受有害影响？

假设科学家找到确凿的证据，根据种族、性别或收入，有些人更容易沉迷于机器学习所推荐的内容，那么我们能否称，歧视是发生了，从而降低公司的市值？毕竟，社交媒体沉迷对公司而言意味着更深的用户粘度和参与度，但是在业务指标上好看的数字可能并不会使受其影响的人们变得更好。

除此之外，更直接的一种方式是降低广告收入。建造AI的实验室正面临亏损，这意味着当营收下降到一定程度时，他们将首先离开。

同时，支撑谷歌、Facebook和其他大公司业务的机器学习工具顺应的开源的趋势，正变得更加易于访问。随着广告收入持续下降，算法偏见将会成为主流公众知识。

收入持续下降、用户隐私意识觉醒和开放源代码都可以成为推动社交媒体往良性发展的动力，而不是通过数据来利用用户。学术实验室还可以通过领导透明、开放源码的努力来发挥作用，以帮助了解机器学习系统中的利益相关者如何为研究造福整个社会。

但是，当我们等待并希望有关掌权者创造变革时，作为个人，我们可以做很多事情，以了解和学习如何管理生活中许多方面的机器学习算法带来的风险。

个人应该怎么做

正如上文所言，这些策略本身其实是告诉自己，代表自身及他人倡导与收集N=1数据，届时可能会对大型社交平台的动机产生更深刻的认识。

与受影响的人开始对话：参与工作环境。如果你正在构建机器学习工具，请实际使用它们。需要考虑到，这份工具可能会影响谁，并与这些人交谈。交谈中可以简单描述所做的工作，以及驱动该技术的数据和商业利益。

例如，我从描述我的机器学习和心理健康研究中获得了强烈的负面反馈，从而塑造了该研究并帮助改正了课程。与我们的朋友，家人和社区的这种非正式的民族志田野调查被低估了，并提供了一种低风险、高影响力的方式来告知我们学习的内容：与谁以及为谁学习。

注意到人们在工业界和学术界研究的是不同事物。工业往往是一条单向道，警惕金笼效应，即那些赚很多钱的人可能会不愿考虑或讨论机器学习的风险，或者可能由于担心被解雇而避免对其进行研究。

例如，算法公平性的领域得到关注是因为微软禁止其研究人员对歧视性广告的研究。类似的，谷歌人工智能与道德团队因为在论文中强调了谷歌搜索模式的缺陷而被解雇。此类事件对相关人员而言代价高昂，这就是为什么在商业利益凌驾于公众利益和学术自由之上的罕见情况下，他们能够大声疾呼，举报或以其他方式告知公众时，需要得到额外支持的原因。

阻止定位并清除隐私设置。如果要让80亿人选择通过利用私人数据来个性化广告，那么激励错误信息的商业模式将很难发展。使用uBlock或其他浏览器扩展程序可以阻止所有新闻提要或HTML元素以及在YouTube等上使用机器学习创建的内容；在Facebook上取消关注所有人以清除新闻源。

通过启用自动删除位置、网络和语音记录的历史记录来删除数据。我为私人利益牺牲的数据越少，我注意到的认知负荷就越少，这也许是因为对涉及我的数据的预期场景，可能应用的机器学习系统以及系统在世界范围内产生的第二级和第三级影响的担忧减少了。

希望通过本文为大家提供一个解决问题的思路，找到问题可能出现的地方，问题是如何发展起来的，以及我们应该采取怎样的方法来解决。

当然，回到本文主题上，无论是对于激进态度本身，还是错误信息，我们都应该随时保持警惕，以阻止那些无法很好地管理机器学习而做出不明智决定的商业动机。

相关报道：

https://www.reddit.com/r/MachineLearning/comments/l8n1ic/discussion_how_much_responsibility_do_people_who/

https://jaan.io/my-friend-radicalized-this-made-me-rethink-how-i-build-AI/

着投资虚拟货币幌子诈骗 宣称“躺着赚钱”“只涨不跌”

“稳稳一个月30%收益”“躺着就能赚钱”……尽管很多投资人并不真正理解“区块链”的原理和含义，但鉴于商家承诺的高额利润回报，近年来，只要和“区块链”沾边的各种虚拟货币似乎都变得炙手可热起来。鉴于上述原因，“区块链”也逐渐变成了传销组织、庞氏骗局加以利用的工具。

7月16日，山西晚报记者从山西省公安厅获悉：近日，大同警方破获一起特大集资诈骗案，骗子打着投资“区块链”“LCC光锥币”的旗号，短短时间便诈骗100余万人民币。

2018年9月，大同市平城分局陆续接到群众报案，一位名叫雒某的男子以投资“LCC光锥币”为幌子骗取受害人钱财。对此，警方高度重视，迅速成立专案组开展侦查工作。经调查取证、分析研判，专案组掌握了犯罪嫌疑人雒某的犯罪事实，并成功锁定其活动地点。

6月23日，专案民警在深圳公安机关的配合下，在深圳将犯罪嫌疑人雒某成功抓获。经查，雒某打着投资“区块链”“LCC光锥币”的幌子，短短时间便诈骗100余万人民币。目前，犯罪嫌疑人雒某已被刑事拘留，案件正在进一步办理中。

所谓的“LCC光锥币”的全称为light cone Coin。根据其推广宣传的资料显示：“LCC，是由南非顶级区块链技术团队研发，是基于中本聪所创造的BTC底层程序上衍生出来的一种P2P电子加密数字经济体”。如果你对这个名词的含义不是太懂，宣传词中还有比较直接的推广语：“只涨不跌”。鉴于如此的宣传炒作，“LCC光锥币”骗局迅速积累了大量钱财。

“不要看这个案件的涉案金额已经达到百万余元，其实与广州区域相关的‘LCC光锥币’骗局相比，这个金额不算大的。”警方介绍，前不久，广州警方以涉嫌诈骗罪刑事拘留了数名涉及光锥LCC的人员。经查，LCC及其衍生的多种“数字货币”投资者约为5万人至8万人，涉及的资金总额可能高达数十亿元。

高回报的诱惑是极为重要的原因

“大量投资者之所以轻易陷入了虚拟货币的非法集资骗局，高回报的诱惑是极为重要的原因。”警方介绍，随着相关反诈骗知识的不断普及，如今很多投资者其实都懂得“天上不会掉馅饼”的道理，其中很多人也判断出“LCC光锥币”可能是泡沫，但依然选择投资主要是抱着“早入手早脱身”，让“后来人接盘”的心态参与。但殊不知，犯罪嫌疑人往往更加狡猾，大多数情况下，还没等投资者察觉异样，钱可能早就已经被转移走了。

2018年8月24日，公安部、人民银行、市场监管总局等多部门联合发布了《关于防范以“虚拟货币”“区块链”名义进行非法集资的风险提示》，提示一些不法分子打着“金融创新”“区块链”的旗号，通过发行所谓“虚拟货币”“虚拟资产”“数字资产”等方式吸收资金，侵害公众合法权益。此类活动并非真正基于区块链技术，而是炒作区块链概念行非法集资、传销、诈骗之实。

根据五部门发布提示，此类非法集资具有以下特点：

1、网络化、跨境化明显。一些不法分子通过租用境外服务器搭建网站，实质面向境内居民开展活动，并远程控制实施违法活动。一些个人在聊天工具群组中声称获得了境外优质区块链项目投资额度，可以代为投资，极可能是诈骗活动。这些不法活动资金多流向境外，监管和追踪难度很大。

2、欺骗性、诱惑性、隐蔽性较强。利用热点概念进行炒作，宣称“币值只涨不跌”“投资周期短、收益高、风险低”，具有较强蛊惑性。实际操作中，不法分子通过幕后操纵所谓虚拟货币价格走势、设置获利和提现门槛等手段非法牟取暴利。

3、存在多种违法风险。不法分子通过公开宣传，以“静态收益”(炒币升值获利)和“动态收益”(发展下线获利)为诱饵，吸引公众投入资金，并利诱投资人发展人员加入，发展多级下线，并以下线的销售业绩为依据来计算报酬。他们往往以后来者的入门费填补“上线”的利润，最后导致资金链断裂。具有非法集资、传销、诈骗等违法行为特征。

五招辨别数字货币是否属于传销币

数字货币种类繁多，应接不暇，投资者稍不注意就可能就陷入非法集资的骗局，必须仔细辨别。投资者可以从以下5个方面判断。

1、发行方式。数字货币依据特定算法，通过大量的计算产生，是去中心化的发行方式。每个不同的终端节点负责维护同一个账本，而这个维护过程主要是算法对交易信息进行打包和加密。而传销币则主要由某个机构发行，传销头目在国内或国外注册成立空壳公司并设立网站，通过微信、讲座等形式大力度宣传某种“虚拟货币”的价值，以多至百倍收益的“高额返利”为噱头、不断吸纳会员会费达到敛财目的。

2、交易方式。数字货币是市场自发形成的零散交易，形成规模后逐渐由第三方建立交易所来完成交易。

而传销币则受到机构或个人控盘，无法自由交易。此类平台发行的假虚拟货币往往无法在交易所交易，因此多采用场外交易或自有交易所交易，同时价格被机构或个人高度控制。

3、实现方式。虚拟货币本身是开源程序，在Github社区维护。其总量限制的参数和方式，均显示在开源代码中。而传销币的开源是完全抄袭别人的开源代码，且没有使用开源代码来搭建程序，无法产生区块或在区块上运行，因此多采用人为拆分的方式进行代币奖励，通过在短期内不断拆分，产生大量积分或代币，造成财富“暴涨”的错觉。

4、是否给出源代码链接。去中心化数字货币都会在官网的显要位置给出源代码的链接，这样做是为了公开透明地展示货币系统的运作机制。而传销币重点宣传的是充值购买交易流程，并不提及其运作机制，甚至网站都没有源代码的链接地址。举例来说：比特币是开放源码且有限量，一共2100万枚，每产生一个比特币都是透明的，不受任何操纵。而传销币不开放源码，产生币的速度、数量都由企业或平台操纵，只要平台开发者愿意，传销币可以无限增发。

5、官网是否是https开头。一般的去中心化数字货币的官网和交易网站地址都以https开头，其目的是这类网址可以很好地保护用户的数据不被非法窃取。但传销货币的官网、交易网站等在内的相关网站都没有以https开头。

文/观察者网 杨蓉】

“这标志着美国互联网史上最具影响力的一场法律战的开始。”据美国《华盛顿邮报》6月20日报道，TikTok公司和八名TikTok创作者当天共同向美国法院提交首份法庭书状（legal brief），指控美国政府涉TikTok“不卖就禁”法案是“政治蛊惑”的结果，其精神有违美国宪法，应当被推翻。

值得注意的是，在美媒看来，TikTok方面此次加大了对拜登政府的“进攻”，首次公布了TikTok与美国政府之间多年来秘密谈判的内部文件。TikTok称，该公司原本提出了一份可以解决美方所谓“国安担忧”的和解方案，但美方仍一意孤行推动法案通过，表明政府并无诚意解决问题。美媒认为，这一点或影响法院裁决。

美国哥伦比亚特区巡回上诉法院此前决定合并审理TikTok以及一批TikTok创作者对美国政府提出的两起上诉，6月20日是TikTok方提交法律文件的最后期限。

据报道，TikTok方面20日提交的书状很大程度上重申了过去的论点，即拜登政府要求字节跳动于明年1月19日前出售TikTok美国业务的做法，“在技术上、商业上和法律上”都没有可行性，相当于该短视频App只能选择被剥离或在美国市场被“封杀”，侵犯了美国宪法第一修正案中的言论自由权。

TikTok 20日称，由于法案禁止TikTok达成数据共享协议，这实际阻止了TikTok向美国用户展示国际内容，即使剥离，TikTok也将在美国“沦为一具空壳”，成为一座“阻止美国人与全球TikTok社区交流意见的孤岛”。书状认为，这开创了一个压制言论自由的“危险先例”，允许政府对“不受欢迎的言论平台”采取针对性行动，迫使其出售或关闭。

3月14日，美国华盛顿特区，TikTok CEO周受资在与宾夕法尼亚州民主党参议员约翰·费特曼会面后接受媒体访问（视觉中国）

TikTok此次还首度披露了一批内部文件，这些文件记录了2021年1月至2022年8月间，TikTok与美国外国投资委员会（CFIUS）就其所谓“国家安全担忧”进行秘密谈判交涉但最终失败的过程。TikTok认为，这表明美方并无诚意解决问题。

这些资料显示，经过多年谈判和数十次会面与电话沟通，TikTok最终向CFIUS提交了一份103页的国家安全协议草案，可以在不实施潜在资产剥离或禁令的情况下实现拜登政府的要求。

这份名为“得克萨斯计划”（Project Texas）的协议概述了TikTok将美国用户数据与其全球业务隔离开来的计划。根据文件，如果TikTok未能遵守十几项要求中的任何一项，比如允许合格的检查人员审查公司的源代码，美国政府将有权暂时停止甚至关闭TikTok在全美的运营。

根据TikTok的说法，该协议从未签署，但公司已开始实施“得克萨斯计划”中概述的一些措施，并自愿为此投入了20多亿美元。但CFIUS在TikTok方面2022年8月提交协议草案后就“停止了与公司的任何实质性谈判”。

此后，CFIUS在2023年3月告知TikTok，有“高级政府官员”要求继续进行剥离，但没有解释为什么协议不够充分。TikTok说，公司随后要求与美国高级官员会面，但“没有收到任何有意义的答复”。美联社提到，正是在2023年3月，美国《华尔街日报》报道了CFIUS威胁字节跳动剥离TikTok在美业务的消息。

《华尔街日报》报道截图

TikTok方面20日也向法院提供了一封今年4月间发给美司法部的邮件，这是字节跳动律师团队为解除禁令、恢复谈判做出的最后努力。在信中，TikTok律师团队表示，尽管该公司一直就此事保持沉默，以保护仍在谈判中的协议，但潜在协议一再受到政府官员对外评论和媒体泄密的破坏。

TikTok说，美国政府对公司的担忧只给出了“模糊和不成熟的回应”，显示其立场似乎已经“脱离现实”。“面对……针对公司的非同寻常的公开运动，公司一直以负责任和建设性的态度对待这一进程，而这场运动越发由参与谈判的美国政府官员主导。”信中写道，“我们担心……CFIUS已经受到政治蛊惑的影响。”

“拜登政府已经决定，宁愿尝试在美国关闭TikTok，消除一个1.7亿美国人使用的言论平台，也不愿继续制定一个实际、可行和有效的解决方案，通过与美国政府达成一项可执行的协议来保护美国用户。”

CFIUS没有立即回应美媒的置评请求。美国司法部拒绝对这封邮件发表评论，但该部上个月为涉TikTok法案辩护称，该法案“以符合第一修正案和其他宪法限制的方式解决了关键的国家安全问题”。

根据目前公布的日程，美司法部须在7月26日前提交法律文件进行回应，而答辩书的提交截止日期为8月15日。美国哥伦比亚特区巡回上诉法院预计将在9月就此案组织口头辩论。TikTok已敦促法院在12月6日前作出裁决，以便有充足时间向最高法院请求紧急审查，美司法部也支持这一要求。

美国有线电视新闻网（CNN）说，20日提交的书状是TikTok在诉美司法部案件中打响的“头炮”，不仅可能决定这款App的命运，还可能决定美国法院将如何解释第一修正案以及第一修正案与网络言论的关系。

《华盛顿邮报》和美国科技媒体The Verge都指出，美国法院在审理此类与第一修正案相关的案件时通常采用严格审查的标准，即政府必须有限制言论的迫切利益，而且限制必须是为实现其目的而严格定制的，以期产生“限制最少”的影响。CNN表示，此案中，拜登政府是否忽视了限制性较小的替代方案，可能成为检验涉TikTok法案是否违宪的一个因素。

4月15日，美国纽约，审理前总统特朗普封口费法庭前，一名男子高举“自由TikTok”的标语（美联社）

事实上，除了书状以外，TikTok还向法院提交了包括专家意见在内的数百页文件。这些专家认为，TikTok已经为解决美国政府关切做出最大程度努力，而美国政府似乎系刻意针对TikTok。

前CFIUS谈判代表、美国司法部调查员克里斯托弗·西姆金斯（Christopher Simkins）表示，TikTok的提议是他20年来审查类似合同所见过的“最复杂、最彻底的缓解协议”，如果得以实施，TikTok的国家安全风险“将降至低水平”。

纽约大学法学教授兰德尔·米尔奇（Randal Milch）认为，涉TikTok法案实际就是一项禁令，因为政府给出的强制出售选项“完全是虚幻的”。美方立法规定，字节跳动有9个月的时间将TikTok出售给美国买家，在禁令生效前还有3个月的宽限期。但潜在买家数量有限，而且中方法规不允许AI算法的出口。

加州大学伯克利分校教授史蒂文·韦伯（Steven Weber）则指出，美国政府对宣传、虚假信息和数据安全的担忧是“整个行业的问题，并非TikTok独有”，TikTok收集的数据与谷歌、脸书和Snapchat收集的数据“没有什么实质性的不同”。

“该法案特别关注TikTok，没有明显的国家安全理由。”韦伯写道，“对于整个行业面临的政策问题，（美国政府）选择（针对）一个市场参与者是武断的。”

美国白宫此前声称，希望以所谓“国家安全”为由终止中国企业对TikTok的所有权，而非封禁TikTok。但中方明确驳斥称，如果所谓“国家安全”的理由可以用来任意打压别国的优秀企业，那就毫无公平正义可言，看到别人的好东西就要想方设法据为己有，这完全是强盗逻辑。

彭博社早先分析认为，这场法律之争将美国的“言论自由权”与“国家安全利益”对立起来，预计将旷日持久，最终或将诉诸美国联邦最高法院。彭博情报分析师谢滕赫尔姆说，即使哥伦比亚特区上诉法院同意加快审理，最高法院也同意受理此案，也只可能会在2025年第二季度之前做出判决。

本文系观察者网独家稿件，未经授权，不得转载。