熊节：拿起手机时，我们该如何与算法抗争？

11月12日，中央网信办、工业和信息化部、公安部、国家市场监督管理总局等四部门联合印发了《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，以治理网络平台算法典型问题为主要任务，旨在整治信息茧房、操纵榜单、压榨骑手、大数据杀熟等存在已久、关注度较高的典型问题。

观察者网对话华东师范大学国际传播研究院全球南方研究中心主任熊节，他以通俗易懂的方式介绍与我们日常生活息息相关的算法机制，提出对相关问题治理的看法。

【文/观察者网刘冶】

观察者网：从用户视角来看，平台的各种算法都是“黑箱”，用户只能看到算法最终呈现的结果，而无法知道算法具体的运作机制；就算知道了，也会因为技术复杂而难以理解。能否简单介绍一下常见的一些平台算法？

熊节：可以举两个最常见的例子来说明。

第一个是内容推荐算法。这类算法应用非常广泛，从我们打开每个APP的开屏广告，到APP推荐给我们的每条内容，都是推荐算法计算的结果。推荐算法的运作机制其实也并不复杂，甚至可以说很简单。其实就是商家（也就是平台）尽可能掌握用户尽可能多的信息，掌握的信息越充分越全面，就可以给用户推荐尽可能准确的信息。这和自古以来做生意的逻辑其实也是一样的。

推荐算法跟自古以来的每个老板最大的不同，就是它掌握的关于用户的信息是极其大量的。一般来说平台会给用户贴上几千个甚至几万个这样数量级的标签，比如可以具体到你是否喜欢周杰伦、你是否喜欢五月天、你是否庆祝圣诞节、你以前圣诞节是吃饭还是看电影……这么细节的信息都可以逐个贴上标签。

而且各个平台关于用户的信息也是互相流通的，通过被称为客户数据平台（CDP）的大数据系统，各个平台都可以很有效地了解用户的信息。

这种所有平台对用户的全方位的了解，就会造成所谓“信息茧房”的问题。比如说，每个平台都知道我喜欢《黑神话：悟空》这个游戏，然后每个平台都想争夺我的浏览量，于是都给我推荐黑猴相关的文章和视频。这就会给我造成一种印象，让我感觉好像所有人都在耍猴、都在讨论黑猴。这就是一种推荐算法造成的偏见。其实全国买了黑猴的也就2000万人，在整个人口里只是一个很小的比例。

如果这种偏见发生在一些社会和政治问题上，就有可能使一些错误的、偏执的想法在一个信息茧房里被不断强化和放大，严重的情况下有可能造成社会的分裂。

另一个例子是外卖骑手的派单算法。最近的电影《逆行人生》对这个问题有很好的展示。算法可以给骑手分配高效的路线，这本来是件好事。但平台同时又把骑手配送的实际数据输入回去，根据实际数据不断调高对骑手的要求，强迫骑手要跑得越来越快才能保持收入水平。这就形成了对骑手的压榨，而且也造成了骑手和顾客之间的紧张关系。

熊节：拿起手机时，我们该如何与算法抗争？

展开全文

《逆行人生》截图

这两个例子其实是有一定的共通性的。在这两个例子中，算法都可以优化某些计算结果（给用户推荐什么内容、给哪个骑手派哪一单）。但是“优化”首先就要回答一个问题：什么是“优”。这个目的问题不是算法本身能回答的，而是使用算法的平台赋予它的。如果平台的唯一目的是挣钱、提高利润率，那么信息茧房、压榨骑手等情况毫无疑问就会成为达成挣钱这一目的不可避免的代价。

从这个意义来说，用户看不懂算法运作的内部机制，只能看到算法运作的结果，其实并不是一个大问题，因为大众真正需要关心的就是结果。如果算法造成的结果对社会不利，它内部是怎么运作的并不重要，总之就是需要整改。

观察者网：平台一般需要从用户那里收集哪些信息和数据？算法又是如何诱导用户提供这些信息的？

熊节：根据国家网信办2019年的《APP违法违规收集使用个人信息行为认定方法》，手机APP必须清晰列出收集了哪些个人信息。比如在豆瓣APP的“设置->已收集个人信息”菜单下就可以看到，豆瓣APP收集了账户信息、用户身份证明信息、生物识别信息、社交与内容信息、用户使用过程信息、设备信息这6大类的信息。

感兴趣的用户可以自行查看每个APP收集了自己哪些信息。如果哪个APP没有类似的功能，用户应该是可以向国家网信办举报的。

按照《个人信息保护法》的定义，个人信息是与已识别或者可识别的自然人有关的各种信息，其中有些信息本身指向个人或者直接关联到个人，如姓名、身份证、指纹、面部信息、数字ID等（称为识别符），其余的信息本身不具有识别个人身份的属性，但通过结合分析或关联分析也可以使信息或数据集指向某特定自然人。

一般来说，APP在法律许可的前提下，都是能收集的信息尽量收集。我觉得很难说是“算法诱导用户提供这些信息”，基本上应当假设在使用APP的过程中所有的信息（甚至包括在某个页面停留了多久这么细节的信息）都会被收集。

熊节：拿起手机时，我们该如何与算法抗争？

观察者网：尽管平台在获取用户信息时，都有用户须知之类的提示条款。但对于用户来说，这些条款过于冗长和专业，很多时候并不能辨别出其中的陷阱。再加上平台的强制性，如果不同意就无法使用平台功能，用户只能被动接受。这种情况下，用户如何维护自己的信息安全权益？

熊节：我认为靠EULA（最终用户许可协议）维权这种做法，本身就是美国垄断企业创造出来的一种单边霸权。第一，有几个用户会看这些条款，又有几个用户能看懂里面的弯弯绕，很少。第二，更关键的是，我看懂了，我觉得有问题，然后我又能干啥？我朋友全都在用微信，领导天天用微信安排工作，我能说我觉得微信的个人信息保护条款有问题所以我不用微信吗？

所以EULA这个东西需要有，但它的意义是明确相关法律法规的落地。也就是说《个人信息保护法》、《网络安全法》等等法律法规在EULA里都有所体现了，然后APP的行为又是按照EULA来执行的，这是一条法律意义上的链条。但用户真正要维护信息安全权益，还是应该回到可观察的外在行为这个层面上来。

比如说我是淘宝的用户，我怀疑淘宝是不是在用大数据杀我的熟，我用另一个手机号注册一个新用户，发现同样的东西确实给到新用户的价格比给到我这个88VIP的价格还低，那我就可以向网信部门举报淘宝APP大数据杀熟。至于说它这个价格歧视是不是符合EULA的规定，这个根本就不重要。