算法:一种新的权力形态

摘 要:算法如今广泛应用于社会生活各个领域,构建了一种新的社会图景与现实。作为一种技术,算法逐渐演进为一种新的权力形态。由数据和算法搭建的网络对用户形成类似于一种“全景监狱”的凝视。算法的“合理性”外衣和日常化呈现成为社会控制“无形的手”,同时也带来了政治操控、隐私泄露和偏见固化等风险。因此,本文从公权领域、公共领域和个体领域三个维度对算法政治传播风险发生逻辑进行分析,对其消极后果的反制和未知风险的防范提供一些思考。

关键词:算法传播;现实建构;隐性规训;权力形态

中图分类号:TP393     文献标识码:A     文章编号:2096-5729(2020)01-0039-07

一、算法政治传播与全景敞视

随着人工智能的发展,算法技术广泛应用于社会各个领域。一般来讲,“算法”是指对解题方案的准确而完整的描述,是一系列解决问题的清晰指令。人工智能本质是一种算法革命,基于算法的人工智能系统被广泛应用于社会生活中的各个领域代替人们做出决策。作为一种技术,算法逐渐演进为一种新的权力形态,重新构建了一种新的社会图景和现实。

随着2016年美国总统大选和英国全民公投决定脱欧等一系列政治“黑天鹅”事件的发生,算法从数字技术逐渐成为一种政治和社会操纵手段,形成一种新的权力形态,这种权力形态比过去更为隐蔽。美国技术哲学家和政治家兰登·温纳认为,技术是建构世界的一种方式,人类实现的所有事物被重新构思、重新组合并重建且被纳入到技术工具系统的周密安排中,技术作为一系列结构在权力运行的过程中能够不断重构着公众所处的环境,公众在社会系统中逐渐变得遵循其所控制的技术系统的规范和要求之中。由于个体所处空间是由算法设计者和建构者或明或隐地制定,用户固守在由算法搭建的信息茧房,算法推送的信息潜移默化地影响着人们的认知框架和价值选择。在此层面上,不少学者提出了“算法即权力”,数据和算法无形中影响、塑造和控制着当今时代社会治理和公众行为。

在由智能数据编织的巨大网络中,用户在进行日常活动的同时也作为数据资料生产者实时反馈于这张网络,形成一种“个体的全面数据化”。这张巨网在某种意义上类似于福柯所著《规训与惩罚》中的“全景监狱”。“全景敞视”一词源自于英国功利主义哲学家边沁设计的环形监狱,坐落于中央位置的监视塔能够对围绕监视塔周围的囚徒活动一览无余。全景监狱最显著的效果在于,被囚禁者知道自己正在受到观察,由此营造一种有意识的自我规范机制来确保规训权力的自主运作。按照福柯的描述,规训权力能够让人们自然地顺从秩序并且乐于顺从秩序,而这种权力最终会导致人们失去思考的独立性,这种规训不需要依靠权力的强制执行,而是一种默认规则。福柯认为,这种规则本质源于人的自我选择导致人无法察觉和回避。

随着智能数据和算法的发展,“全景监狱”在人工智能时代被赋予新的意涵。依照福柯的观点,公共场合的凝视本身就是一种权。在这个过程中,被监视的事物会变得温顺、合乎规则。由算法编织的网络俨然已形成一种强大的凝视力,在这张网络中个体处于被动位置,个体几乎都处于由算法搭建的“圆形监狱”中。而人工智能的“全景监狱”与福柯所言的“全景监狱”不同的是,后者中被监视的人们能够感知机构的存在,在这种有形的权力运作下人们给自身营造一种有意识的自我规范机制;而前者中公众往往不能感知明显意义的运作机构,“全景敞视”俨然成了一种“全景窥视”。简言之,福柯所言的规训权力更倾向于一种有形存在下的主动规范,而人工智能时代这种规训权力倾向于无形中的被动驯化。

波斯特认为,数据库像“监狱”一样在暗中运作着,与全景监狱不同的是,被监视的人们无须固守任何建筑物,只需进行日常工作。算法技术日常化、个性化的呈现方式容易使人们沉浸在技术的“幸福”中。技术在赋予人们“幸福”的同时埋伏了诸多风险,如政治操控、隐私泄露和偏见固化等。算法作为一种技术,成为社会场域中利益博弈的重要资源,算法置身社会领域并延展出诸多附加价值,所带来的影响取决于操作主体对其的需求。一些权势集团能够凭借着“天然优势”形成对公共领域的“权力凝视”。由于算法在设计操作上的不透明性容易被一些权势集团所利用,通过影响个体行为以达到自身利益。

算法技术背后的权力掌控者,无论怀着怎样的政治动机或是商业动机都能够对社会现实产生客观的影响。当这些“权势力量”影响公众意志,背离了公共利益原则必然侵害公民权利,侵蚀民主和公平正义。因此,对算法政治传播风险背后的发生逻辑进行分析,对其消极后果的反制和未知风险的防范具有重要意义。

二、算法现实建构中的隐性规训

从公权领域维度层面,由于算法作為一种技术置身政治系统不可避免会嵌入人类价值观念或主观偏见,一定程度上侵蚀着公平正义;从公共空间维度层面,用户个人信息被视为关键输入变量的商业模式已经逐渐被企业接纳。在商业模式驱力下,公共空间与个人空间的边界逐渐消融从而造成公民隐私泄露问题;从个体维度层面,算法的定向性传播影响、塑造着个体的认知结构,使人们固守在自身的信息茧房,在日常化娱乐化的推送中逐渐“驯化”。三个维度之间存在着关联性和互通性,当算法掌控者追求最大利益的冲动超越政府责任或企业利益必然对公民权利造成伤害,因此,算法传播在三个维度中所带来的消极影响不容忽视。

(一)算法与公共权力:技术的自主性与政治性

何为“权力”,马克斯·韦伯认为,权力是实现自己意志的能力;罗素将权力定义为“有意”努力“预期效果”产生;达尔认为权力就是影响力,无论个体是否能够接受,都不能脱离于现实中的政治体制之外,政治作为人类生存的不可避免的环境,每个人都以不同方式参与政治体系。而“公共权力”指在公共管理过程中,由官员及相关部门掌握并行使用以处理公共事务、维护公共秩序和增进公民福祉的权力。从本质上来说,公共权力来源于人民,公共权力运行的过程实际上是将权力机制运用于社会公共事务的管理之中进而实现社会目标,以处理由一切社会的性质产生的公共事务。

推荐访问:算法 形态 权力