点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:谨防“算法依赖症”造成负面效应
首页> 经管 > 正文

谨防“算法依赖症”造成负面效应

来源:北京日报2023-10-16 13:26

  作者:胡键(上海政法学院国家安全研究院教授)

  算法是治理能力现代化的重要技术手段,算法技术的迅速发展和普遍运用导致了治理实践中严重的“算法依赖症”。

  “算法依赖症”导致的“能力停滞”现象

  “算法依赖症”实际上是一种“工具依赖症”。大数据的算法技术的确为治理能力现代化提供了可能,但在大数据的算法之下,人们在治理实践中会越来越依赖算法所提供的“标准化”程序,时间越长,“算法依赖症”就越严重。

  “算法依赖症”最重要的表现就是程式化地把选择、决策、信任、责任等交给算法,把思考交给机器,管理人与算法的角色换位。其结果是,在大数据技术普遍运用于治理实践中的时候,治理实践出现了技术(尤其是算法)与人的相互依赖同时又相互排斥的二律背反现象。这种二律背反现象表现为:一方面,技术依赖人发明创造出来,为人类社会发展服务,也就是说,技术是人类活动的产物,技术要发挥治理的作用,离不开人对技术的运用实践;同样,当人类在社会实践中对技术产生了依赖以后,在技术赋能的情况下,治理也同样离不开技术。另一方面,技术在治理实践中越来越排斥一般人的活动,更多的是借助技术既有实践活动的“惯性”即算法程序发挥治理的作用;与此同时,一般人对技术的依赖是由于技术的便捷、高效所致,当技术被赋予了治理的功能以后,人的一切需要自我证明的东西被算法程序所排斥,而转变为必须经由技术来证明。而作为治理主体的人也同样在借助技术排斥作为治理客体的人。这使得算法治理在实践中不仅无法有效提升治理能力现代化水平,反而因为二律背反现象抑制了治理能力现代化水平的提升。很显然,这种情况与治理能力现代化的目标是背道而驰的。

  大数据的算法是被严格程序化了的技术推荐过程,而算法治理的方式主要是推荐算法,算法自身很容易陷入“信息茧房”和“数据牢笼”之中,这也就不可避免地导致推荐算法所依赖的数据在收集、处理和应用过程中产生不正义。算法程序化的最大好处是可以替代人工枯燥乏味的重复性过程,把人从简单劳动中解放出来,从而使得治理实践过程真正成为“无人化”的治理过程。然而,治理的对象复杂多样,甚至时时刻刻在发生变化。算法程序是基于历史数据产生的算法及其相应的程序,本身具有固有的时效性,但形势发生变化以后,算法程序无法自动进行更新,从而导致治理的效果大打折扣,甚至可能完全失效。治理归根到底是人与人之间的互动并为人类解决实质性的问题的过程,而“算法依赖症”以及由此导致的“能力停滞”将会使得治理仅仅是一个过程,而无论是治理主体还是治理客体并没有实质性地解决实际问题。这就是我们切身感受到的一种现象:有些忙不是解决实际问题的忙,而是在程序上作为一个环节的忙,即工具性的忙,是丧失了主观能动性的忙,因而也是无效的忙。

  “能力停滞”与“算法依赖症”并存对治理实践产生负面效应

  在算法的程序化面前,人作为治理的主体陷入“算法依赖症”以后,“能力停滞”与“算法依赖症”是互为因果的。两种情形会同时在同一个治理过程中表现出来,对治理实践产生巨大的负面效应。

  第一,程序的选择与程序化的选择,体现了治理主体与治理客体之间的矛盾。这种矛盾表现为:程序供给是技术科学家的供给,然后转化为行政部门(即治理主体机构)的选择,这种选择一旦作出就具有唯一性。然而,治理客体复杂多样且多变,客观上要求程序具有弹性。结果,程序供给的刚性导致治理主体机构对程序选择的刚性,这与治理客体需求的弹性之间构成了无法克服的矛盾。在这种情形下,治理主体机构必然强制作为治理主体的人必须保持对技术(算法)唯一程序的忠诚。否则,算法程序就难以运用到实践中。因此,“算法依赖症”首先是对算法程序的绝对信任的依赖,程序供给的选择导致了程序运用的程序化选择。

  第二,把决策交给算法,再由算法决定治理实践的策略,作为治理主体的人只是被动执行算法决策,于是作为治理主体的人本身就成为算法的治理对象。把决策交给算法,实际上也就是把决策交给了算法研发者。当然,算法研发者在写算法代码的过程中肯定有充分的实践依据,但一套算法代码完成后,随着时间的推移,会越来越脱离客观实践。然而,算法执行人依然在执行着那一套陈旧的算法代码,以至于治理的实践常常产生偏差乃至错误。

  第三,把信任从人与人之间的关系中彻底抽离出来,完全交给技术、交给算法,导致人与人之间缺乏必要的信任。在社会管理中,我们经常会遇到这样的情形,那就是只相信技术而不相信人,凡是用技术识别的东西必须要按照技术的程序和算法来进行检验,而忽视任何个人出示的证人、证物等。

  第四,把治理实践都托付给技术,一旦技术出现问题,作为治理主体的人就消极等待,而缺乏实践的主动性。在“千禧年”的时候,世界普遍担心的是“千年虫”问题。当时互联网技术刚刚运用于各国的政府服务,治理也主要是服务型治理,因而对“千年虫”所引发的问题并不担心。当然,技术科学家很快就解决了这个问题。然而,随着大数据技术普遍运用于治理实践,由于技术本身的缺陷,包括技术设施等硬件问题,更包括软件系统问题等,治理实践的差错难以避免。

  人推动技术发展以后,人在技术的实践面前不是无所作为的,若如此,则人很快就会被自己发明的技术所战胜。马克思、恩格斯在《德意志意识形态》的“序言”中指出过“创造者屈从于自己的创造物”的异化现象,今天,在人与技术的关系中也出现了这种现象,而人与大数据、人工智能的关系中,更是存在着严重的技术异化现象。从治理实践中的“算法依赖症”来看,实际上就是人创造发明技术,反过来却屈从于技术。

[ 责编:李彬 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 课本里的抗日英雄 我们从未忘记

  • AI古风动画丨在古诗里过一天清明节

独家策划

推荐阅读
2025年4月1日,北京怀柔慕田峪长城内外山花盛开,美丽的春花把古长城打扮的多姿多娇,犹如春天里一幅壮美的风景画
2025-04-02 15:44
2025年4月1日,船舶航行在安徽省合肥市庐江县境内的引江济淮航道上,标志着菜子湖湿地候鸟越冬季禁航结束,菜(子湖)巢(湖)线恢复通航
2025-04-01 15:40
2025年3月31日,江苏苏州吴中区光福镇,太湖之滨,桃花、樱花、油菜花等竞相绽放,生态优美,春景如画
2025-04-01 15:31
用镜头记录城市更新 青岛首届“百家媒体看改变”活动圆满闭幕
2025-03-20 10:14
"昭君杯"首届全国老年合唱大赛在北京国家大剧院正式启动
2025-03-19 16:10
2025年2月25日,云南省昭通市绥江县,新市金沙江特大桥施工现场,工人正加紧施工。
2025-02-26 15:41
2025年2月7日,重庆市巫山县曲尺乡月明村一大片梅花竞相开放、灿若红霞,游客和市民前来游玩打卡,尽享春日的快乐和惬意
2025-02-08 14:52
2025年2月5日,福建省福清市石竹山风景区,一场非遗英歌舞、建瓯挑幡等非遗表演正在进行,让游客感受中华优秀传统文化魅力,丰富景区文化内涵和游览品质
2025-02-06 15:55
2025年1月20日,江西省赣州市章贡区城市中央公园内,游船与湖水、植被、高楼相互映衬,呈现出一幅冬日多彩美丽生态画卷
2025-01-20 15:30
2025年1月16日,受低温天气影响,山西省运城盐湖出现冬季独特的“硝花”景观,水面上的硝花形态各异晶莹剔透,美不胜收。
2025-01-16 15:56
一位“行者”行走在广袤的沙漠中,遮掩着绝世的面庞,一面“古镜”掩埋于厚重的沙下,刻满了时间的裂痕。
2025-01-13 17:25
2025年1月9日,重庆市酉阳土家族苗族自治县桃花源国家森林公园白雪皑皑,雪景如画
2025-01-09 15:24
关爱卡寒假公益行 助力云南各族青少年儿童梦想起航
2025-01-08 14:42
2025年1月5日,在山西太原南站开往呼和浩特东站的D4022次列车前,游客自拍合影。
2025-01-06 16:01
2024年12月8日,广西梧州岑溪市岑城镇木榔村,生态田园中阡陌纵横线条分明,冬韵如画。
2024-12-10 16:48
2024年12月10日,贵州省黔西市绿化白族彝族乡大海子村,青山环绕树木葱茏,构成一幅美丽的生态画卷。
2024-12-10 16:40
2024年12月6日,古城苏州街头,成片的银杏、红枫等树木色彩斑斓满目缤纷,成为一道迷人的风景。
2024-12-06 15:48
2024年12月6日,初冬时节,山东省青岛市即墨区灵山街道花卉种植基地的大棚里一片繁忙,种植户忙着管护花卉。
2024-12-06 15:48
2024年11月30日,初冬时节,河南省南阳卧龙岗文化园内,树木换上"新装",宛如一幅五彩斑斓的画卷,吸引不少市民、游客前往赏景。
2024-11-30 18:34
民以食为天,一日三餐承载着居民的幸福感。
2024-11-27 18:59
加载更多