一财社论：完善科技伦理治理体系引导科技向善

作者/一财评论员

近年来，财社随着科技创新不断突破尤其是论完理治理体互联网领域高科技的运用，在推动经济社会发展和便利民众的善科善同时，技术在资本等因素影响下负面事件与评价屡现，技伦技成为热议话题。系引

中办、导科国办近日印发了《关于加强科技伦理治理的财社意见》（下称《意见》），要求压实创新主体科技伦理管理主体责任，论完理治理体严肃查处科技伦理违法违规行为。善科善此举旨在进一步完善科技伦理体系，技伦技提升科技伦理治理能力，系引有效防控科技伦理风险，导科不断推动科技向善、财社造福人类。论完理治理体

很早之前就有“科技是善科善一把双刃剑”的说法，人类进入互联网时代后，普通民众也能明显感受到技术的双面性。中国是过去几年互联网经济发展最快、规模最大的国家之一，互联网给民众带来了高效、有趣与便利，但同时一些前所未有的新问题开始浮现：网络互动挤占亲密关系的空间，数据权属与隐私变得复杂不明侵害个人信息安全，算法推荐的肆意营销让人不胜其烦，“信息茧房”效应的日益明显可能成为严重社会问题，等等。

以算法推荐为例，目前它已成为互联网时代广泛应用的技术，初衷是为了向用户精准推送个性化内容，提升平台效率、节约用户时间。不过随着线上经济规模日益壮大，资本推动下算法推荐也开始剑走偏锋，问题不断暴露，如算法歧视、大数据杀熟、诱导沉迷等现象司空见惯。去年底北大互联网发展研究中心发布的《中国公众“大安全”感知报告》显示，有七成受调查者感到算法能获取自己的喜好、兴趣，从而“算计”自己。近年的新闻有不少老人陷入“数字沉迷”、外卖员遭遇“最严算法”等，都与算法推荐有关。这些负面现象的不断出现，让公众对算法的质疑与呼吁监管及早介入之声日盛。

为此，国家网信办等四部门此前联合发布《互联网信息服务算法推荐管理规定》，旨在规范互联网信息服务算法推荐活动，维护社会公共利益、保护互联网用户合法权益和促进互联网信息服务健康发展。今年3月1日起已正式实施。

如前所述，算法推荐只是众多问题中比较明显的一个，要杜绝技术在资本等因素推动下频现的损害公众利益行为，需要系统性的解决方案。即《意见》提到的明确科技伦理原则、健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管、深入开展科技伦理教育宣传等方面协同推进。

就强化科技伦理事前审查和事中事后监管而言，《意见》明确要完善科技伦理风险监测预警机制，监测预警科技伦理风险，跟踪新兴科技发展前沿动态，对科技创新可能带来的规则冲突、社会风险、伦理挑战加强研判、提出对策。同时压实创新主体科技伦理管理主体责任，要求高等学校、科研机构、医疗卫生机构、企业等单位要履行科技伦理管理主体责任，建立常态化工作机制，加强科技伦理日常管理，主动研判、及时化解本单位科技活动中存在的伦理风险。此外，还需通过完善相关立法工作及严肃查处科技伦理违法违规行为，让企业等主体不敢在利益驱动下滥用科技牟利。

一个好的产品、一项好的技术一定要受到法律和人类伦理等社会规则的约束，把技术规则体系纳入到由法律、伦理所构建的社会规则体系中，就是科技向善的过程。科技是推动人类社会进步最重要的工具之一，人类应该善用科技，避免滥用，杜绝恶用，并通过完善伦理治理和法治去解决当下科技给社会带来的负面问题。