自主学习型算法共谋的事前预防与监管*
作者：王健 吴宗泽 2021-08-30 15:51 新传播 【字号：大 中 小】
近年基于人工智能技术的自主学习型算法在信息推荐、动态定价情境下显现出如价格歧视、性别歧视等异常，逐渐引发学界对自主学习型算法问题的担忧。囿于自主学习型算法的不透明性及行为隐蔽性，往往难以在反垄断执法、司法层面对其予以及时、有效规制。因而须依据自主学习型算法自身特点构筑起合法、有效的事前管控路径，从技术监管、数据控制、算法审核等层面对自主学习型算法加以规制，及时遏止自主学习型算法共谋不当影响的出现和扩张。
（二）面向算法内容的事前预防与监管路径设计
可针对算法本身或其结果进行监管。
1.算法透明措施??自主学习型算法的实质威胁并不在于其是否便利市场竞争者的共谋，而是它不确定的行为方式。如优步（Uber）平台设计激增价格算法的初衷，是通过价格的倍数激增以减少用户的需求并增加司机的响应数。但由于算法的不透明，优步（Uber）平台本身也没有意识到激增定价模型会衍生出价格歧视的行为。这并不鲜见，爱彼迎（Airbnb）[20]、谷歌广告平台（Google Ads）[21]同样出现过类似情形?？悸堑缴鲜鑫侍?，算法透明如今为许多学者、政治家所倡导。德国总理安格拉·默克尔就曾呼吁脸书（Facebook）、谷歌（Google）等大型互联网公司公开其算法，否则用户或将会因信息接受范围缩小而感知失真。狭义的算法透明指披露算法的源代码、训练样本等基本算法要素，而广义的算法透明则指运用算法公开、算法审核等手段促成完整意义的算法透明。[22]因广义的算法透明所指过于宽泛，此处论述仅限于狭义的算法透明。
算法透明很大程度上使得反垄断执法机构对于算法设计者、使用者的可问责性和对算法的知情权得到满足，同时也有利于在事后对自主学习型算法的决策过程、依据提出公平性和合理性的质疑。尤其是在应对算法代码、架构相似的特殊情形时，算法透明能够便于反垄断执法者快速识别并及时对算法来源进行核查。但即便不考虑商业秘密、社会秩序等问题，仅仅公开算法源代码在多数情况下并不等于算法可知甚至也并不足以提高透明度：一是由于商用算法往往由多组算法?？楣钩?，其复杂性本身便会给解释工作造成难度；二是由于自主学习型算法决策依赖于特定数据环境，单纯静态地考察源代码并不实际；三是由于代码解释周期普遍过长，并不符合反垄断执法实践的需求。目前有学者退而求其次地提出算法整体设计应实现?？榛?，便于算法工程师逐一对其解释、阐明。但其对于商业算法的设计有较高要求，实践上可能存在一定困难，且算法迭代更新将会使得?？榍饔诟丛哟佣岩员Ｖつ？榛馐痛锏皆て谛ЧＲ蚨腿绾问迪指咝?、可行的算法透明，目前仍待进一步探索。
[20]Edelman Benjamin G. and M. Luca,"Digital Discrimination: The Case Of Airbnb.com", Harvard Business School NOM Unit Working Paper,2014:3.
[21]Sweeney Latanya,"Discrimination in Online Ad Delivery", Queue,2013:3.
[22]沈伟伟：《算法透明原则的迷思—算法规制理论的批判》，《环球法律评论》，2019年第6期。
c4d032d1-1359-488d-9493-075c1cede8f9.jpg)