任何希望自己职业不会过时的人都应该考虑成为一名人工智能伦理学家。几乎每个星期都有关于算法偏见的辩论在一些华丽的场所举行。科技公司也在不遗余力地聘请伦理专家来宣讲它们是多么的负责任。
这种对人工智能伦理的重视受到人们的欢迎。算法在塑造我们的生活方面发挥着越来越重要的作用。我们需要了解它们在做什么。但是,这种辩论有可能掩盖对疯狂攥取金钱和权力这场更为重大的划时代斗争的讨论,科技公司不太热衷讨论这种话题。
从这个意义上来说,《监视资本主义时代》(The Age of Surveillance Capitalism)一书的作者肖沙娜?朱伯夫(Shoshana Zuboff)发挥了非凡的作用,她聚焦于大型科技公司是如何改写资本主义规则和重新构筑权力体系的。
在哈佛商学院(Harvard Business School)的这位荣誉教授看来,谷歌(Googles)、Facebook、阿里巴巴(Alibaba)和腾讯(Tencent)之类的公司正以前所未有的规模和效率将从数据中得来的关于行为的了解“货币化”,从而开创了一种新形式的资本主义。更令人担忧的是,她认为,监视资本主义有可能转变为一种可怕的新的权力形式——“工具主义”——这在中国表现得最为明显。
朱伯夫教授无疑言过其实了。如果精准定位广告的效果有她所说的一半,这些科技公司就会非常高兴了。但是,她肯定正确的是,在审查最新技术的影响时提倡使用望远镜和显微镜。
她的一个核心观点是,监视资本主义最终变成目前这个样子虽然令人遗憾,但并非不可避免。谷歌自己的创始人警告称,广告支持的搜索引擎可能会侵犯其用户的利益,但它们迫切希望在2000年互联网泡沫破灭后赚钱。鉴于9/11事件之后的安全需求,政府是它们的同谋伙伴。
朱伯夫教授认为,关掉这些数字服务背后不正当的货币化机器,就可能得到更好的社会结果。但鉴于这些科技公司所享有的巨大网络效应,更不用说他们拥有的财务影响力,很难看出如何才能做到这一点。
但是,有三件事无疑会帮助我们朝着更好的方向前进:政府监管、市场竞争和个人行动。
首先,政府必须在税收、隐私、数据使用和竞争问题上更聪明地与科技公司打交道。目前,政界人士正在与科技行业进行着笨拙的“打地鼠”游戏。谷歌在欧洲缴的罚款比其在全球缴纳的税收还多,这是当前功能失调的明显迹象。谷歌的母公司Alphabet在2018年向欧盟支付了51亿美元的罚款,而它在全球缴纳的税收为42亿美元,占税前收入的11%。
在隐私和数据使用两个领域,如果监管机构采用更系统更连贯的做法,那么也会有所帮助。柏林Mozilla基金会(Mozilla Foundation)科技政策研究员艾登?费尔德利内(Ayden Férdeline)估计,现在有131个国家出台了数据保护法规。
但在维护个人隐私和同意令人费解的条款和条件方面,许多数据保护法规让个人承担了过多的责任。我们不指望每个公民对保障其他公共品承担义务,比如清洁空气或水。为什么隐私就应该不一样呢?
或许,促进快速变革的更有效动力将是科技公司彼此之间加剧的竞争,因为“从设计入手保护隐私”(privacy-by-design)成为一个有吸引力的消费卖点。苹果(Apple)首席执行官蒂姆?库克(Tim Cook)谴责“数据产业综合体”,而其他美国科技公司领导人则表示支持欧盟式的数据保护法。现在出现了一系列有趣的从设计入手保护隐私的数字架构和服务;关键问题是,它们中的任何一个能否迅速扩大规模,从而对现有的架构和服务构成挑战。
最终而言,这可能取决于我们。作为公民,我们每隔几年投票一次。作为消费者,我们每时每刻都会表达我们的偏好。我们应该转向那些我们认同的从设计入手保护隐私的服务,并删除那些依赖过度监控的应用程序。我们都在为资本主义算法提供训练数据。