观点特洛伊木马:数字健康,人权和全球卫生治理

第22/2卷,2020年12月,第41页– 48

PDF.

Sara L. M. Davis

Covid-19 Pandemase大规模加速了朝向新型数字技术的全球转变,危机前正在进行的趋势。为了响应大流行,许多国家正在迅速扩大利用新的数字工具和人工智能(AI)从数字接触跟踪,诊断到健康信息管理到未来爆发的预测。这种转变正在众多私人行动者和公共演员的积极支持。特别是,联合国(联合国)发展机构(如世界卫生组织)正在积极鼓励通过规范的指导和技术合作促进这一趋势,旨在帮助低收入和中等收入国家的政府来评估他们的需求数字健康,发展国家数字健康策略,扩大数字干预措施。[1] 与此同时,全球卫生融资机构(如全球抗击艾滋病,TB和疟疾基金)正在通过援助国家卫生计划以及通过自己的公私伙伴关系为这些技术提供资金。但在这项重大努力中,刺激低收入和中等收入国家以数字未来为比赛,是联合国发展机构充分考虑了风险吗?

2019年,联合国特别贫困和人权的特别报告员菲利普·阿尔斯顿警告说,数字技术可能是寻求拆除和私有化经济和社会权利的力量的“特洛伊木马”,破坏了对可持续发展目标(SDGS)的进展而不是加快它。[2] 同样,在2020年,联合国Racism Tendayi Achiume的特别报告员警告说,这种技术被塑造,经常恶化了现有的社会不平等。[3]

由于本文探讨,这些和其他严重的社会效应可能会加速健康中数字技术的快速扩大。支持这些风险的政策和法律环境,并明智地为他们计划的计划应该是数字技术扩大的先决条件,而不是事后的想法。作为其对卫生人士的数字技术和AI政府的规范和技术咨询的一部分,他们应该支持各国政府评估风险和需求,并确保这些政府还收到他们所需的建议,他们需要制定法律,政策和治理保护和维护人权的机制。但到目前为止,迄今为止和其他联合国发展机构的主要股权和人权风险似乎似乎以真正的紧迫性观察是需要克服“数字鸿沟” - inequeline,这可能会破坏数字健康获取的数字技术和互联网连接对于贫困和边缘化的人口。 2020年6月,联合国秘书长警告说,关闭数字鸿沟现在是“生命或死亡问题”。[4] 在解决数字鸿沟的同时,在越来越数字时代的合法关注的同时,对这个问题的不成比重本身就可以成为特洛伊木马,这是一个对低收入和中等收入国家的中毒礼物合法化私人行动者和国家权力的扫描进入,在回滚赢得赢得人权保护的同时。

本文特别探讨了四种风险:扩大国家监测,恶意定位风险,与具有强大的私营公司的伙伴关系的管理有关的众多挑战,以及扩大数字干预的风险,科学证据疲软。

一个特洛伊木马进行国家监测

2013年,联合国大会通过了一项关于技术监督对人权的负面影响的决议。[5] 联合国特别报告员关于意见自由权利和表达权大卫凯德的一系列报告强调了系统使用技术来违反隐私权。[6] Covid-19回应加剧了这些问题,因为一些国家扩大了可能以后用于政治目的的监测系统。

每当收集个人数据时,函数蠕变被突出显示为风险。[7] 全球艾滋病毒委员会和法律委员会尤为突出了警察使用数字收集的生物信息的风险。[8] 拟议的生物识别数据(如指纹或虹膜扫描)的收集为艾滋病毒研究引发了对肯尼亚的边缘化和被定罪群体的特定问题,而性工作者,与男性,变性人和使用毒品的人发生性关系 - 关于数据使用数据以逮捕个人逮捕。[9]

中国提供了这一目标使用生物识别数据的谨慎级别。为了管理Coronavirus,中国政府要求公民下载来自阿里巴巴的App,这是一个5000亿美元的电子商务公司。该应用程序是与警方合作开发的,并使用颜色代码来确定自由旅行,以危险或需要立即检疫,基于包括与病毒的旅行历史和时间靠近其他人的数据。[10] 地铁站使用热扫描仪来检查高温,包括面部识别技术。[11]

这些工具由一些负责开发用于介绍数百万Uighur Muslims的AI系统的相同公司开发。[12] 系统跟踪各个通信,警察记录,清真寺的赞助以及个人运动,以确定人们认为高风险,并将其放在强迫劳动营地。

北京现在通过其皮带和道路倡议将这些监控技术激活,以60多个国家作为一种发展援助的形式。[13] 2020年8月,国际电信联盟的良好全球首脑会议推断了推广视频赞扬中国使用人工智能而不提及相关的滥用。[14] 谁也赞扬中国对Covid-19的回应,而不提及相关权利滥用。[15]

一些人道主义援助机构,如红十字国际委员会,已经制定了严格限制了生物识别数据的收集和使用的政策,旨在防止国家和非国有行动者使用收集的数据,以实现人道主义目的来造成伤害。[16] 但是,目前没有关于规范机构的治理和使用生物识别和使用生物识别和使用的商定方法,例如世界卫生组织和资金机构,例如全球基金,通常为同一国家提供建议。事实上,根据第三世界网络的分析,谁在2020年批准的数字战略草案似乎违反了自己的数据保护政策。[17] 为促进一致和职权 - 各自的治理,通常共同努力向低收入和中等收入国家提供技术支持和资助的机构也应共同努力,在隐私,监督和警务方面建立一个共同的底线以健康的名义,包括生物识别技术的政策(可能使用红十字政策国际委员会作为起点);当然,他们应该释放中国对虐待警务的技术和AI的使用,而不是将其作为模型作为一种模型。

一个特洛伊木马,用于恶意瞄准

安全专家已经记录了越来越多的AI系统出于恶意目的,包括攻击数字安全(通过网络钓鱼攻击,语音合成,用于冒充,自动黑客和数据中毒,使用微型武器系统的物理安全性(使用自主武器系统的攻击)无人机和颠覆网络地理系统)。[18] 联合国人权高级专员Michele Bachelet警告滥用数字技术来攻击个人和团体。[19] 现在,随着医疗设施的竞争,利用医院对数字系统的依赖性的增加。[20]

即使是在哪些状态不保留数据时,Digital联系跟踪应用程序收集的数据也可以进入公共领域,揭露女性,女孩和其他弱势群体,如LGBTI +人员或耻辱群体,以追踪,勒索或暴力的风险。[21] 例如,在韩国,数字联系跟踪应用程序数据用于创建一个“coronamap”网站,显示匿名证实患者的旅行历史,并通过性别和年龄识别它们;由于此信息可公开访问,个人被指控不知情,欺诈和性行为,其中一些是在线女巫狩猎的目标,旨在识别出现病毒的个人。此外,在通过接触跟踪识别后,各个企业与Covid-19传输相关联,有些是针对敲诈勒索的目标。[22] 隐私国际已经记录了某些组织使用的数据剥削策略,以针对妇女的妇女,以避孕和堕胎的误导。[23] 红十字会和隐私国际委员会进一步发现,移动技术留下可用于瞄准个人的数字踪迹。[24]

卫生系统对数字技术和AI越来越多的依赖,因此创造了许多新的漏洞,并且随着我们的社会已经存在的不平等,由于我们的社会所存在的不平等,某些群体的风险比其他人更大。韩国文件的事件可能会破坏公众信任,并使许多人不愿下下载或使用移动卫生应用程序。这甚至可能是新加坡的情况,其中Coronavirus App Traphetogether的早期下载以仅仅20%的人口,导致政府退后促进其使用。[25]

私营部门的特洛伊木马  

公私伙伴关系可能会对私人行为者进行大大效益,提高有关纳税人资金的适当使用的问题。

Shoshana Zuboff表明了Facebook和谷歌这样的科技巨人如何通过“监督资本主义”将数据变为利润来源。[26] 如今,各种规模竞赛的私营公司找到了大型数据集,他们可以销售获利或用于培训和改进算法,开发有利可图的工具。但是,全球北方的大数据供应不足以满足需求,欧洲和北美的隐私法规在欧洲一般数据保护监管的情况下变得更加严格。低资源设置中的卫生系统在具有较弱监管控制的国家提供可能的大数据储备。

因此,私营部门对与卫生机构合作的强烈兴趣,在低收入和中等收入国家推出了启用新的AI的数字健康工具,从而访问了在规则更强的国家进入的大数据, “数据殖民主义”的形式。[27] 私营公司可能会从没有立即明显的财务收益的伙伴关系中获益匪浅。

这些伙伴关系有时包括有问题的曲目记录的公司。 2018年,由于Palantir与剑桥分析,洛杉矶和纽约警察局,移民和海关执法和美国情报机构以及美国情报机构以及美国情报机构以及美国情报机构以及美国情报机构以及美国智力机构和美国情报机构以及美国情报机构和美国情报机构的历史。 [28] 一个内部移民和海关执法报告显示,普拉兰特数据在定位和起诉移民儿童的父母方面至关重要。[29] 世界粮食计划署发表了一份声明,肯定会将其控制有关普拉兰特数据的使用,但批评者继续提高对流离失所者和流离失所者人员的风险的担忧,并呼吁更清楚的人道主义计划标准。[30] 为了回应Covid-19,Palantir现在正在向公共卫生机构提供服务,以跟踪和分析冠状病毒的传播。[31]

一个无监督实验的特洛伊木马

谁的数字战略草案辩称,它希望“[构建]知识库......通过各种参数和设置进行测试,验证和基准测试,验证和基准测试人工智能解决方案和大数据分析。”[32] 但是,促进发展中国家未经证实的卫生干预措施的检测,验证和基准,是道德的吗?

世卫组织对新数字技术的证据的系统文献综述往往是在赞扬这些优惠的承诺中的一致,同时还突出了进一步实施研究的需求。[33] 谁承认其指导方针,即数字健康干预的证据质量有时是弱势的,但它仍然建议他们。[34]

经济,社会和文化权利委员会关于卫生权利的一般性评论14声称卫生设施,货物和服务必须科学和医学恰当和质量好。[35] 新的数字技术的快速扩大,即使是具有有前途的飞行员的数字技术,也应由世卫组织和由公共资助的机构提供资金,只有在证据基础足以证明将新工具缩放的合理性时,才能得到谁。融资未经证实的数字干预措施可能会侵入措施,这些干预措施是证据基础的干预措施 - 例如,损害减少服务,被证明工作,但长期不足。[36]

结论

目前从全球卫生机构出现的数字策略和指导遗憾的是,只有对这些和其他人权问题的兴趣最小。[37] 联合国秘书长在数字技术上的高级小组的报告设定了强调解决数字鸿沟的语气,推荐“到2030年,每个成年人应该有经济的访问数字网络,以及数字化的金融和健康服务,作为对符合SDGS进行大量贡献的手段。“[38] 小组关于人权保护的建议越来越精确,只致电“对现有人权协议和标准如何适用于新的和新兴的数字技术的机构。”[39] 一年后,“广泛审查”尚未出版。

同样,谁的数字战略草案和各国的规范指导绝大多数都集中在承诺,几乎没有讨论上述风险。[40] 该战略的四项原则侧重于敦促国家致力于数字健康,认识到综合战略,促进适当使用数字技术的健康,并认识到最不发达国家面临的障碍必要对联合国人权专家提出的担忧的几点提及。[41] 该战略由世卫组织执行委员会于2020年2月批准,并于2020年11月由世界卫生大会批准议程。[42]

认识到,信任和尊重人权对于维护健康权,并且对于确保公众在获取医疗保健机构,遵循Ruggie框架之后的全球卫生机构(例如世卫组织和全球基金)应该是至关重要的,这是至关重要的。 “知道并展示”他们已经完成了尽职调查,以识别,预防和解决与健康数字技术相关的人权滥用。[43] 这包括以下内容:

  • 跨越卫生组织,全球基金和其他联合国发展机构的共同职位,就这些技术与这些技术相关的风险,并明确致力于尊重人权标准的所有战略和指导的核心原则;
  • 将上述风险介绍了由世卫组织和艾滋病规划署和国家和捐助机构的风险评估工具的规范性指导局面;
  • 将强大的方法纳入尽职调查,通过该等机构作为开发计划署,艾滋病规划署,法国5%等机构提供的正在进行的技术援助,使各国能够充分评估他们开展业务的公司的曲目记录;
  • 开发生物识别和数据管理政策,这些政策在联合国卫生机构和全球健康资助者中共享一致的原则:提交和建议使用生物识别学的最小使用,制定合法使用健康和生物识别数据,以影响数据处理的评估和阐述私营部门伙伴关系的制约;和
  • 与民间社会进行磋商 - 特别是受影响的社区 - 确保他们参与这些政策的开发和推出。

最终,各国承担保护人权的责任;但联合国发展机构和全球卫生融资机构,通过基于证据的规范指导和技术合作,他们提供的权力作为卫生干预措施的资助,对国家决定具有签署的影响,并且他们不能成为纳力。作为纳税人捐款数十亿美元的钱包串的持有者,他们必须尽一切努力确保国际合作比伤害更好。鉴于健康中使用的技术只会继续发展,尊重人权迁移到数字健康治理中心,而不是作为事后的经文。

致谢

本文的研究部分得到了与Joep Lange Institute的咨询。我很感激Christoph Benn,Erika Castellanos,Kene Esom,Tabitha Ha,Allan Maleche,Bruna Martinez,Mike Podmore,Tony Sandset,Peter Van Rooijen,Akarsh Venkatasubramanian,Nerima,Carmel Williams和两位评论员。

萨拉(MEG)戴维斯,博士,瑞士日内瓦毕业生和发展研究所研究所研究员。

请向作者通信。电子邮件:[email protected]

竞争利益:没有宣布。

版权© 2020 Davis. This is an open access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/4.0/), which permits unrestricted noncommercial use, distribution, and reproduction.

参考

[1] 参见,例如,世界卫生组织, 全球数字健康战略草案2020-2025 (日内瓦:世界卫生组织2020年);世界卫生组织和国际电信联盟, 是他@ lthy,是移动的 (Geneva: International Telecommunication Union, 2014); Global Fund, “Private sector partners step up the fight to end AIDS, TB and malaria” (press release, October 9, 2019). Available at //www.theglobalfund.org/en/news/2019-10-09-private-sector-partners-step-up-the-fight-to-end-aids-tb-and-malaria.

[2] 联合国大会,关于极端贫困和人权特别报告员的报告,联合国文档。 A / 74/493(2019)。

[3] 联合国人权事务高级专员办公室, “Emerging digital technologies entrench racial inequality, UN expert warns” (press release, July 15, 2020). Available at //www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=26101&LangID=E.

[4] United Nations, “Digital divide ‘a matter of life and death’ amid COVID-19 crisis, Secretary‑General warns virtual meeting, stressing universal connectivity key for health, development” (press release, June 11, 2020). Available at //www.un.org/press/en/2020/sgsm20118.doc.htm.

[5] 联合国大会Res。 68/147,联合国文档。 A / RES / 68/167(2014)。

[6] 人权理事会,关于促进和保护意见自由权利和言论权,联合国文件的报告。 A / HRC / 41/35(2019年)。

[7] S. Davis和A. Maleche,“每个人都说说不:肯尼亚的主要人口和生物识别学,” 健康与人权杂志(2018年7月4日)。

[8] 全球艾滋病毒委员会和法律委员会, 风险,权利和健康:补充 (纽约:开发计划署,2018年); p。 8。

[9] 凯林和关键人口联盟, “每个人都说没有”:生物识别学,艾滋病毒和人权,肯尼亚案例研究 (内罗毕:Kelin,2018)。

[10] 据报道,霍尔姆斯,“中国据报道,人们下载一个Alibaba支持的应用程序,决定他们是否’LL被隔离为冠状病毒,“ 商业内幕 (March 2, 2020). Available at //www.businessinsider.nl/alibaba-coronavirus-chinese-app-quarantine-color-code-2020-3?international=true&r=US.

[11] S.元,“中国如何使用AI和大数据来对抗冠状病毒” 半岛电视台 (March 1, 2020). Available at //www.aljazeera.com/news/2020/03/china-ai-big-data-combat-coronavirus-outbreak-200301063901951.html.

[12] M. Gira Grant,“大流行监督州”, 新共和国 (May 8, 2020).

[13] S. Feldstein, AI的全球扩张 s推线 (纽约:2019年国际和平的卡内基捐赠。

[14] AI for Good Global Summit (@ITU_AIForGood), “What is #China’s digital #health strategy? #AI #AiforGood” (August 19, 2020). Available at  //twitter.com/ITU_AIForGood/status/1296031059948318720.

[15] 世界卫生组织, 2019年冠状病毒疾病的WHO - 中国联合任务报告(Covid-19) (February 16–24, 2020). Available at //www.who.int/docs/default-source/coronaviruse/who-china-joint-mission-on-covid-19-final-report.pdf.

[16] B. Hayes和M. Marelli,“促进创新,确保保护:红十字国际委员会生物识别政策,” 人道法和政策 (October 18, 2019). Available at //blogs.icrc.org/law-and-policy/2019/10/18/innovation-protection-icrc-biometrics-policy.

[17] Third World Network, “WHO: Draft global strategy on digital health threatens data sovereignty” (press release, February 6, 2020). Available at //twn.my/title2/health.info/2020/hi200203.htm.

[18] M. Brundage,S. Avin,J. Clark等人, 恶意使用人工智能:预测,预防和缓解 (Future of Humanity Institute, University of Oxford, Centre for the Study of Existential Risk, University of Cambridge, Center for a New American Security, Electronic Frontier Foundation, and Open AI, February 2018), p. 4. Available at //arxiv.org/pdf/1802.07228.pdf.

[19] M. Bachelet, “Human rights in the digital age” (speech to the Japan Society, October 17, 2019). Available at //www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=25158&LangID=E.

[20] 牛津伦理,法律和武装冲突研究所, 牛津声明 论卫生保健部门的网络运营国际法保护 (May 2020). Available at //law.yale.edu/sites/default/files/documents/pdf/Faculty/circulation_oxfordstatement_internationallawprotections_cyberoperations_healthcare.pdf.

[21] S. Davis,“联系跟踪应用程序:妇女和边缘化群体的额外风险,” 健康与人权杂志 (April 29, 2020).

[22] 电晕地图:Covid-19状态地图. Available at //coronamap.site; N. Kim, “‘More scary than coronavirus’, South Korea’s health alerts expose private lives,”  Guardian (March 6, 2020). Available at //www.theguardian.com/world/2020/mar/06/more-scary-than-coronavirus-south-koreas-health-alerts-expose-private-lives.

[23] 隐私国际, 性能和生殖权利数据剥削的文献 (April 21, 2020). Available at //privacyinternational.org/long-read/3669/documentation-data-exploitation-sexual-and-reproductive-rights.

[24] 红十字国际委员会, 数字踪迹可以危及接受人道主义援助的人,红十字国际委员会和隐私国际发现 (December 7, 2018). Available at //www.icrc.org/en/document/digital-trails-could-endanger-people-receiving-humanitarian-aid-icrc-and-privacy.

[25] G. Goggin,“Covid-19在新加坡和澳大利亚的应用:用数字技术恢复健康的国家,” 媒体国际澳大利亚 (August 14, 2020). Available at //www.ncbi.nlm.nih.gov/pmc/articles/PMC7429912.

[26] S. Zuboff, 监督资本主义的年龄 (伦敦:档案书籍,2019)。

[27] N. Canry和U. Mejias,“数据殖民主义:重新思考大数据与殖民主体主题的关系” 电视和新媒体 (April 20, 2018).

[28] G. Greenleaf,“2019年全球数据隐私法:132个国家法律和许多票据” 隐私法和商业国际报告 157(2019),第14-18页。

[29] “佩兰特·帕兰蒂尔在逮捕家庭被驱逐,文件展示时发挥了关键作用,” mijente. (press release, May 2, 2019). Available at //mijente.net/2019/05/palantir-arresting-families.

[30] N. Raymond,L. Walker McDonald,以及R. Chandran,“意见:粮食计划署和普拉兰特争议应该是人道主义界的叫醒,” Devex. (February 14, 2019). Available at //www.devex.com/news/opinion-the-wfp-and-palantir-controversy-should-be-a-wake-up-call-for-humanitarian-community-94307.

[31] 槟榔莲, 回应Covid-19 (November 15, 2020). Available at //www.palantir.com/covid19.

[32] 世界卫生组织(2020年,见附注1),第1段。 17。

[33] H. Abaza和M. Marschollek,“MHEALTH应用领域和技术组合:从高低/中收入国家的文学比较” 医学信息的方法 56/7(2017),PP。E105-E122; C. AGBO,Q. Mahmoud和J. Eklund,“医疗保健的区块科技:系统性评论” 医疗保健(巴塞尔) 7/2(2019),p。 56; B. Bervell和H. Al-Samarraie,“撒哈拉以南非洲国家的移动卫生和电子健康利用的比较审查” 社会科学与医学 232(2019),第1-16页; G. Fontaine,S. Costette,M. Maheu Cadotte,等等,“卫生专业人士和学生自适应电子学习的疗效:系统审查和荟萃分析” BMJ开放 9/8(2019),p。 E025252; K. Henry,A.Wilkes,C. McDonald等人,“迅速审查了解决艾滋病毒护理连续体的eHealth干预措施(2007-2017),” 艾滋病行为 22/1(2018),第43-63页; C. Kemp和J.Velloza,“在艾滋病毒护理级联的eHealth干预措施的实施:最近的研究审查,” 目前的艾滋病毒/艾滋病报告 15/6(2018),第403-413页; N.Konduri,G. Bastos,K. Sawyer和L. Reciolino,“资源受限环境中结核病的电子健康系统的用户体验分析:九个国家比较” 国际医学信息学报 102(2017),第118-129页; D. Rhoads,B. Mathison,H. Bishop等人,“侦察生物学的评论”, 病理学与实验室医学档案 140/4(2016),第362-370页; J. Ross,F. Stevenson,R. Lau和E. Murray,影响E-Health实施的因素:对系统评价的系统审查(更新),“ 实施科学 11/1 (2016), p. 146.

[34] 世界卫生组织, 关于加强卫生系统的数字干预措施的建议 (2019).

[35] 经济,社会和文化权利委员会,第14号一般性意见,卫生最高标准的权利,联合国文件。 E / C.12 / 2000/4(2000),Para。 12(c)。

[36] 艾滋病规划署, 健康,权利和毒品:对使用毒品的人的人数减少,减少和零歧视 (日内瓦:艾滋病规划署2019)。

[37] 参见,例如,世界卫生组织(2020,见注1);联合国开发计划署, 未来前进:开发计划署数字战略 (纽约:联合国开发计划署,2020年);世界卫生组织, 结束TB战略的数字健康:行动议程 (日内瓦:世界卫生组织,2015年)。相比之下,USAID的数字战略确实满足了人权风险;看见USAID, 你说’s digital strategy (华盛顿特区:2020年)。

[38] 联合国秘书长的数字合作高级别小组, 数字相互依赖的年龄 (纽约:联合国,2019),p。 4.

[39] Ibid., p. 30.

[40] 世界卫生组织, 关于加强卫生系统数字干预措施的建议; 数字健康干预措施v1.0,世卫组织/ rhr / 18.06(2018);世界卫生组织, 数字技术:塑造初级保健的未来,世卫组织/他/ SDS / 2018.55(2018);世界卫生组织, eHealth的全球扩散:实现普遍的健康覆盖范围 (日内瓦:世界卫生组织,2016年);世界卫生组织, 谁对低资源设置的创新健康技术汇编 (日内瓦:世界卫生组织,2015年);世界卫生组织, 地图工具包:MHealth评估和规模规划 (日内瓦:世界卫生组织,2015年);世界卫生组织, 对急性公共卫生事件的早期检测,评估和响应:实施早期预警和反应,重点关注基于事件的监视;临时版本 (里昂:2014年世界卫生组织);世界卫生组织, 国家电子卫生策略工具包 (日内瓦:2011年世界卫生组织);世界卫生组织, mhealth:通过移动技术进行健康的新视野 (2011). Available at //www.who.int/goe/publications/goe_mhealth_web.pdf.

[41] 世界卫生组织(2020年,见附注1),搁置。 22-30。

[42] 世界卫生组织, 数据与创新:全球数字健康战略,EB146(15)(2020)。

[43] 联合国人权事务高级专员办公室, 指导商业与人权原则。 (纽约:联合国,2011)。