移民和庇护法的更新,评论,培训和咨询
欧盟结算计划课程现在可免费提供给会员
政府到“redesign”有争议的签证算法

政府到“redesign”有争议的签证算法

今年早些时候JCWI在FoxGlove的帮助下, 发起了法律挑战 在其使用算法的情况下对家庭办公室“streaming tool”将风险类别分配给Visa应用程序。工具, 以前涵盖 根据自由运动,部分基于其国籍获得签证申请人的风险。

分配了低风险的人被分配给预计会迅速处理应用程序的案例工,只有签署签证申请才检查他们的工作。被分配到案例工人的人被送到预计需要花时间,如果他们的工作会被审查 的确 一个应用程序。某些国籍基于以前的不利决定或移民执法遭遇的组合指定了高风险成绩,以及“intelligence”. 

昨天,家庭办公室确认它会“discontinue”从8月7日开始的流动工具,并致力于重新设计。政府律师 告诉我们:

在该重新设计的过程中,我们的客户仔细打算考虑并评估您在索赔中提出的积分,包括围绕无意识偏见的问题和通常在流动工具中使用国籍。为清楚起见,重新设计的事实并不意味着SSHD接受您索赔表中的指控。但是,考虑到您提出的担忧,重新设计将在开放的思想中接近。

与此同时,它将使用“interim”筛选仅依赖的过程“以人为本的属性”并没有考虑国籍。它将为我们提供对此的详细信息,以及临时过程的平等和数据保护影响评估。 

JCWI.’s legal arguments

该算法和工具加剧了使用国籍固有的种族主义作为风险指标。在声称不遵守特定成果的情况下,它使决策不那么责任,并掩盖了特定结果的偏差来源。该工具中的偏差自放大 - 分配给特定国籍的风险将导致该国籍的更多拒绝,这将反过来归还风险得分。 

将这些问题转化为挑战的法律理由,我们的论点是:

  1. 媒体工具中的国籍在2010年的平等法案下致力于歧视,这些法案不受豁免部长授权旨在这样做。该授权只扩展到一个“更严格的考试”应用程序,而在练习工具标记为的工具‘red’, ‘amber’ or ‘green’ —一个可能影响决策者是否授予决策者。
  2. 流媒体工具是不合理的,因为它生成了创建的反馈循环“risk”首先由国籍构成。该工具所针对的国家更有可能被拒绝签证,以及拒绝签证的签证率,以证明在工具中为其分配了这些风险。 
  3. 流媒体工具促进了人类决策者对无关考虑因素的依赖。他们鼓励他们迅速授予“绿色”申请,如果他们拒绝了绿色申请,他们只会检查他们的工作(因此可能批评)。与那些标记为“红色”的人是真的,在那里他们有时间找到拒绝理由,并冒险将他们的工作授予理所当然。这取代了对其优点的适当考虑申请。 

我们还抱怨未能进行数据保护影响评估,并对公共部门平等义务进行了解。对于那些感兴趣的人来说,FoxGlove有 发表 the grounds in full.

什么是更好的签证科技系统?

使用算法不一定是这样的。通过透明的风险简介和数据集,明确明确的律师审查的决策原因,可以做出更公平和更高效的决策。但这个工具掩盖了进入它的数据,以及决策者与决定的真正基础之间的水。

我们确保使用算法和技术解决方案的使用仍然是透明的,并且易于审查公法原则。我们和我们的同事 Foxglove. 将密切监测新工具的开发,以确保发生这种情况。

It’不仅仅是偏见的机器人

我们还知道新的技术解决方案将建立在已经充满偏见的腐烂系统的顶部。移民突袭继续在某些国籍的人中瞄准一个自我延迟的反馈循环,没有任何AI或算法援助。作为边界和移民的独立首席督察 指出,关于使用“intelligence”通过移民执法:

IE关于非法工作的智慧主要由公众成员制作的低级指控组成,这缺乏详细且难以评估的可靠性。这使得即将重点关注高街餐厅和外卖,这是在组织知识和遇到的民族方面的自我强化和限制。相比之下,其他商业部门和可能的国家被忽视。

检查员还发现:

孟加拉国,印第安人,巴基斯坦和中国人占所有非法工作逮捕的三分之二(63%)。无论这种方法的逻辑从去除的角度出发,对非法工作的其他国民的推断,特别是如果他们没有在餐馆和外卖,则是被非法工作被逮捕的可能性很低,拆除的可能性可以忽略不计。

我们需要确保 不断增长的用途 大数据和技术解决方案不会模糊,根深蒂固或加强种族偏见。但我们还需要从明确的基于非技术的武器中脱离这些偏见,其中包括我们今天的大多数移民制度。

柴帕特尔

柴帕塔尔是合法的&联合委员会移民(JCWI)的政策总监。 陈于2015年加入了JCWI。在他在Leigh日的人权部门之前,致力于虐待和人权索赔,并在缓刑的死刑团队中,重点关注国际战略诉讼,案例和调查。

X
还不是会员?

获取无限制地访问文章,一个繁荣的论坛,免费电子书,在线培训培训证书,还有更多。

需要在移民,庇护和国籍法上保持最新情况吗?

每月仅从20英镑加上VAT注册成员

现在加入

福利包括

  • 无限制访问所有博客帖子
  • 访问我们繁忙的论坛
  • 我们所有电子书的免费下载
  • 数百小时的培训课程
分享