技术总是来源于人性，尤其是人工智能。此时此刻，人类社会还隐藏着许多不平等和歧视。人工智能将如何与这些问题互动？
2018年，亚马逊突然宣布停止使用AI筛选工作简历，因为从招聘结果来看，这个AI实际上对男性有严重的偏好。
好一个AI，哪里学来的性别歧视的坏习惯？答案来自于人。
2006年，机器学习算法突破瓶颈，在某些情况下，人工智能足以模拟人类的判断，并提供信息解释以加快操作过程，如图像诊断、关键词解释、信息推荐和外语翻译。
此外，算法通常用于排序、选择内容、过滤信息等。，来处理人的决策和信息流通。但在快速便捷的同时，大多数人不假思索就相信的算法也可能反映和强化已有的价值偏差，甚至带来严重的判别偏差。
和开头的案例一样，2018年，亚马逊的AI算法用过去十年的招聘数据进行训练，最终的算法忠实地显示出男女招聘不均衡。因为很难保证算法对性别的公平性，亚马逊不得不放弃。
一些数据专家还指出，许多商业人脸识别系统擅长识别白人男性，如果改变他们的性别和肤色，他们就会失败。造成这些偏差的原因都与训练数据的采样误差有关。
如何在应用推出之前发现算法故障，避免可能的不公正，将是未来科技社会发展的重要课题。
使用人工智能之前:用在哪里？怎么用？
除了上面提到的训练教材造成的不公平，比如人工智能等科技工具用在哪里，如何合理设计，还有讨论空。
AI专家认为，人脸识别技术应用的解读在于细节，需要深入挖掘其背后的执行和设计逻辑。
最新的争议发生在印度北方邦首府勒克瑙。当地政府计划今年在200个已知的性骚扰热点地区设置监控摄像机，部署AI人脸识别，监控和检测女性的困扰表情，即向警察局发出警报。
印度是第一个考虑将AI用于性骚扰的国家，其背景与AI人才的发展密切相关。
一个成功的例子是，2018年4月，印度警方根据妇女儿童发展部和失踪儿童追踪网站提供的照片，使用面部识别软件追踪了4天内近3000名失踪儿童的记录。
还有消息称，中国打算在刑事系统中建设世界上最大的面部识别系统，所以确实有这种应用思路的痕迹。
但是这次把人脸识别系统应用到警用监控录像机上，很多实现细节都没有经过仔细考虑。非政府组织“互联网自由基金会”指出，监控面部表情是不合适的。除了有误判的可能，还像监视路过女性的一举一动。
余分析，通过官方算法筛选出受威胁的女性表情，相当于识别出此类事件中存在固定的受害者形象。除了忽视保护非典型受害者，还可能伪装成受害者指责的另一种素材，强化理想受害者的形象。
这样，争议会比解决的问题多。AI专家指出:错误的使用被当作这个算法的结果作为证据，可能导致恶性循环。从出发点来说，隐含着歧视观点，不断强化歧视观念。政府部门需要仔细评估使用该算法的后果。
官方筛选受威胁女性表情的算法不仅可能忽视保护非典型受害者，还可能强化理想受害者的刻板印象。
在印度的这场争议中，镜头看向谁的选择已经体现了性别权力的立场。无论检测到哪个性别，这样的设计都有严重的缺陷。
更多的问题包括:这种公权力所涉及的算法，被监视、记录、分析的人，他们的隐私信息是否得到了充分的保护？谁能接触到这些信息？对收集的数据是否有足够的保护设计？这些都是未来任何涉及面广的技术方案的设计者和使用者都必须认真考虑的问题。
科学技术中的性别问题:谁的设计会受益？
随着数码产品的引入，设计师往往很难意识到自身体验的偏差，用户可能是后来才意识到的。如何检测数码产品可能出现的偏差？
AI专家介绍了《数据女权主义》中提出的七大原则，并提问考察科技产品中的权力:谁在从事相关的技术工作？哪些族群的目标有优先权？谁会从中获利？谁会被忽视或伤害？
先问谁这个重要问题。人工智能专家认为，这让人们得以一窥各种特权，包括性别问题，以及如何将它们整合到数据产品中。
比如对女性机器人的争议，就能明显体现出对以男性为中心的产品设计的偏好。
最早的性爱机器人，如美国公司Realbotix的Harmony，是为异性恋白人男性服务的。除了固化的性别脚本，一些科学家指出，它可能会带来心理和道德上的担忧。
仅仅是决定先推出哪些产品，产品长什么样，就反映了性别权力分配的某种问题。设计师优先考虑自己的视角是必然的，但蓬勃发展的AI行业值得密切关注。
2018年，世界经济论坛《全球性别差距报告》指出，全球78%的AI员工为男性，性别差距悬殊。
在AI在各个领域迅速普及的这个时刻，如果我们不能主要从男性的角度来仔细审查AI的应用，很可能会扩大现有的性别差距。
那么，在开发AI时，如何才能避免复制社会上常见的不平等现象呢？
在2018年的G20妇女大会上，万维网基金会提出了运行AI的两个注意事项，以避免性别意识或其他偏见。
首先要注意培训教材的平等性。除了材料的数量，更应该关注质量，尤其是检查样本中是否缺少具体的数据，使得AI因缺少数据而无法解读具体的族群。
不仅性别数据的数量应该是平均的，还应该包括边缘群体和少数群体的信息。
人工智能的运作应注意训练材料的平等性。除了材料的数量之外，更应该注意质量。
其次，要通过公开的数据和逻辑运算，找出系统错误并加以纠正。只有扩大信息透明度，制定相关守则，开放其他意见的交流和监督，才能避免系统性偏差。
比如亚马逊的简历AI所依据的信息就有这样的系统性问题。W20还认为，可以通过政府单位规范来提高AI服务的信息透明度，并制定监管指南以纠正相关问题。
最后，AI专家补充道:由于数据科学家往往缺乏对场景语境的理解，数据女权主义者和谷歌的数据科学家莎拉·胡克(Sarah Hooke)都提出了AI等数据计划。要重视接地气的知识，只有融入多方参与，才有机会创造出更有效、更有创意的解决方案。
把性别问题作为试金石，避免人工智能放大歧视的未来。
除了AI从业者要牢记自身立场可能造成的偏差，AI用户也要对数据来源、信息与现实的差距有一定的了解，甚至提供反馈贡献。
比如2009年发表在《自然》杂志上的谷歌流感趋势预测，随后几年被证明无效。当算法使用间接数据进行推论时，用户应该对原始数据和算法的属性有足够的了解，才不会窥一斑而知一二。
谈及AI、社交媒体或技术将如何塑造我们的未来，大数据专家认为，任何技术发展的后续效应主要是人、情境和技术产品相互作用的综合效应，不应轻易陷入技术决定论。
人工智能专家已经使用关键词来分析厌女症和性别挑衅。他们认为，由于社交媒体的匿名性和两极分化，很容易聚集极端意见。此外，社交媒体与现实之间的界限削弱了同情，道德规范模糊，因此很容易聚集和呈现激烈的偏见言论。
同样的科技物质基础不一定导致同样的结果，但最终还是取决于人与情境的相互作用。
近年来，随着许多有识之士的关注，科技设计对性别问题的敏感性逐渐增强。
谷歌在2020年2月公开宣布，谷歌云视觉API取消了照片中“男性”和“女性”的性别标签，希望避免给AI灌输性别偏见。
斯坦福大学历史系的Ronda Hibinger建立的网站“性别创新”也提供了科学家和工程师可以使用的性别/分析的实用方法。
比如未来设计机器人时如何避免强化性别刻板印象，同时列出6种兼顾社会投射需求的方式，包括挑战现有刻板印象、定制设计、设计无性别或性别流动性的机器人等。
未来设计机器人应该避免强化性别刻板印象。
对性别的讨论其实就是讨论的功能，这是一种非常具体的看权力的方式，指明了性别研究的起点。权力有时候很抽象，可以从性别的角度来形象化，从而察觉其分布和影响。
科技需要克服的偏见不仅限于性别，而讨论科技如何受到人的权力和价值观的影响，性别的问题可以说是最好的试金石，让我们一窥人性、情境和科技在各种决策下的相互作用。
人工智能的最终发展，取决于人类的智能是否足以驾驭这把双面刃。
#人工智能#
