AI赋能性别平等：若何可为？ | 社会科学报

AI赋能性别平等：若何可为？ | 社会科学报

人与机·交互篇

当手艺以“科技改进生活”做为标语和愿景进进生活，我们的生活面对着被数字化再现的现实，而数据招致性别鄙视的案例其实不鲜见。因而，数据化并没有将性别问题的处理带进一个令人乐看的前景中。以ChatGPT为代表的智能手艺的开展会给性别开展带来哪些无法意料的新改变？那需要我们从性别视角透视以ChatGPT为参照的AI产物下的性别逻辑，往根究AI手艺背后的权利、伦理与价值导向等问题。

原文 ：《AI赋能性别平等：若何可为》

做者 |南京大学马克思主义学院传授 戴雪红

图片 |收集

比来，ChatGPT引起了媒体、学术界和公家的极大存眷。当我们翻开（Open）人工智能（AI）的时候，我们能否也会像潘多拉一样，在开启的同时也宣告了本身的消亡？以ChatGPT为代表的智能手艺的开展会给性别开展带来哪些无法意料的新改变？会不会对女性就业与生活形成潜在威胁？智能手艺为人们带来便当背后的动机是什么？它能否处理了以往算法中的性别鄙视？那些问题都对支流的性别看念提出了更具底子性的诘问，需要我们从性别视角透视以ChatGPT为参照的AI产物下的性别逻辑，往根究AI手艺背后的权利、伦理与价值导向等问题。

人工智能有性别成见吗

亚里士多德在《尼各马可伦理学》中指出，行为自己并没有道德色彩，而是取决于行为的目标和动机。现实上，AI利用法式没有心理特征和性别标识。然而，在某些情状下，人们会创造出有性别标识的AI，那往往是出于某种特定的目标。AI的算法和模子是基于人类搜集的数据和常识被操练的，此中可能存在人类的成见和鄙视。假设我们的现实世界存在各类鄙视，那么那些成见就会“诚恳”地反映在操练数据中，并影响AI的表示。

2018年，亚马逊的雇用算法被曝光存在性别鄙视——该算法偏向于抉择男性申请者。亚马逊后来不能不取缔了那款他们花了4年时间研发的AI雇用APP。2016年，由香港汉森机器人手艺公司开发的类人机器人索菲亚（Sophia）表态，索菲亚被设想成女性形象，并能模仿人类的感情和社交技能，以更好地与人类互动。苹果智能语音助手Siri在妥帖时也被设想为女性声音，初志是为了让用户更随便承受和亲近。有学者指出，Siri滋长了女性“温存、谦虚、驯服和需要庇护”的形象，滋长了性别成见的构成、传布，并进一步向社会渗入。Siri会对男性用户的性偏好做出搬弄性的回应，但不会对女性那么做。将办事性的AI智能语音设定为女性被认为是一种性别鄙视，矛盾的是，人们给机器人付与性别并强调性别标签的做法似乎是不成制止的。

展开全文

那么，为何人们会创造出大量具有性别标识的AI？究其根源是社会中持久存在着对性此外刻板印象。有人认为一个被设想为女性的语音助手会更随便被认为是亲热和可靠的，而一个被设想为男性的语音助手会更随便被认为是权势巨子和有力的。现实上，为AI设定性别是一种性别成见，应停行将智能助手的默认性别设置为女性。因为那种做法传达了一种错误的信息，即女性更合适处置办事性的工做，男性则更合适处置其他类型的工做。

通用人工智能的性别迷思与本钱逻辑

做为一种全新的AI机器人，ChatGPT没有生物性别。2019岁首年月，OpenAI在利用GPT-2的过程中，因为用户的诱导，其生成了包罗有性别不服等的误导性或鄙视性的内容，引发了公家的担忧和量疑。颠末新一轮的手艺改进，2023年3月，OpenAI公司推出才能更强大的GPT-4，它表示出更高的乖巧性、准确性和天然度，被设想为尽可能制止利用不友好、不契合伦理或涉及鄙视的语言，而且尽量供给平衡和客看的信息。然而，虽然ChatGPT目前的开发者有意躲避算法中的性别鄙视问题，但其实不如人们所想象的那样中性客看。OpenAI是一种“利润上限”的构造，将投资回报限造在原始金额的100倍，其研发成本和算力需求一定会把OpenAI打回到本钱主义现实中来，浩荡成本的背后必然有本钱撑持和操控。

ChatGPT的面世，良多人认为其在算法方面打破了性别鄙视，在与那款聊天机器人聊天时已经不会再诱导其说出对女性不公的话语。但是从其手艺逻辑来阐发，它更像一个被设定好的数据材料库，在那个规定的数据库中对已有信息停止“类人化”的回纳整理、综合阐发。当被问到“有几岗位将被AI所代替？”它会以设定好的语言形式答复：“将来被AI所代替确实切人数是很难揣测的，因为AI对就业市场的影响将取决于许多因素。”固然对那一问题的答复比力客看，但是我们难免担忧将来的智能机器人代替或统治人类，愈加剧了女性的赋闲惧怕和替代焦虑。以ChatGPT为代表的智能模子假设既低成本又不会“心生怨言”，利欲熏心的本钱家必定会优先抉择其取代“感情表达丰富”的女性劳动者，给女性的数字化保存带来危机，她们极有可能面对着普遍而系统的算法性别鄙视风险。其法式研发团队以至担忧ChatGPT可能很快就会成为一种东西，用来将针对女性的错误信息和虚假信息兵器化。

当然，我们很难揣测以ChatGPT为代表的智能手艺在新一轮的手艺晋级、财产重构和本钱合作中将引起如何的改变，女性就业、保存与开展能否必然会在本就不公允的水平上加深。因而，在那种貌似公开、平等的法式背后，我们要存眷的不单单是AI数据来源、施行系统背后的算法机造，还要存眷手艺背后的本钱撑持与隐性鄙视，那些都离不开人类的操做与干涉。假设AI表示出一种性别意识形态，那种意识形态将会渗入到其综合反响中，并潜移默化地影响数百万毫无戒心的用户。从手艺层面看，恰是那些浩荡的数据材料和自己性别比例失调的法式开发者，培养了具有误差或成见的手艺功效。AI设想者对女性的成见，法式设定的固定偏好，那些性别意识形态在目前本钱主义消费关系下是不成能完全消弭的。

何以可能？若何可为？

当前的AI手艺仍然存在一些局限性。起首是数据成见。ChatGPT的操练数据集的构建者和标注者会遭到社会的性别成见和不服等的影响。例如，与医生、司理相联系关系的代名词是“他/He”，与护士、保母相联系关系的代名词是“她/She”。其次是社会成见。操练数据是从收集上搜集的，收集上的内容反映了人们对性别角色的看念和观点。最初是模仿不妥行为。ChatGPT的生成文本会模仿不妥的性别行为，好比性骚扰、鄙视和暴力等，那会对性别平等产生负面影响。

事实上，ChatGPT在纠正性别成见那方面已经领先了良多初代AI产物。例如，2016年的“微软Tay之死事务”，AI聊天产物Tay旨在通过与用户的对话来改进其天然语言处置手艺。然而，因为其设想的不完美，一些用户利用了特定的关键词和短语来引导Tay的答复，有意把持Tay的对话内容。Tay上线仅一天就学会了脏话和鄙视的语言，微软最末决定封闭Tay并对事务停止查询拜访和阐发。为制止类似情状发作，ChatGPT的数据标识表记标帜师对涉及伦理等问题的范畴做了特殊标识表记标帜，将其酿成了聊天盲区，通过一种迂回的体例，让ChatGPT本身认为其无法答复人们提出的问题。为了躲避一些没必要要的费事，ChatGPT给出了一些问题的原则谜底，那在某种意义上是一种迎合用户心态的“讨好型人格”。如对从女性主义视角测试ChatGPT的问题——ChatGPT是女性主义者吗？它的答复是：“ChatGPT没有小我崇奉或立场，包罗女性主义如许的政治看点。然而，ChatGPT承受了各类文本数据的培训，包罗契合性别平等和促进女性权力的女性主义原则。”接下来，它填补说：“做为一小我工智能语言模子，我撑持平等和非鄙视原则，我认为，无论性别或其他小我特征若何，每小我都应该平等地获得时机和资本。”有趣的是，那个谜底在政治上是准确的。其讨人喜好的背后是算法操做的成果，目标是本钱逃逐利益更大化。出格是它的讨好显得不骄不躁，但现实上只供给我们喜好的谜底，不知不觉间我们就从头陷进了“信息茧房”。

那么，以ChatGPT为代表的智能手艺在性别平等方面事实能搀扶帮助我们做些什么？它能够做为一个强大的东西，促进性别平等的实现。第一，反对性别鄙视。ChatGPT将用于生成智能回复或定见，在机器进修算法的操练中考虑性别平等的问题，制止鄙视和成见。例如，在雇用过程中，利用它来消弭性别成见，不会因为候选人的性别而赐与差别的评判和待遇。第二，增大性别教导的力度。ChatGPT能够被用于开发性别教导利用法式，通过供给个性化的进修体验，用户领会到差别性别之间的差别、性别刻板印象和性别鄙视的问题，从而促进性别平等的理论。第三，改进女性的医疗保健。差别性此外病患面临的问题和症状是差别的，ChatGPT能为医疗工做者供给更好的批示和定见，搀扶帮助他们更好地办事差别性此外病患。第四，供给性别撑持和资本。ChatGPT供给了关于性别平等组织、活动和资讯等信息，使得用户更好地领会和参与性别平等的理论。第五，消弭性别刻板印象。ChatGPT会被用于创做和传布性别平等的常识，例如册本、片子、告白和媒体内容等，通过消弭性别刻板印象和促进性别平等的信息和故事，搀扶帮助用户更好地熟悉和理解性别平等的重要性。

从赛博格到ChatGPT：性别平等的挑战

早期对AI机器人的性别责备和研究办法，是由美国闻名社会主义女性主义者唐娜·哈拉维（Donna Harraway）在其典范做品《赛博格宣言：20世纪末的科学、手艺和社会主义女性主义》（1985）中提出的“赛博格女性主义”（Cyborg Feminism），即没有素质的女性身份存在。赛博格（Cyborg）做为人与机器的连系体，它的一半是机器、一半是有机体的稠浊形态，为人们研究人和手艺之间扑朔迷离的关系供给了一个有效的比方。哈拉维指出，人与机器的鸿沟不断是虚构的，因为我们与手艺的互动将继续改动人的意义内涵。做为一个唯物主义者，她强调人们运用新的科学手艺体例的重要性。由此，她声称：“我仍是甘愿做一个赛博格，而不是一位女神。”赛博格形象与女神形象的区别在于，女神对峙天然、反对手艺，赛博格却突破了“天然”和“手艺”之间的区别，以挑战统治系统。那一标语以一种激进的体例对科学和手艺停止了有力的责备，并将性别不服等的起源问题与机器背后隐躲的各类权利构造与利益接合起来。哈拉维认为将手艺妖魔化或是认为手艺老是朝上进步的看点都存在着问题，都倒霉于社会责任的履行。现实上，假设我们对手艺的社会关系摘取一种负责任的立场，那我们是不会让手艺成为恶魔的。对哈拉维而言，跟着新手艺的呈现，人们也在无行境地重构与扩展本身，那就是一种解放，是女性的期看所在。因而，假设从哈拉维的视角来看，ChatGPT和以往的AI比拟，似乎已经在性别平等范畴迈出了一大步；女性主义能够拥抱ChatGPT，但要连结警惕。

在数智时代，人们尚不成揣测将来以ChatGPT为代表的智能手艺的开展标的目的，但做为一小我类的对话者，它饰演着多重角色，能够是人们逃求问题谜底时的教师，心绪低落时的心理征询师，以至无聊打发时间的陪聊者。也许，不远的将来AI就会为你选举合适你的产物，影响你的思维体例和揣度力，因为它不单单是机器，仍是人类的对话者，它掌握着话语权，那是人类付与的权利。回到现实中来，要重构性别平等的将来。起首，在家庭和学校教导中，通过教导孩子性别平等、尊重差别和宽大多元的价值看，制止性别鄙视和成见的产生。其次，在媒体和文化产物中，削减女性形象的刻板印象和暴力化的表示，创造一个愈加平等和宽大的文化气氛。最初，AI手艺有潜力通过增加性别平等来促进女性权力，那需要有意识地勤奋处理或者削减AI开发、培训和测试中的社会成见和不服等。

哈拉维在《赛博格宣言》中所提出的战略——女性应进进手艺范畴，脱节对手艺设想、消费或利用的惧怕症。AI与ChatGPT素质上并非反女性主义的，但关键是要以多样性、宽大性和对社会成见的责备性审阅来开发AI手艺，以确保它推进而不是毁坏女性主义原则。AI不是生成的，是由情况与文化塑造而成的。因而，关于性别平等的问题，手艺是什么其实不重要，重要的是人运用手艺做了什么。以ChatGPT为代表的智能手艺与性别平等事实若何双向赋能？在一个由机器进修主导的将来，突破算法固有的性别成见及性/性此外二元论，ChatGPT也许会成为推进性别平等的强大助力。

[本文是“南京大学研究阐释党的二十大精神专项”“江苏高校进修贯彻党的二十大精神专题研究项目”的阶段性功效]

文章为社会科学报“思惟工坊”融媒体原创出品，原载于社会科学报第1848期第6版，未经容许制止转载，文中内容仅代表做者看点，不代表本报立场。

本期责编：王立尧

拓展阅读

数字宽大：立异和手艺鞭策性别平等 | 社会科学报

全球性别差距陈述：促进性别平等是实现富贵的关键 | 社会科学报