首页 >> 社科基金 >> 基金基地 >> 基地动态
发展语言智能 伦理关注不能缺席
2019年07月10日 10:43 来源:中国社会科学网-中国社会科学报 作者:冯曼 胡惮 字号

内容摘要:

关键词:

作者简介:

  语言技术(Language Technology)指的是自然语言处理(Natural Language Processing),研究的是人与机器通过自然语言进行有效沟通的理论和方法。当自然语言处理技术达到能使机器理解、分析处理并反馈、产出人类自然语言的高级阶段,“人工语言智能”(以下简称“语言智能”)这一概念也应运而生。近年来,语言技术不再局限于文本朗读、语音识别、输入法、自动校对、信息检索等简单应用,整合了多种功能的智能应用技术纷纷涌现,如自动翻译、自动写作(能处理新闻、科技论文、小说、诗歌等多种体裁)、人机对话(广泛运用于电商、教育、金融、娱乐等行业)、自动文摘,以及各种专家系统的自然语言接口等等。随着神经网络语言模型、无监督深度学习等技术不断推陈出新,机器理解和产出自然语言的能力大大提高,语言智能的研发和应用也达到了历史新高。

  语言智能是一柄双刃剑

  正如人工智能领域的其他技术一样,语言智能对人类社会而言是一柄锋利的双刃剑。一方面,技术的不断突破使机器获得越来越接近甚至赶超人类的语言运用能力,可产生巨大的经济价值和社会价值;另一方面,由于机器学习中无法预知的黑箱以及缺乏伦理监督和法律约束的技术滥用,可能会带来诸多社会风险。

  语言智能是人类区别于其他物种的重要属性,是人类社会得以构建和存续的重要纽带。假如大规模赋予机器以语言智能,人类社会将面临一系列前所未有的伦理困惑:具有语言智能和类意识的机器是否应当被赋予社会身份、人机共享的语言生活形态中的人机关系当如何定义、人机共存的语言生态新秩序该如何建构,等等。语言智能作为人工智能的核心和基础,其所面临的问题也就是人工智能发展的普遍问题。

  国内对语言技术发展的伦理关注尚不充分

  由于以问题为导向的精细化研究传统以及整个社会对伦理问题的关注,西方逐步形成了专门的语言技术伦理研究。研究讨论形式多样,既有学界研讨、业界博客、学者讲座,也有大学开设的相关课程,如自然语言处理技术伦理(Ethics in NLP),语言技术中的计算伦理(Computational ethics in NLP)、机器学习中的公平(Fairness in machine learning)等。此外,各国际组织以及行业协会,比如联合国教科文组织(UNESCO)、欧盟(EU)、美国电子电气工程师学会(IEEE)、 计算机协会(ACM)、人工智能促进协会(AAAI)等,正在研究或已经提出了关于人工智能设计、开发和应用的伦理守则提案,均涉及语言智能。大量研究指向了语言技术中已暴露出来的具体问题,仔细梳理,无不与语言本身的重要属性相关。

  语言中的歧视与社会公平:当语言技术广泛参与社会生活并辅助人类进行智能决策时,训练机器学习所用语料可能承载偏见,当遭遇研发人员编制算法时有意、无意隐含价值倾向的情况,极易产生算法歧视问题。算法歧视已经引起了全球关注,牵涉性别、种族、地域、民族、年龄、收入、宗教等群体。只要存在面向大众的应用,如何消除歧视或对特定人群的排他性或优先排序问题,就成了必须从技术、工作程序和社会制度上进行考虑的问题。

  语言的认知功能:语言能够描述我们对世界的认知。如果机器违反语言表述的真实性原则就会产生虚假信息,比如利用机器人军团在社交媒体上发布抨击政治、商业竞争对手的不实信息,真假难辨的信息将带来整个社会的信任危机。此外,语言的认知功能使得通过个人语言数据就能还原个人真实的存在,这又涉及个人隐私权利保护。

  语言的社会规约和交际功能:语言最重要的功能是平等主体之间与不平等主体之间的社会规约和交际。该功能一旦由机器承担,会带来社会生活的诸多影响。比如澳洲移民局承认的PTE英语考试,全部用机考代替了人工考官(包括口试)。虽然不少考生反映该考试系统存在口语语音识别的地域差异问题,但个人举证困难,无法申诉。同样,执行该功能,还要面对语言交际中合作原则被违反的问题,比如如何应对不文明用语和违反真诚原则(比如应对语言智能犯罪,操纵自由意志等)问题。更为可怕的是,一旦机器以言行事产生负面影响,也缺乏相应的法律和社会救济手段。

  语言的怡情审美功能:当机器创作出以语言文字为载体的娱乐或文学作品时,会面临知识产权的归属划分问题;当机器作品充斥文化市场,除了避免劣币驱逐良币外,还需避免语言智能提升而扼杀人的创造力。

  技术发展到一定阶段,都会带来一些伦理问题。技术的发展当止步于伦理红线。目前,国内学界和产业界在追求语言智能的技术发展和应用普及时,尚未对语言智能的伦理问题给予足够的重视。2018年底召开的首届“语言智能与社会发展”论坛,呼吁语言智能界、伦理学界及社会有关界别及人士,成立“语言智能伦理委员会”,保证语言智能在符合人类伦理的框架内发展。会议通过的《语言智能与外语教育协同发展宣言》就是一个可喜的开端,表明对语言智能的伦理关注已经进入大众视野。然而,具体问题的讨论,比如语言智能的伦理原则、对语言智能技术研究与推广的伦理审查、语言智能引发伦理危机的仲裁与社会救济机制等,都还未提上议事日程。

  对语言智能本质进行哲学考问

  从语言技术到语言智能的发展,所需的技术提升是空前的,每一次超越无不是方法论在背后起着决定性的作用。然而,语言智能的飞速发展存在极大的不确定性。哲学往往能为新生事物的研究提供方向性的思考,且伦理学本质实为道德哲学,每一个根本性的观点,往往造成伦理学原则及具体规则的不同。因此,不仅技术进步需要进行本原的思考,其发展过程中的伦理问题,也需要在研究前述具体问题的同时,展开对语言智能本质的哲学考问。

  首先是对人工智能时代语言的本质以及与人、世界的关系进行思考,其中包括:语言于人之意义(科学假设用感知智能“读心术”替代语言,不通过语言就可了解人类真实意图,直接指向了语言存在的必要性);语言是人类存在的家园,人机共存的语言生态对人类存在的影响;机器语言智能与人类语言智能区分的必要性(是否应发展机器发音平滑算法,模仿个人发声特点;是否应对机器产出的语言进行标识)。

  涉及人造物语言智能的本质以及与人、世界之间的关系,则需要审视如下问题:机器拥有的语言智能与人类语言智能的异同;人造物的语言智能是否应享有与人或自然物同等的权利;对待拥有语言智能的机器,应秉持人类中心主义、自然中心主义还是无中心主义宇宙伦理观;机器若被赋权使用人类语言,对赋权者以及赋权等级的定义。

  这些问题无一不和社会生活息息相关。尤其是当越来越多的人力工作被人工智能所取代,这些问题若得不到妥善解决,必将严重影响人类社会的正常秩序,引发社会危机。

  伦理规范促进和谐共生的技术进步

  从语言技术迈向语言智能,部分技术开始走向大规模商用,其社会效益有目共睹。然而,我们也应该看到,由于技术资本背后的利益驱动,许多尚未成熟的技术被滥用,其中不乏各种有意无意的利益取向、以偏概全有失公允的排序、特殊群体排斥等问题。我们的视野不应仅停留在技术对产业的影响(比如翻译技术对语言服务产业、自动写作对传媒业的影响等),而是需要更深刻、更全面地考虑语言智能对整个社会发展的影响,从适应性、应对式策略的关注转向主动的风险管控和伦理规制。我们需要从语言与人的关系、人的本质、语言智能本质等问题出发,着眼于关注未来人机共存生态变革和演进的方向。同时,我们与人造物语言智能的相处,会让我们从语言智能的开发和应用中更好地认识自己,改变我们对自身和世界万物的看法以及与世界相处的方式。

  2019年4月8日欧盟发布的人工智能伦理准则,列出了“可信赖人工智能”的7个关键条件:人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制,迈出了在理性规制框架下促发展的步伐。我们期待语言智能行业也能尽快提出适合自身特点的伦理审核流程以及规范,规制高风险的研究项目,促进健康的、万物和谐共生的技术进步。

 

  (本文系教育部科技发展中心新一代信息技术创新项目“基于大数据的法律事件知识本体建构研究”(2018A02017)阶段性成果)

  (作者单位:中南财经政法大学外国语学院)

作者简介

姓名:冯曼 胡惮 工作单位:中南财经政法大学外国语学院

课题:

本文系教育部科技发展中心新一代信息技术创新项目“基于大数据的法律事件知识本体建构研究”(2018A02017)阶段性成果

转载请注明来源:中国社会科学网 (责编:齐泽垚)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们