技术不确定性下算法推荐新闻的伦理风险及其法律规制

大数据、人工智能、算法推荐技术等信息技术的快速迭代,推动了传统社会的数字化转型,传统新闻业同样在开展数字化转型升级。在此背景下,随着新闻信息过载的不断加剧,由大数据衍生出的算法推荐新闻迅速崛起,算法信任、数据优势与新闻媒介的数字化客观上为算法推荐新闻的应用和发展奠定了基础。毋庸置疑,算法推荐新闻对于实现新闻准确分发、增强新闻受众黏性具有重要意义,智慧化、瞬时性的算法推荐新闻具有精准、高效、个性化优势,但同时算法作为一种复杂性、不确定性技术,带来了多层面、多环节、多领域的风险挑战和制度掣肘,算法推荐新闻同样引发了“算法黑箱”“算法偏差”“技术霸权”“责任缺口”与“信息泄露”等多种伦理风险。当前,学界对于算法推荐技术本身是否真的成熟,以及算法推荐新闻可能引发的伦理危机研判明显不足。对此,从技术不确定性理论所内嵌的技术本身不确定性、技术认知不确定性与技术制度不确定性三个向度,可以为算法推荐新闻的伦理风险提供适当的分析框架,在此基础上厘清算法推荐新闻伦理风险发生的根源,可将其归纳为技术本身不确定性向度的数学洗脑与主体性缺失、技术认知不确定性向度的能力不足与底线失守以及技术制度不确定性向度的法律...     

中国语境下的人工智能新闻伦理建构

人工智能技术不断冲击和更新传媒发展的技术底层,导致新闻生产方式、传媒产业链、传媒价值链发生快速而巨大的变迁。技术的发展引发了一系列新的伦理问题,传统新闻伦理规范无法提供支撑。本文以人工智能新闻应用中的现实问题为突破口,借鉴国外伦理理论和实践中的合理思想和成功经验,结合中国的传统伦理和现实语境,借助技术伦理学的研究视角,从伦理基石、基本原则、政策框架、责任主体、道德规范、技术工具等方面提出中国人工智能新闻伦理的构建路径。     

人工智能自主发明的伦理挑战与治理对策

人工智能技术的飞速发展带来了全新自主发明模式，也引发了一系列的伦理挑战，既涉及本身作为人类创造物的人工智能在自主发明过程中扮演发明主体角色的伦理争议，也涵盖了人工智能脱离人类干预与控制自主生成发明客体过程中由算法失灵、数据失准等情况所造成的技术伦理风险。因此，为有效应对人工智能自主发明模式的伦理挑战，有必要从人工智能的本质特征与运转机制入手厘清人工智能自主发明的伦理定位，并遵循以人为本基本伦理价值理念下算法向善与数据向善的伦理准则，通过人工智能工具性虚拟人格的创设和人工智能算法监测与数据评定指标体系的确立，建构人工智能自主发明模式的治理体系与框架。     

人工智能时代新闻伦理研究重点及其趋向

人工智能通过算法和大数据分析已经深刻改变了人类的新闻传播行为,在此背景下的新闻伦理研究处于哲学、法学和新闻传播学的交叉研究区域,其中广义层次的研究聚焦人工智能及其伦理研究,狭义层次的研究聚焦人工智能时代的新闻伦理本体。人工智能及其伦理研究的核心是技术的道德主体地位辨析,而对此问题的回答则呈现极化趋势。分布式道德模型区分了道德问责和道德责任,提供了解决这一哲学难题的新思路。人工智能时代的新闻伦理研究意在回应新技术背景下的新闻实践问题,信息茧房效应、后真相、算法偏见和被遗忘权引发学界广泛的讨论。问题的实质是新媒体技术与社会伦理期待的冲突。其后的研究需要更为细腻的技术问题逻辑描述,更具理论导向的新闻伦理本体研究和更高质量的跨学科研究,从而形成来自人文社科的话语合力。     

智能广告的技术伦理风险及其治理新探

随着人工智能技术在广告领域的广泛应用,智能广告中技术应用引发伦理风险的问题逐渐成为焦点。从技术伦理学视角来看,目前智能广告中主要存在两类伦理风险：一是基于多端数据挖掘产生的消费者隐私侵犯、信息价值侵害和创意知识产权侵犯,二是基于深度学习算法产生的广告运作壁垒、消费者阶层分化和消费异化。智能广告中技术伦理风险的治理应先从观念化价值、经验化价值以及技术化价值三个方面建立治理原则,再从智能广告的设计、测试、应用、复盘四个环节制定治理策略,即伦理嵌入、伦理评估、伦理调适和伦理确认,以期规避和约束智能广告中的技术伦理风险。     

科技的渗透与融入——大数据、人工智能应用于新闻出版的研究综述

大数据与人工智能有着极为密切的联系。传统出版行业遇上移动互联技术后,就形成了一种新的出版形式——数字出版。广义的出版几乎包含了文化产业的大部分内容。人工智能为新闻出版业带来了怎样的变革?这种变革对于新闻出版业有何意义?学者们就此进行了有一定深度的探讨。探讨涉及机器人写作、选题策划和编辑出版、个性化内容生产和内容推荐、分发营销、广播影视闭环等。对于新闻记者来说,人工智能是"伙伴"而不是"敌人"。面对人工智能,不必恐慌,而应善待之、善用之。     

算法推荐场域中乡村主流意识形态风险及其防范

算法推荐技术被广泛应用于信息的采集、生产、分发、推荐、反馈各个环节,可能影响意识形态领域安全。在乡村社会,算法推荐深刻影响着农民群体的信息接受与传播行为,导致乡村主流意识形态话语原本拥有的注意力被分割,面临引领力被削弱、整合力被消融、凝聚力被消解的风险。防范乡村主流意识形态传播风险,必须用主流价值导向驾驭算法,推进算法推荐技术与主流媒体深度融合,以法律制度规范算法权力,培育农民算法素养,从多个维度开展乡村主流意识形态风险协同治理,确保主流意识形态在竞争中处于主导地位,推动中国特色社会主义事业稳步发展。     

算法推荐新闻:技术困境与范式变革

本文结合业界实践案例,通过对当前移动新闻分发领域中个性化推荐算法的技术原理、应用现状、发展前景以及对新闻业带来的挑战和影响等方面进行多角度考察,认为个性化推荐算法技术本身会带来"信息茧房"等技术困境,其本身是媒体智能化发展在当前阶段的一种形态,符合信息传播趋势,也将改变传统新闻把关的范式和准则。传统新闻编辑应以人机互动、人机协同进化的方式将新闻专业主义延续至算法把关中。     

论中国政治伦理及其现代转型

从政治与伦理之间内在的价值关系看,政治伦理的基本问题一般表现为对政治伦理的工具正当性和价值合理性问题的探究;从政治伦理的理论结构看,它应该包含政治伦理价值理念、政治制度伦理、政治组织伦理和政治主体伦理等内容;从中国传统政治伦理的理论特征和影响看,实现传统向现代的转型,是当代中国社会政治转型的重要组成部分;从政治伦理的现代建构看,确立新型的政治伦理价值观、加快制度伦理建设、树立全球政治伦理意识等,是当代中国政治伦理的主要历史使命。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

生成式人工智能技术治理的三重困境与应对

进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任”的原则带来了现实挑战。在风险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人工智能“负责任”原则的关键。     

我国人工智能综合立法路径探索——以欧美相关立法为参照

数字时代人工智能逐步深入人类生活,在改造和重塑各行业、为社会发展赋能的同时,也引发了不容小觑的法律和伦理风险。尤其是在Chat GPT等生成式人工智能面世后,人工智能立法规制的必要性大大增加。欧盟和美国率先针对人工智能发布立法规制,这为我国人工智能综合立法中基础法律问题的解决提供了先行经验,如解决人工智能法律主体地位和知识产权争议等相关问题。除此之外,分析美欧人工智能相关立法也为中国应对AI风险等级分类管理、全过程体制监管以及建立人工智能相关治理机构等具体程序性问题提供了参考。目前,我国针对生成式人工智能出台了《生成式人工智能服务管理暂行办法》,深圳、上海等地也相继出台了地方性立法,但还未形成国家层面的人工智能综合立法。综合立法可以解决我国人工智能法律规范数量少、层级低、缺乏顶层设计等问题,更好地进行人工智能管理和促进其发展。此外,树立良性道德伦理规范有利于为后续立法进程打好基础,加快数据、算法等基础立法进程也有助于促进人工智能的综合立法进程。     

技术与伦理的冲突与融合 ——算法新闻时代新闻伦理重构及对策

算法技术与人工智能的出现极大地影响了新闻传播业的理论与实践,生产流程的外部化、参与者的多元化以及伦理事实的跨界化引发了对新闻客观性、专业主义以及媒介信念的思考,进而影响到对新闻伦理内涵与外延的重新界定。技术话语体系与道德话语体系之间的断裂与冲突激发了重构新闻伦理的迫切需求——将算法及相关研究者以及媒介、公众与政府纳入到算法的技术评估范畴,实现各方利益的均衡,并从微观、中观与宏观层面推动新闻伦理的重构,为新闻业的发展营造良好的技术与道德环境。     

人工智能伦理的哲学意蕴、现实问题与治理进路

人工智能发展中要处理好人机关系与人际关系、政府管理与社会治理的关系、人工智能设计与人工智能伦理的关系、人工智能伦理与人工智能法律的关系.在人工智能发展中很可能陷入伦理困境,具体表现为人工智能伦理引发的道德主体问题、政府管理问题、社会发展问题、教育瓶颈问题等.针对这些人工智能伦理引发的现实问题,必须采取有效措施进行治理:一要坚持以人为本原则,彰显人民利益至上的人工智能发展理念;二要坚持权责一致原则,构建权责高度一致的人工智能治理体系;三要坚持多主体参与原则,构建人工智能伦理安全风险防范体系;四要坚持创新发展原则,建立文理深度融合的人工智能伦理教育体系;五要坚持开放共享原则,构建面向世界的人工智能伦理的对外话语传播体系.     

新闻AI审稿的应用逻辑、功能机理与风险化解

智能化路径是新闻生产在审稿上的优化取向和AI技术应用的深度呈现,助推新闻价值实现机制创新和新闻生产传播成本控制高效化。基于新闻真实性审核、新颖性保障、审稿服务优化和文本规范检测的良好效果,新闻AI审稿显示出强大的新闻生产把关功能。但新闻AI审稿也会面临算法安全、技术认知、系统进化、制式刚性等方面的风险,在包括新闻内容安全在内的信息安全愈发受重视的情势下,可从风险意识、伦理法制、技术创新、多主体监管、人机协同等维度,探索防范和化解这些风险的对策。     

人工智能伦理的哲学意蕴、现实问题与治理进路

人工智能发展中要处理好人机关系与人际关系、政府管理与社会治理的关系、人工智能设计与人工智能伦理的关系、人工智能伦理与人工智能法律的关系.在人工智能发展中很可能陷入伦理困境,具体表现为人工智能伦理引发的道德主体问题、政府管理问题、社会发展问题、教育瓶颈问题等.针对这些人工智能伦理引发的现实问题,必须采取有效措施进行治理:一要坚持以人为本原则,彰显人民利益至上的人工智能发展理念;二要坚持权责一致原则,构建权责高度一致的人工智能治理体系;三要坚持多主体参与原则,构建人工智能伦理安全风险防范体系;四要坚持创新发展原则,建立文理深度融合的人工智能伦理教育体系;五要坚持开放共享原则,构建面向世界的人工智能伦理的对外话语传播体系.     

人工智能的设计伦理探析

设计伦理蕴含着"设计的伦理"与"伦理的设计"两层含义,"设计的伦理"指的是设计过程中蕴含的伦理价值,而"伦理的设计"则指以伦理为导向的设计过程。人工智能的设计伦理同时体现了这两个层面:一方面,人工智能技术在设计过程中蕴含着人类福祉、负责任创新和环境可持续性等伦理价值;另一方面,以使用者和设计者为驱动主体,以参与设计为理念,通过利益相关者分析法、价值析取和抓取法、启发卡片法、价值敏感行动反思模型等方法使以伦理为导向的设计成为可能。人工智能的设计伦理研究旨在于将伦理反思前置到设计阶段,由此可以尽早地处理人机矛盾,避免由人工智能技术引发的人机之间的伦理冲突,进而从设计层面实现人工智能的"向善"发展。     

算法伦理审查的逻辑认知及实践路径

算法作为人工智能技术的重要组成部分,已经成为决定“人机共生”关系走向的关键要素,同时也带来了人类认知上的“黑匣子”,限制了人类理解和使用技术的能力,引发了技术使用过程中的各种问题,导致了人类对算法的不充分信任。算法伦理审查的价值规范体系,包括算法伦理审查的标准化、制度化和结构化。发展负责任的算法,强化算法伦理审查的理性认知并建构实用框架,推进算法透明度、可解释性以及公众满意度等伦理维度指标落地,可以有效消解算法歧视和隐私暴露等问题,更好地推动算法伦理审查机制的健全完善。     

多元主体与伦理启蒙:生成式人工智能新闻教育的模式建构

伴随着互联网的诞生,数字技术逐渐成为具有统治性的隐形力量。以数字技术为依托诞生的智能技术也在深刻地影响着新闻业的发展,智能新闻的发展方兴未艾。随着新闻业的人工智能应用,生成式人工智能技术也对传统的新闻教育提出挑战,智能新闻教育将成为未来新闻教育的新模式。智能新闻教育模式该如何建构呢？智能新闻生产不同于传统新闻生产,新闻生产和新闻教育的主体变得多元,内容审核和新闻发布的方式发生着巨大的变化,新闻教育的内容和手段也需要相应改变。智能时代的新闻职业伦理规范需要新的伦理启蒙,为未来的新闻工作者提供符合时代要求的伦理教育。新闻院系在发展智能新闻教育的过程中,应依据自身条件探索多元化的教学模式,满足智能新闻发展的需要。     

人工智能赋能思想政治教育的伦理风险及其应对

人工智能赋能思想政治教育是思想政治教育创新发展的必然走向。思想政治教育与人工智能的深度耦合,促进了思想政治教育的精准化与“出场”多元化,提升了思想政治教育的实效性,但随着技术向度的增强与工具理性思维的介入,思想政治教育也面临着不同维度的伦理风险。通过分析人工智能赋能思想政治教育伦理风险的成因发现,人工智能的类人属性不断强化、算法自主性导致的不可预测性不断增加、风险认知与外在保障具有有限性,导致了伦理风险“在场”的必然性。为了规避伦理风险,要以道御术,守正思想政治教育的价值立场;要以情化人,构建柔性的共情共鸣机制;要以法为界,明确人工智能赋能的何以可为。