吴砥:智能技术赋能教学的伦理挑战:表征、溯因与纾解

来源:开放教育研究 2024-09-09 16:33:24 所属栏目:专家观点

当前,智能技术正以颠覆性的革新动力给教育 领域带来深刻影响与挑战。特别是近年来生成式 人工智能技术取得的重大突破,为教育领域注入了 新的活力。然而,智能技术介入教育所裹挟的工具 理性僭越人的价值理性的现象越来越普遍,由此引 发了一系列广受关注的伦理挑战(王旦等,2021)。 相较于高等院校来说,中小学校的智能技术应 用范围较窄,层次也较浅。大学生或成年人已具备 一定的认知水平和心智成熟度,在利用智能技术进 行学习时,对隐私泄露、算法歧视等伦理挑战具有 一定的自我保护意识和道德判断力;中小学生正处 于低阶认知发展阶段

本文大概

读完共需

分钟

摘要:近年来,智能技术快速发展给教育带来难得发展机遇,也带来前所未有的挑战,尤其是中小学 教育教学活动在智能技术的冲击下面临着诸多伦理挑战。本研究通过分析智能技术的主要特点以及中小学 教师、学生发展的特殊性发现,智能技术融入教学的伦理挑战主要表现在数据安全与歧视风险,学生身心、认 知和思维发展受阻,师生交互的关系异化,师生发展机会不公等方面。从技术哲学视角看,这些伦理挑战是 社会物质与精神生产的矛盾运动,以及技术扩散现象的必然结果。从实践视角看,这些伦理挑战难以破解的 原因包括:算法的固有缺陷与人为偏误、相关制度规范不健全、相关法律法规不完备等。为破解伦理困境,未 来我国需坚持以人为本的基本底线,将伦理原则嵌入算法设计,完善技术准入和伦理边界的制度规范,建立 智能教学产品研发与应用的法律法规,实施技术自我监督和教学应用监管,提升师生智能时代的关键素养。

关键词:人工智能;技术伦理;中小学教学;教学实践

当前,智能技术正以颠覆性的革新动力给教育 领域带来深刻影响与挑战。特别是近年来生成式 人工智能技术取得的重大突破,为教育领域注入了 新的活力。然而,智能技术介入教育所裹挟的工具 理性僭越人的价值理性的现象越来越普遍,由此引 发了一系列广受关注的伦理挑战(王旦等,2021)。 相较于高等院校来说,中小学校的智能技术应 用范围较窄,层次也较浅。大学生或成年人已具备 一定的认知水平和心智成熟度,在利用智能技术进 行学习时,对隐私泄露、算法歧视等伦理挑战具有 一定的自我保护意识和道德判断力;中小学生正处 于低阶认知发展阶段,在感知觉发展、思维发展、 情绪调控和自我认知等方面尚不成熟,智能技术应 用于中小学教学将增加潜在的风险与不确定性,使得教学主体面临更加复杂、严峻的伦理挑战。此 外,与大学生或成年人利用智能技术促进专业成长 与职业发展的自主性、低利益冲突性相比,中小学 教学引入智能技术可能与教育公平原则、社会稳 定需求等构成微妙的利害交织与潜在冲突。因此, 在智能技术持续发展的当下,研判其对中小学教学 的影响尤为重要。本文将全面分析智能技术赋能 中小教学有何伦理挑战,为何难以突破,以及如何 有效纾解,旨在为智能技术的教学应用奠定基础。

一、应用现状考察:智能技术介入教学 的伦理挑战表征

从技术哲学的视角看,智能技术介入教育的伦 理挑战指技术进步影响了人的价值、公平正义以及主体可持续发展,引发人们对智慧教育环境下人 与人、人与技术、人与社会之间关系的道德评判和 价值争议(张立国等,2021)。基于此,本文分析并 梳理了以下四项伦理挑战。

(一)安全、歧视风险较高,决策陷入信任危机

智能教学产品的运行需要采集教学主体的行 为、表情、肢体、思维、生理等多模态数据,同时还 会使用性别、家庭背景、偏好等人口信息。这些隐 私数据通常是在未经教学主体知情同意下直接采 集的,教学主体在享受系统提供的教学服务的同时 迷失了知情权,可能产生“个人数据泄露无风险” 的思想(陈元等,2023)。

在数据采集的基础上,智 能技术通过算法进行深度学习和强化学习,从而在 特定教学任务乃至通用层面实现高效、准确的预 测。然而,教学中的智能技术亦存在难以避免的算 法偏见,带来诸多负面影响,如作出歧视性决策,基 于性别刻板印象推荐女性学习文科,或依据家庭经 济状况、族裔背景等预判学生的行为倾向。同时, 智能技术可能忽视边缘群体。例如,对存在心理健 康问题的学生,智能技术的应用甚至可能产生负面 影响。

此外,预训练算法所产生的内容,可能不经 意间散播失当信息,包括但不限于性别、种族、社 会阶层、性格特征、宗教信仰等方面的偏见,以及 错误的社会观念、意识形态偏差和极端情绪导向 (王佑镁等,2022)。 在应用层面,教学主体能够享受智能技术带来 的决策便利,却因算法黑箱效应而难以洞悉算法背 后复杂的数据处理逻辑与决策路径,从而可能导致 决策缺乏科学性、智能技术陷入信任危机等。例 如,通过面部表情衡量学生的专注度,其效度易受 个体面部特征差异与表情管理能力的影响,可能诱 发教育者干预措施的误置与教育机会的不平等分 配。又如,师生对算法逻辑的无知及近年来生成式 人工智能的应用存在的误导性回应问题,逐渐侵蚀 了智能技术的信任根基,加剧了中小学教学决策环 境的不确定性,甚至对学生认知和身心健康发展, 以及正常教学带来负面影响。

(二)学生身心健康势危,认知思维发展受阻

鉴于中小学生身心发展的特殊性,在教学实 践中,智能技术的不当运用容易对学生身心健康、 认知和思维发展带来潜在风险:一是过度使用可能有损生理健康。相较大学生和成年人,中小学 生正处于大脑、身体发育的关键期,长期使用智 能设备可能对其视力健康、听觉功能、颈部骨骼 肌肉等生理功能产生不利影响。二是过度依赖 可能不利于心理健康。智能技术,尤其是生成式 人工智能技术,进一步拓宽了信息传递渠道,加 快了信息传播速率,但也可能导致不良信息甚至 违法信息的扩散。中小学生心理发展尚不成熟, 是非判断、人格塑造和道德形成等方面还在发展 当中,倘若智能技术融入中小学教学进程中缺乏 明确的伦理边界设定,将会增加学生暴露于不良 信息的风险,进而对其心理健康构成威胁。三是 阻碍认知能力发展。

智能技术不可避免地将学 习切割成细小碎片,这种碎片化的学习任务会分 散学生的注意力资源(王晓敏等,2023)。此外, 在智能技术应用过程中,学习资源的易得性会改 变学生认知检索和信息存储模式,削弱深度感知 觉意识;数字知识的永久可获取性会降低主动记 忆需求,改变学生的记忆方式;个性化资源的自 动推送会削弱学生的自主学习意识,助长惰性思 维,限制元认知能力的发展。四是制约高阶思维 养成。智能技术通过对过往数据的学习,能够向 学生提供原本需要通过实践才能获得的个性化 经验,而这种个性化学习服务容易让学生陷入“信 息茧房”,专注于知识习得,忽视高阶能力和素 养的全面发展,无形中强化了同质化发展倾向 (卢佳等,2023)。

此外,生成式人工智能技术已 经能够“一键式”解决阅读理解、作文等语言类 学科任务,以及数学、物理等涉及推理论证的科 学类学科任务,甚至是劳动方案、代码编程等综 合实践活动。因此,在生成式人工智能融入中小 学教学的伦理边界模糊,整合生成式人工智能的 中小学新型教学模式远未成熟的当下,智能技术 不当使用的风险日益突出,有可能影响学生身体 和思维的成长,阻碍科学精神、创新意识、批判 性思维的发展。

(三)主体交互遭受挑战,师生关系异化

传统指向知识传授、技能训练的“师—生” 二元交互模式不仅不适用于“师—机—生”三元 结构的教学环境,而且作为“机师”的智能技术会 分担“人师”的工作,对传统师生交互带来了诸多 · 21 · 吴砥,郭庆. 智能技术赋能教学的伦理挑战:表征、溯因与纾解 OER. 2024,30(4) 伦理冲击:

一是师生知识传授交互的异化。智能时 代,教师讲授不再是学生获取知识的唯一途径,作 为数字原住民的中小学生能够随时随地便捷地与 人工智能交互,获取远比书本、课堂更加丰富的知 识。教师组织的知识获取活动可能难以引起学生 的兴趣和参与,师生交互将逐渐变得沉闷和冷漠。

二是师生情感交互受阻。当学生沉浸于智能技术 所创造的虚拟、个性化学习空间时,师生之间的交 流便简化为数字符号的互动(卢佳等,2023)。教师 不再能够观察学生的情绪,或通过言语、肢体向学 生传递情感支架,师生间的情感交互将因此逐渐弱 化甚至消逝。三是师生交互出现信任危机。生成 式人工智能技术可以挖掘学生既往学习状态、习 惯、偏好,成为学生的专属私人学习管家,为他们 生成定制化的学习规划和指导。从某种程度来说, 智能技术甚至可以比教师更了解学生。长此以往, 学生可能不再信任教师的指导,进而引发师生交互 的信任危机。

(四)数字鸿沟持续扩大,发展机会不公

智能技术应用于教学的初衷是通过普及高质 量、均衡化的教育资源,有效弥合城乡、校际的教 学质量差距,促进教育公平(江波等,2023)。在实 际操作过程中,这一愿景却受到种种背离公平准绳 的伦理挑战,这主要可以概括为三类数字鸿沟 (U.S. Department of Education,2024):一是数字接 入鸿沟。我国正大力加快新型教育基础设施建设, 但区域、城乡、校际之间的教育数字化进程存在较 大差异。

高端智能技术设施和相关训练数据多集 中在基础设施完善的发达地区和学校,经济欠发达 地区及条件较差的学校则鲜有受益。智能教学产 品的开发往往未能充分考虑弱势群体的需求,教学 产品可能无法适应相应群体所处的具体情境,从而 加剧教育公平。二是数字设计鸿沟。从教师层面 看,不同区域、城乡、学校的教育工作者智能技术 学习机会不均衡,可能导致他们将智能技术融入教 学设计和实施的能力发展不均衡,从而影响学生的 学习体验和质量。三是数字使用鸿沟。从学生层 面看,不同区域、城乡、学校的学生使用智能技术 的程度和能力的差异,导致学生面对智能技术的意 识觉醒、技能掌握及思维适应等方面发展不均衡, 由此可能带来教学质量、学业成就和素养发展差异的扩大,最终导致教育差距的固化和扩大。

二、哲学审思:伦理挑战产生与发展的 本质规律

智能技术介入中小学的教学伦理挑战成因是 多维且复杂的,本研究从技术哲学的视角思考其 本质。

(一)物质与精神生产:伦理挑战滞后的必然性

智能技术介入中小学教学产生的伦理挑战是 物质与精神生产矛盾运动的客观结果。马克思历 史唯物主义指出,物质生产是人类与自然进行物质 交换的过程,其结果是创造了社会物质财富;精神 生产是人们在社会实践中对世界的认识和反映,其 结果是创造艺术、宗教、法律等意识形态。智能技 术的发展属于物质生产范畴,其应用于教学的伦理 考量则归属于精神生产范畴。物质和精神生产是 辩证统一关系。一方面,物质生产决定了精神生产, 即当物质累积到一定阶段时,才会促使生产关系发 生变化,进而影响精神生产。这意味着属于精神生 产范畴的智能技术教学伦理挑战的诞生,一定滞后 于智能技术本身的发展及其在教学中的应用。另 一方面,精神生产对物质生产存有反作用,当精神 生产达到可以改变人们思想观念时,物质生产的方 向和进程必将受到影响。这意味着当智能技术应 用于教学的伦理挑战引发广泛的社会关注和学理 解剖时,它必将指引智能技术的发展方向。由此可 见,伦理挑战的产生滞后于技术的发展和应用是必 然规律,克服伦理挑战促使技术迈向更高阶发展阶 段也将是必然结果。

(二)技术扩散过程:伦理挑战发展的规律性

智能技术介入中小学教学的伦理挑战的产生 与发展受技术扩散的本质规律影响。著名的信息 技术研究与咨询机构顾能公司发布的“技术成熟 度曲线”刻画了创新技术的五个发展阶段:萌芽期、 过热期、低谷期、复苏期、成熟期(Gartner,2023)。 美国学者罗杰斯的“创新扩散理论”亦描述了创 新技术走向成熟的过程,该理论根据采用创新时间 将采用者分为五类:创新者、早期采用者、早期大 众、晚期采用者、迟缓者(Rogers et al,2014)。

结合 “技术成熟度曲线”和“创新扩散理论”,我们可 以理清智能技术教学伦理挑战产生和发展的逻辑脉络。在萌芽期,少数创新者先行接触到智能技术 的教学应用,此时技术仅在较小范围和较浅层面扩 散,伦理挑战并未充分显现。到了过热期,随着早 期采用者和早期大众的加入,智能技术在教学系统 的扩散程度加深。

然而,这一时期的教学主体对智 能技术的应用大多局限于初级工具化层面,仅关注 具体的技术功能,未能从次级工具化视角思考智能 技术之于教学的文化价值(安德鲁·芬伯格,2005)。 由此,各式各样的失范行为和伦理挑战接踵而至, 智能技术的扩散随即进入低谷期。随着伦理挑战 的系统性解决,智能技术变得更加完善,更多的晚 期采用者和迟缓者加入教学实践,教学主体对技术 使用更加娴熟和规范,智能技术的扩散逐渐跨入复 苏期和成熟期。以上分析表明,当前智能技术介入 教学所产生的伦理挑战是技术扩散的必然产物,同 时也预示着未来有可能解决这些伦理挑战以及智 能技术有进一步扩散的趋势。

三、实践分析:伦理挑战难以破解的 现实原因

技术哲学层面的审思表明,智能技术为教学带 来伦理挑战是不可避免的,实践层面也仍有诸多因 素制约着对既存挑战的纾解。

(一)算法设计:固有缺陷与人为主观偏误

第一,由于出发点的偏误,诸多智能化教学产 品在算法设计之初与生产阶段就已经陷入伦理困 境,与中小学“以人为本”的育人理念和追求优质 均衡的价值取向不完全契合。

一方面,算法与模型 训练对大规模教育数据的高度依赖,使得数据质量 问题成为潜在的伦理风险源。教育数据的收集涉 及面广。教育数据在地域、城乡、校际间的不均衡 分布,可能导致最终汇总的数据集代表性不足。同 时,数据标签中潜在的性别、种族、宗教、地域等 歧视性倾向,不易被察觉,而这些数据一旦被用于 训练,模型将复现并可能放大这些偏见,形成自我 强化的歧视循环(吴龙凯等,2023)。另一方面,应 用于教学的智能算法设计范式相对固定,难以突破 算法的固有瓶颈。许多算法在设计时缺少对道德 伦理规范的充分考量,没有将伦理规则融入算法训 练。此外,许多算法遵循固有的公式,没有将许多 富含人文价值的教育伦理规范在训练过程中精准计算在内(王晓敏等,2023)。 第二,在追求利益最大化的市场观念普遍存在、 推崇效率的技术功利主义依然盛行、公平正义的 理性价值建构有待推进的环境下,智能算法在设计 层面受开发者诸多主观观念的影响。一方面,企业 开发智能教育产品以吸引多数群体为主要目标,相 对忽视处于弱势地位的人群。也就是说,算法设计 过程层面就会有所偏向,最终的产品就会存在包容 性问题,可能给教育公平带来不利影响(江波等, 2023)。

另一方面,社会和中小学教育对升学率的 片面追求决定了企业智能算法设计的功利主义倾 向,所开发的产品成为辅助学生做题和提分的工具, 而非指向发展综合素养。此外,算法设计者、数据 工程师、程序员等对基础教育了解的有限以及他 们对伦理、价值观认识的局限,使得整个算法设计 与开发生命周期可能存在诸多偏差。

(二)制度构建层面:软法不健全,伦理边界模糊

中小学教学场景下智能技术研发与应用的制 度规范缺乏,导致利益相关者对智能技术教学应用 的伦理边界认识不清,这也是制约智能技术教学伦 理挑战破解的因素之一。

一方面,国际上现有的教 育人工智能伦理规范或标准还未深入聚焦教学领 域。伴随人工智能技术的发展,世界各国和国际组 织纷纷出台一系列有关教育人工智能伦理的政策 文本,如《教育人工智能:可持续发展的机遇和挑 战》《值得信赖的教育人工智能:承诺与挑战》等, 详细界定和阐述了教育人工智能的公平、自治、隐 私、以人为本等原则(OECD,2020)。然而,这些伦 理原则没有回答智能技术开发与教学应用应在什 么限度内,才能保护教师角色的平稳转变、学生心 智的健康发育、师生交互的和谐关系以及教育质 量的公平发展。这些原则对我国的智能技术教学 伦理建设和教学实施没有实质性的指导价值。另 一方面,我国目前的人工智能技术规范或标准大多 面向普通大众,缺少专门面向学校教学的智能技术 伦理规范(吴永和等,2024)。

目前,市面上针对学 校教学研发的智能教学产品处于“野蛮发展”状 态,企业的产品研发以利益相关者的需求为导向, 而关于智能教学产品的伦理边界、潜在伦理风险 的应对机制等却无规可循。此外,智能教学产品在 应用过程中也缺乏监管、预警制度,技术开发和应用出现的问题和事件是否越过伦理红线没有清晰 的评判标准,这导致问题发生时,师生无法快速反 应,造成智能技术在中小学教学中的应用乱象。

(三)法律规制层面:硬法不完备,规范性引导薄弱

教育人工智能伦理规范或标准通常聚焦于几 项通用原则,然而这些伦理原则不具备强制性,不 利于激发利益相关者对智能技术教学伦理的意识 和自觉遵守。

一方面,目前国内外均缺少面向中小 学教学的智能技术相关法案。尽管欧盟2021年出 台了《人工智能法案》,我国《人工智能法(草案)》 也列入国务院 2023 年度立法工作计划(白钧溢, 2024),但面向教育尤其是教学场景的智能技术开 发与应用还缺少法律的规约,导致教育人工智能伦 理规范或标准的软法治理效果不佳。

另一方面,当 智能技术教学应用因技术缺陷、开发者或教学主 体使用行为越界等引发民事纠纷乃至违法犯罪时, 以伦理规范或标准为主的软法便显得无能为力。 此时,相关法律法规的缺失将导致追责困难,不利 于智能技术教学应用建立公序良俗,不利于智能技 术研发企业从源头考虑和控制潜在伦理风险,亦不 利于中小学教学利益相关者警醒和规范自身的技 术应用行为。

四、纾解策略:伦理挑战应对方案的系 统性探讨

美国学者阿西莫夫提出了“机器人学三定 律”,其中机器人不得伤害人类是最基本的第一定 律;第二定律强调在不违反第一定律时,机器人必 须服从人的命令;第三定律指机器人在不违反第一、 第二定律的情况下尽可能保护自身生存(Asimov, 1995)。由此可见,智能技术应用的基本底线在于 “以人为本”。以这个原则为指导,本文提出智能 技术教学伦理挑战的纾解策略。

(一)维护公平,嵌入伦理设计提升教学系统的透明性

智能教学产品首先需坚持以“人的公平”为 本,要在算法设计和产品开发端加以优化,增强决 策透明度,尽可能降低伦理风险。实现上述目标需 做好以下几点:

1)将人类社会的法律、伦理和价值嵌入算法设计和系统开发。算法训练可能存在数据质量差、 区域数据体量不均、数据标签不准等客观因素,亦 存在开发者主观偏差,导致产品和系统投入教学中 出现决策不公、歧视等问题。这要求设计和开发 环节要将人类社会与数据安全、隐私保护、网络违 法等相关法律法规,善恶判断、平等尊重等伦理规 范,以及意识形态、文化思想等价值观念嵌入算法 设计和训练过程中,让智能系统具备自我修正能力, 从技术源头消除伦理风险。

2)产品研发生命周期 的参与主体需自觉恪守伦理底线。除对算法的伦 理植入,研发者需警惕人为偏见对智能技术研发的 潜在影响。智能教学产品研发涉及需求调研员、 教育教学专家、系统设计师、算法工程师、数据科 学家、程序员、测试反馈员等主体的协同。这些参 与主体需遵守伦理道德,确保产品开发环节不存在 人为偏误,尤其是数据科学家要确保数据来源公平, 审查数据标签质量,将智能技术教学应用的伦理风 险在设计与开发端就降至最低。

3)发展可解释人 工智能技术。2023年,国家自然科学基金委员会 启动了“可解释、可通用下一代人工智能方法重 大研究计划”,旨在破解智能技术“黑箱”瓶颈, 强化透明性与公平性(陈建兵等,2024)。对于中小 学教学而言,智能技术的服务对象是未来社会的建 设者,开发可解释人工智能,建立可解释算法模型、 可解释框架准则、可解释用户需求、可解释评估指 标,对于确保学生的健康成长至关重要。

(二)保障安全,完善技术准入和伦理边界的 软法

尽管国际上已存在有关教育人工智能的伦理 准则,但未细化到教学领域,难以给智能教学产品 的开发主体和应用主体提供有效指导、达成社会 共识、建立内生性规约。因此,相关部门应考虑教 学主体、教学过程的特殊性,建立量身定制的智能 技术教学伦理制度体系,为智能教学系统、产品的 开发与应用提供基本遵循。具体作法如下:

1)健全数据采集、算法安全制度。对于目标、 内容、范围不同的智能教学产品,我国要建立完善 的数据来源规范,确保数据采集的全面性和公平性; 要建立数据标签的质量规范,确保数据标签的科学 性和无歧视性;要针对数据存储与分析建立加密保 护、访问权限机制,切实保护教学主体的数据隐私安全;要建立算法公开、算法安全检验机制,倒逼 开发者加强产品研发的伦理考量。

2)研制面向中 小学教学的智能技术伦理边界规范。智能教学产 品的研发,要明确数据的采集体量、质量与分布规 范,算法的可解释程度量化标准,决策结果和生成 内容在心理健康、政治安全、公平公正等方面的边 界,人机对话在内容上的限度和准绳,产品运行的 自我纠正和安全中断临界标准等。智能教学产品 的应用,要明确产品应用时长标准,师生使用行为 标准和人机对话内容界限,确保人机交互中人的主 体性,避免出现“信息茧房”、师生关系异化、思 维发展停滞等问题,形成优质产品、技术资源、应 用案例的共享等。

3)建立智能技术伦理审查和教 学准入制度:一要坚持宽进严出准则,鼓励和支持 企业研发智能教学产品,创新应用方向;二要把紧 出口,开展产品入市前的伦理检验,由教育行政部 门和第三方机构对智能教学产品进行全方位伦理 评估、检测与认证,经审批合格的产品才允许进入 市场(莫宏伟,2018)。

(三)明确责任,建立智能教学产品研发与应用的硬法

智能技术介入中小学教学需以相关法律作为 保障,才能逐渐形成健康的公序良俗。具体需要做 好以下几点:

1)健全教学主体数据和隐私保护规章,即要依 据《中华人民共和国数据安全法》《中华人民共和 国个人信息保护法》《未成年人保护法》等法规制 定面向智能技术研发的教学主体信息和数据采集、 数据存储与使用、数据隐私保护等法律,尤其需要 关注生成式人工智能技术应用过程中,对教学主体 数据信息隐形采集的法律保护,切实推动教学数据 治理有法可依,维护师生的数据安全和个人隐私。

2)建立算法公开、备案的法规,以及相关知识产权 保护条款,包括在法律层面建立智能教学系统与产 品的算法备案条文,规定相关企业报备算法参数、 公开算法框架(王晓敏等,2023);积极完善专利等 知识产权保护条文,消除因算法公开可能引发的不 正当竞争,维护符合伦理要求的市场发展和算法良 性迭代。3)明确不同利益相关者的法律权责,包括 明确智能教学产品研发与应用中各利益相关者的 权责;建立可能出现的伦理冲突和违法行为的追责机制,明确哪些利益相关者应承担怎样的法律责任, 确保智能教学产品应用的人本主义立场和技术向 善。这些利益相关者包括系统设计师、算法工程 师、数据科学家、程序员等上游开发者,需求调研 员、运维服务员、教学管理者等中游协调者,以及 教师、学生、家长等下游应用者。

(四)加强监督,强化技术主体的自律和教学主 体的监管

实践应用还需警惕技术本身和教学主体可能 带来的伦理挑战,做好对技术和教学主体的双重监 管,促进师生健康发展,包括:

1)实现智能技术的自我监督与阻断。智能教 学产品在算法设计初就应包含对相关法律、伦理 的考量,将其整合至模型训练中;在此基础上设计 伦理自我监督和预警功能,使产品能自主识别师生 行为和言语指令的伦理风险,同时在决策结果或生 成内容发出前进行自我评估和纠正,对可能存在伦 理风险的输出及时阻断。2)全面监管智能教学产 品应用过程。智能教学产品除进入市场前需接受 严格的评估、检测与认证外,在教学应用中也需接 受全面的伦理监管。相关教育管理部门可与第三 方企业合作,建立智能教学产品应用的伦理风险监 测、预警与管控机制,确定伦理风险的预警阈值及 风险应对预案,提高智能技术教学应用的安全性。

3)开展对教学主体行为的下游监管。这包括识别 伦理行为、开展伦理评判、确认伦理意图、采取有 效的伦理治理,确保师生智能技术的健康使用(谢 娟,2023)。

(五)促进发展,提升教学主体智能时代的关键素养

智能技术介入教学旨在促进学生发展。作为 技术使用者的教师和学生需具备关键的素养和能 力,以应对智能技术的发展机遇和挑战(吴砥等, 2023)。培养师生智能时代的关键素养,充分发挥 智能技术的教学价值,需要做好以下几点:

1)教师需要具备角色转变意识,将更多的精力 放到情境创设、情感支持、道德教育、创新实践等 方面,从知识传递者转变为学习引路人,创建“师— 机—生”和谐共处的新型伦理空间;要具备合理应 用智能技术、实现教学创新的能力,主动探索 “人—技”协同的新型教学模式;要勤于思考智能 · 25 · 吴砥,郭庆. 智能技术赋能教学的伦理挑战:表征、溯因与纾解 OER. 2024,30(4) 技术对教学各要素的影响,探索智能技术无法直接 解决的创新型学习任务,提高教学设计、指导与控 制能力,促进自身职业发展(吴砥等,2023a)。

2)学 生需要具备利用智能技术开展数字化学习的能力, 借助智能技术的决策和指导完成学习任务,反思自 身不足,实现个性化发展;还要具备创新学习意识, 即能借助智能技术思考和解决复杂问题,开展创造 性学习实践;也要养成良好的智能技术使用习惯, 理解智能技术的工作原理和潜在伦理风险,具备信 息判断、隐私保护、安全防范意识,自觉规范自身 的使用行为(吴砥等,2023b)。

3)管理者和教育机 构可组织开展形式多样的教师培训和学生研学活 动,切实提高师生对智能技术的应用意识、思维和 能力。例如,组织者可联合高校专家、相关企业, 开展线上、线下相结合的讲座、研讨、示范课等教 师培训活动,以及专家授课、参观展览、STEM体 验等学生研学活动。中小学校也需建立智能技术 赋能教学能力提升的相关教研制度,开展形式多样 的教学实践探索,助力师生素养的全面发展。

总之,智能技术深度介入中小学教学已成为不 可逆转的趋势。从技术哲学层面看,智能技术应用 为中小学教学带来复杂多元的伦理挑战是必然结 果。未来我国必须坚持以人为本的伦理底线,完善 相关伦理准则与法律法规,形成社会共识,全面规 范和监督智能教学产品的设计、开发与应用全流 程,同时重视智能时代教学主体的关键素养培育, 充分发挥智能技术的育人价值,克服其可能导致的 潜在问题,促进智能时代育人质量的提升。

[参考文献]

[1]  [美]安德鲁•芬伯格. (2005). 技术批判理论[M]. 韩连庆,曹 观法译,北京:北京大学出版社:162.

[2]  白钧溢(2024). 教育人工智能伦理治理:现实挑战与实现路 径[J]. 重庆高教研究,12(2):37-47.

[3]  陈建兵,王明(2024). 负责任的人工智能:技术伦理危机下 AIGC的治理基点[J]. 西安交通大学学报(社会科学版),44(1):111 120.

[4]  陈元,黄秋生(2023). ChatGPT技术中的人工智能伦理风险及 其科学祛魅[J]. 湖南科技大学学报(社会科学版),26(3):135-142.

[5]  江波,丁莹雯,魏雨昂(2023). 教育数字化转型的核心技术引 擎:可信教育人工智能[J]. 华东师范大学学报(教育科学版),41(3): 52-61.

[6]  卢佳,陈晓慧,杨鑫等(2023). 智能技术教学应用伦理风险及 其消解[J]. 中国电化教育,(2):103-110.

[7]  莫宏伟(2018). 强人工智能与弱人工智能的伦理问题思考[J]. 科学与社会,8(1):14-24.

[8]  王旦,张熙,侯浩翔(2021). 智能时代的教育伦理风险及应然 向度[J]. 教育研究与实验,(4):34-39+96.

[9]  王晓敏,刘婵娟(2023). 人工智能赋能教育的伦理省思[J]. 江 苏社会科学,(2):68-77. [10]  王佑镁,王旦,柳晨晨(2022). 从科技向善到人的向善:教育 人工智能伦理规范核心原则[J]. 开放教育研究,28(5):68-78.

[11]  吴砥,桂徐君,周驰等(2023). 教师数字素养:内涵、标准与 评价[J]. 电化教育研究,44(8):108-114+128.

[12]  吴砥,郭庆,郑旭东(2023). 智能技术进步如何促进学生发 展[J]. 教育研究,45(1):121-132.

[13]  吴砥,李环,杨洒等(2023). 教育数字化转型背景下中小学生 数字素养评价指标体系研究[J]. 中国教育学刊,(7):28-33.

[14]  吴龙凯,程浩,张珊等(2023). 智能技术赋能教育评价的时代 内涵、伦理困境及对策研究[J]. 电化教育研究,44(9):19-25.

[15]  吴永和,吴慧娜,陈圆圆等(2024). 推动人工智能向善发展: 教育与人工智能共同的责任[J]. 中国电化教育,(1):51-58.

[16]  谢娟(2023). 如何识别与判定人工智能教育应用伦理问 题——基于伦理策略形成的视角[J]. 电化教育研究,44(1):36-41.

[17]  张立国,刘晓琳,常家硕(2021). 人工智能教育伦理问题及其 规约[J]. 电化教育研究,42(8):5-11.

[18]  Asimov I (1995). I,Asimov:and memoir[M]. Bantam.

[19]  Gartner (2023). Gartner top 10 strategic technology trends for 2024[EB/OL]. (2023-10-16) [2024-05-16]. https://www.gartner.com/en/ articles/gartner-top-10-strategic-technology-trends-for-2024.

[20]  OECD (2020). Trustworthy artificial intelligence (AI) in edu cation:Promises and challenges[EB/OL]. (2020-04-06)[2024-06-12]. ht tps://www.oecd.org/education/trustworthy-artificial-intelligence-ai-in education-a6c90fa9-en.htm.

[21]  Rogers,E. M.,Singhal A.,& Quinlan,M. M. (2014). Diffu sion of innovations[M]. An integrated approach to communication theory and research. Routledge:432-448.

[22]  U. S. Department of Education,Office of Educational Techno logy (2024). National educational technology plan[R] Washington,DC:9

 

标签:人工智能

版权申明:本网站内容均为本站原创文章或网友转载,涉及版权问题请联系管理员删除,转载亦请申明来源.

上一篇:黄荣怀:人工智能大模型融入教育:观念转变、形态重塑与关键举措
下一篇:郑永和:人工智能赋能教育评价:价值、挑战与路径

热门文章