在教育现代化进程中，人工智能技术的发展为教育现代化带来更多可能性。新一代信息技术正在不断重塑教育形态、出版形态，国际教育出版巨头都已完成或正在进行数字化转型，我国教育出版融合发展也必然会迎来范式变革的全新阶段。[1]其中，数字教材，也被称为数字教科书，是教育人工智能化的重要方面，受到高度关注。
数字教材具有充分互动、海量资源、过程记录等优势。在人工智能技术推动下，数字教材的内容选择、编写、展现形式、发行营销等，都与人工智能技术深度融合。但是，智能技术在赋能数字教材建设的同时，也衍生和潜藏着一系列新的风险；因此，有必要探讨人工智能背景下数字教材的风险和治理策略，推动数字教材健康可持续发展。
1 加强数字教材治理的必要性
1.1 加强数字教材治理是推进教育数字化转型的迫切需求
人工智能技术是助推教育数字化转型的加速器。在教育数字化和人工智能技术迅速发展的背景之下，数字教材成为未来教材发展的主要趋势。数字教材具有一定的交互性、技术潜力，如果数字技术在学习环境中被有意义地整合，将可能成为教与学中颇为有效的工具。[4,5]布尼克等对314位学生连续5小时课程的实证研究表明，相比使用相同内容的纸质学习材料，学生从数字教材中获益更多。[6]在国家层面，《“十四五”普通高等教育本科国家级规划教材建设实施方案》《“十四五”职业教育规划教材建设实施方案》《国家教材建设重点研究基地管理办法》等均鼓励大力开发和建设数字教材。新生事物的发展对相应的治理能力和治理体系提出了迫切需求。如何快速形成较为完善的数字教材治理体系，在推进教育数字化的进程中至关重要。
1.2 加强数字教材治理是基于我国教材属性功能的必然要求
党的二十大报告提出“加强教材建设和管理”，强调教材建设国家事权的重要属性，凸显了教材管理工作在教材事业建设发展全局中的重要地位。[7]因此，要进一步加强对教材建设、出版等方面的治理，对于人工智能时代的数字教材风险防范尤应如此。
1.3 加强数字教材治理是消解技术风险的现实需求
数字教材往往具有适应性强、交互性强、可视化程度高、实时性强等特点，尤其是智能数字教材，被预想具有互动性、协同性、自适应，能够植入可视化（如视频、草图、动画、表格）功能。[10]目前，国内许多出版机构和互联网技术公司纷纷推出了数字教材平台，这些平台往往能够实现文本、音视频、动画等数字教材元素的集成，并具有一定的交互功能。教材编制者将文本以及各类融媒体资源填入平台编辑器，通过出版社审编校后，即完成数字教材的建设。
在生成式人工智能技术助力之下，数字教材内容生成更加便捷，教材中的内容、图片、封面等能够自动生成；互动功能更加强大，能够根据使用者的提问，基于大数据而自动回复，诸如此类功能极大提升了教材全流程编写和使用的便利性。与此同时，由于AI在线教育迅速扩展，对于学术欺诈、信息偏差、伦理困扰等方面的担忧不断[11]，比如增强了剽窃的隐蔽性，可能导致知识谬误的传播和学术造假问题，引发教育公平性等问题，亟需构建教材治理体系，完善相应政策和管理制度，制定系列标准规范，促进数字教材健康发展。
2 数字教材治理的风险分析
2.1 总体国家安全观层面：如何实现自主可控
教材是国家事权。从育人角度，我国需要培养社会主义建设者和接班人，从传授知识角度，需要构建自主的知识体系，立足我国国情，建设中国特色教材治理体系。从总体国家安全观的视角来看，国家安全工作应当以人民安全为宗旨，以政治安全为根本，以经济安全为基础，以军事、文化、社会安全为保障，以促进国际安全为依托，维护各领域国家安全，构建国家安全体系，走中国特色国家安全道路。这里，政治安全、文化安全和数字教材治理体系紧密相关。在数字教材治理方面，可能面临如下风险。
第一，意识形态方面的风险。《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》明确提出：坚定维护国家政权安全、制度安全、意识形态安全，全面加强网络安全保障体系和能力建设。[12]出版是意识形态的重要阵地。当前，世界处在数字时代的新阶段，国内外形势的变化逻辑同数字技术的发展逻辑紧密联系，意识形态领域尤其呈现出许多新特征，我们所面临的意识形态安全问题更为严峻。[13]数字时代的意识形态主导权问题成为学界和业界亟待解决的关键问题。数字教材属于出版物，在内容方面，使用人工智能技术生成的内容有可能以国外大模型为基础，提取出的观点和语料有可能存在与我国社会主义核心价值观产生偏离的风险，需要引起足够重视。
第二，数据安全可控的风险。出版本质上是一种知识生产。[14]数字教材将积累大量的知识，也将积累大量的数据，这就涉及知识管理、数据资产管理和数据安全问题。从理想状态看，需要做到像国有资产保值增值一样，管理好数据资产，最大限度发挥资产价值，并且安全可控。目前，数字教材依托的平台较为多样，就资产所有者属性来说，有些是国有背景，有些是民营企业。就行业性质来说，有些是出版机构，有些是互联网技术公司。不论哪种平台属性，均需要符合总体国家安全观。如《“十四五”普通高等教育本科国家级规划教材建设实施方案》所言，数字资源和工具须部署在出版单位自主可控的公共服务平台上，平台按照国家有关规定备案，并确保数字资源安全。[15]数据时代带来诸多便利的同时，模糊了个人和团体数据的边界，导致数据安全、隐私泄露等愈加明显的风险，有必要采取适当措施，包括建立详细的数据管理法规，应用先进的加密技术，采用安全的储存方法，加强数据使用方面的监管。[3]
2.2 法律法规层面：如何实现版权保护
版权是出版业的核心资产。数字教材极大地改变了传统教材资源的获取方式，以广泛共享为显著特征的数字教材，正面临知识资源的监管缺位现象。[16]在人工智能技术应用背景下，数字教材中人工智能生成内容的可版权性、版权归属、分配机制等问题，都是数字教材发展进程中隐含的风险。
第一，在版权归属方面的风险。随着人工智能技术的发展应用，尤其是Sora的问世，数字教材中的内容可能存在合成的视频，可能需要更高效的检测工具识别和过滤，这些视频的版权归属问题，是数字教材治理的风险之一。有些数字教材的内容从在线课程演化而来，其中的图片、字体存在版权隐患，应用到数字教材内容编制中需要谨慎对待。
第二，在版权收益分配机制方面的风险。生成式人工智能背景下的数字教材中的视频、图片等产生的版权属于出版机构还是技术公司，版权收益如何分配，都是亟待解决的问题。从数字教材可持续发展的角度，版权保护是关键环节，如果没有健全的版权保护机制，数字教材的运营模式难以形成满足学校用户订阅需求，以及第三方经销商销售的需求，产业链上的出版端、发行端、应用端不能协同形成可持续的发展模式，不利于形成良好的市场生态和高质量发展格局。
2.3 出版层面：如何把控出版内容风险
第一，内容选择和内容编制方面的风险。在内容选择风险方面，教材之所以不同于专业书籍，是因为其具有较完备的知识体系，内容的选择需服从教学的需要。数字教科书内容的碎片化、信息总量过大、多媒体信息过多、信息的便捷化呈现方式过多等有可能破坏教科书的学科结构和教学结构，可能存在冗余，妨碍学生思维能力和行为能力的发展。[17]在内容组织编制风险方面，结合数字教材的互动性强、层级多、富媒体资源多等特点，可以分析出数字教材因数字技术的引入，和纸质教材相比，其结构产生了巨大变化。技术能促进知识的建构，但同时也能带来知识无限层级的风险。[17]数字教材带来结构的多级化扩展，会给学生对于必要知识的掌握和判断带来一定困惑，学科边界可能会被模糊化，不同学科教材之间的协同交叉有可能出现失序的现象。在同一学科知识体系内，重点和非重点可能会模糊。对于现在依然以学科为主要组织架构的教科书知识传播体系来说，会造成一定冲击。
第二，数字资源审核标准缺失的风险。数字教材的内容属于数字资源，不仅包含纸质书类似的文本，还有音视频、超链接等，音视频传播速度较快，编校起来较纸质图书难度更大。近年来，数字出版行业标准体系建设进一步健全，在基础教育阶段，《数字教材 中小学数字教材元数据》《数字教材 中小学数字教材质量要求和检测方法》《数字教材 中小学数字教材出版基本流程》这三项国家标准已正式实施。在高等教育数字教材层面，还没有国家标准出台，反映出高校数字教材亟需探索形成可供参考的标准，在相关治理主体之间达成共识，以完善治理体系。
2.4 伦理层面：如何实现技术为人所用
如何妥善处理人与技术的关系，是人类社会伴随着发展而产生的话题之一。技术作为人类改造自然和社会的工具，具有“工具理性”或“技术理性”，即追求事物的最大功效，为人的某种功利的实现服务。人工智能背景下，新技术在数字教材中的开发应用，数字教材研发、准入、使用机制的缺位，对新技术应用的潜在风险缺乏认知等问题都可能引发主客观层面的数字教材风险。[18]
第一，“技术理性”产生“数据统治”的风险。根据法兰克福学派左翼主要代表人物马尔库塞主张的技术统治论的观点，在发达的后工业社会，科学技术在发挥重要生产工具作用的同时，也在控制着人类思维。[19]科学技术在悄无声息中诞生出“科技意识形态”。当数字技术成为不可替代决定生产力，人类全然服从于数字技术的发展逻辑，产生了数字意识形态化。数字教材最终会形成大量的知识，均基于大模型，而大模型取决于输入的数据或语料，以及算法和算力。数字技术从数字理性出发，在带来更多便捷的同时，引导着意识形态走向，通过数字需要控制个人的自由选择；数字技术滥用必然导致数字统治，使个体丧失批判性和反抗性，沦陷在数字技术统治之中。[14]
3 数字教材风险治理的对策
“治理”可以理解为人们按照一定目标或价值对人、事、物进行的控制、管理活动。[27]本研究认为，数字教材风险治理是指通过建立系统化的制度、流程和方法对数字教材进行规范、控制和协调，以保证数字教材功能发挥得当，促进数字教材“赋能”教育的活动与过程。杜玉霞[28]等认为智能时代数字教材风险具有错综复杂性、不确定性、强隐匿性等特征，由此可见，需要不同治理主体形成合力，形成全社会共同参与的教育治理新格局。薛二勇[29]等从政策分析的角度，认为教材治理是内容和形式相统一、价值和文化相融合、育人效益为主导的过程，推进教材治理体系和能力的现代化，关键是要建立健全教材价值导向审查制度，建立健全著编用全过程管理体系、常态追踪监测预警机制以及终身责任追究处罚办法。本文认为，需要从四个方面加强数字教材治理。
3.1 树牢总体国家安全观，完善治理机制
如前文所述，总体国家安全观包含政治安全和文化安全，二者均与数字教材治理密切关联，要求从国家顶层设计层面加强数字教材的发展规划、引导和监督，形成政产教学管用共享共治局面。
一是坚持马克思主义在意识形态领域的指导地位，防范数字教材意识形态风险。人工智能背景下，数字教材生成内容中隐含的意识形态风险，主要来自现有的数据基础以及一定算法生成的特定内容。为了防范化解这一风险，必须坚持马克思主义的指导地位，将马克思主义话语置于人工智能话语体系之中，把社会主义核心价值观等社会主义意识形态植入相关数据库，确保人工智能产出的内容彰显党的意志和主张。[30]这就要求我国加强数据语料建设，加快构建广博的中文知识库，构建中国自主的知识体系。这样，在运用人工智能技术生成数字教材相关内容以及数字教材平台进行知识互动时，能够在相当程度上消解意识形态风险。
二是加强对人工智能技术应用于数字教材发展的整体规划。数字教材的整体规划涉及其全生命周期、全流程规范体系，也包含数字教材建设基础设施的资源投入以及推广计划等。针对目前数字教材迅速发展的局面，需要加强顶层设计，以便社会各界了解国家关于数字教材的相关政策，把握数字教材发展节奏，避免产生盲目跟风现象，或成为技术及资本的附庸。
以韩国为例，韩国是世界上较早推行数字教材且已有成效的国家，其对数字教材的发展总体规划分为3个阶段：2002—2006年为基础研究阶段，2007—2011年为适用性试验阶段，2013年至今为商业化阶段。[31]韩国还颁布了一系列政策文件以支持规划的落实，如《数字教材商业化推广计划（2007—2011）》《促进智慧教育的行动计划》《数字教材开发和激活计划（2013）》《中小学软件教育推广计划（2014）》，自上而下推动数字教材计划。2018年起逐年在普通学校全面推广和应用数字教材。[32]针对人工智能数字教材，韩国也制定了应用人工智能的数字教材分时段、分年级时间表：从2025年起，人工智能驱动的数字教材将应用到小学三年级、小学四年级、初中一年级、高中公共科目和选修科目的教学中；2026年，将应用到小学五年级、小学六年级和初中二年级；2027年，将应用到初中三年级。并且规定了在不同课程中，所应用的人工智能技术不同。[33]
三是形成科学的数字教材共享共治机制。数字教材治理涉及多方主体，包括国家职能部门、学校科研部门、教材编写者、使用者、出版者、硬件设备厂商、家长等，因此，需要在国家层面形成科学合理高效的机构设置、运行机制、管理和监督程序，协调学会、协会等社会团体力量，形成共享共治局面。在韩国，数字教材建设队伍包括教育科学技术部（MEST）副部长领导下的数字教材工作小组，具体运维工作由教育研究信息服务处（KERIS）负责。为配合中央和地方政府开展工作，KERIS得到MEST下属部门的支持，成立了一个包含教育家、家长和教师在内的顾问委员会来参与大都市和省级教育厅的协调工作；此外，韩国在课程政策和中小学教育政策方面也为数字教材推广提供诸多支持。[31]
3.2 加快出台相关法律法规，完善治理工具
数字教材的治理工具主要体现为相关支持性政策和规范，以及辅助的技术工具，在法律法规层面还需完善。
一是健全版权管理、数据管理等相关法律法规。科学完善的版权管理是数字教材可持续发展的核心，而数据的安全收集、存储、使用、加工、传输、提供、公开，是数字教材健康发展的关键。目前，我国已发布了《中华人民共和国数据安全法》，但相关配套法律法规尚较欠缺。在我国著作权法体系中，涉及人工智能生成内容的版权识别、归属、分配机制等配套的法律法规还不够完善。以韩国为例，2020年，韩国国会通过《智能信息化框架法案》《数据驱动行政管理法案》，以及《信用信息法案》《个人信息保护法案》《信息和通信网络法案》三个数据法案修订稿；[34]2023年，发布《数字权利法案》并在持续完善。[35]这些法律法规为韩国在数字教材数据管理方面的治理塑造了良好的制度环境。
二是细化人工智能技术应用的相关指南，进一步完善治理工具。联合国教科文组织发布的《在教育和研究中使用生成式人工智能的指南》，我国音像与数字出版协会发布的团体标准《出版业生成式人工智能技术应用指南》以及数字教育相关的系列国标，如《远程教育服务规范》《教育与学习服务 远程学习服务要求》《信息技术 学习、教育和培训教育管理基础代码》，均为人工智能背景下的教育数字化实践提供了指导，也在一定程度上预示着数字出版业正在积极拥抱人工智能技术并积极将其聚焦成为数字出版业的核心行动者主体。[36,37]一些技术公司研发专门的工具用以检测ChatGPT生成内容。比如，中国知网的知识增强大模型可提供智能审校系统，实现对导向观点问题的预警及对各类表述错误的检校，识别AI生成内容，为引导和监管AIGC技术的科学合理使用、维护学术诚信和保护知识创新提供支持。从实践情况看，上述指南以及治理工具需要加强宣传、普及和使用，也在一定程度上存在偏重于宏观、细节不足等问题，需要在人工智能技术迅猛发展的同时，快速迭代出能够指导实践的指导性文件或工具，以促进数字教材治理。
3.3 加强数字教材标准建设，保障数字教材质量
一是加强数字教材内容选择、组织和审校的管理监督。在人工智能背景下，教师作为数字教材的内容编制主体和数字教材“原材料”把关者，要切实把好内容组织和审核的第一关。比如，审核数字教材内容中的图片是否侵权，人工智能生成的表述内容是否存在意识形态风险或科学性错误。同时，不能为了单纯达到页面饱满、内容丰满的效果而堆砌超链接、气泡等多媒体资源，造成学习者视觉疲劳或知识“过剩”。教师应该根据学科规律和知识体系合理安排数字资源，这样才能做出内容科学合理、结构明晰且有助于教与学的高质量数字教材。对于出版者来说，更要严格遵守出版相关规定，加强对数字教材的审校，保障数字教材的内容质量。
二是加强数字教材相关制度标准的建设。数字教材的标准通常包括数字教材质量要求、出版基本流程、内容呈现结构标准，以及阅读软件、学习支持平台的元数据规范等。目前，我国已针对基础教育阶段的数字教材治理发布并实施了三项国家标准，能够为该学段的数字教材质量管理提供一定保障，然而，尚未有高等教育阶段数字教材的相关标准出台。韩国在数字教材阅读软件平台和学习支持平台建立了相关标准，能够实现跨平台互操作，同时降低学校购买商业操作系统的成本。[38]韩国教育研究信息服务社（KERIS）发布了《AI数字教科书开发指南》，该国教育部门正在制定并审议《学习数据标准化指南》，为出版高质量人工智能驱动的数字教科书提供健康发展的生态环境。[32]韩国还计划起草数字教育标准草案，正在为数字时代建立一个新的教育标准，旨在利用数字技术加强教育的核心功能。[39]
3.4 构建数字教材治理共同体，推动技术向善
数字教材的治理涉及教育、科技和法律多领域交叉，要推动人工智能技术真正为人所用，多方治理主体均要遵守教育伦理、科技伦理，方可消解人工智能技术产生的“数据统治”“信息茧房”风险，发挥教材的育人功能，塑造独立完整的“人”。
一是引导学生科学使用数字教材，合理发挥数字教材“技”的功能。数字教材的优势很大程度上体现于“技”，而若使“技”的功能达到最大化，需要精准掌握学生需求。针对各教育阶段师生的多项调查显示，能提升教学效果的义务教育阶段数字教材须具备数字教材结构布局的五维展示、互动多媒体、笔记工具、作业工具和管理工具共5个方面23项特点；[42]文本、高亮工具、书签、多媒体，以及工具书类资料（翻译工具、词典和百科知识）位居未来数字教材具备要素的前五位，且这些要素应基于学科特点而有所侧重。[43]在此基础上，需要引导学生合理使用数字教材。数字教材只是教材的一种形态，学生在接受知识的同时，仍然要保持独立思考的能力，面对开放式互动、答疑时，不能仅依靠数字教材在人工智能技术支持下的“全盘输入”，而是要保持理性，学会鉴别，并通过开展研究等方式多渠道开展学习。
二是提升教师数字素养，充分发挥数字教材“育”的功能。首先，引导教师对数字教材建立正确的认知。数字教材只是课堂的有益补充，教师不能产生技术依赖。虽然数字教材具有互动功能，对知识的展示效果较好，但是教师拥有作为人的独特技能，比如同情、怜悯、人际交往能力，这些在教与学活动中起到不可替代的作用。[44]因此，在学校管理中，要传递正确的数字教材使用观，数字教材传递的知识不能完全替代课程和课堂，要督促教师依然认真备课讲课。其次，着力提升教师的数字素养和对数字教材的把控能力。欧盟统计局2019年的数据显示，面对数字教材席卷而至，只有39%的教师在使用数字技术方面感觉良好，大多数教师仍未做好应对数字教材的各种准备。[16]我国教育部于2022年11月发布的行业标准《教师数字素养》，从数字化意识、数字技术知识与技能、数字化应用、数字社会责任、专业发展5个维度，明确了未来教师应该具备的数字素养。[45]后续需要持续加强对教师这些素养的实践培训，才能更好地发挥数字教材的功能。
三是引导和监督出版机构和技术开发者，围绕教育目的开展数字教材建设开发。出版机构和开发者需要增强社会责任感，不能只为了盈利而生产违背教育规律的产品。出版机构在数字教材的审编校流程中，要遵循教育规律，从立德树人和打磨精品的角度，对教材的组织、结构、展现形式等提出专业意见，与教师合作打造高质量数字教材。平台开发主体则要遵循数字阅读和学习规律。国外的培生、麦格劳·希尔、圣智等教育出版集团等均将先进数字化学习理念研究与设计数字教材和教学工具开发实践紧密结合，以提高教学效率和学习效果。如培生提出数字学习工具Revel设计的３项基本原则：降低认识负荷、促进参与、及时反馈。[46]对于技术方或开发者来说，必须针对与使用人工智能数字教材相关的风险建立单独的管理制度，并不断检查和改进。企业和参与AI数字教材开发的所有相关主体，都有责任确保人工智能算法处理数据的透明度；关注对人工智能算法的预测，并针对潜在的人工智能风险实施预防措施；关注和预防开发人员在数字教材设计与制作中出现明显错误或侵权。[47]只有数字教材共同体内的各主体各司其职，各尽其责，通力合作，方可发挥数字教材的最大功用。
4 结语
参考文献
Digital Education：Connotation，Pathway，and Trend
[J].
Game based learning in secondary education：geographical knowledge of Austria
[C]//
Working with digital textbooks or printed materials：A study with boys and girls on conditional probability
[J].
Towards an intelligent and dynamic geometry book
[J].
Trends and Topics in Educational Technology
[J].
Student critical thinking skills and student writing ability：The role of teachers’intellectual skills and student learning
[J].
Disposition towards critical thinking and student engagement in higher education
[J].
Developing critical thinking skills through gamification
[J].
Does teaching rigorously really enhance undergraduates’ intellectual development? The relationship of academic rigor with critical thinking skills and lifelong learning motivations
[J].
Well Designed Digital Textbooks–Users’Requirements
[C]//
Intelligent analysis and data visualisation for teacher assistance tools：The case of exploratory learning
[J].
The Development Process of e-Textbook for k-12 Schools in South Korea and its Inspiration to China
[C] //
Infographic of 2020 Annual Report on National Informatization
[EB/OL]. (
Digital Bill of Right
[EB/OL]. (
Draft Digital Education Norms Discussed to Reflect Core Values and Principles of the Digital Age
[EB/OL].(
Pinning for profit? Examining elementary preservice teachers’ critical analysis of online social studies resources about Black history
[J].
Exploring desirable features of e-Textbooks for K12 classes：A case study
[C]//
Student perceptions on future components of electronic textbook design
[J].
Human and artificial intelligence collaboration for socially shared regulation in learning
[J].
