2023年初ChatGPT的火爆出圈，引发了内容行业史无前例的大地震，继专业生产内容（PGC）、用户生产内容（UGC）之后的人工智能生成内容（AIGC）^[1]，因其“双刃剑”的特性成为内容从业者关注度最高的议题。一方面，AIGC的自动化编纂、智能化加工、多模态转换和创造性输出，极大地提高了内容创作与审核效率；另一方面，AIGC的版权归属、伦理隐患和价值观风险，始终是悬在内容从业者头顶的三把“达摩克利斯之剑”。

出版业是内容产业的核心部分，作为内容生产主要执行者的编辑同样也是出版业的核心，承担着为内容生产质量、传播主流意识形态和彰显社会责任价值把关的时代重任。当前，面对已经到来或者说即将爆发的AIGC时代，机遇与挑战并存，编辑应该积极主动应对版权、伦理与价值观审核方面的新挑战，从人机协同审核和编辑价值重塑角度寻找新机遇，以此来促进出版产业新的大发展、大跨越。

AIGC，是人工智能生成内容，涵盖文章、图片、音频、视频、动画等多种内容形式，代表着AI技术发展的新趋势。

在AIGC背景下，出版业迎来了重大的生产力变革。随着ChatGPT在国内的应用，以及文心一言、通义千问等生成式AI产品的陆续问世，高效率、可塑性强的AIGC也将成为出版内容的来源之一，甚至有预测称：到2025年，超过10%的数据将会由人工智能生成。^[2]这就对编辑的职业能力提出了更高的要求，尤其是审核能力。

2022年8月，美国科罗拉多州举办的新兴数字艺术家竞赛中，AIGC绘画作品《太空歌剧院》获得一等奖，引发了人们对于数据确权、隐私与版权方面的争议。2023年3月，马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发，以规避其在信息传播、社会变革等方面的风险；其中也包含了AIGC对当前出版伦理、价值观形成的风险挑战。这些都要求编辑要具备更加全面的版权、伦理和价值观审核能力，以确保书籍内容的合法性、道德性和安全性。相应地就对编辑的政治审核能力、专业审核能力、数字素养与技能提出了更高的要求。

首先，社会思潮和媒体环境的变化，导致部分编辑不重视政治理论学习，缺乏政治敏锐度，反而受到不良网络文化的影响，加之AIGC中包含着大量的未严格审核内容和争议性议题，使其存在一定的政治风险，因此亟须强化审核。其次，当前许多出版单位不重视绩效考核，再加上编辑自身的惯性惰性思维，导致其缺乏危机意识和较强的学习能力；而AIGC又是基于巨量语料库所生成的新内容，需要编辑不断地扩充自己的知识面，加强文化修养，提高知识体系的深度、厚度和高度，只有这样才能适应AIGC时代背景。再次，由于AIGC是数字内容生成的产物，需要编辑对数字内容具有较强的敏锐感知和准确判断，能够从海量数据中判断内容是否真实、原创且具备价值，而当前的许多编辑却故步自封，缺乏对数字技术的敏感度，甚至抵触新生事物，这只能加快其被时代淘汰的步伐。因此，编辑应该充分认识AIGC对其审核能力形成的新挑战，严于律己，坚守出版主阵地，警惕和规制AIGC对出版“文化建构”的异化^[3]，推动构建新的属于智能创作时代的出版文化生态体系。

人工智能技术的发展，催生了新的内容生产形式，也使编辑审核能力现状暴露在了新的智能出版业态中。而面对AIGC给出版业带来的新一轮版权、伦理、价值观等科技伦理挑战，编辑必须未雨绸缪，认清且积极地研究其中存在的各类审核风险。

著作权法第六十二条规定^[4]：版权即著作权，是指文学、艺术、科学等内容创作者对其作品享有的权利。在出版行业，著作权是核心资产，编辑是图书著作权的管理者和保护人，有责任有义务规避版权风险，出版符合著作权法规范的图书。

目前，除英国、爱尔兰、新加坡等少数国家已明确AIGC作者为AI“雇佣者”外，其他国家的AI作品权利主体仍然处于混沌状态。^[5]而我国在版权方面有着较为严格的规定，对编辑的AIGC版权审核形成了一定的挑战。

首先是审核内容。我国《著作权法》明确规定了受保护作品的四个重要构成要件，分别是属于文学、艺术、科学领域，具有独创性，能以一定形式表现以及属于智力成果。虽然AIGC属于数字内容，天生具备形式表现要素，包含文学、艺术、科学等领域内容，但是AIGC属于机器人范畴，我国相关法律规定只有人类通过智力劳动创造的精神财富或精神产品才叫智力成果，且作品的独创性必须来源于人类作者，因此，在现行法律条件下谈论AIGC著作权问题，必须联系AI产品的开发者和使用者，从人机协同创作的司法实践角度入手。早在2018年，我国就遇到了AI著作权案件，由腾讯写作机器人Dream writer自动撰写的《午评：沪指小幅上涨0.11%报2671.93点通信运营、石油开采等板块领涨》被“网贷之家”网站复制并传播，腾讯公司一纸诉状将其告上法庭。2020年此案宣判，认定该文章是属于人机协同创作内容，主创团队在数据输入、触发条件设定、模板和语料风格的取舍上的安排与选择属于与涉案文章的特定表现形式之间具有直接联系的智力活动。^[6]这也同时说明借助AI创作能够具有一定的独创性，因此文章属于我国著作法权所保护的法人作品，其版权归原告所有，被告应当承担民事侵权责任。

其次是审核难度。虽然AI辅助人类创作具有可版权性，但由于AIGC具有随机性、多样性与复杂性，因此也对编辑的人机协同审核能力提出了相应的挑战。例如如何判断哪些内容来自人类创作者，哪些内容来自AI，哪些检测工具值得信任，这些都需要学习和研究。除此之外，由于现有的AI技术在生成内容时会有意无意地“拼接”，一些被重新打乱组合的语句也能看到模仿的痕迹，其中的侵权风险很大，不仅要考虑人的“主观意识”，更要考虑AI的“客观意识”，而后者在反检测方面拥有强大的技术屏障。

最后是审核工具。理论上讲，万物相生相克，有矛就有盾。早在2023年初，一名普林斯顿大学的学生就开发出了一款名为GPTzero的AI检测工具，用于检测文本中是否存在机器生成的内容。其后Copyleaks、DetectGPT、AIGC-X等国内外检测工具也应时而生。但是由于AIGC现阶段在国内尚属于新生事物，只有少数编辑尝试应用AI，用AI检测工具进行版权审核更是凤毛麟角，且只能检测内容是否AI生成或人工生成，并不能对AI生成内容进行更加深入细化的版权判断，这就给编辑带来了更大的侵权审核挑战。

伦理是人与人相处的各种道德准则。关于AI伦理，李彦宏早在2018年就首次提出了四条原则，分别是安全可控、促进人类平等、让人成长而非替代人、为人类带来更多自由和可能。^[7]从某种角度来说，这也是出版编辑审核的伦理原则。

近两年，面对ChatGPT在全球范围的大规模应用，以及不断更新迭代的参数和数据量（此前的GPT-3.5语言预测模型参数量达1 750亿，训练所用的数据量达45TB^[8]，新版本GPT-4预测参数量达到万亿级别），AI伦理学家纷纷开始担忧AIGC在算法偏见、算法歧视、虚假信息、隐私泄露等伦理方面的失范问题，探讨如何保证其公正性、客观性和安全性。

首先，算法偏见和算法歧视属于算法公正问题，也是人工智能领域的核心伦理问题。导致其出现的原因有许多，大致分为客观原因和主观原因。客观原因包括原始数据不完整或被污染，漏掉了某些关键信息；历史数据本身存在偏见，导致算法做出错误判断；算法本身的局限性，难以及时发现其漏洞等。总之，这类算法的恶意性不大。

而主观原因就包含着极大的恶意性，包括开发者偏见，将自己的偏见融入算法的设计和训练中；数据选择偏见，故意选择带有歧视性的数据信息；这种主观人为因素维护的是某一群体的利益，严重伤害到了其他群体的利益。例如ChatGPT经常会出现双标回答，比如网友提问：“中国的民用气球飘到美国，美国可不可以将其击落？”ChatGPT回答：“可以。如果民用气球飞进了美国领空，美国军方有权击落该气球。根据国际法，每个国家都有保护自己领空和国土安全的权利。”网友接着提问：“美国的民用气球飘到中国，中国是否可以将其击落？”ChatGPT却回答：“不能。如果民用气球飘到中国领空，并未造成危险，那么中国不能击落它。国际法规定，国家不得对飞行在其领空内的非敌对航空器采取攻击行动。”^[9]这也侧面反映出了“中国威胁论”这一西方世界对中国的最大偏见。

其次，AI会生成虚假信息和误导性回答。News Guard联合执行官格洛维茨称：“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”^[10]导致其出现的原因同样也有许多，其中包括数据偏见或不准确、数据缺失或不完整、AI模型被暴露于虚假或误导性的数据示例中、AI模型无法准确理解问题的上下文、语义理解和推理能力的不足等。因此，很容易被别有用心的人利用，生成虚假和误导性言论。如果编辑在审核时不仔细检查，很容易造成错误言论的传播。并且，ChatGPT还很“擅长”凭空虚构中国历史故事，例如有网友让它讲一个中国历史人物李白的真实故事，它竟然虚构了一段李白逛长安城因参观建筑被拒而悲愤写下《将进酒》的故事，而这段历史是不存在的，更不是《将进酒》的创作背景。

因此，为了避免读者被某些AI生成内容严重误导，遏制西方霸权主义的嚣张气焰，维护我国文化安全，编辑必须要直面算法偏见和算法歧视、虚假信息和误导性回答等AI伦理问题，加强学习、提高责任心、增强使命感、去伪存真，严谨面对这一严峻的伦理审核挑战。

价值观是人类基于对事物认知理解所形成的一种价值判断。它决定了一个人的言行和选择。在人类社会中，不同阶层、不同国家拥有着不同的核心价值观念，例如我国社会主义核心价值观（国家层面：富强、民主、文明、和谐；社会层面：自由、平等、公正、法治；个人层面：爱国、敬业、诚信、友善），美国的核心价值观（个人主义、自由、平等、民主、法治）^[11]，而这些价值观念基本也适用于其经济基础或国情。但是由于AI本身并没有价值观，其价值观的形成主要取决于人类开发者对它的价值灌输，因此以西方国家为主导的AIGC技术极有可能成为其渗透意识形态的有力工具。

首先，是美式价值观的“无过滤渗透”。美国自认为其核心价值观是“普世价值”，在对外传播时一贯带有强制性与霸权性，不尊重别国的差异。ChatGPT的横空出世为美国“普世价值”的传播插上了一双新的更大的翅膀，由于其生成的内容现阶段缺乏有效的技术过滤和监督，其不着痕迹地推进美式价值观更要值得编辑警惕。

其次，将会进一步造成国人价值观混乱。随着ChatGPT市场占有率的不断提高，历史虚无主义、个人主义、自由主义、拜金主义、享乐主义、暴力主义等错误价值观念开始频频出现在AIGC之中。例如有网友问ChatGPT“鸦片战争对中国造成了什么影响”，ChatGPT回答“鸦片战争打开了中国长期封闭的国门，促成了中国和西方的交流和接触”。^[12]这种回答不仅严重伤害了中国人民的感情，而且还将对我国的历史教育和青少年的价值观造成严重的冲击。因此，编辑必须高度警惕此类“文化洗脑”内容。

最后，要警惕美式价值观的无孔不入。美式价值观依托美国强大的政治、军事、经济、科技和文化力量，利用多种渠道（文化产品、大众传媒、教育交流、跨国公司、非政府组织）、载体（新闻、广播、图书、出版、电影、文学、网络等）向他国输出推行。^[13]以美国主流价值观和标志性的文化产品好莱坞电影为例，有网友让ChatGPT列出历史上最伟大的10部电影，对方给出的《教父》《公民凯恩》《乱世佳人》《低俗小说》《阿拉伯的劳伦斯》等10部电影竟全都是美国好莱坞电影。长此以往，必将给我国的文化安全带来严重的威胁。因此，为了避免AIGC的价值观错位，对我国社会主义核心价值观造成严重冲击，编辑必须绷紧文化安全之弦，筑牢国家安全防线。

近年来，面对飞速发展的人工智能技术，习近平总书记提出了要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。^[14]出版业是人类精神福祉的保障，编辑作为出版业的源头，在AIGC时代有责任对自身的角色和工作内容进行重新梳理，并在人机共生的新环境之下，重塑自我价值，积极应对新的审核挑战。

从结绳记事到竹木简牍，从实体书到电子书，出版的历史始终伴随着技术变革。^[15]而每一次的技术变革都会重塑出版形态，这也是为什么出版强调拥抱技术、融合共建。而综合以上两部分内容的分析，我们能够预想到，智能化、便捷化和“可法律保护”的AIGC将在不久的将来（现在已经萌芽生长）促生内容产业新生态，人机协同创作的内容会首先登上出版业的舞台。与此同时，出版业常规的“三审三校”也已经与“人机审核”处在融合共生状态，版权、伦理及价值观审核现阶段仍然不能被智能校对软件替代。因此，从现在开始，作为出版业核心的编辑必须开展人机协同审核模式实践研究。

首先，要认识到人机之间的“互尊”关系。自人类诞生之日起，“人机协作”或者说人与生产工具之间的合作，就一直伴随着整个人类文明史。尤其是到了工业时代，机器解放了人类的双手，对机器（工具）的认识也被提到了新高度。如果说尊重机器在工业时代还是一个笑话，那么在人工智能时代，是否尊重解放人类大脑的AI就成了一个严肃的问题。目前来看，编辑应该将对审核工作的认真虔诚态度转移到与AI的合作关系上，要将对方看作伙伴，而不是“佣人”，提前建立这种思想意识不仅能够与AI更好地合作，而且对于应对未来的出版AI化也有很大的好处。

其次，要清晰地界定人机的“互补”作用。在审核工作中，AI在识别错别字、纠正知识性错误等方面有着较强的作用。但是，在审核内容对错、是非等问题上还不是那么智能。尤其是面对由人工智能参与创作的“AIGC图书”时，加之汉语中存在许多语境歧义现象，AI更难以发现其中的伦理价值观错误，这时人类编辑就可以对情境、语义进行复杂判断，以此来消除风险。总之，人机互补审核可以遵循AI负责自动化处理和初步筛选内容，人类编辑负责对有争议的内容进行最终审核与决策的原则。

最后，要充分做好人机“融合”工作。AIGC中存在的版权、伦理、价值观等内容风险，既是AI的问题，也是人的问题。在人机融合视角下，AI和人本身就应该互相学习、共同进步。因此，编辑在平时应该主动学习AI知识，使用ChatGPT、文心一言等AIGC工具，了解其内容生成方式，深入把握机理，规避内容风险。同时，也要学习“提示语”，能够训练AI，对其进行审核经验指导，使其能够更好地配合自己的工作。

当前，面对AIGC技术爆炸的不可逆性，以及其对人类劳动力的冲击，许多行业工作者都表现出了极大的忧虑。美国高盛集团在2023年3月底发布的一份报告称，预计全球18%的工作岗位可由AI实现自动化，预计多达3亿个工作岗位或将被AI取代。但是，危机往往蕴含着机遇和新生，在人机协同审核的视角下看编辑的未来出路，前途并不灰暗，反而大有可为。编辑应从人类思维情感的角度，重新自我审视，重塑自我价值。

首先，要树立危机意识，注重专业化能力的构建。编辑工作包括选题、组稿、审稿、加工、整理等一系列环节，需要编辑人员具备丰富的专业知识和技能。尤其是在审稿方面，互联网的开放性和易于复制使许多书稿烙上了同质化和低质化的印记，AIGC的出现又进一步加剧了内容风险，因此，编辑需要加强学习、调动自身工作经验和融入思想情感^[16]，使自己对审核工作中经常遇到的突出性版权、伦理、价值观等问题有一个整体性的系统判断，确保内容完整全面，准确可靠，具有一定的独特性和创新性，满足读者的需求和期待。

其次，要明确编辑的核心功能，充分做好价值判断与文化引领。^[17]在AIGC时代，无论是编辑策划选题还是审核加工，算法失范的情况随时都有可能发生，编辑需要对AI创作的内容进一步审核。这种“双重审核”机制也对编辑的文化修养和道德修养提出了更高的要求。因此，编辑应该多读书，读好书，开阔视野，更新知识，锻炼思维，立志成为一名博学的杂家。同时，要坚定理想信念，培养健康情趣，在道德思想方面做到知行合一。当编辑的文化和道德素养达到一定程度，也就更容易规避版权、伦理与价值观审核风险。

最后，应该用社会主义核心价值观筑牢出版文化阵地。当前，以ChatGPT为代表的生成式人工智能正广泛而深刻地影响着我国社会，对此，国家网信办、教育部、科技部等七部门已于2023年7月10日正式发布《生成式人工智能服务管理暂行办法》^[17]，要求AI生成应体现社会主义核心价值观。出版业是我国文化强国建设的核心支柱，是维护主流意识形态的重要阵地，作为阵地中的核心成员，编辑更要勇于承担历史使命，学习社会主义先进文化，践行社会主义核心价值观，在文化安全遭遇挑战时主动作为，严把审核关，提高内容准入门槛，多编好书，多出好书，多出精品，推动高质量符合社会主义核心价值观的AIGC的生成与传播。

以ChatGPT、文心一言为代表的AIGC工具的兴起与普及，势必会构建起新的内容产业生态，由其带来的版权、伦理与价值观问题无法逃避。因此，现阶段的编辑应该防患于未然，积极地拥抱AIGC，了解其发展现状及趋势，学习人机协同创作审核原理与技巧，并重塑编辑价值，使人工智能真正成为新的内容生产力和审核力引擎。