中国科普作家网 China Science Writers Association

人工智能与科学出版及科普创作

●期刊拿起武器反对人工智能编写文本

●科幻作家卡尔·施罗德认为人工智能在科普创作中只是手段

●中国科学院自然科学史研究所等机构提出人工智能巨风险概念

●中国科技期刊由数字阅读向元宇宙阅读趋势转变

 

期刊拿起武器反对人工智能编写文本

2023年2月22日，国际著名期刊《Science》发布消息称，随着科学家探索使用AI编写文本，期刊也开始制定相应政策。自2022年11月30日美国OpenAI公司推出人工智能聊天机器人ChatGPT以来，科学出版领域一直对此保持高度关注。由于ChatGPT可以生成流畅且时效性高的报告、论文和科学手稿，相关期刊管理人员对此类内容的准确性和道德规范表示担忧。针对此种现象，一些出版商尚未制定政策，大部分机构只要求作者主动披露此类工具的使用情况，并未完全禁止使用人工智能生成文本。截至目前，没有任何软件能够准确无误地检测到合成文本，编辑和同行评审人员由于缺乏此类工具也别无选择。

ChatGPT是一种被称为大型语言模型的人工智能算法，基于互联网中大量文本样本而进行训练，从而可以识别单词之间的模式和关系、允许模型利用问题和提示生成相关的回答。期刊管理者对此类工具的担忧主要体现在两个方面：

一是准确性的问题。计算机专家发现，如果软件没有基于足够的训练数据来实现正确响应，它通常会编造一个答案。比如在2022年，有研究人员对基于Google所开发的信息搜索聊天机器人Sparrow生成的预印本进行分析发现，其回复的错误率高达20%。二是道德问题，一方面人工智能生成文本可能偏向于算法训练内容中所包含的既定科学思想和假设，另一方面提议使用文本生成器的作者有时会把机器生成文本作为原创产物直接提交至编辑部，这种行为被称为“AIgiarism”（基于AI的剽窃）。

考虑到以上问题，许多期刊出台了新政策以要求作者主动披露自己是否利用文本生成工具，并将ChatGPT等大型语言模型工具列为合著者以强调作者负有确保文本准确性的责任。一些出版管理者也正在进一步确认稿件处理的细节，比如允许期刊工作人员、编辑或审稿人检查或核实机器生成文本的时间。但使用标记合成文本的自动检测器等技术来对此进行监控并不容易，科学出版软件服务商的研究人员DomenicRosati称，“我们已经过了那种仅凭某文本不够流畅或缺乏真实性就能判断其是由机器生成的时代，这一点在科学领域尤为明显。”

就目前而言，文本探测器还有待改进。OpenAI上个月发布了它的“分类器”，它使用来自五家不同公司（包括OpenAI本身）的34个算法对人类原创文本和计算机生成文本的配对样本进行训练，可以实现对被提交的文本按从“可能”到“非常不可能”的范围进行分类。但OpenAI承认它存在一些局限性，由于该工具仍在开发，正确应用“可能”标签的占比只有26%。当然，也有除探测器以外更好的解决方案，比如添加水印或合成文本检测器。OpenAI在2022年12月表示，他们正在研究为生成文本添加水印的方法，该方法将对其模型进行编程，以规定的顺序插入单词、拼写和标点符号，从而创建一个可以被搜索引擎探测到的秘密代码。上个月，斯坦福大学团队发布了一份描述DetectGPT的预印本，与其他探测器不同，DetectGPT不需要训练，该算法通过创建多个随机变量并查询文本生成器来对它偏好的版本进行排名从而实现文本检查。但该研发团队人员表示，在期刊编辑完全依赖技术检测结果决定是否采纳稿件之前，DetectGPT需要更多的发展。

随着ChatGPT生成本文的检测手段逐渐完善，进一步的计算挑战是对机器生成文本的事实准确性以及摘要质量进行评级，目前软件开发公司scite.ai正研究一种自动检查器，该检查器将搜索现有的科学文献以确定手稿中的特定引用是否准确呈现了手稿中所体现的研究结果。

总体而言，一些编辑在ChatGPT及其相关产品的出现中既看到了危险也看到了希望，虽然此类产品的应用可能会引发担忧，但同时也会提供巨大的机会。与所有工具一样，学界应密切关注其开发方式、使用方式及使用情境，从而进一步了解其局限性。

选摘编译自[2023-02-22]
《Science》

复制到浏览器打开

https://www.science.org/content/article/scientists-explore-ai-written-text-journals-hammer-policies

 

科幻作家卡尔·施罗德认为人工智能在科普创作中只是手段

2023年2月7日，联合国教科文组织发布该机构与作家卡尔·施罗德的访谈报道，就人工智能与文学创作进行讨论。卡尔·施罗德是一位加拿大科幻小说家、散文家和未来学家，曾于2018年2月被联合国教科文组织授予Netexplo人才奖并著有10多部小说，代表作包括《风》（Ventus，2000年）、《永恒》（Permanence，2002年）、《迷宫夫人》（2005年）、《泽夫拉危机》（CrisisinZefra，2005年）和《因循守旧》（Lockstep，2014年）等。作为享誉国际的科幻明星之一，他的著作启发了新技术和人工智能(AI)领域的专家。此外，他还将自己的想象力用于公司和政府，帮助他们预测技术、经济和社会转型。对于这位加拿大小说家和散文家而言，与其说人工智能是一场技术革命，倒不如说是一场文化革命——一场需要对伦理、治理和立法问题进行反思的革命。

技术时代，人工智能是否会取代卡尔·施罗德成为一名作家？卡尔·施罗德认为，在这种情况下，他会把AI在其领域的贡献等同于一个随机化函数，好比摆出一副牌，每张牌可以定义一个人物、一个场景等，基于此便能发展出一个角色、一个情节。至于人工智能对作品的创作能力，他认为今天的计算机不产生意义，即使技术设备变得越来越精细并接近人类的能力，在创造过程中仍始终需要人为干预。

卡尔·施罗德提出，人类有责任确认AI是威胁还是机会，应了解其工作原理以及对人类构成威胁的原因，因为目前来看，现在的社会对于失去机器控制能力有一种过度焦虑。同时，还应考虑AI的道德问题，只有在确定新技术的社会影响、用途并进行相应立法后，才能决定是否应该利用此类新技术。面对人工智能，必须能够区分写作和写作的手段，而技术作为手段必须将其放回原处。

选摘编译自[2023-02-07]
联合国教科文组织

复制到浏览器打开

https://courier.unesco.org/en/articles/ai-and-literature-it-really-all-best

 

中国科学院自然科学史研究所等机构提出人工智能巨风险概念

2023年1月18日，《自然辩证法研究》发布了中国科学院自然科学史研究所、中华人民共和国水利部信息中心、中国科学技术信息研究所三个机构就人工智能巨风险（AI巨风险）的形成机制、路径及未来治理进行研究的最新成果。研究表明，“AI巨风险”的形成往往是多个密相关因素的共振式耦合作用，如技术能力强度、技术稳健度、技术应用向度、社会粘合度、政治/社会对抗强度、社会心理因素等，可以通过构建“机器风险学”防止AI所可能带来的大范围危害、遏制AI巨风险的形成。

“AI巨风险”意指基于人为的、技术自身的，及社会管理等方面的原因，导致AI技术在研发、应用、传播过程中导致大范围的社会功能与秩序紊乱，形成高强度、规模化的高危社会事件。其特征表现为伤害的现实性、影响范围广、破坏强度高、难阻断性和恐惧画像。

有关此概念的研究领域主要集中在AI伦理研究、AI事故研究、AI生存性风险研究，根据AI巨风险的成因来源及影响领域，可将其分为机器自我关涉式巨风险、社会生活领域中的AI巨风险、意识形态领域中的AI巨风险和政治/军事领域中的AI巨风险四种。

随着人工智能的社会影响愈发复杂，人类社会即将进入“智能风险社会”，人们需要对AI所可能引发的大规模社会风险进行前瞻性分析与预警，积极构建面向未来智能社会的风险预警及治理体系。首先，应加强AI风险意识，构建以人机风险治理为对象的“机器风险学”；其次，应充分认识未来“智能风险社会”主客体模糊二分的独特性；最后，应积极构建适应未来智能风险社会的新型治理体系，从观念、技术、管理等层面入手应对所可能出现的系统性社会风险。

选摘自[2023-01-18]
《自然辩证法研究》

复制到浏览器打开

https://zrbz.cbpt.cnki.net/WKB3/WebPublication/paperDigest.aspx?paperID=22f51c3b-8d67-4da2-9e22-e858a1067512#

 

中国科技期刊由数字阅读向元宇宙阅读趋势转变

2023年1月15日，《中国科技期刊研究》发表有关科技期刊阅读趋势研究的最新成果，山东理工大学学者季丽莉、郭晓丽、刘丽对元宇宙时代科技期刊的阅读趋势进行分析发现，与数字阅读相比，科技期刊元宇宙阅读表现出阅读空间虚拟化、视觉体验三维化、人员分工模糊化、付费动机分享化等发展趋势。

2021年被称为元宇宙元年，Facebook改名Meta，致力于从社交媒体转型为“元宇宙”公司，随后我国的数字发展无论是市场实践还是国家政策方面都开始积极响应。百度、阿里、腾讯三巨头纷纷布局元宇宙，国务院颁布的《“十四五”数字经济发展规划》中所涉及的互动视频、沉浸式视频、云游戏、虚拟现实等概念也与元宇宙愿景重合，这预示着元宇宙技术与科技期刊的深度融合将成为我国科技期刊未来阅读模式变革的重要发展趋势之一。

为了更立体地表示元宇宙阅读生态，研究人员建出中国科技期刊元宇宙阅读趋势示意图（见图1），主要特征如下：

从真实到虚拟的阅读空间。当前的阅读空间建设主要为全民阅读服务，大多数阅读空间建立在人员密集的城市中心区域，大众化的空间布局并不适用于科技期刊阅读。元宇宙被称为陆、海、空、天之外的第五空间，平行于现实世界又独立于现实世界，具有独立性与隔离性，将是未来科技期刊阅读的理想场所。

图1中国科技期刊元宇宙阅读趋势

从平面到三维的视觉体验。在元宇宙中，科技期刊可依据阅读需求来建构论文内容，论文阅读可体现出三维特征，如当读者阅读论文的某段文本时，与文本相关的图形、视频和参考文献会自动弹出，并在元宇宙空间中以三维形式排列。通过把一些复杂的文字表述转化为具体可感的演示内容，让抽象的概念形象化，以增强感染力、消除读者的理解壁垒、提升知识影响力。

从清晰到模糊的人员分工。期刊的运作大致遵循“内容生产-编辑校对-印刷成册-大众发行-读者阅读”的固定流程，各环节分工明确，人员边界清晰可辨。在科技期刊元宇宙中，原有的固定工作流程将被打破，由现代工业化生产模式组织起来的中心化工作模式将被点对点的个体化行为模式取代。

从自用到分享的付费模式。在大多数情况下，读者或科研机构需要为论文付费。读者对论文资料的使用一般是个人化的，不会再次转卖资料。在科技期刊元宇宙中，中国知网这样的中心化数字服务机构将转变身份，成为与科技期刊单位共建元宇宙的重要技术力量，为读者提供NFT产品服务，实现“分享-收益-购买-转让”的知识流转，加速知识的循环流通与版权价值变现。

为了更深入探讨如何使用好“元宇宙”这把双刃剑，研究人员从技术资源、读者体验、数据安全方面提出建议：

技术资源方面。元宇宙在诸多底层技术方面还没有取得关键突破，如人工智能技术尚处于弱人工智能水平，VR、智能眼镜等设备过于笨重或价格高昂等。在当前技术水平下，科技期刊的元宇宙阅读只能实现某些方面的超级体验。因此科技期刊出版机构应培养本行业的技术人才，加强对人工智能、VR/AR、区块链、云计算等相关技术的理论学习，从专业生产角度提供符合读者需求的产品。

读者体验方面。由于科技期刊阅读是一种批判式阅读，当读者沉浸在元宇宙中时可能会沉迷其中，不愿再回到现实世界从事科研工作，这与技术发展的初衷背道而驰。在应对网络成瘾问题方面，我国已采取网络实名制、分级控制模式、物理干预等措施，这为元宇宙中科技期刊的阅读管理提供了一定参考，政府应进一步完善相关政策和法规。

数据安全方面。我国科技期刊元宇宙面向所有个体开放，允许各类科研工作者加入并自由生产内容，大量科研数据将被共享、公开。有些科研项目涉及国家保密内容，若相关数据被用于非科研目的，可能导致某些国家涉密信息泄露。在科技期刊元宇宙建设中，各相关主体应协同处理好元宇宙空间开放性与科研数据安全性之间的关系，制定相关管理法则，加强对科研数据的监管。

选摘自[2023-01-15]
《中国科技期刊研究》

复制到浏览器打开

https://www.cjstp.cn/CN/10.11946/cjstp.202205190398

 

来源：“中国科普研究所”微信公众号