随着新兴科技快速发展，呈现出科技大爆发态势，科技风险与伦理问题备受关注。目前我国政府高度重视科技风险治理和科技伦理问题，2019年组建国家科技伦理委员会，习近平总书记强调防范七类重大风险（科技重大风险是其中之一），强调底线思维，要加强体系建设和能力建设。近日，习近平总书记强调要从保护人民健康、保障国家安全、维护国家长治久安的高度，把生物安全纳入国家安全体系，加快构建国家生物安全法律法规体系、制度保障体系。2020年初，联合国秘书长古特雷斯发表声明称，21世纪人类进步和发展面临着“启示录四骑士”的威胁，其中之一就是高新科技的非法应用。近日《工程研究—跨学科视野中的工程》杂志推出专栏《科技重大风险治理研究与人类安全》，刊发中科院自然科学史研究所刘益东团队和刘孝廷、范春萍教授等的一组论文，以反映国内关于科技重大风险研究的最新进展，以此为基础，2020年10月18日，由中国科学院自然科学史研究所科技与社会研究中心、中国科学院大学跨学科工程研究中心和《工程研究—跨学科视野中的工程》编辑部联合主办的“首届科技重大风险治理与人类安全论坛”在自然科学史所举行。来自中科院大学、中科院自然科学史所、北京师范大学、清华大学、北京大学、中国人民大学、中国农业大学、北京理工大学、首都师范大学、中央党校、中国科学技术发展战略研究院、科技部评估中心、广东科技出版社等学者、学生近70人参加了论坛，报告人分享了最新研究进展。

　　会议开始由王大洲教授、刘益东研究员致辞，介绍专栏和论坛的缘起和论坛的主旨，第一位报告人是李伯聪教授，他对风险概念进行深入的若干理论分析，包括风险概念的哲学和逻辑分析、风险主体的心理和伦理分析、风险应对的制度和管理学分析、安全和风险的关系分析，最后探讨了犯错误和追责任的理论问题，极具启发性。刘孝廷教授通过对著名科学家霍金警告的深度分析论证，指出霍金去世前强调的人类生存可能无法超过200年的预言并非杞人忧天，他通过对称性论证、赫拉利定律论证、趋势性和累积性论证、致毁知识增长论证、反基因增强论证等，提出预警式的科学末世论，并探讨其化险为夷的条件，确保科技的可持续发展。王大洲教授以天下体系与风险治理为题探讨科技重大风险，他长期研究科技政策，深知美国科技创新活力是有条件的，美国的研发经费里的相当一部分甚至可达50%都投到军方或与军方密切相关的领域，要不断销售武器，不断更新技术和武器，就需要一个有冲突的世界。他指出在AI发展到控制人类之前，人类利用AI武器相互攻击就足以陷入灭顶之灾。刘益东于1999年提出致毁知识概念，并以其为主要研究对象开展科技重大风险研究至今22年，他的总体考虑是科技重大风险具有八项特点以区别于科技普通风险，对科技重大风险进行专门研究至少需要包括六大要素，指出目前科技风险愈演愈烈，而人类安全防护措施存在十大严重漏洞，难堪重任，人类面临前所未有的双重挑战，急需新型决策机制启动新科技革命和新分配革命，实现从粗放式创新与竞争向可持续创新与合作的大转型。武夷山研究员分析了国际学术界对生存主义灾难和生存主义风险的讨论，对去增长（degrowth）理论进行分析，指出它与社会平等共同关注了自然和社会问题，未来我们需要去增长前提下的发展，他强调，对于人类面临的复杂的重大的问题和重大挑战，不是当代科技可以解决的，需要多管齐下才能解决。李昕教授探讨了人类基因组编辑技术的法律规制，指出法律制度的建构方面的共性就是在这类法律中间进行协调，协调的第一原则是协调风险和利益的冲突，第二个原则是明确责任与宽容的限度，第三个原则是实施管制与开放的平衡，对于人类基因组等新兴科技，科技法律制度的发展面临许多挑战。李建军教授基于人类安全视域探讨了重大科技风险治理问题，他指出人类安全最大的对立面就是大规模的危险，除了核事故、生态灾难等突发性的大规模灾难外，实际上可能还有一类，就是现在的技术成果在慢慢的把未来生存的空间进行挤压而产生风险，无论哪种情况，科技风险治理都至关重要。范春萍教授探讨风险认知的伦理及社会价值，认为进取性危机、科技与工程前沿巨风险、杰文斯悖论，是从不同领域分别发现的具有内在一致性的人类困境，梳理了三种困境的基本含义及关系脉络，形成杰文斯悖论六阶表述，指出人类须尽快行动以找到逃脱或削弱自消解性困境的路径。钟灿涛副院长探讨科技论文交流中的风险识别与控制，指出2004年有美国人估计，美国所有信息分公开和保密两部分，估算美国保密文件的数量大概是所有公开文献系统的5倍-10倍，而且增加的速度远远比公开文件要快。可见对保密信息的处理事关风险和国家安全，科技安全是科技风险治理的重要组成部分。刘永谋教授以反思技术时代的治理变革为题展开讨论，首先要理解技治社会的兴起，他认为今天的时代与其说是科学社会，不如说是技术社会，技术治理是技术社会的一个非常核心的问题，技术治理和人类命运关系密切，应该结合国情，形成有自己本土特色的原创的可与世界上的学者去对话的理论。接下来，胡明艳副教授就新兴技术的风险与挑战，高璐副研究员就科技风险评估与治理范式之沿革，姚立澄副研究员就核风险的现状与反思，王彦雨副研究员关于人工智能的历史争论及其未来的可能形式研究，张志会副研究员就超级工程的风险及伦理应对，李润虎助理研究员就纳米科技的社会风险研究等议题进行深入探讨。

　　论坛从上午9点开始至傍晚近19点才结束，大家就科技重大风险治理与人类安全问题做出广泛而热烈的探讨，与会者普遍认为，目前科技快速发展，科技风险与伦理问题愈演愈烈，人类安全面临前所未有的巨大挑战，加强科技重大风险治理与人类安全的研究迫在眉睫。

　　中国科学院自然科学史研究所科技与社会研究中心

　　中国科学院大学跨学科工程研究中心     

　　《工程研究—跨学科视野中的工程》编辑部   

　　供稿 2020.10.20