由中国自然辩证法研究会未来哲学与发展战略专委会、科技风险治理与人类安全专委会和中国科学院自然科学史研究所科技与社会研究中心联合主办的“当前科技重大风险的伦理治理研讨会”于2022年9月3日在中科院自然科学史研究所学术报告厅举办。由于疫情原因，会议采取线下线上结合的方式进行。来自中国人民大学、北京大学、北京师范大学、中国科学院大学、中国政法大学、南方科技大学、东北大学、上海大学、中央党校、北京理工大学、首都师范大学、北京化工大学、河南财经政法大学、内蒙古大学、兰州理工大学、广东科技出版社、中国气象局、北京社会科学院、中国社会科学院、中国科学院等80多位学者参加了会议。

　　开幕式由中国自然辩证法研究会副理事长、北京大学博雅特聘教授张大庆先生主持，他在致辞中指出：科技风险已受到人们愈来愈广泛的关注，人类目前正处于“风险社会”之中，因此，对科技所可能引发的重大风险进行讨论，非常具有现实意义，同时具有学术前沿性。中国人民大学一级教授刘大椿先生在致辞中指出：大家对科技往往有一个误区性认识，即过于强调科学技术的进步作用，宣扬其正面社会作用，但却往往忽略其所包含的负面作用；我们对科技的反思要更加全面，需要关注当代科技发展所可能引发的社会风险。中国自然辩证法研究会秘书长赵月刚博士在致辞中强调当前科技发展异常迅速，其不可控性日益增强，所引发的社会争议也越来越多，因此人们需要对科学技术所引发的社会风险进行前瞻性分析与预警。2022年3月我国出台的《关于加强科技伦理治理的意见》即体现了中国作为世界科技大国的一种责任和担当。中国自然辩证法研究会科技风险治理与人类安全专委会主任刘益东研究员在致辞中介绍了本次研讨会的缘起：是刘孝廷教授提议我们两个专委会一起举办这次会议，一是因为当前科技风险、气候变化等全球性危机愈演愈烈，已成累卵之势；二是如此重大而根本性的问题本该世界各国齐心协力团结合作，结果却是不断地纷争、对抗和撕裂，人类安全面临严峻挑战；三是中国自然辩证法研究会各专业委员会应该密切合作，共同召开研讨会，集思广益，提高效果。随后，进行大会学术报告。

　　刘大椿教授以《动荡世界尤其要重视技术突破带来的风险和挑战》为题从四个方面召开论述：（1）当代科技发展新浪潮带来各种不确定性，人类已有的一些毁灭性技术有可能在未来的国家冲突中引发巨型风险，这是人类所面临的生存难题；（2）科学技术本来是寻求确定性（如获取真理）的，但是科技发展却带来了愈来愈多的不确定性，近期科技逆全球化趋势日益明显，科技民粹主义横行，阻碍了科技的进步；（3）要关注刘益东提出的“致毁知识”概念，虽然“科技会引发负面效应”这一说法已广为人知，但对于可引发毁灭性后果的科技，学界讨论并不充分；（4）单一的伦理治理无法有效解决科技所可能带来的重大风险问题，要把管理的、行政的、政治等各方面的治理都纳入进来，形成社会综合治理模式。

　　北京大学刘华杰教授的报告《风险视角下创新的两个‘理想类型’：弗兰肯斯坦式与达尔文式》，把创新分为达尔文式（D式）和弗兰肯斯坦式（F式）。D式创新宏观上表现为被动的，速度慢，不至于造成全球性问题；F式创新为获得超级竞争优势，主动性极强，速度快，成为全球性问题。他认为人的演化终究无法逃脱生命演化的范畴，高强度竞争下个体疲于奔命，生育意愿降低，日本、欧洲、中国已经表现出来。他指出人类前景不妙的几种模式是：（1）核战争等特别事件（此可能性较小）；（2）超级病毒流行减少人口；（3）风险累积，“和平”自裁。

　　中国科学院大学王大洲教授在《科技重大风险治理新观察》的报告中提出，可以从西方人的“双标”看西方文化的特质——敌人意识深入人心。他指出，西方政治哲学（基督教、康德、施密特、亨廷顿等的政治哲学）的基本议题是区分敌友，在敌对意识主导全球事务的情况下，在敌对文化的氛围中不但不能解决科技重大风险问题，而且还会加剧此类风险。他指出，应重新审视中国的文化资源，以“和文化”“天下意识”为本，中国正在有意识地在科技自立自强的基础上履行大国责任，谋求提供全球性公共物品，推动建构人类命运共同体。

　　北京师范大学刘孝廷教授以《风险之后——后风险时代哲学的底基》为题反省了人类的未来危机问题。他通过对称性论证、骆草论证、致毁性论证、奉侵性论证、赫拉利论证、反基因增强论证指明，人类文明已进入末日是一个理论事实，对此人类必须当机立断，避免其成为经验事实。他指出，科技文明步入新时代，人类要“造物”“造思想”“造原则”，推动伦理时代的到来，形成“伦理+ ”文化，使伦理成为第一原则，未来原则成为总原则；科学也应该随之发生根本性转变，科学家的思想和实践要伦理优先，使约束和抑制成为第一要务；哲学也必须重新构造，去发动一场彻底的末日启蒙，以便人类文明能“绝地求生”。

　　中国社会科学院段伟文教授以《颠覆性科技的绝对盲目性与慢科学回调》为题探讨了科技的盲目性。他指出，第一个盲目性是科技只顾往前跑，而忽视了给地球留下了什么？第二个盲目性是从科学幻想的角度推动所谓黑科技，包括脑机接口、基因改造等，调动人的欲望，进行商业化的开发而实际上并不清楚其后果，因此过度的科幻就是灾难。这就需要慢科学的回调，伊莎贝尔的《另一种科学是可能的：慢科学宣言》值得一读。借用威尔森《半个地球》（半个地球留给大自然以恢复生机）的用意，他指出对科学要“半心半意”。

　　中国科学院刘益东教授以《限时原则、集体任性与科学传播陷阱——再论科技重大风险治理的艰巨性、紧迫性》为题继续深化其曾提出的“双重挑战”说，认为科技风险愈演愈烈而人类安全防线却存在诸多严重漏洞，包括科学主义、拜技主义大行其道，有组织的不负责任、有组织的集体任性推波助澜；从众心理、预警疲劳，人们对重大风险视而不见；不顾察其言观其行的常识，科普依然是科学家所言所述的“四科”而回避其中的致毁知识与科技风险，限时原则（限期实现目标）在众多伦理、治理、STS等理论中仍然缺位等。他再次强调新分配革命的重要性与紧迫性。

　　中国政法大学张秀华教授以《<有机宇宙论倡议>的方法论价值及其新文明构建的当代意蕴》为题解读、阐发有机宇宙论协会的《致学术界——有机宇宙论倡议》，重申有机宇宙论的立场、原则、思维方式和方法以及核心主张等极具理论价值与现实意义，其有机论的宇宙论世界观不但解构人类世的激进的人类中心主义，而且接纳与确认“两个共同体”理念，既有助推动人与自然、人与人、民族国家之间的和谐交往与互动，又有助于人类的可持续发展与生态文明建设，还能进一步赢获生产物（制造新存在，成物）与塑造人（培育新生态人，成己）的双赢局面。

　　北京市社会科学院程倩春研究员以《风险社会视域下的科技伦理治理》为题探讨了风险社会科技伦理治理何以必要、何以可能以及何以困难三个问题，指出现代新兴科技迅猛发展，不断提出伦理挑战，技术并非中立，它本身具有价值属性，因此需要通过伦理引导来约束其发展及应用的方向。科技伦理治理之所以可能，源自于人们普遍具有的道德能力（如日常道德感、责任能力）以及人们的理性选择与行动能力。她强调风险社会治理面临许多困难和诸多困境，如技术后果的不确定性、技术进步与道德进化的不匹配，以及伦理治理道德标准多样化等。

　　北京师范大学王天民教授在报告《科技异化的新态势与伦理治理的新精神》中指出，科技活动的“唯新”价值取向，加之于资本“逐利”的驱动作用、政治竞争的助推效应，使得科技异化问题在当今信息化、智能化时代尤为明显，并且呈现出新的发展态势。科技异化的波及范围与科技应用的领域同步拓展，科技异化已深入到与资本合谋的内在层面，因此伦理治理需要采取标本兼治的系统化应对策略，明确科学研究善恶兼蓄的双重属性，汲取中华传统文化“与天地参”的实践智慧，致力于破解科技与资本合谋、合流的时代难题。

　　南方科技大学田松教授以《文明视域下中长期垃圾问题两大风险》为题展开其垃圾问题研究的主张，指出人类正处在从工业问题转向生态问题的文明转型期，将同时面对两个问题：（1）工业文明依然保持活力，新的垃圾快速产生，需要建造新垃圾场、新焚烧炉，会有越来越多的群体性事件；（2）已经封闭的垃圾场并不会就此休眠，将会成为人类未来必须面对的问题。垃圾问题是与能源、粮食同等重要的战略问题。他提出“工厂生态学第一原理”和“科技产品污废周期律”解释上下游分形结构和科技产业污废链等工业文明的核心机制。

　　北京理工大学范春萍教授在报告《科技重大风险伦理治理与教育使命》中分析了当前科技重大风险伦理治理的意义及路径，指出当前人类所面临的困境包括地球生存空间和资源条件方面的硬约束，前沿科技对自然界已有结构和秩序的冲击与解构，以及人类自身的问题等。当前人类已经进入“乱世纪”，对科技重大风险进行伦理治理必要且迫切，它需要满足各种条件，包括公众共识的达成、法制保障、文化自觉、制度建设。在这一过程中，特别需要进行科技伦理教育，以启蒙社会决策者、管理者，以及公众。

　　上海大学闫坤如教授以《人工智能道德风险及其规避路径》为题论述了三个方面的问题：一是人工智能革命及其引发的风险，二是人工智能道德风险，三是人工智能风险的规避路径。她构建了人工智能风险生成与表达函数，强调人工智能作为颠覆性技术之一，其本身便具有风险属性，既包括客观存在的风险，也包括主观建构的风险。为规避人工智能风险，人类需要采取“人道德+物道德”双管齐下这一方式，将“合伦理设计”作为人工智能风险治理的逻辑起点，并实行“限制”“引导”“约束”三位一体的伦理风险规避路径。

　　东北大学陈多闻教授的报告《何为人工共情？——当代新兴人工共情技术本体的哲学凝思》以“人工共情”为研究议题，分析了人工智能领域中“人工共情”概念的产生、发展、争议等问题，指出“人工共情”主要是指人与机器之间形成情感沟通模式，使机器人能够回应、反馈人类的情感；“人工共情”的实现方式可分为情感的内部进入式、外部进入式，以及循环进入式路径；人工共情不管是作为一种概念还是作为一种现象，它都是现实存在的，可以作为科学技术哲学的研究对象来予以反思。

　　中国气象局陈正洪教授的报告《气候变化中的认知风险》对气候领域中的主要风险事件——全球气候变暖事件的历史争论过程、风险生成要素及机制等进行了系统阐释。报告指出，认识全球气候变化是否是确定性的风险事件是科学、认知、利益等多因素相互交织与博弈的过程。对于全球气候变暖的测量标准与科学证据存在争议，关于气候变化的认知也存在差异，不同利益群体从各自视角对之进行解读，社会公众的理性认知能力有缺失。对此，需要发展气候哲学对气候领域中的风险形成机制、认知差异、利益博弈等进行深层次的学术分析。

　　北京大学唐文佩教授以《医学中的风险话语使用》为题分析了“风险话语”在医学领域中的表现形式、演化进路等，指出风险已成为一种中心的文化结构，自20世纪90年代起，“风险”概念便已在医学领域出现，把寻找风险因素、确定风险因素作为主要的研究方向之一。医学风险主要来自两个方面，一是把风险视为由外部因素所致（如污染辐射等），二是将风险视为内生性的，是对自我进行管理的一种体现。医学风险在很大程度上是社会建构的，具有非常明确的文化属性，因此我们应对医学领域中风险话语的使用保持适当的警惕。

　　中国科学院高璐副研究员的报告《科技伦理教育的国际比较与反思》，指出在科技重大风险视域下应该放弃快速解决问题的幻想，而科技伦理教育是我们从根本上获得伦理能力的基础，特别是科技伦理的“实践有效性”是全球问题。她总结了美、英、德、日等国科技伦理教育的经验，提出了科技伦理教育的多种形式、多重主体、多重目标。科技伦理教育主体应当从知识传授，到科技伦理能力的提高，再到通过伦理教育完成科学价值塑造。

　　中国科学院王彦雨副研究员以《人工智能巨风险研究：形成机制、路径及未来治理》为题提出“人工智能巨风险（AI巨风险）”概念和议题，认为在关注AI伦理及散发风险等问题的基础上，应对人工智能应用与传播过程中所可能引发的大范围、高强度、规模化社会风险问题给予足够关注。他提出应构建“机器风险学”，深入分析AI巨风险形成的动力学机制及社会治理模式。

　　首都师范大学李昕教授的报告《作为规制手段的数据安全标准：特质、功能》对数据安全的规制手段及治理标准等问题进行了详细论述。报告指出，数据安全标准的制定是国家进行数据治理、防控数据风险的重要方式，具有重要功能，如数据安全标准是整合多元利益的载体，是沟通技术与法律的介质。未来的数据安全规制，应注重三点：厘定标准在数据安全治理规范体系中的角色定位；优先制定标准中利益相关方的决策参与机制；完善数据安全标准的事前核定制定。她进而指出，安全标准竞争的本质是技术竞争，在通过技术竞争促进技术发展的同时，应避免技术权力侵蚀公共利益及其合法性。

　　内蒙古大学徐旭博士报告了其与陈凡教授合写的论文《技术创新的风险分析》。报告指出，人们既希望通过技术创新降低甚至避免自然和社会风险，又将技术创新看作改善人类生活条件、提高人类能力的主要途径之一。技术创新过程长久伴随着不可预知的风险，虽然学者们提出将责任和道德嵌入技术设计过程中，试图通过增加利益相关者的价值理性将技术风险消解在设计阶段，但是技术风险并不会因此消除。他通过梳理技术创新与风险之间的联系，得出技术创新是一种将组织、道德的风险转移到技术活动中的行为过程这一新结论。

　　北京化工大学朱冬香副研究员的报告《科技重大风险的伦理治理模式研究》分析了科技重大风险形成的主要促进因素，包括外部环境因素、颠覆性技术的发展效率、科技管理与组织模式等；提出科技伦理治理的新设计——共建、共治、共享式伦理治理模式；强调重构利益相关方权力和责任，以负责任的科技创新作为共识性的价值目标，并采取集体行动。

　　兰州理工大学研究生刘文文在其报告《马克思主义视域下‘互联网+’时代的伦理困惑及应对研究》中分析了“互联网+”时代的伦理困惑、成因、表现形式及扬弃“互联网+”时代伦理困惑的可能路径。

　　会议闭幕式由张大庆教授主持，刘孝廷教授总结。刘孝廷认为，（1）今天的会议开得很成功，这是我们期待已久的一个会议，因为“风险”是自然辩证法研究的核心课题之一，自然辩证法就是研究人与自然的关系的。其中，科技重大风险问题尤为重要和紧迫，中国也能在这方面发挥更大作用。（2）今天的报告表明，大家研究的很深入，有理论化的，也有实践性的；有概要的，有分论的，这种研究与国外的进展基本同步，是非常可喜的成就。（3）恩格斯早就提出“自然界的报复”的洞见，当前人类已经面临大量共同的类似难题，为此中国自然辩证法界应该积极走向世界，联合各国学者共同探讨如何应对科技重大风险的挑战。

　　张大庆教授最后指出，各位专家的报告都很精彩，也很有启发，反映出中国学者在动荡世界中对高科技广泛运用所具有的一种警惕品质。我们对科学的发展应保持多方面的反思与自觉，需引发我们更多更深层的思考，从而为我国乃至全球科学事业的发展及治理提供有益借鉴，使科学技术的发展真正造福于人。

　　（中国自然辩证法研究会未来哲学与发展战略专委会、科技风险治理与人类安全专委会和中国科学院自然科学史研究所科技与社会研究中心  供稿）