风险敏感的创新
武夷山
Science and Public Policy（科学与公共政策）杂志网站2024年7月30日发表了英国人工智能安全问题研究所的Jonas B Sandbrink和另外四位学者（Hamish Hobbs, Jacob L Swett、Allan Dafoe和 Anders Sandberg）合著的文章，Risk-sensitive innovation: leveraging interactions between technologies to navigate technology risks（风险敏感的创新：利用好不同技术之间的互作用来规避技术风险）。此文可免费下载。文章的摘要说：
推进低排放技术以抵御气候变化的做法表明，战略性地把握技术开发的时机是可以减轻负面的社会后果的。我们提出，也可以用“风险敏感的创新”（RSI）这样一种类似的进路来应对合成生物学和人工智能等新兴技术的风险。RSI利用不同技术之间的互作用来降低技术组合中的一些特定风险。例如，迟滞推进或终止增大风险的技术，优先推进降低风险的国防技术、安全技术或替代技术，也许是有益之举。要想有实用价值，RSI就要求人们具备预见和识别技术影响的能力，对技术开发的相对时机进行干预的能力。我们的分析表明，这两者有时都是可行的。对RSI纳入思考框架对于以下几个方面都有启示意义：政府的科研资助部门和技术规制部门，资助研发的慈善机构，企业社会责任的测度。
文章给出了RSI的定义：为了减轻特定风险，可以考虑这样一些选择，通过对不同技术的开发时机施加影响，来利用不同技术之间的降低风险互作用。
RSI的特征，是着眼于技术之间的互作用。在增大风险的技术问世之前或问世不久之后，推进那些能减轻特定风险的技术，能得到更好的社会结果。例如，印刷技术与防伪技术，小汽车与安全带，抗凝血剂和抗凝血逆转剂，这些东西相互间都有简单的互作用，可以将这些互作用利用起来以降低特定的技术风险。
文章中的表1概括了“迟滞推进和评价增大风险的技术与科研之策略”，如下：
Strategy 策略 | Actors行动者 | Example 事例 | Reference 相关参考文献 |
Defunding 减少资助 | 政府、企业、 慈善机构 | 政府资助的下降阻滞了干细胞研究 | Taylor (2005) |
Moratoria 终止 | 学术界、产业界、政府 | 1974年自愿终止了DNA重组的研究 | Herzog and Parson (2016) |
Stage-gating 阶段控制 | 政府、产业界、学术界、非政府组织 | 英国的地球工程项目 SPICE 实验经历了阶段控制性的评估：评估后该项目先是被延期，后来被取消。 | Stilgoe, Owen, and Macnaghten (2013) |
Bans禁令 | 国际组织、政府 | 蒙特利尔公约降低了消耗臭氧层物质的产量 | European Environment Agency (2021), Fuhrmann and Lupu (2016) |
Regulations规制 | Government 政府 | 由于对化石燃料征税，使得高排放技术方面的创新减少 | Aghion et al. (2016) |
Social norms社会规范 | 学术界、非政府组织、活动分子 | 反对重新制造出已被消灭的天花病毒的社会规范 | Kupferschmidt (2017) |
Advocacy 呼吁造势 | 非政府组织、学术界、产业界 | 50家非政府组织联署的呼吁信导致英国SPICE 地球工程项目的终止 | Stilgoe, Owen, and Macnaghten (2013) |
Divestment 撤销投资 | 非政府组织、产业界 | 对化石燃料撤销投资显著影响了相关话语和规范 | Bergman (2018) |
Information loops信息环 | 政府、非政府组织、产业界 | 1986年制定的有毒物质布其释放清单，要求有物的情况业公布其排放大降低了污染大降低了污染排放量。 | Meadows (1999) |
作者强调说，RSI要求政府、慈善家或其他有关行动者采取干预措施以实现一个目标，比如减轻某一技术的潜在负面影响。然而，任何给定目标都需要与其他目标或价值形成平衡。全球安全重要，科学自由与开放的价值也重要。在某些情况下，甚至需要在降低灾难性风险与获得短期收益二者之间加以平衡。
转载本文请联系原作者获取授权，同时请注明本文来自武夷山科学网博客。
链接地址：https://wap.sciencenet.cn/blog-1557-1444908.html?mobile=1
收藏
