作者：段偉文（中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員）

　　最近，中央深改委會(huì)議審議通過(guò)了《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見(jiàn)》，該指導(dǎo)意見(jiàn)在很大程度上是對(duì)我國(guó)近年科技倫理治理實(shí)踐的工作經(jīng)驗(yàn)和理論研究的總結(jié)。進(jìn)入21世紀(jì)，隨著納米、生命、信息、認(rèn)知等會(huì)聚技術(shù)和大數(shù)據(jù)、人工智能、神經(jīng)科學(xué)等突破性創(chuàng)新的迅猛發(fā)展，科技創(chuàng)新的社會(huì)倫理風(fēng)險(xiǎn)日益凸顯。2017年以來(lái)，在人工智能戰(zhàn)勝人類圍棋棋手等事件的推動(dòng)下，科技倫理問(wèn)題成為世界關(guān)注的焦點(diǎn)，各種科技倫理規(guī)范和倫理治理機(jī)構(gòu)紛紛建立，出現(xiàn)了人類科技發(fā)展史上的“科技倫理時(shí)刻”。

　　科技倫理影響社會(huì)對(duì)科技創(chuàng)新的信任和支持

　　世界各國(guó)和全社會(huì)之所以如此重視科技倫理，最根本的原因是它越來(lái)越影響到社會(huì)對(duì)突破性科技創(chuàng)新的信任和支持。大量前沿科技和突破性創(chuàng)新的發(fā)展經(jīng)驗(yàn)表明，如果不充分重視科技的社會(huì)倫理風(fēng)險(xiǎn)防范，科技創(chuàng)新很可能會(huì)因?yàn)槟承┛萍紓惱硎录蔀樾侣劷裹c(diǎn)，引發(fā)各方對(duì)潛在風(fēng)險(xiǎn)的焦慮，從而不得不作出必要的倫理調(diào)整。一方面，很多科技前沿的探索實(shí)驗(yàn)觸及科技倫理的邊緣地帶，如果對(duì)突破倫理邊界的活動(dòng)缺乏專業(yè)認(rèn)知和道德敏感性，不能主動(dòng)地與同行進(jìn)行公開(kāi)討論并向管理部門(mén)披露問(wèn)題，貿(mào)然前行往往很容易觸碰科技倫理底線，結(jié)果必然是欲速而不達(dá)。另一方面，諸多應(yīng)用性的突破性創(chuàng)新的本質(zhì)是科技—社會(huì)的整體創(chuàng)新，這類新興技術(shù)的發(fā)展可能遭遇的壁壘不僅是技術(shù)方面的，而且很可能因?yàn)轱@現(xiàn)出的社會(huì)倫理風(fēng)險(xiǎn)而遇到來(lái)自社會(huì)的不信任和抵制。在這兩種情況下，由于科技倫理風(fēng)險(xiǎn)意識(shí)的或缺，前沿科技研究和突破性創(chuàng)新都可能不得不進(jìn)行倫理回調(diào)，不論是否存在誤判，這種被動(dòng)的倫理回調(diào)難免對(duì)科技創(chuàng)新造成負(fù)面的影響。

　　應(yīng)對(duì)科技活動(dòng)的后果與風(fēng)險(xiǎn)有更深入的認(rèn)識(shí)

　　眾所周知，科技創(chuàng)新尤其是突破性創(chuàng)新往往會(huì)因?yàn)楦鞣N問(wèn)題而陷入“死亡之谷”，在科技倫理問(wèn)題備受重視的今天，科技倫理治理的關(guān)鍵目標(biāo)應(yīng)該是為創(chuàng)新構(gòu)建必要的保護(hù)空間。為此，應(yīng)該對(duì)科技活動(dòng)的后果與風(fēng)險(xiǎn)的評(píng)估和預(yù)見(jiàn)規(guī)律有深入的認(rèn)知。

　　針對(duì)技術(shù)的社會(huì)影響的評(píng)估，未來(lái)學(xué)家阿馬拉（Roy Amara)曾提出著名的阿馬拉定律，即人們總是高估一項(xiàng)技術(shù)所帶來(lái)的短期效果,卻又低估它的長(zhǎng)期影響。這一定律的啟示在于，對(duì)于突破性創(chuàng)新的弊端，應(yīng)該注意到外界的評(píng)判和社會(huì)輿論容易出現(xiàn)偏頗，特別是可能會(huì)因?yàn)閷?duì)未知風(fēng)險(xiǎn)的焦慮而將它們放大為對(duì)該技術(shù)的極度不信任，管理者要避免在政策層面高估其負(fù)面影響而過(guò)度治理和剛性監(jiān)管。

　　對(duì)于科技的社會(huì)倫理風(fēng)險(xiǎn)的預(yù)見(jiàn)，科技政策學(xué)家科林格里奇（David Collingridge）曾經(jīng)提出過(guò)著名的科林格里奇兩難，指出了人們?cè)陬A(yù)見(jiàn)和防范技術(shù)長(zhǎng)遠(yuǎn)發(fā)展時(shí)所面臨的一個(gè)雙重約束困境（double-bind problem）。其一是信息困境，即人們很難在技術(shù)生命周期的早期對(duì)一項(xiàng)技術(shù)的社會(huì)后果進(jìn)行預(yù)見(jiàn)；其二是控制困境，即當(dāng)人們不希望的出現(xiàn)的后果被發(fā)現(xiàn)時(shí)，技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，以至于難以對(duì)其加以調(diào)控。由此可見(jiàn)，對(duì)科技創(chuàng)新帶來(lái)的復(fù)雜未知社會(huì)倫理風(fēng)險(xiǎn)進(jìn)行預(yù)見(jiàn)和認(rèn)知雖尤為困難，卻不得不為之。而正因?yàn)槿绱?，?duì)這一問(wèn)題的根本化解之道是將其作為科技創(chuàng)新的內(nèi)在環(huán)節(jié)，將科技倫理規(guī)范和價(jià)值觀作為從0到1的創(chuàng)新的有機(jī)目標(biāo)。具體而言，為了促進(jìn)科技創(chuàng)新的發(fā)展，應(yīng)從價(jià)值觀和倫理規(guī)范等軟約束入手，盡早在科技活動(dòng)的全過(guò)程引入倫理治理框架，以提升相關(guān)責(zé)任主體的社會(huì)倫理風(fēng)險(xiǎn)意識(shí)，促使他們?cè)诰唧w的創(chuàng)新實(shí)踐中思考行為的對(duì)錯(cuò)，做出合乎正確價(jià)值觀和倫理規(guī)范的抉擇。

　　依據(jù)這兩方面的認(rèn)知，不難理解指導(dǎo)意見(jiàn)為何強(qiáng)調(diào)科技倫理治理要堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一、制度規(guī)范與自我約束相結(jié)合的治理原則?；谶@一原則，指導(dǎo)意見(jiàn)提出了軟硬兼施的制度框架。一方面，強(qiáng)調(diào)通過(guò)完善政府科技倫理管理體制和壓實(shí)創(chuàng)新主體科技倫理管理主體責(zé)任等構(gòu)建科技倫理治理體制，健全科技倫理治理制度，進(jìn)而強(qiáng)化科技倫理審查和監(jiān)管。另一方面，就是要通過(guò)倫理先行、敏捷治理等基本要求和發(fā)揮科技類社會(huì)團(tuán)體的倫理自律功能、引導(dǎo)科技人員自覺(jué)遵守科技倫理要求等制度設(shè)計(jì)，為科技創(chuàng)新構(gòu)建起必要的倫理軟著陸機(jī)制。

　　為了確保我國(guó)高水平科技自立自強(qiáng)之路走向倫理創(chuàng)新和科技向善的正確方向，科技倫理治理任重道遠(yuǎn)，大有可為。