??對智能機器人自我意識問題的深切關(guān)注，反映了人們對智能機器人失控的憂懼。而消除這種憂懼的最佳方式，就是深刻認識和把握其原理與本質(zhì)，打開智能機器人自我意識的黑箱，并推動其向善發(fā)展。

??把握不同路徑

??總的來看，人類自我意識的產(chǎn)生主要有兩種方式，一是自我激發(fā)，二是他人認同。自我意識與自我認同是不可分割的，而自我認同則離不開群體中他人的認同。所以，自我意識通常在獲得社會其他成員的認同中產(chǎn)生。在探索智能機器人自我意識時，這兩種路徑各自進行了嘗試，并取得了不同的進展。按照技術(shù)發(fā)展路徑，智能機器人主要分為數(shù)據(jù)智能和類腦智能，二者自我意識產(chǎn)生分別采用了他人認同路徑和自我激發(fā)路徑，其本質(zhì)也不相同。

??一是數(shù)據(jù)智能機器人“設(shè)計”出自我意識，即他人認同路徑。這一路徑通過算法設(shè)計和大數(shù)據(jù)支持，讓機器人表現(xiàn)得具有“自我意識”。無論是數(shù)字計算機，還是量子計算機，其產(chǎn)生自我意識的途徑都屬于數(shù)據(jù)智能路徑。但這一路徑存在數(shù)據(jù)兼容和溢出的風險。很明顯，這一路徑產(chǎn)生的“自我意識”是環(huán)境中的設(shè)計者和使用者賦予智能機器人的，認知主體是人體而非機體。這在情感機器人或社交機器人中尤為常見。而社交類智能機器人的使用者，往往會在與其長期相處中產(chǎn)生機器人也有情感和自我意識的錯覺。心理學上將這種現(xiàn)象稱為共情效應(yīng)。通常情況下，能產(chǎn)生越強共情效應(yīng)的機器人往往越受消費者歡迎。然而，通過考察情感或自我意識內(nèi)在的真實內(nèi)容及其規(guī)律性就會發(fā)現(xiàn)，這只是特定情境中的使用者認為機器人已彰顯出自我意識和情感。因此，并不能說明這類機器人能夠自我激發(fā)產(chǎn)生自我意識或情感。

??二是類腦智能機器人“生長”出自我意識，即自我激發(fā)路徑。這一路徑通過類腦技術(shù)支持，讓機器人擁有能感知的“身體”，形成獨立的“自我意識”。這里的“自我意識”雖然源自機體，但卻是承載生物芯片的有機體，因此無論是技術(shù)悲觀派還是樂觀派都不能否認其產(chǎn)生自我意識的可能性。比如，曾毅團隊在認知神經(jīng)科學家的實驗基礎(chǔ)上，用自主研發(fā)的類腦機器人成功挑戰(zhàn)了自我意識鏡像實驗，為機器人自我意識建立了受生物激發(fā)的模型。雖然鏡像實驗只能作為機器人自我意識驗證的一個視角，但我們可以據(jù)此展望未來，制造出生物性質(zhì)的類人自我意識的智能機器人并不是天方夜譚。這一路徑存在生物芯片信息難以掌控的風險。目前大多數(shù)相關(guān)研究都局限于實驗室內(nèi)，而已臨床使用的僅是針對腦部疾病的腦機接口技術(shù)，并且這種技術(shù)的使用需要患者提前進行訓練，也就是要通過人的協(xié)助才能展現(xiàn)出智能。

??探索人機融合

??智能機器人自我意識的產(chǎn)生可能增加人類對其失控的憂懼，而人機融合發(fā)展則能夠降低這種危害的可能性。人機融合智能是充分利用人和機器各自的長處形成的新型智能形式。大數(shù)據(jù)人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機混合智能、自主智能系統(tǒng)等是目前主要的五類人機融合智能。為引導智能機器人向善發(fā)展，規(guī)避不良社會影響，需要人類主動回應(yīng)和采取措施。

??一是進行前瞻性倫理設(shè)計。技術(shù)實體論認為，技術(shù)是一種實體，是負載著價值的。尤其是現(xiàn)在自主性越來越強的智能機器人，根據(jù)算法的設(shè)計能夠自適應(yīng)環(huán)境自主決策，產(chǎn)生的結(jié)果甚至是不可控的。這種算法復雜性和不可控性，很好地支持了技術(shù)實體論的立場。由此，對技術(shù)風險的治理則需要一種前瞻模式。雖然目前類腦智能對意識和自我意識的研究尚處于初級階段，但讓其自主產(chǎn)生自我意識一直是很多研發(fā)者的目標。因此，要在其自我意識研究尚處于初級階段時提出倫理框架，根據(jù)“自上而下”和“自下而上”各自的優(yōu)勢提出組合模式：將“不傷害不作惡”作為底線原則進行價值敏感設(shè)計，并在后天學習中通過底線原則對學習到的人類行為進行過濾。倘若完全采取情境學習的路徑，一旦投入市場使用，就會出現(xiàn)不可控的后果。因此，必須將底線原則與情境學習相結(jié)合，才能保證智能機器人的安全可控。

??二是建立以人為主導的人機協(xié)同演化關(guān)系。對智能機器人自我意識的深切關(guān)注，實質(zhì)上反映了人們對智能機器人失控的憂懼。在此基礎(chǔ)上形成的人機關(guān)系，既不利于人工智能的健康發(fā)展，也不利于人的自由而全面發(fā)展。對此，我們需要探索出一種健康、可持續(xù)的人機關(guān)系，即以人為主導的人機協(xié)同演化關(guān)系。以人為主導，可以保證人在協(xié)同演化中不喪失主體性。只有保持這種主體性，人類才能理性決定機器人“能夠做什么”和“應(yīng)該做什么”，保證人工智能產(chǎn)品按照人的價值理念演化，從而掌握協(xié)同演化的主動權(quán)，實現(xiàn)智能機器人向善發(fā)展的目標。同時，以人為主導才能促使人類主動承擔協(xié)同演化中的過失責任。若智能機器人產(chǎn)生自我意識，將引發(fā)其道德地位和道德承受能力的爭論。實際上，讓機器人擁有一定的道德判斷能力，目的是為了更好地為人類服務(wù)，盡量減少甚至避免負面影響，而不是讓它們必須擁有權(quán)利或承擔責任，二者是可以分開的。人是責任的承擔者。人的責任不僅包括在風險預(yù)防階段做好價值敏感設(shè)計，也包括在風險產(chǎn)生后通過制度構(gòu)建來降低損失。

??三是建立“社會—技術(shù)”一體化協(xié)調(diào)發(fā)展的體制機制。若智能機器人產(chǎn)生自我意識，所帶來的變化不僅是技術(shù)上的顛覆性創(chuàng)新，而且對原有社會運行機制的影響更是難以清楚預(yù)判。面對具有自我意識的智能機器人的來臨，不僅需要在研發(fā)階段進行提前干預(yù)，同時也需要社會體制機制的創(chuàng)新來適應(yīng)。為保證新的智能機器人產(chǎn)品的向善導向，就必須在研發(fā)和使用中進行監(jiān)管。同時，政府要積極引導第三方機構(gòu)對其可能引發(fā)的隱私、安全、社會公正等問題進行敏感性評估，要求企業(yè)對出現(xiàn)問題的產(chǎn)品建立補償或召回機制。

??四是積極引導公眾參與。技術(shù)的進步與應(yīng)用在為人們的生活帶來便利的同時，也讓人們在一定程度上產(chǎn)生了恐懼。這種技術(shù)恐懼源于技術(shù)自身的復雜性和不確定性，尤其是對于可能產(chǎn)生自我意識的智能機器人。要消除技術(shù)恐懼的根本方法，就是讓公眾參與到智能機器人的技術(shù)治理過程當中。一方面，公眾參與有助于提高智能機器人的社會接受度。公眾對技術(shù)研發(fā)的參與程度越深入，對技術(shù)細節(jié)越了解，也就越容易接受具有自我意識的智能機器人。另一方面，公眾參與有助于提高智能機器人社會風險評估的準確性。適當?shù)墓妳⑴c對智能機器人的社會風險因素識別更加全面和準確，由此制定的預(yù)防性措施將更加有效?？傊喙妳⑴c將有助于實現(xiàn)人工智能向善的目標，這也是提出人機融合智能的初衷。