智能不是人腦（或類(lèi)腦）的產(chǎn)物，也不是人自身的產(chǎn)物，而是人、物、環(huán)境系統(tǒng)相互作用的產(chǎn)物。人工智能的優(yōu)勢(shì)在于龐大的信息存儲(chǔ)量和高速的處理速度，但是無(wú)法處理如休謨之問(wèn)，即從“是”（being）能否推出“應(yīng)該”（should），也即“事實(shí)”命題能否推出“價(jià)值”命題。
目前，國(guó)內(nèi)外人工智能的核心在于兩個(gè)方向，一個(gè)是“機(jī)器學(xué)習(xí)”，另一個(gè)是“自主系統(tǒng)”。在機(jī)器學(xué)習(xí)各方法中，深度學(xué)習(xí)方法容易導(dǎo)致局部（非全局）最優(yōu)，強(qiáng)化學(xué)習(xí)很難識(shí)別意圖的隱藏和偽裝，遷移學(xué)習(xí)的跨域能力很差等等，這些機(jī)器學(xué)習(xí)的缺點(diǎn)很難實(shí)現(xiàn)真正的智能；另外，現(xiàn)在的自主系統(tǒng)還處在“偽自主”階段，究其原因是由其底層的技術(shù)架構(gòu)——機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制局限所致。無(wú)論行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí)，還是符號(hào)主義的專(zhuān)家系統(tǒng)都不能如實(shí)準(zhǔn)確地反映人類(lèi)的認(rèn)知機(jī)理，比如直覺(jué)、情感、價(jià)值等。
目前人工智能技術(shù)的核心問(wèn)題
當(dāng)前的人工智能及未來(lái)的智能科學(xué)研究存在兩個(gè)致命的缺點(diǎn)：一是把數(shù)學(xué)等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數(shù)學(xué)歸于邏輯學(xué)(logic)之下（“+logy”也成為許多學(xué)科(非所有學(xué)科)的字尾，譬如生物學(xué)Biology=bio+logy）。
邏輯是探索、闡述和確立有效推理原則的學(xué)料。數(shù)學(xué)不等同于邏輯，數(shù)學(xué)研究空間形式和數(shù)量關(guān)系結(jié)構(gòu)，是一種基于公理的邏輯體系；邏輯研究思維的形式結(jié)構(gòu)。二者一致之處在于“研究對(duì)象都是高度抽象的結(jié)構(gòu)”。二者不同之處在于，一方面，數(shù)學(xué)和邏輯的研究對(duì)象不同，數(shù)學(xué)的研究對(duì)象是客觀事物的空間形式與數(shù)量關(guān)系，而邏輯學(xué)的研究對(duì)象是思維的形式及規(guī)律；另一方面，數(shù)學(xué)和邏輯的任務(wù)和目標(biāo)不相同，數(shù)學(xué)的主要目標(biāo)和任務(wù)是揭示客觀事物的空間形式與數(shù)量關(guān)系的特征，探索其規(guī)律性，而邏輯的主要目標(biāo)和任務(wù)卻是為了解決思維推理形式的有效性或真實(shí)性問(wèn)題。
另一個(gè)致命的缺點(diǎn)便是把符號(hào)與對(duì)象的指涉混淆。符號(hào)重點(diǎn)在于表征，而對(duì)象重點(diǎn)在于意向性。一般來(lái)說(shuō)，一種意向可以對(duì)應(yīng)一種或多種符號(hào)，而一種符號(hào)代表的意向性也可以有多個(gè)指向（如能指、所指、意指），人類(lèi)可以用“一花一世界，一樹(shù)一菩提”靈活地表征任何事物，而目前的機(jī)器卻只能用固定打標(biāo)的方式孤立、靜止、片面地表征一個(gè)事物。
這兩個(gè)缺點(diǎn)直接誘發(fā)了以下幾個(gè)很難解決的智能領(lǐng)域及軍事智能領(lǐng)域問(wèn)題：一是客觀數(shù)據(jù)與主觀信息、知識(shí)的彈性輸入——靈活的表征；二是公理與非公理推理的有機(jī)融合——有效的處理；三是責(zé)任性判斷與無(wú)風(fēng)險(xiǎn)性決策的無(wú)縫銜接——虛實(shí)互補(bǔ)的輸出；四是人類(lèi)反思與機(jī)器反饋之間的相互協(xié)同調(diào)整；五是深度態(tài)勢(shì)感知與其逆向資源管理過(guò)程的雙向平衡；六是人機(jī)之間的透明信任機(jī)制生成；七是機(jī)器常識(shí)與人類(lèi)常識(shí)的差異；八是人機(jī)之間可解釋性的閾值；九是機(jī)器終身學(xué)習(xí)的范圍/內(nèi)容與人類(lèi)學(xué)習(xí)的不同。
人機(jī)混合智能是未來(lái)智能領(lǐng)域的發(fā)展方向
智能是一種由人、機(jī)、環(huán)境系統(tǒng)相互作用而產(chǎn)生的組織形式，是物理、生理、心理、數(shù)理、管理、哲理、文理、機(jī)理、藝?yán)怼⒌乩怼惱怼⒆诶淼榷嗍聦?shí)、多價(jià)值、多責(zé)任的混合適應(yīng)體系，所以智能可能不是單純的類(lèi)腦（比如狼孩的人腦就沒(méi)有人類(lèi)智能）。
人工智能只是人類(lèi)智能可描述化、可程序化的一部分，而人類(lèi)的智能是人、機(jī)（物）、環(huán)境系統(tǒng)相互作用的產(chǎn)物。智能生成的機(jī)理，簡(jiǎn)而言之，就是人物（機(jī)屬人造物）環(huán)境系統(tǒng)相互作用的疊加結(jié)果，由人、機(jī)器、各種環(huán)境的變化狀態(tài)所疊加衍生出的形勢(shì)、局勢(shì)和趨勢(shì)（簡(jiǎn)稱(chēng)勢(shì)）共同構(gòu)成，三者變化的狀態(tài)有好有壞、有高有低、有順有逆，體現(xiàn)智能的生成則是由人、機(jī)、環(huán)境系統(tǒng)態(tài)、勢(shì)的和諧共振大小程度所決定的，三者之間具有建設(shè)性和破壞性干涉效應(yīng)，或增強(qiáng)或消除，三位一體則智能強(qiáng)，三位多體則智能弱。
如何調(diào)諧共頻則是人機(jī)融合智能的關(guān)鍵。當(dāng)代人工智能由最初的完全人工編譯的機(jī)器自動(dòng)化發(fā)展到了人工預(yù)編譯的機(jī)器學(xué)習(xí)，接下來(lái)的發(fā)展可能是通過(guò)人機(jī)融合智能的方法來(lái)實(shí)現(xiàn)機(jī)器認(rèn)知，最終實(shí)現(xiàn)機(jī)器覺(jué)醒。
在智能領(lǐng)域中，對(duì)自動(dòng)化、智能化概念的厘清非常重要，自動(dòng)化是確定性的輸入，可編程的處理，確定性的輸出；人工智能是部分確定性的輸入，可編程的處理，部分確定性的輸出；智能是不確定性的輸入，部分可編程的處理，不確定性的輸出。人工智能（含自動(dòng)化）與智能的區(qū)別在于，一個(gè)是功能，一個(gè)是能力。
很多人期望得到的往往是能力，而不是功能，即通過(guò)人工智能功能實(shí)現(xiàn)智能能力，這就是期望與現(xiàn)實(shí)的矛盾之所在，同時(shí)也是人們失望之所在：把功能錯(cuò)看成了能力。智能需要實(shí)現(xiàn)的是一種合成：功能+能力（簡(jiǎn)稱(chēng)功能力）。機(jī)器功能邏輯的基礎(chǔ)是映射關(guān)系，而人類(lèi)直覺(jué)能力的基礎(chǔ)則是漫射、散射、影射，其中人類(lèi)的想象力、創(chuàng)造力是一種情理融合之能力，也是“智能”的邊界。所以?xún)H開(kāi)發(fā)出高性能智能產(chǎn)品或系統(tǒng)仍不可能提高體系的組織力和創(chuàng)造力，該模型必須集成到運(yùn)行技術(shù)系統(tǒng)、組織流程和人員運(yùn)行流程中才能發(fā)揮其威力和效力。
然而，智能化的瓶頸和關(guān)鍵問(wèn)題在于不是單純的快、單純的準(zhǔn)、而是對(duì)，例如單純機(jī)器計(jì)算的越精細(xì)、越準(zhǔn)確、越快速，危險(xiǎn)性越大，因?yàn)椴┺膶?duì)方可以隱真示假、造勢(shì)欺騙、以真亂假，所以有專(zhuān)家參與的人機(jī)融合/混合智能顯得相對(duì)更重要、更迫切、更有效。
人機(jī)混合常常是指人+機(jī)（側(cè)重事實(shí)性數(shù)理物理結(jié)合，價(jià)值性結(jié)合較少）；人機(jī)融合往往是指人*機(jī)（既包括事實(shí)，也涉及價(jià)值，既有數(shù)理物理交互，也有心理倫理交流）。對(duì)于軍事界而言，大多數(shù)認(rèn)為：人必須在人—裝備—環(huán)境系統(tǒng)中并掌控著該系統(tǒng)的關(guān)鍵使用（如許多科學(xué)家支持致命性自主武器系統(tǒng)宣言，以反對(duì)脫離人類(lèi)控制的自主武器系統(tǒng)開(kāi)發(fā)），這就要求兩點(diǎn)，首先是必須可靠的人在系統(tǒng)中，而不能是不可靠的人在系統(tǒng)中；其次，要求人、機(jī)不能是平等的關(guān)系，可靠的人必須要掌控關(guān)鍵作用。所以從這個(gè)角度看，對(duì)軍事智能而言，“人機(jī)混合”要比“人機(jī)融合”一詞要準(zhǔn)確一些（可以保證人主機(jī)輔關(guān)系的一致性）。
如何實(shí)現(xiàn)人的算計(jì)（經(jīng)驗(yàn)）與機(jī)的計(jì)算（模型）融合后的計(jì)算計(jì)系統(tǒng)呢？東方思想里的“易”就是一個(gè)典型的計(jì)算計(jì)（計(jì)算+算計(jì)）系統(tǒng)，有算有計(jì)，有性有量，有顯有隱，計(jì)算交融，情理相依。其中的“與或非”邏輯既有人經(jīng)驗(yàn)的、也有物（機(jī)）數(shù)據(jù)的，即人價(jià)值性的“與或非”+機(jī)事實(shí)性的“與或非”，人機(jī)融合智能及深度態(tài)勢(shì)感知的任務(wù)之一就是要打開(kāi)與、或、非門(mén)的狹隘，比如大與、小與，大或、小或，大非、小非……大是（being）、大應(yīng)（should）、小是（being）、小應(yīng)（should）。人的經(jīng)驗(yàn)性概率與機(jī)器的事實(shí)性概率不同，它是一種價(jià)值性概率，可以穿透非家族相似性的壁壘，用其它領(lǐng)域的成敗得失結(jié)果影響當(dāng)前領(lǐng)域的態(tài)勢(shì)感知SA，比如同情、共感、同理心、信任等。
凡事有利就有弊，手機(jī)不例外，智能也不例外。在人機(jī)環(huán)境系統(tǒng)動(dòng)態(tài)交互（產(chǎn)生智能）時(shí)，由于時(shí)間、空間、對(duì)象、屬性、關(guān)系、條件、規(guī)則、情緒、狀態(tài)、趨勢(shì)、感知等的變化，智能中的方式、方法、方案、手段、工具都會(huì)做適當(dāng)?shù)恼{(diào)整和重新組合，正可謂時(shí)變法亦變。智能需要解決的常常是面對(duì)的真實(shí)問(wèn)題，比如安全威脅、高效處理、準(zhǔn)確預(yù)測(cè)等等。智能包含著過(guò)去的經(jīng)驗(yàn)和數(shù)據(jù)，但不會(huì)僅僅依賴(lài)這些過(guò)去，它還包含著未來(lái)對(duì)此時(shí)的影響，比如期望的反饋。一般而言，不能隨機(jī)應(yīng)變的智能應(yīng)該不是真智能。人機(jī)交互、人機(jī)混合、人機(jī)融合智能……中人工智能AI可以幫助人，也可以阻礙人，還可以毀掉人，比如過(guò)度依賴(lài)AI易造成失去人性中的自信、果敢和勇氣等，做這些工作或申請(qǐng)項(xiàng)目時(shí)，望不要光看人機(jī)融合中計(jì)算計(jì)系統(tǒng)好的一面，還希望管理者、評(píng)審者也能客觀地看到其不好的一面，在不少情境任務(wù)下，不好的概率可能更高一些！
主流人工智能學(xué)科仍無(wú)法理解人機(jī)融合智能領(lǐng)域
AI追求數(shù)據(jù)化、確定性和理性的解釋?zhuān)俣ㄈ魏螁?wèn)題都有標(biāo)準(zhǔn)答案，把每個(gè)決策簡(jiǎn)單地變成約束條件下求解，變成數(shù)據(jù)計(jì)算。但是，真實(shí)世界里具有大量的不確定性，沒(méi)有標(biāo)準(zhǔn)答案，需要人的想象力和算計(jì)，不是循規(guī)蹈矩。
研究一個(gè)事物如果不從未來(lái)看它，往往會(huì)被它迷惑。計(jì)算是算計(jì)的產(chǎn)物，計(jì)算常是算計(jì)的簡(jiǎn)化版，不能體現(xiàn)出算計(jì)中主動(dòng)、辯證、矛盾的價(jià)值。計(jì)算可以處理關(guān)鍵場(chǎng)景的特征函數(shù)，但較難解決基本場(chǎng)景的對(duì)應(yīng)規(guī)則，更難對(duì)付任意場(chǎng)景的統(tǒng)計(jì)概率，可惜這些還僅僅只是場(chǎng)景，遠(yuǎn)未涉及情境和意識(shí)……
智能僅是解決問(wèn)題的一種工具手段，若不與日常生活中的風(fēng)俗習(xí)慣、倫理道德中的仁義禮智信勇、法律中的邊界規(guī)則統(tǒng)計(jì)概率等諸多方面相結(jié)合，就很容易泛濫成災(zāi)而不可控制。真實(shí)的智能不是萬(wàn)能，它不但涉及事實(shí)性的真假問(wèn)題，還應(yīng)該包括價(jià)值性的是非問(wèn)題，更與責(zé)任性的大小輕重密切相關(guān)。所以，嚴(yán)格意義上講，軍事智能是許多領(lǐng)域的一連串組合應(yīng)用。
對(duì)于人、機(jī)而言，雖然都是將一個(gè)問(wèn)題拆成幾個(gè)子問(wèn)題，分別求解這些子問(wèn)題，即可推斷出大問(wèn)題的解，但是人的動(dòng)態(tài)規(guī)劃與機(jī)器的動(dòng)態(tài)規(guī)劃卻是不同的：有經(jīng)驗(yàn)的人可以游刃有余地將一個(gè)復(fù)雜性大問(wèn)題拆成事實(shí)、價(jià)值、責(zé)任等不同性質(zhì)的小問(wèn)題來(lái)求解，即用事實(shí)、價(jià)值、責(zé)任的不同化法進(jìn)行大事化小，小事化了，還可以避免各種鼠目寸光和畫(huà)地為牢，而目前的機(jī)器對(duì)此異質(zhì)合取化解問(wèn)題依然望塵莫及，人工智能只會(huì)對(duì)比（不是類(lèi)比），也許這也是人類(lèi)智能的又一個(gè)瓶頸和難點(diǎn)——如何有效地處理異質(zhì)性的非形式化問(wèn)題。
計(jì)算是事實(shí)性推理關(guān)系，低階的算計(jì)則是價(jià)值性推理關(guān)系，高階的算計(jì)更是事實(shí)價(jià)值混合/融合的推理關(guān)系，計(jì)算與算計(jì)是不同的因果關(guān)系。人類(lèi)的“既…又…”關(guān)系往往不是“并”的計(jì)算關(guān)系，與具體態(tài)勢(shì)算計(jì)有關(guān)。是非不同于對(duì)錯(cuò)，也不同于真假和01，正如孟子所云：是非之心，智也……
美國(guó)諾貝爾獎(jiǎng)得主卡內(nèi)曼在《快與慢》一書(shū)中將人類(lèi)的本能意識(shí)快決策稱(chēng)為系統(tǒng)一，將人類(lèi)的理性邏輯慢決策稱(chēng)為系統(tǒng)二，并考察了系統(tǒng)一與系統(tǒng)二之間的區(qū)別。經(jīng)過(guò)我們進(jìn)一步研究，人機(jī)環(huán)境系統(tǒng)的深度態(tài)勢(shì)感知中應(yīng)該還有決策系統(tǒng)三——人類(lèi)理性與感性結(jié)合的不快不慢的right決策系統(tǒng)，即人機(jī)融合的計(jì)算計(jì)決策系統(tǒng)。■
(作者系北京郵電大學(xué)人工智能學(xué)院研究員)