現(xiàn)在AI沒意識，不代表以后沒有！

人工智能會發(fā)展出意識嗎？

【資料圖】

今年年初ChatGPT的熱潮席卷全球的時候，這一度還是許多人關心的問題（另一個問題則是AI會不會讓自己失業(yè)）。不過這種恐懼和危機感，后來很快就被各種讓人眼花繚亂的大模型產品取代了，絕大多數(shù)人在焦慮未來和關注眼前之間選擇了后者。

不過59歲的Yoshua Bengio依然在關注這件事，就在當?shù)貢r間本周二，包括他在內的一個19人團隊剛剛發(fā)布了一篇長達88頁的重磅論文，來論證現(xiàn)在的AI有無可能擁有意識。

Bengio曾在2018年因深度學習的相關研究獲得圖靈獎，被認為是人工智能領域先驅式的人物；論文的其余作者也都是來自人工智能、神經科學和哲學領域的教授和專家。

先看結論：這篇論文認為，目前并不存在擁有意識的AI，但是以現(xiàn)有的技術條件，創(chuàng)造出有意識的AI基本不成問題。

光是一句話就足夠讓人汗毛樹立。這就好像，昨天我們還在說能在虛擬小鎮(zhèn)里相安無事像人一樣過生活的AI智能體，明天這群AI智能體就開始想著小鎮(zhèn)外面有什么、真正的人類世界是什么樣之類的事了……

是福還是禍，我們不如先來看看這篇論文的研究方法。

首先必須指出的是，關于什么是“意識”，雖然每個人都能大概講出一些自己的理解，但在學界，意識的概念長達幾個世紀以來都存在不同的定義。哲學家、神學家、語言學家和科學家對這個概念進行了數(shù)千年的分析、界定、詮釋和辯論，但意識的本質仍然統(tǒng)一的認可、留有爭議。

人工智能領域對于人工意識的理解也經歷了漫長的演進。

20世紀以來，以艾倫·圖靈為代表的行為主義者曾貢獻了這一領域最具影響力的對意識的定義，也就是著名的“圖靈測試”——如果一個測試者對無法確認身份的兩個對象（一人、一機器）提出相同的一系列問題，得到的答案讓他無法區(qū)分究竟誰是機器，誰是人，那么則認定機器通過圖靈測試，擁有意識。

行為主義的特點是，將意識解釋為一系列能被外部觀察到的行為，以行為來定義意識。但這種方法也被詬病忽略了心理現(xiàn)象，無法解釋智力。

功能主義后來取代行為主義，成為新的定義人工意識的主導思想理論。和行為主義相比，功能主義更關注大腦做了什么以及大腦功能在哪里起作用——如果有任何東西可以模仿特定的心理狀態(tài)與計算過程的因果作用，意識就是可以實現(xiàn)的。

功能主義也對事物如何工作、到底是由怎樣的材質組成等等外化體現(xiàn)不感興趣，就好比將任何能報時的東西都歸為時鐘一樣，而時鐘是什么 制成的并不重要，只要它能報時就行了。

盡管功能主義也被認為存在無法體現(xiàn)事物的思考性等問題，但它依然是現(xiàn)在人工智能領域較為主流的衡量AI是否存在意識的依據(jù)。

后來美國哲學家、計算機科學家Hilary Putnam又將功能主義與計算概念結合，提出了計算功能主義。簡而言之，計算功能主義認為，精神世界是基于一個使用諸如信息、計算（思考）、記憶（存儲）和反饋等概念的物理系統(tǒng)（即計算機）。

而Bengio等人此次發(fā)布的論文，對AI有無意識基礎的判斷依據(jù)正是計算功能主義。

基礎原則確定之后，接下來就進入到了更細致的“打分”環(huán)節(jié)。因為此前，學界對意識的研究已經有了一些公認的結果，比如科學家和哲學家對意識必要條件的主張等等，論文作者在研究中做的事情就是，從過往對意識研究的成果中選取一部分科學理論，作為判斷AI是否具有意識的更具體的評估依據(jù)和指標。

論文主要介紹了其中用到的循環(huán)加工理論（Recurrent Processing Theory，RPT），全局工作空間理論（Global Workspace Theory，GWT）和計算高階理論（Computational Higher-Order Theories，HOT）三種科學理論。

以循環(huán)加工理論（RPT）為例，研究者將這一理論具體拆分成了RPT-1和RPT-2兩個指標：RPT-1指“使用算法循環(huán)的輸入模塊”，RPT-2指“生成有組織、整合的感知表示的輸入模塊”。

在衡量一個AI有無意識時，要做的就是將其性能和這些指標進行對照。

以下是論文中詳細列出的其他科學理論指標：

當然這一步并不是真的去給一個AI打分，而是要看這個AI能夠同時滿足以上多少指標。研究者同時也指出，判斷AI有無意識并沒有絕對的答案：

為了方便起見，我們通常把意識寫得好像是一個要么全有要么全無的問題。然而，我們對這種情況的可能性持開放態(tài)度：一個AI系統(tǒng)可能是部分有意識的，或者既不是完全有意識的，也不是完全無意識的。有許多屬性具有“模糊”的邊界，就像一件襯衫可能是介于黃色和綠色之間的一種顏色，這樣就沒有關于它是否是黃色的事實。

此外，論文中也提到此次研究使用了偏理論的研究方法。這其實也和計算功能主義的原則相對應，偏理論指的是去評估AI是否滿足科學理論指標中的功能或架構條件，而不是去尋找他們某些具體的行為特征，“對于AI意識研究來說，一種重理論的方法是必要的，重理論的方法是專注于系統(tǒng)如何工作，而不是它們是否顯示出可能被視為有意識存在特征的外在行為形式”。

以上便是這篇論文用到的研究方法。

論文的下半部分也提到了一些具體的研究案例，來體現(xiàn)判斷特定的AI系統(tǒng)是否具有意識的研究過程，其中就包括了基于Transformer的大語言模型和Perceiver架構，還分析了DeepMind的Adaptive Agent（一個在3D虛擬環(huán)境中運行的強化學習智能體）和谷歌的PaLM-E（一個經過訓練可以操縱機器人的多模態(tài)視覺語言模型）。

不過最終結果顯示，這些AI系統(tǒng)并沒有體現(xiàn)出非常明顯的有意識的傾向。

研究者同時寫道，“我們研究的證據(jù)表明，如果計算功能主義是正確的，有意識的AI系統(tǒng)實際上可以在近期內建立起來?！?/p>

論文發(fā)表后，英偉達首席AI科學家Jim Fan第一時間便轉發(fā)了這一消息，并表示了他對研究團隊的敬佩，

“ ‘意識’一直都是AI領域大家諱莫如深的話題。這篇由圖靈獎得主Yoshua Bengio參與撰寫的88頁論文，是對意識科學理論以及當今人工智能堆棧中可能實現(xiàn)的系統(tǒng)調查，我贊揚他們有勇氣去解決這個大多數(shù)研究人員都會回避的爭議性話題?！?/blockquote>

事實上，作為世界級的人工智能專家和深度學習先驅，Bengio近年來的研究課題許多都和人工智能的意識問題相關——

2017年，他曾在arXiv上發(fā)布過一篇題為《意識先驗》（The Consciousness Prior）的文章；2019年的NeurIPS大會上，他又發(fā)表了《從System 1深度學習到System 2深度學習》的主題演講，提出了一個在當時讓人印象深刻的觀點：深度學習正在從直觀的、無意識的靜態(tài)數(shù)據(jù)集學習，向具有意識、推理和邏輯的新型架構研究轉變。

而在今年3月，Bengio也參與了那場轟轟烈烈的反對各家人工智能實驗室搞AI“軍備競賽”、要求其暫停至少6個月比GPT-4更強大模型研發(fā)的運動，和其他超過千名的產業(yè)和學術大佬一起在公開信上簽了名；兩個月后，他又發(fā)表了一篇系統(tǒng)分析“危害人類的AI是如何出現(xiàn)的”的文章。

直到這次聯(lián)合發(fā)表這篇長達88頁的論文，Bengio一直都在不遺余力地做那個想要警醒大家AI的未來該向何處去的人。

就像這篇論文里寫到的那句話，“這篇報告還遠未對這些（AI有無意識的）話題做出最終定論。我們強烈建議支持對意識科學及其在AI中應用的進一步研究。我們也呼吁，社區(qū)應盡快將建立有意識的AI系統(tǒng)的道德和社會風險納入考量（盡管這并不是這篇報告所強調的主題）?！?/p>

關鍵詞：