人工智能是人類智能創造出來的,但是,人工智能一旦被創造出來之后,就有了自己的獨立性,就會給社會帶來一些特殊的影響,因此就需要治理。
我以為,智能社會治理應該包括兩個方面:第一是智能社會的治理;第二是智能的社會治理。人工智能技術在社會中的廣泛應用,會促進社會的發展和變化,也會產生一些新的問題。對于這種新型社會,我們應該如何治理?這里要研究的是作為治理對象的人工智能。另外,人工智能技術也廣泛地應用在社會治理之中,就是要運用人工智能的方法對人類社會進行治理。這里要研究的就是作為治理手段的人工智能。當然,這兩個層面的治理是相互影響、相輔相成的。
人工智能確實有很多優越的地方,可以給我們的工作和生活提供很多方便,幫我們解決不少難題。人工智能也是一把雙刃劍,既能做好事,也能做壞事。這是我們研究智能社會時不能忽視的問題。現在的計算機、互聯網、大數據等新的科學技術給我們的社會發展提供了技術支撐,開拓了發展空間。但是,我們在社會治理中運用這些智能技術的時候,是不是應該有一個底線?哪些是我們可以讓人工智能盡力去完成的,哪些是不應該讓人工智能去完成的?我們不能讓人工智能變成無所不能,更不能讓人工智能變成人類社會的主宰。人類創造人工智能的初衷是善良的,但是其發揮的作用也可能是邪惡的。比如說,人工智能就可能侵害到我們的隱私權。
人工智能的發展,正在改變人類社會,改變我們的人生。那么,人工智能會不會改變人類,會不會改變我們的人性?這也是值得我們思考的問題。我在想,人工智能的發展會不會讓人類變得很弱智或者很低能?20多年前,我們有了智能照相機,那時叫“傻瓜”相機。在那以前,照相是個技術活兒。照相的人得根據經驗自己定光圈,定快門速度,再根據距離調焦距,挺有難度。后來有了智能照相機,這些問題就都不用人干了,所以叫“傻瓜”相機。這并不是說相機很傻,而是說傻瓜都會照相。于是,人就不會照相了!
由此可見,人工智能在給我們提供各種方便的時候,也導致了我們人類一些能力的減退。人體的功能必須經常使用,長期不用就會退化。我現在有一個感觸,那就是提筆忘字。我平時用電腦,很少動筆寫字,我的寫字功能就有明顯的減退,不僅寫不好,而且不會寫了。現在,我們在家庭生活中也有了很多人工智能的東西,例如智能掃地機、智能洗衣機、智能電飯鍋、智能電冰箱等等。我們從這些家務勞動中解放出來,但同時也就喪失了一些能力。以后,我們可能還有智能床,不僅能調節我們的睡眠,還能幫我們設計好夢。另外,我們一起床,它還能幫我們把衣服都穿上。如此下去,我們會不會越來越笨,人類的子孫后代會不會就變得大腦萎縮,越來越弱智,或是低能?所以,我們在構建智能社會的時候,還是要給人工智能定一個界限,哪些是它可以做的,哪些是它不能做的。
在計算機和互聯網高速發展的當今世界,人類似乎變得更加孤獨,更加焦慮,更加自私,更加冷酷,人類社會似乎也變得更加割裂,更加對立,更傾向于不同群體的極端性抗爭。在虛擬世界中,極端主義可以肆無忌憚,而且是一呼百應。于是,國際關系也變得更趨緊張,爆發戰爭的危險也在增長。據說,未來戰爭可能不需要人類親自動手了,可以讓無人機等智能武器去打仗。但問題是,這些無人機打的不僅僅是無人機,也包括活生生的人!總之,人工智能是一把雙刃劍,既能為人類做好事,也能為人類做壞事。因此,我們在創建智能社會的時候,既要開發人工智能的善,也要限制人工智能的惡,要努力構建有人文溫度的智能社會。人工智能確實是人類社會的重大發明,但是,我希望這不是人類社會的最后一個重大發明。不要讓人工智能成為人類的終結者。
(作者為中國人民大學法學院教授)