人工智能是人類智能創造出來的，但是，人工智能一旦被創造出來之后，就有了自己的獨立性，就會給社會帶來一些特殊的影響，因此就需要治理。

我以為，智能社會治理應該包括兩個方面：第一是智能社會的治理;第二是智能的社會治理。人工智能技術在社會中的廣泛應用，會促進社會的發展和變化，也會產生一些新的問題。對于這種新型社會，我們應該如何治理?這里要研究的是作為治理對象的人工智能。另外，人工智能技術也廣泛地應用在社會治理之中，就是要運用人工智能的方法對人類社會進行治理。這里要研究的就是作為治理手段的人工智能。當然，這兩個層面的治理是相互影響、相輔相成的。

人工智能確實有很多優越的地方，可以給我們的工作和生活提供很多方便，幫我們解決不少難題。人工智能也是一把雙刃劍，既能做好事，也能做壞事。這是我們研究智能社會時不能忽視的問題。現在的計算機、互聯網、大數據等新的科學技術給我們的社會發展提供了技術支撐，開拓了發展空間。但是，我們在社會治理中運用這些智能技術的時候，是不是應該有一個底線?哪些是我們可以讓人工智能盡力去完成的，哪些是不應該讓人工智能去完成的?我們不能讓人工智能變成無所不能，更不能讓人工智能變成人類社會的主宰。人類創造人工智能的初衷是善良的，但是其發揮的作用也可能是邪惡的。比如說，人工智能就可能侵害到我們的隱私權。

人工智能的發展，正在改變人類社會，改變我們的人生。那么，人工智能會不會改變人類，會不會改變我們的人性?這也是值得我們思考的問題。我在想，人工智能的發展會不會讓人類變得很弱智或者很低能?20多年前，我們有了智能照相機，那時叫“傻瓜”相機。在那以前，照相是個技術活兒。照相的人得根據經驗自己定光圈，定快門速度，再根據距離調焦距，挺有難度。后來有了智能照相機，這些問題就都不用人干了，所以叫“傻瓜”相機。這并不是說相機很傻，而是說傻瓜都會照相。于是，人就不會照相了!

由此可見，人工智能在給我們提供各種方便的時候，也導致了我們人類一些能力的減退。人體的功能必須經常使用，長期不用就會退化。我現在有一個感觸，那就是提筆忘字。我平時用電腦，很少動筆寫字，我的寫字功能就有明顯的減退，不僅寫不好，而且不會寫了。現在，我們在家庭生活中也有了很多人工智能的東西，例如智能掃地機、智能洗衣機、智能電飯鍋、智能電冰箱等等。我們從這些家務勞動中解放出來，但同時也就喪失了一些能力。以后，我們可能還有智能床，不僅能調節我們的睡眠，還能幫我們設計好夢。另外，我們一起床，它還能幫我們把衣服都穿上。如此下去，我們會不會越來越笨，人類的子孫后代會不會就變得大腦萎縮，越來越弱智，或是低能?所以，我們在構建智能社會的時候，還是要給人工智能定一個界限，哪些是它可以做的，哪些是它不能做的。

在計算機和互聯網高速發展的當今世界，人類似乎變得更加孤獨，更加焦慮，更加自私，更加冷酷，人類社會似乎也變得更加割裂，更加對立，更傾向于不同群體的極端性抗爭。在虛擬世界中，極端主義可以肆無忌憚，而且是一呼百應。于是，國際關系也變得更趨緊張，爆發戰爭的危險也在增長。據說，未來戰爭可能不需要人類親自動手了，可以讓無人機等智能武器去打仗。但問題是，這些無人機打的不僅僅是無人機，也包括活生生的人!總之，人工智能是一把雙刃劍，既能為人類做好事，也能為人類做壞事。因此，我們在創建智能社會的時候，既要開發人工智能的善，也要限制人工智能的惡，要努力構建有人文溫度的智能社會。人工智能確實是人類社會的重大發明，但是，我希望這不是人類社會的最后一個重大發明。不要讓人工智能成為人類的終結者。

(作者為中國人民大學法學院教授)