【資料圖】

近期，人工智能大模型在用戶體驗上取得了顯著提升，發展與應用機遇不斷涌現。例如在文本生成領域，人工智能大模型有望基于互聯網文本生成針對某個事務相對更全面深入的分析，從而輔助人類更好地利用互聯網信息解決問題。在圖像生成領域，能夠根據文字描述生成以往并不存在的圖像以及視頻，甚至給人“一圖勝千言”的感受。

然而，潛在的發展與應用機遇的井噴也帶來諸多隱患。生成式人工智能大模型基于包括個人信息的互聯網數據進行內容生成，目前已經出現了模型及其服務侵犯用戶個人隱私的案例；人工智能內容生成技術的濫用和惡用，使得越來越多的虛假信息被用于網絡詐騙和網絡犯罪等場景，對社會信任產生明顯的沖擊；此外，有些人工智能內容生成系統對社會文化和價值觀沒有客觀的評價和闡述方式，對特定群體的價值觀和文化認同也產生了挑戰；人工智能內容生成甚至會對危險行為的實施提供建議……支撐人工智能內容生成訓練的原始互聯網數據、用戶對人工智能內容生成系統提出的問題、系統生成式輸出結果的三重不可預期性，使得人工智能內容生成面臨的風險更加不可控。

由于人工智能大模型迅速廣泛的發展與應用，目前的潛在風險并沒有留給人類足夠的時間準備，就已迅速成為實存風險。人類將如何理解和使用生成式人工智能大模型的輸出？潛在風險是什么？現在學術界和社會還來不及討論，相關的應用就已經大規模進入社會，技術創新和服務的倫理治理卻還沒有跟上。

我們在發展人工智能內容生成技術的同時，需要開展對人工智能內容生成的深度治理。每一個服務于社會的人工智能大模型與系統，都應當為其設計和實現道德與安全框架，以技術落地和自動化檢測與評估等形式，深度融入產品與服務。與發展人工智能技術應用相比，推進人工智能倫理安全的研究不僅同等重要，而且也必不可少。人工智能的研發與服務企業、各級政府監管部門應當盡快建立人工智能倫理與安全委員會，對風險進行實質有效的監管。

近期人工智能大模型的發展，主要依靠的是工程技術的組合創新，同時和海量人工標注與反饋進行深度融合，這跟自然演化錘煉出的“智能”千差萬別。在這種情況下，一方面，應當給予人工智能內容生成產品與服務以明確標識，幫助人們識別合成信息。這是因為目前的人工智能還只是個看似智能的信息處理模型，既不具備真正的智能，更無法承擔道德的責任，不應當混淆人工智能內容生成與人類生產內容的界限。另一方面，研究結構和機理受自然與人類啟發，特別是受腦與心智啟發的人工智能，仍應是形成未來真正意義上的人工智能的突破途徑。自然演化過程中的優勝劣汰避免掉了諸多潛在風險，科學意義上擴展和延伸自然演化的人工智能探索更合乎社會與生態長遠發展的期待。

從現實的視角來看，人工智能大模型的發展和應用機遇仍然是顯見的。接下來，中國的前進方向是發展信息處理能力接近世界高水平，而倫理安全方面顯著超越當前產品的人工智能大模型。與發展信息處理能力同步，賦能社會服務的每一個人工智能大模型應構建可技術落地的倫理安全框架，并經過倫理安全的自動化檢測與評估。在應用層面，由于人工智能大模型目前還存在明確的倫理安全隱患，也只是看似智能的信息處理工具，推進其在不同領域應用的時候，應當把握“人工智能不必無所不在，應適度使用”的原則。對那些用人工智能大模型服務替代人類勞動的嘗試，應積極探索人與人工智能在特定工作中的協作模式，而非急于完全替代。

這也提醒我們，對通用人工智能和超級智能潛在風險的前瞻研究應盡早提上日程。雖然目前的人工智能大模型及其發展路徑的延伸，難以實現真正意義上的通用人工智能，但目前實存風險就已經超出人類預期，而通用人工智能和超級智能的風險如何應對，現在幾乎看不到任何可行的方案。因此人類需要對此盡早準備，避免潛在風險變成實存風險再次上演，到時只會更加措手不及。

總體而言，我們應本著“適度發展，深度治理”的原則，最小化技術發展的倫理安全隱患，并積極主動應對潛在與實存挑戰，推進人工智能大模型穩健發展，賦能社會、經濟與生態的可持續發展。同時，應積極長遠布局，源頭創新，在科學意義上取得人工智能發展的真正突破，并以中國的產業創新體系孵化和放大來自中國的源頭創新，做好充足的準備迎接人工智能發展的“中國時刻”。

（曾毅，作者是中國科學院自動化研究所研究員，國家新一代人工智能治理專委會委員，聯合國教科文組織人工智能倫理特設專家組專家）

關鍵詞：