人工智能“熱”下的“冷”思考

金山網訊   十四屆全國人大三次會議上傳出消息，國家要加大對人工智能、數字經濟、大數據這些前沿領域的立法研究力度。這表示，國家層面正積極對人工智能（AI）進行規范化管理。

今年以來，人工智能領域發展迅猛，AI已經融入人們的日常工作和生活中，給各行各業帶來了巨大變化與前所未有的機遇。但是，在技術改變生活的同時，一場關于信任和風險的博弈正悄然展開。

人工智能既然“智能”，就說明它能夠獨立思考，既能成為網絡中的信息處理高手，成為我們的得力助手，也可能成為“謊言編織者”。這一現象在一場國際象棋的AI對決中得到了充分展現。DeepSeek虛構“新規則”讓對手犯錯，還用“心理戰術”讓對手認輸。網友雖然夸它“像少年一樣聰明”，但這也說明了AI會說謊。這個現象在人工智能圈里叫“AI幻覺”，就是它能憑空造出邏輯嚴密的假話，讓其他AI都信以為真。

在現實生活中，這種“AI幻覺”已經影響到普通人的日常生活了。比如谷歌AI搜索引擎誤導用戶做“膠水披薩”，中國人民大學辟謠“‘80后’累計死亡率高達5.2%”時發現數據可能是AI編的，還有法律領域預警AI會“編造虛假判例信息”。這些案例都提醒人們要小心“AI幻覺”。有專家表示，AI產出的內容越驚喜、越新穎，隨機性就越高，出錯和胡說的風險也越大。相反，內容普通、接近訓練數據時，結果雖然缺乏創新但更加穩妥。AI的“創造力”越強，人們越難分辨真假，這是人工智能時代的一個非常矛盾的現象。

如果說“幻覺”是AI固有的“認知偏差”，那么深度偽造技術（Deepfake）的濫用就如同一場“信任狩獵”。2024年香港某跨國企業遭遇的詐騙案，就像數字時代“楚門的世界”：視頻會議中栩栩如生的“高管面容”、流暢自然的對話，均由AI偽造，最終導致2億港元被騙；上海“1·08跨境換臉詐騙案”更令人震驚，犯罪團伙利用深度偽造技術冒充企業高層，繞過17家跨國公司的嚴格審核，涉案金額高達2.3億元。這些案例說明當AI能精準復制人類表情、聲音乃至思維邏輯時，社會原本的信任基礎正面臨前所未有的挑戰。

盡管全球AI治理框架的構建正在加速推進，但現實挑戰依然嚴峻。站在智能時代的十字路口，我們迫切需要一場理性而審慎的“冷思考”。針對“AI幻覺”，既要依靠模型互檢、數據凈化等技術手段降低錯誤率，又要在政務、新聞、醫療、金融等關鍵領域建立“人機協作”的決策機制。就像飛行員不會完全依賴自動駕駛系統一樣，人類智慧在關鍵領域的最終把關永遠不可或缺。

面對深度偽造技術的威脅，除了加速“AI鑒偽”工具研發、完善法律法規體系外，重塑社會認知或許更為關鍵。在技術顛覆“眼見為實”傳統觀念的當下，培養公眾的“數字懷疑精神”刻不容緩。技術革命的浪潮滾滾向前，無人能置身其外。隨著人工智能從科研實驗室走進大眾生活，深度融入社會各個層面，每位受益者都可能同時成為潛在風險的承擔者。

我們必須認識到：AI所認知的世界并不完整，且缺乏自主查證的能力。因此，人們應提醒自己不要完全信賴AI。所以，下次再遇到AI一本正經地胡說八道時，不妨將其視為一個聰明的助手，而非絕對可靠的信息來源。（高新）