倫理框架之外的潘多拉魔盒

近日，全球首部監管AI法案——歐盟《人工智能法案》正式投票通過并批準。而在中國的互聯網上，利用AI“復活”我們熟悉的已故明星或是親屬家人是否合理合法，也成為大家熱議的話題。

自Chatgpt等人工智能技術火爆網絡的一年半以來，生成式AI技術已經從簡單地生成文本、圖像，快速進化到生成視頻、音頻，在從1.0邁入2.0的過程中，大家對AI技術的規范性、法理性以及道德倫理等問題的討論也愈演愈烈。

AI生成正切實為一部分人緩解焦慮與痛苦，成為寄托思念的工具。“90后”的張澤偉及其團隊，自去年5月至今，已為600多個家庭提供AI克隆服務，其中超過半數為失去子女的年長父母。音樂制作人包小柏歷時8個月修復已故女兒聲紋數據，為女兒制作“數字生命”。而在微博、抖音、小紅書等互聯網平臺上，也常見AI“制作人”，發布自己為網友制作逝去親人的語音視頻的過程，故事往往都觸動人心，評論區里也有眾多聲音，希望能夠再現自己家人的音容笑貌。

誠然，在監管力度不夠、法律制度不完善的AI“市場”中，隱私泄露和信息安全問題始終是大家最關心的，AI換臉詐騙事件在技術尚不完善的階段就已層出不窮，當“復活”不再是技術難題，逝者的信息又是否能被保證安全合理地使用？這樣以溫情名義的二次傷害和消費逝者，又是否能真正地讓人感到溫暖？

是安撫未亡人，還是新資本手段，這以科技手段打造的“潘多拉魔盒”正徐徐打開，它也正在現有的倫理框架之外，構造屬于自己的全新世界。或許，在《人工智能法案》之后，我們會有越來越完善的法理制度出現，為“魔盒”上鎖，讓AI成為真正為人善用的工具，而非野蠻生長、無序發展，以情感做“綁架”的圈錢游戲。（吳韻晗）