近日，一段美國歌手泰勒·斯威夫特“說”中文的短視頻在網絡刷屏，引發熱議。視頻中，泰勒·斯威夫特“說”著流利中文，音色和講母語時類似，甚至連口型都能對上。與此同時，郭德綱“講”英文相聲的視頻也引起人們關注，大家紛紛感嘆AI（人工智能）真是強大。

　　對于這樣的視頻，人們的第一反應恐怕是一愣，然后用常識就能判斷出它的真偽。作出這種鑒別并不難，難的是當“被AI”的不是明星而是身邊的親朋好友，或者明星說的是本國語言時，公眾是否還具有這種鑒別力？以AI技術的發展速度看，大概不能對此“打包票”。

　　就此類生成式AI的技術原理而言，首先是把相關數據上傳AI模型，比如人臉的面部特征、聲音的音長音高等，再將使用者需求輸入模型由系統運算，最后輸出結果。如此一來，就能實現趙本山說英文或是泰勒·斯威夫特說中文的效果。

　　這種生成式AI原來有一些技術不完善的地方，比如人體晃動時發生畫面掉幀、AI生成部分與本人面部的邊緣處有明顯拼接痕跡等，但現在網上比較火的那幾個視頻卻似乎已經解決了這些問題。通過這幾段視頻，明顯可以看到技術又進步了。

　　總之，AI正在朝著越來越智能的方向演進。不如想象一下，如果ChatGPT聊天機器人變得更加智能，響應速度更快，再把它與這項AI換臉技術相結合，是否可以形成與“泰勒·斯威夫特”自由對話的可能。這種技術想象的另一面，是信息安全風險，關乎個人的各項隱私權利。

　　在“被AI”者的一端，涉及個人肖像權、聲音權。從我國民法典看，規定了合理使用行為可以不經肖像權人許可，但合理使用的行為要求、范圍要求都有限制。具體來講，民法典第一千零二十條規定，為個人學習、藝術欣賞、課堂教學或者科學研究，可以在必要范圍內使用肖像權人已經公開的肖像。如今，借助AI應用生成相關視頻是否屬于合理使用卻有爭議——因為肖像權人的肖像雖然是公開的，但使用者的目的并非是法定目的的任何一種，且因其向全網傳播，顯然也超出了民法典規定的“必要范圍”。所以，市場上各式各樣的生成式AI，其實帶有天然的侵權風險。

　　站在不特定的公眾一端，則是受騙的風險。這既包括利用生成式AI詐騙錢財，也包括利用生成式AI制作虛假代言廣告、進行違法犯罪活動。前不久，影星斯嘉麗·約翰遜還對一家AI應用開發商提起訴訟，事由是開發商利用其拍攝的電影花絮制作廣告。所以，盡管大多數的生成式AI還處在“玩玩而已”的范疇，卻不可忽視它已經具備了某些不太光彩的應用場景。特別是，我國已經出現了有人因AI換臉被詐騙、有人利用AI換臉從事淫穢色情活動的事例。對于監管部門而言，一方面，要對違法犯罪行為嚴厲打擊，另一方面，尤其有必要要求開發商把數字水印作為必要項，并且這個水印不能被放在視頻的邊邊角角，而應該與畫面主體有重疊，以此防備生成式AI被濫用。

　　技術本身并無價值觀，但操縱技術的人有。在剛剛結束的全球首屆AI安全峰會上，包括中國、美國、英國在內的28個國家及歐盟共同簽署了《布萊奇利宣言》，呼吁以安全、以人為本、值得信賴和負責任的方式設計、開發、部署和使用AI——“負責任”即是遵守法律、合乎道德，它應當成為業內的共識。