從迅速走紅社交網絡，用戶競相嘗鮮，到因隱私協議廣受外界爭議，再到最新被工信部約談，在不到一周的時間里，“ZAO”App的境遇可謂“冰火兩重天”。

　　伴隨著“ZAO”App站在新的“十字路口”，用戶們也逐漸從狂熱變得謹慎又忐忑……這不禁讓人心生疑問，看起來很美的AI換臉，其背后究竟有怎樣的風險?

　　“ZAO”App的風險在哪兒?

　　“眼看他起朱樓，眼看他宴賓客，眼看他樓塌了。”

　　作為“ZAO”App的嘗鮮者，新媒體從業者王麗麗(化名)告訴記者，讓她意想不到的是，自己剛嘗到AI換臉帶來的樂趣，轉眼就面臨著個人隱私泄露的風險。

　　8月31日晚，王麗麗在朋友圈看到自己的多個好友都在展示“換臉”小視頻。在幾秒鐘的小視頻中，有人可以實現和偶像同框演戲的愿望、有人扮演明星角色進行一場“cosplay”。興趣使然，王麗麗也加入了AI換臉的“陣營”。在手機驗證注冊后，王麗麗在攝像頭前進行眨眼、扭頭等動作后，才可使用相關功能。通過App模板，王麗麗可根據自身的喜好換成影視劇中的經典角色。除了把生成的小視頻發在朋友圈，還可以做成GIF動態表情。

　　王麗麗是“ZAO”App眾多的AI換臉用戶之一。從8月30日上線開始，“ZAO”App就迅速走紅。不到24小時，這款APP就在各應用商店免費應用排行榜中躥升至前列，同期更入選微博熱搜話題。那幾天，AI換臉成了社交平臺上一道頻繁出現的風景線。王麗麗也和朋友們沉浸在ZAO新奇的玩法中。

　　不過，隨著AI換臉走紅，質疑之聲接踵而至。

　　根據“ZAO”App用戶協議內容中的必要授權協議：用戶上傳發布內容后，意味著同意授予“ZAO”App及其關聯公司以及“ZAO”App用戶在“全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”，“包括但不限于可以對用戶內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前后的用戶內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利”。

　　這一協議很快引起了用戶的爭議和討論，包括王麗麗在內的一些用戶認為，這一協議存在泄漏個人信息的風險，情況嚴重還可能導致人臉識別支付等場景被盜用的風險。

　　北京大成(成都)律師事務所律師龐彥燕對記者表示，這涉及用戶肖像權的法律侵權問題和隱私問題。在互聯網和AI技術迅速發展的當下，用戶的肖像可能被用于制造假圖片、假視頻，甚至隨著科技的發展可直接用于人臉識別支付，存在一系列風險。

　　內心產生擔憂的不只是王麗麗，不少先前充滿熱情嘗鮮的用戶，都開始擔憂自身的隱私泄露。甚至有用戶在APP下載界面對于相關協議作出“過分了”“霸王條款”等評論。

　　致歉聲明后用戶仍擔憂

　　根據微博認證信息，“ZAO”App的運營主體為長沙深度融合網絡科技有限公司。工商資料顯示，長沙深度融合網絡科技有限公司法定代表人為雷小亮。此外，長沙深度融合網絡科技有限公司股東為海南喵咖網絡科技有限公司，后者法定代表人為也是雷小亮，股東為雷小亮與王力。

　　工商資料顯示，今年7月19日，長沙深度融合網絡科技有限公司發生股東變更，北京陌陌科技有限公司退出，新增海南喵咖網絡科技有限公司。由此可見，北京陌陌科技有限公司是“ZAO”App原股東。而雷小亮則是陌陌的聯合創始人和產品總監。

　　隨著輿論的不斷發酵，9月4日，工信部官網發布消息稱，3日，針對媒體公開報道和用戶曝光的“ZAO”App用戶隱私協議不規范，存在數據泄露風險等網絡數據安全問題，工信部網絡安全管理局對陌陌相關負責人進行了問詢約談，并要求其嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規范協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實采取有效措施，積極防范自有業務平臺被利用實施電信網絡詐騙等風險隱患。

　　而據36氪9月4日報道，針對工信部的約談，“ZAO”App運營團隊回應稱：“ZAO上線以來，我們和各主管部門保持著積極順暢的溝通。非常感謝大家對于新技術新應用的關注，我們也在第一時間回應了大家的核心關切，將嚴格按照法律法規和各主管部門的要求，按照更加嚴格的標準，全面加強內容管理、完善各項管理機制，確保用戶個人信息安全和數據安全。”

　　9月3日，“ZAO”App運營團隊通過微博發聲明并致歉稱，“ZAO”App不會存儲個人面部生物識別特征信息。“ZAO”App所呈現的“換臉”效果，是根據用戶提交的頭像照片，按照用戶選定的素材場景，通過后期技術疊加所實現的虛構圖像，并沒有采集任何個人生物識別特征。使用“ZAO”App不會產生支付風險。用戶刪除信息或注銷賬號，“ZAO”App均會依據相關法律法規的規定刪除相應信息。

　　不過，這一說法尚未平息用戶心中的怒火。目前，在上述微博的聲明下，大量用戶依然在追問：注銷后個人信息和照片的數據安全泄露隱患如何消除?

　　AI換臉可能“曇花一現”?

　　事實上，關于互聯網用戶隱私安全問題，業界早有關注。

　　渤海證券研報指出，當前全球在線文件暴露問題日益嚴重，外部存儲數據量的增加給原有的數據安全策略帶來了新的挑戰，預計未來3年會有更多企業和政府機構在防止隱私泄露和保護個人數據上加大投入。

　　今年2月末，一個運用AI換臉技術將94版《射雕英雄傳》電視劇中朱茵飾演的黃蓉，換“臉”成了楊冪的小視頻，一經發布便在網絡上收獲巨大點擊量和引起熱議。4月，《民法典人格權編(草案)》二審稿提請十三屆全國人大常委會第十次會議審議。而此次草案二審稿針對技術“換臉”侵犯自然人肖像權的問題，專門增加規定：任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。而今年8月，在草案三審稿中，也進一步升級了隱私權和個人信息保護。

　　艾媒咨詢創始人兼CEO張毅對記者表示，AI換臉等產品可能在誕生初期迅速帶給用戶新鮮感，很容易達到“一夜走紅”的效果。但縱觀行業的發展和綜合因素，該運用場景很可能是曇花一現。在平臺被媒體曝光存在隱私安全隱患的同時，大部分用戶也會考慮可能面臨的風險，嘗試欲望也會進一步降低。

　　張毅表示，通過近幾天的抽樣調查發現，目前，使用“ZAO”App的用戶多為一些年輕女性，相對而言，年齡層偏成熟的人士對于軟件的使用度較低。因而，該APP的應用場景更多是切入細分市場，很難普及。

　　張毅還分析道，AI換臉等技術雖已日漸成熟，但從宏觀層面看，仍然存在多方面風險，受到監管和法律層面的制約。未來能夠占據市場主流的仍然是有政府授權、安全性高的企業，一些初創和小眾的平臺，如果不能達到較高的安全系數，很難取得用戶長久信任。

　　新智元創始人兼CEO楊靜對記者表示，AI換臉并非新鮮事，支持這種場景的機器學習技術——Deepfakes已經相當成熟。Deepfakes指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創建而成，FakeApp則可實現AI換臉。在該項技術的發展過程中，也存在一些爭議，AI換臉是否會侵犯到用戶隱私和信息安全備受關注。

　　不過，楊靜也指出，“道高一尺，魔高一丈”，技術進步也會推動科技向善。為了保障AI換臉等場景的安全性，國內外的研究者和團隊也推出了AI防偽克星、AI偵測工具等AI“打假武器”。此外，AI技術進步驅動行業升級和效率提升，但要高效安全地運用AI技術，法律的進一步完善、監管部門的規范管理、用戶的隱私保護意識缺一不可。