(資料圖)

上傳20張以上照片，再支付9.9元，選擇喜歡的模板，生成自己的“數字分身”，效果以假亂真，堪比市場價幾十元甚至幾百元的藝術照。最近，一款名叫“妙鴨相機”（以下簡稱“妙鴨”）的小程序在互聯網上火爆出圈。

9.9元的平民定價、簡單的玩法、驚喜的效果，加之裂變技巧，不到一周時間，妙鴨相機就成為爆款。在使用高峰，一晚上就有 5000 多人排隊使用，用戶可能要等上幾小時甚至十幾小時，才能拿到屬于自己的作品。有網友直言：“和線下動輒幾百上千的拍照體驗相比，真是太香了。”

隨著社交媒體上越來越多用戶分享著這份“9.9元帶來的快樂”時，爭議問題也隨之而來，網友開始擔心上傳那么多個人照片，安全嗎？應用方是否會將用戶照片挪作他用？若上傳的照片被用于AI模型訓練，那用戶的一些面部特征是否會出現在其他地方的生成圖片？而這些不僅僅是妙鴨相機，也是更多需要上傳照片的相機應用所面臨的問題。

網友們的擔憂并不是完全沒有道理，畢竟隨著AI模型迭代，訓練數據集的擴大、算法的迭代以及算力水平的提升，AI生成內容越來越逼真，內容侵權、信息造假、AI欺詐等風險讓人不得不在心里多留幾個心眼。

據上海辟謠平臺調查發現，妙鴨是生成式人工智能（AIGC）技術的一種應用。生成式AI將改變工作方式、重塑商業模式，越來越多的企業已開始積極探索相關應用，以期提升創新效率、實現高質增長，隨著它的走紅，如何預防技術風險和信息安全風險，顯得愈發重要。

AI相機靠譜嗎

生成式AI帶來敏感個人信息泄露風險

朝陽區居民阿珊表示，看到大家在朋友圈發妙鴨相機生成的照片，很想嘗試。但在體驗中發現需要上傳20張照片，這一要求直接將其勸退，“向一個APP里傳這么多我的照片，感覺很不安全”。

一次性上傳20張照片才能生成“數字分身”的前提同樣勸退了從事技術工作的孟小姐，“我看了同事的成品，發現最后的結果與上傳照片質量很有關系——上傳的照片越清晰、越正面，最后產生的作品越真實。但是，我把自己的照片交給這樣一個小程序，安全嗎？我上傳的照片，以及生成的圖片，企業會妥善處理嗎？”她還做了一個實驗：使用妙鴨生成的畫像，能成功騙過那些采用圖片比對進行人臉識別的應用，“如果有人用我的‘數字分身’從事不法行為，我能免責嗎？”

妙鴨小程序的自我介紹