一、事件背景

2023年7月17日，未序網絡科技（上海）有限公司開發的AI寫真小程序妙鴨相機正式上線，向用戶提供“數字分身”制作功能，由用戶上傳照片后通過人工智能合成技術為用戶生成職業照、藝術照、全家福等多種風格的寫真照片。2023年7月20日，妙鴨相機就迎來了用戶高峰，排隊人數超過4000人，并需要等待4-5小時方可正式使用服務。

但僅在上線10天后的2023年7月26日，妙鴨相機就因用戶充值后不予退款，存在侵犯消費者公平交易權的問題被上海市消費者權益保護委員會公開點名批評。雖然此后妙鴨相機的運營方已發布相應調整政策，允許用戶在因技術原因導致數字分身生成失敗的情況下辦理退款，并調整了用戶協議，但如妙鴨相機等生成式人工智能服務平臺，除應做到維護消費者的自身知情權、公平交易權、自主選擇權等權利外，亦應做好自身合規工作，并切實保護消費者的個人信息。

二、用戶上傳個人照片用于生成“數字分身”時，運營方應嚴格履行個人信息保護義務

《個人信息保護法》第28條規定：“敏感個人信息是一旦泄露或者非法使用，容易導致自然人的人格尊嚴受到侵害或者人身、財產安全受到危害的個人信息，包括生物識別、宗教信仰、特定身份、醫療健康、金融賬戶、行蹤軌跡等信息，以及不滿十四周歲未成年人的個人信息。只有在具有特定的目的和充分的必要性，并采取嚴格保護措施的情形下，個人信息處理者方可處理敏感個人信息。”

從用戶使用妙鴨相機的流程來看，用戶僅是上傳了符合平臺要求的若干照片，相關照片并不屬于上述規定所列舉的個人敏感信息，妙鴨相機在《隱私政策》第2條第3款中亦明確了該做法，即“妙鴨相機生成內容時以您主動上傳的原始肖像為基礎使用人工智能模型生成……我們僅提供圖像處理服務，不會提取識別信息，不會用于識別用途”。上海市消費者權益保護委員會在試用妙鴨相機的過程中，也發現其生成的“數字分身”并不能還原眼鏡、耳釘等面部配件。由此可見，目前用戶在使用妙鴨相機過程中所上傳的肖像照片僅屬于一般個人信息，運營方只需按照一般要求履行相應的個人信息保護責任。

但另一方面，根據現有生成式人工智能及相關面部捕捉的技術發展情況，若要進一步優化“數字分身”的呈現效果，則必然離不開通過采集用戶臉部特征，采用類似人臉識別的方式完成數碼建模后重新渲染實現1:1的“復制”流程。此時，運營方所采集的用戶臉部特征即屬于敏感個人信息，應根據《個人信息保護法》第29-30條的規定，獲得用戶的單獨同意，并向用戶告知處理敏感個人信息的必要性，以及對個人權益的影響。

三、使用人工智能深度合成技術為用戶提供“數字分身”服務時，應按規定完成算法備案、內容審核以及信息標識等義務

妙鴨相機為用戶提供“數字分身”制作服務時所采用的技術屬于《互聯網信息服務深度合成管理規定》第23條第4款所列舉的“人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術”之一，妙鴨相機在運營過程中應遵守上述規定的要求，履行相關義務。

與此類似的是，近期蘋果旗下APP Store在中國區已集體下架數百款利用人工智能技術為用戶提供諸如聊天、繪畫或工作服務的APP，主要原因為相關APP均未根據《互聯網信息服務深度合成管理規定》的相關規定取得許可證。

根據上述規定，包括妙鴨相機在內的人工智能APP均需履行以下義務：

（一）根據實際情況，在APP具有輿論屬性或者社會動員能力時及時完成算法備案手續，并將備案信息在其APP內進行公示。

（二）加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核，并構建不良行為特征庫，留存相關日志。

（三）采取技術措施，在生成或者編輯信息內容的合理位置、區域添加不影響用戶使用的顯著標識。

四、利用用戶上傳肖像進行人工智能算法訓練時，應嚴格保護用戶肖像權

《民法典》第1018條賦予了自然人制作、使用、公開或許可他人使用自己肖像的權利。用戶在使用妙鴨相機的過程中，主動上傳20余張符合平臺要求的肖像照片，屬于對自身肖像權的合法使用；妙鴨相機為實現制作用戶“數字分身”的目的，收集用戶個人信息的行為亦同時滿足必要性要求。

在此基礎上，妙鴨相機在《隱私政策》第2條第3款中明確：“妙鴨相機生成內容時以您主動上傳的原始肖像為基礎使用人工智能模型生成，因此當您使用妙鴨相機時，我們會將您主動上傳的原始肖像信息進行處理，這類信息是提供本服務必須收集的信息，我們會按照法律的要求，對您的該類信息在收集、傳輸和存儲的過程中采取嚴格的加密措施，以確保您的信息安全。”

但需要注意的是，用戶在上傳肖像時的目的僅限于滿足“數字分身”的生成需求，并未授權運營方利用其肖像進行人工智能模型的訓練及優化，也未授權對其肖像進行人臉識別及其他處理。雖然妙鴨相機在《用戶服務協議》中亦申明“在此過程中，您所上傳的照片將僅被用于本服務使用，我們僅提供圖像處理服務，不會提取識別信息，不會用于識別用途，服務完成后，系統將自動刪除上述信息，不予留存”，但因生成式人工智能算法（如transformer算法等）天然具有自我學習與自我進化的特性，即使妙鴨相機并不會進一步儲存用戶上傳或生成的相關肖像及圖片，用戶在使用相關服務的過程中實際上也是在協助人工智能本身完成模型訓練及優化。

《生成式人工智能服務管理暫行辦法》第7條規定，運營方開展人工智能訓練等活動時，若確需搜集個人的信息的，應當取得個人同意。雖然《民法典》第1019條同時規定了在個人學習、科學研究以及新聞報道等場景下，可以不經肖像人許可使用個人肖像，但妙鴨相機的相關服務顯然不屬于對個人肖像的合理使用。在此情況下，建議妙鴨相機等人工智能服務運營方在相關用戶協議及隱私政策中，明確告知使用“數字分身”生成服務所上傳的肖像亦將被人工智能算法自身用于訓練調優的相關情況。

五、結  語

妙鴨相機是本次生成式人工智能技術熱潮中“出圈”的代表，其在受到資本及用戶追捧的同時，也暴露了相關技術在實際落地過程中易發的合規風險。在我國監管部門對人工智能技術采取“促進創新、依法治理”的監管態度下，出臺了全球首部涉及人工智能的法律法規《生成式人工智能服務管理暫行辦法》，足以體現國家對人工智能健康有序發展的高度重視。作為人工智能開發及運營者，應積極利用相關技術為社會公眾提供便利服務，同時亦應根據相關法律法規做好自身產品的合規管理。

（作者：陳明杰）