一、事件背景

2023年7月17日，未序網(wǎng)絡(luò)科技（上海）有限公司開發(fā)的AI寫真小程序妙鴨相機(jī)正式上線，向用戶提供“數(shù)字分身”制作功能，由用戶上傳照片后通過人工智能合成技術(shù)為用戶生成職業(yè)照、藝術(shù)照、全家福等多種風(fēng)格的寫真照片。2023年7月20日，妙鴨相機(jī)就迎來了用戶高峰，排隊(duì)人數(shù)超過4000人，并需要等待4-5小時(shí)方可正式使用服務(wù)。

但僅在上線10天后的2023年7月26日，妙鴨相機(jī)就因用戶充值后不予退款，存在侵犯消費(fèi)者公平交易權(quán)的問題被上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)公開點(diǎn)名批評(píng)。雖然此后妙鴨相機(jī)的運(yùn)營(yíng)方已發(fā)布相應(yīng)調(diào)整政策，允許用戶在因技術(shù)原因?qū)е聰?shù)字分身生成失敗的情況下辦理退款，并調(diào)整了用戶協(xié)議，但如妙鴨相機(jī)等生成式人工智能服務(wù)平臺(tái)，除應(yīng)做到維護(hù)消費(fèi)者的自身知情權(quán)、公平交易權(quán)、自主選擇權(quán)等權(quán)利外，亦應(yīng)做好自身合規(guī)工作，并切實(shí)保護(hù)消費(fèi)者的個(gè)人信息。

二、用戶上傳個(gè)人照片用于生成“數(shù)字分身”時(shí)，運(yùn)營(yíng)方應(yīng)嚴(yán)格履行個(gè)人信息保護(hù)義務(wù)

《個(gè)人信息保護(hù)法》第28條規(guī)定：“敏感個(gè)人信息是一旦泄露或者非法使用，容易導(dǎo)致自然人的人格尊嚴(yán)受到侵害或者人身、財(cái)產(chǎn)安全受到危害的個(gè)人信息，包括生物識(shí)別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息，以及不滿十四周歲未成年人的個(gè)人信息。只有在具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下，個(gè)人信息處理者方可處理敏感個(gè)人信息。”

從用戶使用妙鴨相機(jī)的流程來看，用戶僅是上傳了符合平臺(tái)要求的若干照片，相關(guān)照片并不屬于上述規(guī)定所列舉的個(gè)人敏感信息，妙鴨相機(jī)在《隱私政策》第2條第3款中亦明確了該做法，即“妙鴨相機(jī)生成內(nèi)容時(shí)以您主動(dòng)上傳的原始肖像為基礎(chǔ)使用人工智能模型生成……我們僅提供圖像處理服務(wù)，不會(huì)提取識(shí)別信息，不會(huì)用于識(shí)別用途”。上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)在試用妙鴨相機(jī)的過程中，也發(fā)現(xiàn)其生成的“數(shù)字分身”并不能還原眼鏡、耳釘?shù)让娌颗浼Ｓ纱丝梢姡壳坝脩粼谑褂妹铠喯鄼C(jī)過程中所上傳的肖像照片僅屬于一般個(gè)人信息，運(yùn)營(yíng)方只需按照一般要求履行相應(yīng)的個(gè)人信息保護(hù)責(zé)任。

但另一方面，根據(jù)現(xiàn)有生成式人工智能及相關(guān)面部捕捉的技術(shù)發(fā)展情況，若要進(jìn)一步優(yōu)化“數(shù)字分身”的呈現(xiàn)效果，則必然離不開通過采集用戶臉部特征，采用類似人臉識(shí)別的方式完成數(shù)碼建模后重新渲染實(shí)現(xiàn)1:1的“復(fù)制”流程。此時(shí)，運(yùn)營(yíng)方所采集的用戶臉部特征即屬于敏感個(gè)人信息，應(yīng)根據(jù)《個(gè)人信息保護(hù)法》第29-30條的規(guī)定，獲得用戶的單獨(dú)同意，并向用戶告知處理敏感個(gè)人信息的必要性，以及對(duì)個(gè)人權(quán)益的影響。

三、使用人工智能深度合成技術(shù)為用戶提供“數(shù)字分身”服務(wù)時(shí)，應(yīng)按規(guī)定完成算法備案、內(nèi)容審核以及信息標(biāo)識(shí)等義務(wù)

妙鴨相機(jī)為用戶提供“數(shù)字分身”制作服務(wù)時(shí)所采用的技術(shù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第23條第4款所列舉的“人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)”之一，妙鴨相機(jī)在運(yùn)營(yíng)過程中應(yīng)遵守上述規(guī)定的要求，履行相關(guān)義務(wù)。

與此類似的是，近期蘋果旗下APP Store在中國(guó)區(qū)已集體下架數(shù)百款利用人工智能技術(shù)為用戶提供諸如聊天、繪畫或工作服務(wù)的APP，主要原因?yàn)橄嚓P(guān)APP均未根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的相關(guān)規(guī)定取得許可證。

根據(jù)上述規(guī)定，包括妙鴨相機(jī)在內(nèi)的人工智能APP均需履行以下義務(wù)：

（一）根據(jù)實(shí)際情況，在APP具有輿論屬性或者社會(huì)動(dòng)員能力時(shí)及時(shí)完成算法備案手續(xù)，并將備案信息在其APP內(nèi)進(jìn)行公示。

（二）加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并構(gòu)建不良行為特征庫(kù)，留存相關(guān)日志。

（三）采取技術(shù)措施，在生成或者編輯信息內(nèi)容的合理位置、區(qū)域添加不影響用戶使用的顯著標(biāo)識(shí)。

四、利用用戶上傳肖像進(jìn)行人工智能算法訓(xùn)練時(shí)，應(yīng)嚴(yán)格保護(hù)用戶肖像權(quán)

《民法典》第1018條賦予了自然人制作、使用、公開或許可他人使用自己肖像的權(quán)利。用戶在使用妙鴨相機(jī)的過程中，主動(dòng)上傳20余張符合平臺(tái)要求的肖像照片，屬于對(duì)自身肖像權(quán)的合法使用；妙鴨相機(jī)為實(shí)現(xiàn)制作用戶“數(shù)字分身”的目的，收集用戶個(gè)人信息的行為亦同時(shí)滿足必要性要求。

在此基礎(chǔ)上，妙鴨相機(jī)在《隱私政策》第2條第3款中明確：“妙鴨相機(jī)生成內(nèi)容時(shí)以您主動(dòng)上傳的原始肖像為基礎(chǔ)使用人工智能模型生成，因此當(dāng)您使用妙鴨相機(jī)時(shí)，我們會(huì)將您主動(dòng)上傳的原始肖像信息進(jìn)行處理，這類信息是提供本服務(wù)必須收集的信息，我們會(huì)按照法律的要求，對(duì)您的該類信息在收集、傳輸和存儲(chǔ)的過程中采取嚴(yán)格的加密措施，以確保您的信息安全。”

但需要注意的是，用戶在上傳肖像時(shí)的目的僅限于滿足“數(shù)字分身”的生成需求，并未授權(quán)運(yùn)營(yíng)方利用其肖像進(jìn)行人工智能模型的訓(xùn)練及優(yōu)化，也未授權(quán)對(duì)其肖像進(jìn)行人臉識(shí)別及其他處理。雖然妙鴨相機(jī)在《用戶服務(wù)協(xié)議》中亦申明“在此過程中，您所上傳的照片將僅被用于本服務(wù)使用，我們僅提供圖像處理服務(wù)，不會(huì)提取識(shí)別信息，不會(huì)用于識(shí)別用途，服務(wù)完成后，系統(tǒng)將自動(dòng)刪除上述信息，不予留存”，但因生成式人工智能算法（如transformer算法等）天然具有自我學(xué)習(xí)與自我進(jìn)化的特性，即使妙鴨相機(jī)并不會(huì)進(jìn)一步儲(chǔ)存用戶上傳或生成的相關(guān)肖像及圖片，用戶在使用相關(guān)服務(wù)的過程中實(shí)際上也是在協(xié)助人工智能本身完成模型訓(xùn)練及優(yōu)化。

《生成式人工智能服務(wù)管理暫行辦法》第7條規(guī)定，運(yùn)營(yíng)方開展人工智能訓(xùn)練等活動(dòng)時(shí)，若確需搜集個(gè)人的信息的，應(yīng)當(dāng)取得個(gè)人同意。雖然《民法典》第1019條同時(shí)規(guī)定了在個(gè)人學(xué)習(xí)、科學(xué)研究以及新聞報(bào)道等場(chǎng)景下，可以不經(jīng)肖像人許可使用個(gè)人肖像，但妙鴨相機(jī)的相關(guān)服務(wù)顯然不屬于對(duì)個(gè)人肖像的合理使用。在此情況下，建議妙鴨相機(jī)等人工智能服務(wù)運(yùn)營(yíng)方在相關(guān)用戶協(xié)議及隱私政策中，明確告知使用“數(shù)字分身”生成服務(wù)所上傳的肖像亦將被人工智能算法自身用于訓(xùn)練調(diào)優(yōu)的相關(guān)情況。

五、結(jié)  語(yǔ)

妙鴨相機(jī)是本次生成式人工智能技術(shù)熱潮中“出圈”的代表，其在受到資本及用戶追捧的同時(shí)，也暴露了相關(guān)技術(shù)在實(shí)際落地過程中易發(fā)的合規(guī)風(fēng)險(xiǎn)。在我國(guó)監(jiān)管部門對(duì)人工智能技術(shù)采取“促進(jìn)創(chuàng)新、依法治理”的監(jiān)管態(tài)度下，出臺(tái)了全球首部涉及人工智能的法律法規(guī)《生成式人工智能服務(wù)管理暫行辦法》，足以體現(xiàn)國(guó)家對(duì)人工智能健康有序發(fā)展的高度重視。作為人工智能開發(fā)及運(yùn)營(yíng)者，應(yīng)積極利用相關(guān)技術(shù)為社會(huì)公眾提供便利服務(wù)，同時(shí)亦應(yīng)根據(jù)相關(guān)法律法規(guī)做好自身產(chǎn)品的合規(guī)管理。

（作者：陳明杰）