【資料圖】

只花9.9元，上傳二十幾張照片，就能獲取一套人工智能生成的寫真集。過去兩周，“妙鴨相機”小程序成為我國生成式人工智能領域的一個爆款應用。刷屏的同時，妙鴨也刷出了用戶隱私保護、消費者權益保護等“暗雷”，提醒我們人工智能未必如想象中那么美好。

先來看隱私保護。現在搜索“妙鴨相機”，各渠道排在前面的關聯熱詞都是“妙鴨相機會盜取個人信息嗎”“妙鴨相機安全嗎”，表明安全性已成為用戶最關注的問題。而這恰恰是妙鴨最先踩中的雷，上線不久，就有媒體報道，妙鴨用戶協議中明確規定，“您特此授權我方在全世界（包括元宇宙等虛擬空間）范圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可，使得我方可以任何形式、任何媒體或技術（無論現在已知或以后開發）使用您的內容”。這就相當于企業試圖占有用戶的臉，還要用戶倒貼9.9元。

人臉是一個人最核心的生物信息之一，如果被濫用、盜用，可能會成為AI詐騙、網絡色情等非法活動的素材來源，危害無窮。盡管被質疑后，妙鴨很快更新了協議，稱“不會提取識別信息，不會用于識別用途，服務完成后，系統將自動刪除上述信息，不予留存”，但作為一家生成式人工智能的創業公司，內部居然能認可并上線第一版協議，可見企業對用戶隱私的漠視以及對法律的無知。這也說明，人工智能行業還需強化用戶隱私信息保護的底線意識。

妙鴨踩中的第二個雷，是消費者權益保護。據媒體報道，妙鴨規定“一旦購買成功，不支持退款”。上海市消費者權益保護委員會對此發聲：涉嫌侵害消費者公平交易權。隨后，妙鴨宣布照片生成失敗可退款。

開發這款小程序的企業提供的服務屬于在線虛擬服務，原本不在消費者權益保護法規定的7日無理由退貨范疇。消費者一旦上傳素材，不管最終生成的照片效果如何，已實際使用了帶寬和企業提供的技術，企業事實上履行了合同。從這個角度講，企業有理由拒絕退費。

然而，消費類企業必須回答一個問題：起草、執行相關服務協議時，是從保障消費者權益出發，還是從自身利益考量出發？如果只是嘴上喊著“優化消費體驗”，實際拋出的卻是冷冰冰的條款，采取簡單粗暴的執行手段，給用戶的感覺完全不友好，這不僅無助于產品與服務品質的塑造提升，更不可能吸引消費者對品牌的信任追隨。妙鴨從拒絕到同意的態度轉變，值得深思。

小程序揭示的人工智能風險隱患才剛剛冒頭，仍存在不少值得研究的問題。例如，企業承諾自動刪除用戶信息，誰來監督落實？用戶把堪比個人證件照的高精度正面照交給一家小創業公司，它有沒有能力抵御黑客攻擊？風潮過去后，企業會不會倒閉？這不是杞人憂天，妙鴨也在用戶協議中提醒，“如果出現合并、分立、解散、破產等情況，用戶個人信息可能會轉移到接收方”。在這個過程中，用戶信息能不能得到妥善保護，接收方又會如何處理用戶信息？這一切都是充滿了風險的未知數。

妙鴨入水，激起了數據時代的監管新挑戰。互聯網大廠投入巨資開發的文心一言、通義千問等大模型，免費給用戶使用，沒能做成爆款；一家名不見經傳的小企業，推出一個要用戶掏錢的小程序竟然做到了。這預示著，人工智能領域的競爭將是激烈的，也是出乎意料的。要跟上行業發展，監管理念、技術和相應的法律體系需抓緊完善。我們鼓勵創新的“七十二變”，但保護用戶隱私和消費者權益的“緊箍咒”一定得戴上。

關鍵詞：

責任編輯：Rex_02