包小柏用AI“復制”了去世的女兒 烏克蘭姑娘的臉卻被“偷”來賣俄羅斯特產(chǎn) AI正在引發(fā)新的數(shù)字鴻溝
久未露面的57歲著名音樂人包小柏，這兩天再次進入大眾視野已是一頭長白發(fā)。距離他上一次成為話題人物已過去14年。彼時，他為《快樂女聲》擔任評委，點評辛辣、意氣風發(fā)。
這次，他用AI技術在數(shù)字世界里“復活”了去世的女兒，“她”不僅可以即時回復對話，而且還在媽媽生日時唱了生日快樂歌。
同樣是最近，另一群中老年網(wǎng)友卻被AI的深度偽造傷了心。他們發(fā)現(xiàn)自己真心實意追了一陣的葉琳娜、娜塔莎、April安娜、艾莉兒……通通不存在。這些熱愛中國文化，會說一口流利中文的俄羅斯美女博主，都是有人“偷”了一位烏克蘭女孩的臉，批量生產(chǎn)的AI換臉數(shù)字人。
技術，再次展露出了“雙刃劍”的特性。
“復活”親人的不只是包小柏
2021年，包小柏22歲的女兒因病去世。在一期節(jié)目里，他透露自從女兒去世后，再也沒有理發(fā)的原因：頭發(fā)有一段曾經(jīng)天天觸碰女兒的額頭。
這兩天，這段視頻被翻出來，和AI“復制”女兒的報道一起在社交平臺上擴散。
思女心切的包小柏這幾年里攻讀博士，自學AI技術，經(jīng)過反復訓練，如愿克隆了一個“女兒”，“對我而言，AI可以讓我明確地知道，能把思念的模式換一種工具來表達”。
用AI“復活”親人，包小柏不是第一個吃螃蟹的人。1月下旬，橙柿互動報道過一支90后的創(chuàng)業(yè)團隊，專門提供克隆數(shù)字人的服務，“浙江父親想用AI復活兒子”的話題當時還沖上微博熱搜榜第二。
創(chuàng)始人張澤偉及其團隊，2023年5月至今已為600多個家庭提供AI克隆服務，其中過半為失去子女的年長父母。
在張澤偉看來，團隊所從事的屬于“AI+情感療愈”創(chuàng)業(yè)，可以緩解與逝去親人分離的悲痛。但他同樣承認技術是把雙刃劍，“也有可能被壞人利用，防不勝防”。
日臻成熟的AI克隆技術，也給普通人帶來了新的倫理挑戰(zhàn)，讓人不得不重新思考逝者和生者間的關系。
“復制”一個人更容易了
如果放到這輪AI浪潮前，包小柏想要“復制”一個電子女兒，幾乎是不可能的事。現(xiàn)在，只要有充足的數(shù)據(jù)，從聲音、口型到整張人臉都能通過深度學習算法，活靈活現(xiàn)地還原出來。
這兩天，阿里巴巴智能計算研究所發(fā)布了一款全新的生成式AI模型EMO（Emote Portrait Alive），僅需一張人物肖像照片和音頻，就可以讓里面的人物按照音頻內容“張嘴”唱歌、說話，且口型基本一致，面部表情和頭部姿態(tài)非常自然。
再往前，一款名為HeyGen的AI肖像克隆軟件因為讓泰勒·斯威夫特說中文，讓孫燕姿唱周杰倫的歌走紅網(wǎng)絡。用戶只要上傳一段30秒以上包含人聲的視頻，HeyGen就能模擬嗓音和表情，再與新的內容對上“口型”。
“他們至少用了三個小型的AI模型，分別完成翻譯、語音提取和克隆、口型同步等功能�！笨吹桨“亍皬椭啤迸畠汉螅瑥氖聰�(shù)字人研發(fā)的NextHuman唯物科技創(chuàng)始人吳靖仇感慨技術的進步，“當局部技術不斷涌現(xiàn)，把它們集合在一起，就可能會出現(xiàn)爆款應用”。
但硬幣的另一面是技術被濫用。阿里沒有把EMO推向市場，已經(jīng)有網(wǎng)友擔憂它會被騙子利用，而HeyGen目前最貴的商業(yè)版本只需要72美元/月，網(wǎng)上到處是免費教程，意味著想要拿著它去做違法的事，成本很低。
此前，歐洲刑警組織就發(fā)布過一份觀察報告，預測到2026年，90%的在線內容可能是AI生成或者合成的。這其中就包括對照現(xiàn)實里某個真實人物，用深度偽造技術“復制”出來的“人”，做本人沒做過的事，說沒說過的話。
“從現(xiàn)在AI的進步速度來看，這個趨勢正在加快�！眳蔷赋鸨硎荆S著AI學習能力的提升，“復制”一個內容或者人，所需的數(shù)據(jù)量和時間都會進一步下降。
烏克蘭女孩的臉被“偷了”
一部分網(wǎng)友已經(jīng)被技術濫用傷了心。
俄羅斯大妞葉琳娜，在中國生活8年、能說一口流利中文的April安娜，賣俄羅斯進口食品的31歲娜塔莎，喜歡分享中國日常的艾莉兒……
過去的一兩個月，只要愛逛短視頻和社交平臺，大概率就會刷到一些長相精致的俄羅斯美女博主。她們熱愛中國文化，表示想嫁中國男人，還會談論一些爭議性的熱門話題，像是婚嫁的彩禮問題，聊著聊著還會推薦起俄羅斯特產(chǎn)。
但她們的臉都是從一位烏克蘭網(wǎng)紅身上“偷”的。
不久前，YouTube上擁有1萬多粉絲的奧爾嘉在一段近15分鐘的視頻中，控訴了這件事。
“她們有我的臉、我的聲音，且說得一口流利中文。”奧爾嘉憤怒而無奈。這些賬號用AI生成的短視頻內容賺取流量，為俄羅斯巧克力、糖果等特產(chǎn)帶貨。賣進口零食的娜塔莎，在賬號被平臺下架前已擁有超20萬粉絲，遠多于她本人的賬號。
“這讓人不寒而栗�！眾W爾嘉說以前見過名人被模仿，從未想過自己也會深陷其中。“在這些AI生成的博主背后，作為原型的普通女性可能還不知道自己的臉被盜了，然后被用于何處。”
對此，相關平臺很快采取了行動，并且強調“禁止任何以他人照片或視頻進行換臉的行為”。然而，換臉的“潘多拉魔盒”已經(jīng)被打開，僅靠自覺和舉報，似乎無法阻擋。
去年6月10日，國家反詐中心辟謠“AI詐騙在全國爆發(fā)”，確認全國AI詐騙實施不超過10起，主要是提前制作了換臉視頻，并不是實時的視頻互動通話。但隨著技術持續(xù)進步，相關平臺和監(jiān)管政策準備好了嗎？
記者觀察
新的數(shù)字鴻溝 正在產(chǎn)生
生成式AI時代下，耳聽未必為真、眼見未必為實，你接收到的文字、圖片、音視頻信息都可能是AI的產(chǎn)物。而逐漸模糊的現(xiàn)實邊界，正在誕生新的數(shù)字鴻溝。
用AI工具生成一張美女照片，貼上“80后單親媽媽”“每日分享自用好物”等標簽，加入商品圖片和介紹，這種簡單而粗糙的AI美女種草/情感博主，眼下正在短視頻平臺上批量出現(xiàn)，瞄準中老年群體。
沒摳好的頭發(fā)絲，幾乎一樣的臉，循環(huán)的表情和動作，哪怕破綻多到“一眼假”，哪怕平臺已經(jīng)給部分作品標注了“內容疑似AI生成，請仔細甄別”，仍有大量中老年網(wǎng)友熱情互動，并掏出真金白銀。批量的美貌和廉價的情感雞湯大有市場。
對于許多中老年人來說，智能手機和互聯(lián)網(wǎng)還沒有完全弄明白，AI就又來搗亂。他們中的大多數(shù)，可能并不具備鑒別真人和AI數(shù)字人的能力，也理不清楚新型網(wǎng)絡詐騙是怎么回事。
今年，杭州某小學開學第一天，校長上臺就講了OpenAI的GPT和文生視頻大模型Sora，等上信息課的時候，任課老師再次提及。成年人的知識體系，同樣面臨著更新和重構。
就在前些天，為了應對AI時代所帶來的機遇與挑戰(zhàn)，新加坡政府提議對新加坡公民給予一項補貼，支持40歲及以上的人返回高等教育。這個群體將能在5月獲得額外4000元的技能創(chuàng)前程培訓補助。
聲明：
本文僅代表作者個人觀點，與新江南網(wǎng)無關。其原創(chuàng)性以及文中陳述文字和內容未經(jīng)本站證實，對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關內容，新江南網(wǎng)號系信息發(fā)布平臺，新江南網(wǎng)僅提供信息存儲空間服務。如有侵權請出示權屬憑證聯(lián)系管理員（yin040310@sina.com）刪除！
- 這個秋天來杯“養(yǎng)生快樂水” 浙大邵逸08-16
- 浙江省首例胃癌加壓腹腔氣溶膠化療成功實施08-16
- 三餐不定時 作息不規(guī)律 運動少還肥胖 48歲快08-16
- 高溫持續(xù)需警惕熱射病 醫(yī)生提醒：科學防范莫08-16
- 清華第18、北大第23、浙大第24，世界大學排08-16
- 全國大學英語四、六級考試今天可查成績08-16
- 讓賽事熱度延續(xù)72小時 杭州文旅發(fā)布 “08-16
- 筆墨銘史，致敬崢嶸08-16
- 清宮精品 滿目琳瑯08-16
閱讀推薦
新聞爆料
