《你的名字》濾鏡 App 爆紅技術關鍵:機器學習和神經網路

【為什麼我們挑選這篇文章】日本動畫電影《你的名字》現在還處於火紅階段,不過在這之前有款同名的濾鏡 App 已先行爆紅,這款打著能創造出和這部電影一樣風格的濾鏡,被人瘋狂下載。

你可能覺得這款 App 是神作,或是不懂他到底在紅什麼意思,但一切還是交給創造出 App 這家公司的負責人來說明,為什麼他們會想做吧。(責任編輯:張瑋倫)

《你的名字》今日(12/2)在中國上映,不到 24 小時,票房突破 6000 萬,衝到了今日(12/2)票房榜首。一同火爆的還有與電影同名的濾鏡。電影上映前一周,「你的名字」濾鏡就刷爆了朋友圈。而這也是繼 Prisma 之後,又一款備受推崇的「人工智慧 」濾鏡。與 Prisma 不同的是,「你的名字」濾鏡主打日系動漫風格。

58416467bcd27

據了解,「你的名字」濾鏡出自上海時光無線科技有限公司,在這款濾鏡火爆之前,他們的產品主要是時光相冊 App。雷鋒網聯繫到了這家公司的負責人沈振宇,為大家解密這款濾鏡背後的故事。

時光相冊 App 主要為手機內儲存的照片提供雲儲存服務,並可以根據照片的主題,對照片進行 智慧 分類管理以及簡單的編輯處理。沈振宇告訴雷鋒網:

「公司創立時主要就是想將 人工智慧技術 運用在圖片分類處理類 App 中,日活在百萬左右,公司 80%左右的員工都是工程師,但「你的名字」濾鏡的火爆程度卻是始料未及的。」

構想之初,受到 Prisma 的啟發,時光相冊也想做一款可以把照片風格化處理的濾鏡,但沈振宇認為,油畫的風格並不符合中國絕大多數人的審美習慣,想嘗試一種大家都比較喜歡的風格,於是選擇了日系動漫。

用了近兩個月的時間,嘗試了許多不同的演算法,讓機器去學習新海誠動漫中作品中的紋理特徵,不斷的調教參數,最後達到了「你的名字」濾鏡現在的效果。用戶只需要上傳照片,選擇濾鏡,就可以得到一張充滿新海誠畫風的照片。

「你的名字」濾鏡的核心技術在於對圖片中天空的處理,可以讓任何一張照片中看起來平淡、或是沒有色彩的天空部分,成功貼合成為新海誠動漫中的效果。

沈振宇介紹說,濾鏡會對圖片中的天際線進行智慧識別,然後將天空部分摳掉,換上電影裡的藍天白雲。「藍天白雲」的素材都是從新海誠電影的正版片源中截取的,且已獲得官方授權。

據沈振宇介紹,濾鏡取材的電影有《秒速五厘米》、《言葉之庭》以及《你的名字》,開始時選取了幾十張的天空素材,但發現一些素材的貼合效果並不是很好,最後挑選了 20 張左右的天空素材,做為最終濾鏡可以呈現的效果。

問起在處理技術上與 Prisma 是否有不同之處。時光相冊 App 的工程師告訴雷鋒網, Prisma 將 神經網路 用作端到端的生成模型,直接修改圖片的像素顏色值或者輸出最終的像素顏色值,這樣可以生成一些與原照片差異較大,風格很奇特的圖片,但自然程度和美感可能會不夠好。

而「你的名字濾鏡」對機器學習和神經網路的應用主要在於演算法參數的學習和圖像的分割,這些機器學習的預測輸出會做為圖像處理演算法的輸入,而真正對圖像做直接處理的演算法是受約束和可解釋的。

另外,為了在用戶上傳的美感和質量不高的照片中營造整體的「新海誠氛圍」,濾鏡還使用了傳統圖像增強方法和基於圖像的渲染(IBR)方法對圖像進行預處理和後處理。

與圖普科技一位研究圖像風格化演算法工程師分析的相同。這位工程師告訴雷鋒網,「Prisma 的本質是放棄原圖的細節,保留結構訊息,然後將風格圖經常出現的模式與原圖合成。因此,僅用現有的深度學習方法暫時無法這樣對細節進行精挑細選的處理。所以時光相冊是採用了深度學習跟傳統計算機視覺的技術結合,先用深度學習做像素分割,再結合傳統計算機視覺的方法做濾鏡處理。」

濾鏡完成後,先上線了 H5 版本,計劃在小範圍內進行測試,用一周時間完成推廣以及在時光相冊 App 上線,但結果卻超預期。沈振宇說,「一夜過後,伺服器基本上癱瘓了,於是調用了上百台的 TPU 伺服器來支持後台運作,提前在時光相冊 App 上線。 每天都會新增 30 萬左右用戶。」

現在,時光相冊 App 仍在配合發行方進行相關的電影宣傳工作。App 中的濾鏡也還在不斷地更新中,上線了「星空」濾鏡、「古銅」濾鏡以及「花木」濾鏡。其中「星空」濾鏡延續了日系動漫風格,技術原理大致相同,但模型是「重新」訓練過的,天空素材與「你的名字」濾鏡也與不同,前景風格也不同。

而「古銅」濾鏡與「花木」濾鏡同屬於油畫風格。沈振宇說,這兩款濾鏡的處理技術與 Prisma 相同,但做了一些性能優化,提高了圖片渲染速度。新濾鏡的上線主要是為了避免用戶使用你的名字濾鏡過於單調的問題,後續也會接著嘗試新的繪畫風格。

對於新濾鏡以及時光相冊 App 今後的運營狀況,沈振宇並沒有更高的預期。顯然,沈振宇深諳「現象級應用程式」的宿命,也想極力想擺脫這種宿命。

(本文經合作夥伴雷鋒網授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈「你的名字」電影上映,同款濾鏡火爆的背後 〉。)

延伸閱讀

 【吉卜力直接被無視】《你的名字》還在紅,下個取代新海誠的熱門 IP 已經出爐:細田守
你還以為 Prisma 只是個濾鏡 App?其實「AI 人工智慧」才是它的本體
 你不知道的濾鏡真相:Instagram 最多人用的濾鏡竟然是 Normal

點關鍵字看更多相關文章: