什麼是影像追踪?定義、歷史與現代工具解釋


什麼是Rotoscoping? Rotoscoping是一種動畫和視覺效果技術,藝術家逐幀跟蹤實景影像,以產生逼真的動作[1]。簡單來說,它涉及在每個視頻幀中手動繪製或遮罩元素,以便這些元素可以被隔離或風格化。最初,動畫師將電影投影到玻璃面板上,並在紙上勾畫輪廓——使用一種名為rotoscope的設備,由Max Fleischer於1915年發明[1]。今天的過程是數碼化的,但名稱**“Rotoscoping”仍然適用。在技術上,現代的Rotoscoping通常意味著為視頻中的物體創建準確的遮罩**,以便它可以從背景中提取並合成到另一個背景上[2]。這項技術廣泛應用於電影製作、視頻製作,甚至數字營銷,以實現難以或無法在單一鏡頭中捕捉到的效果。
在這本全面的指南中,我們將以簡單和技術的術語深入探討Rotoscoping,探討其從早期動畫到現代視覺效果的歷史,並討論在電影、視頻和營銷中的常見用法。我們還將重點介紹手動進行Rotoscoping的挑戰以及新型AI 驅動工具是如何徹底改變工作流程的。一個詳細的部分將展示VIIDO的在線Rotoscoping工具——它的功能、優勢和理想用戶——作為現代Rotoscoping技術的主要示例。我們將比較手動與AI Rotoscoping,提供實際例子,並以摘要和呼籲行動來結尾,以利用當今的Rotoscoping工具。
了解Rotoscoping技術
從本質上講,Rotoscoping涉及逐幀跟蹤或遮罩視頻素材。在經典的動畫背景下,藝術家實質上是在電影素材上繪製,以創建具有生動動作的動畫序列[1]。例如,早期的動畫師拍攝一位現場演員的表演,然後將電影投影到表面上,並在每個幀中勾畫演員的輪廓。這個艱辛的過程產生了非常逼真的動畫,因為它捕捉到了真正動作的細微差別。
在現代視覺效果(VFX)中,Rotoscoping通常指的是在視頻合影素材中手動創建一個不透明的遮罩或遮罩物[2]。通過勾畫一個人或物體的輪廓(通常使用軟件),VFX藝術家生成該元素的剪裁。然後,這個遮罩可以用來從背景中隔離該元素,以便它可以放置在不同的背景上,或單獨應用效果[2]。例如,效果藝術家可能會從一場場景中進行Rotoscoping,以便在他們身後插入不同的背景,或僅對演員進行色彩校正。
簡單來說: Rotoscoping就像是數字化地切出視頻中的元素。如果你曾經使用過照片上的“移除背景”功能,可以想像在視頻的每一幀上執行這個操作——傳統上由手工完成。這使得電影製作人和編輯可以組合不同的視覺效果,交換背景,或創建富有想像力的序列。無論是手工完成還是借助軟件,Rotoscoping都需要仔細注意細節,以確保隨著物體在畫面中移動,跟蹤的輪廓保持準確。
Rotoscoping的歷史:從早期動畫到現代VFX
Rotoscoping擁有悠久的歷史,始於20世紀初。這項技術由動畫師Max Fleischer於1915年發明,旨在使卡通動畫變得更加現實[3]。Fleischer的原始Rotoscope設備將實景電影幀投影到玻璃畫架上,動畫師可以在上面勾畫圖像。使用這種方法,Fleischer著名地拍攝了他的兄弟Dave(打扮成小丑),並跟蹤幀以創建其中一個第一個Rotoscoped卡通角色:Koko the Clown[4]。在當時,這是革命性的——它使得動畫電影中的流暢、逼真的動作更容易達到,這些都是單靠想像是無法輕易實現的。
儘管被設想為動畫師的捷徑,但早期的Rotoscoping證明是極其耗費勞力和時間的,因為每一幀仍然必須精確繪製[5]。事實上,這個過程如此繁瑣,以至於在某種程度上違背了“捷徑”的宗旨。Fleischer最初將這種技術保留在他的工作室內(有時被稱為“Fleischer過程”)。但在他的專利於1934年到期後,其他工作室急切地採用了Rotoscoping[6]。例如,華特·迪士尼製片廠在《白雪公主與七個小矮人》(1937)中廣泛使用Rotoscoping來實現更現實的人類動畫[6]。許多白雪公主的場景——如跳舞和王子的動作——都是通過跟蹤演員實景參考素材繪製的[7]。這導致了極其流暢的動作,儘管由於該技術的複雜性,這也導致了電影超支[6]。
在20世紀中葉,Rotoscoping繼續在動畫和特殊序列中使用。幾個著名例子突顯了其創意應用。導演Ralph Bakshi在他1970年代和80年代的電影中大量依賴Rotoscope動畫——例如《巫師》(1977)和《魔戒》(1978)——以實現複雜的戰鬥場景和有限預算下的逼真動作[8]。這些影片涉及拍攝實際演員,然後跟蹤他們以創建風格化的動畫奇幻序列。這種技術賦予了Bakshi的動畫一種粗糙、現實的邊緣,使其有別於更傳統的卡通。
Rotoscoping還進入了實驗藝術和音樂媒體。一個標誌性例子是1985年a-ha的音樂視頻《Take On Me》,它結合了實景影像與鉛筆草圖風格的動畫,通過Rotoscoping實現。在這段標誌性視頻中,動畫師小心翼翼地跟蹤約3000幀的現實畫面,以將繪製的世界與現實融合[9][10]。結果是一個視覺上令人驚嘆和獲獎的音樂視頻,吸引了觀眾的注意——一個真正展示了Rotoscoping動畫獨特美學的作品。
到20世紀末及2000年代,Rotoscoping從單純的動畫技術演變為視覺效果及後期製作的基礎。計算機和數字合成工具的出現使Rotoscoping過程變得稍微容易和精確(不再需要將其投影到玻璃上,並擺弄線條——藝術家現在可以使用軟件繪製遮罩)。然而,在許多情況下,它仍然是一項逐幀手動任務。即使藍屏/綠屏(chroma key)技術變得常見以將演員與背景分開,Rotoscoping仍然被大量用於調整和清理遮罩,或處理綠屏不可行的情況[11]。
電影歷史中的一個經典例子強調了Rotoscoping在視覺效果中的重要性,即原版《星際大戰》三部曲中光劍效果的創造。在《星際大戰:第四集 - 新希望》(1977)中,光劍的閃光能量刃是通過對每一幀進行Rotoscoping來實現的[12]。演員握著實際的棍子作為道具,效果藝術家在每一幀上跟踪棍子,然後為該輪廓添加發光的光暈[13]。這個繁瑣的逐幀Rotoscoping賦予了絕地武士的武器其標誌性的亮光[12]。後來的《星際大戰》電影也採用了同樣的方法;例如,Rotoscoping被用來在霍斯星的AT-AT行走機與背景合成,並利用舊影片中的畫面將公主演賽入鏡[14]。這些例子展示了Rotoscoping在電影中架起了現實與幻想之間的橋樑。
整整一個多世紀以來,Rotoscoping被證明是一種多功能技術:第一次促進了逼真的動態動畫,後來促進了現實主義電影中的無縫視覺效果。這個過程一直都是細緻的——在過去,成群的藝術家花幾個星期手工跟蹤影像。今天,計算機已取代了筆和紙,但直到最近,人類的Roto藝術家仍然不得不在幾乎每一幀上繪製遮罩。這段漫長的歷史為現在Rotoscoping的使用設置了舞台,也解釋了為何近期的進展(如自動化)如此重要。
Rotoscoping在電影和視頻製作中的常見用途
Rotoscoping在電影和視頻製作中扮演著重要角色,尤其是在視覺效果的領域。基本上,每當電影製作人需要在拍攝後獨立修改或隔離畫面的某部分時,Rotoscoping就是其中一種常用技術。以下是一些最常見的用途:
- 為合成創建遮罩: 在視覺效果中,Rotoscoping的主要用途之一是為特定元素創建遮罩(遮罩),以便它可以與不同的背景或元素組合。電影製作人使用Rotoscoping來從一個場景中提取角色或物體,並將它們放入另一個場景中[15]。例如,在拍攝地點拍攝的演員可以被Rotoscoping提取,然後在稍後的過程中與數字創建的背景進行合成。如果未使用綠屏或需要額外的隔離,這是非常有用的。Rotoscoping還用來移除畫面中的背景或單獨隔離前景元素以進行顏色分級(這樣你就可以單獨對演員進行顏色校正)。
- 視覺效果和奇幻序列: Rotoscoping使各種創意效果成為可能,這些效果涉及在實景上繪製或動畫化。如前所述,《星際大戰》的光劍便是手工Rotoscoping以添加演員道具劍上的發光效果[12]。另一個例子是,在《誰陷害了兔子羅傑》(1988)中,儘管大部分使用了動畫和合成,但Rotoscoping可能在某些位置得到使用,以微調動畫角色與實景畫面之間的互動。任何時候出現如人物周圍的光暈效果、閃電、神奇能量場等效果時,藝術家很有可能會對幀進行Rotoscoping,以添加效果或遮罩角色,這樣效果可以在其後或周圍顯示。Rotoscoping為電影製作人提供了創造場景或效果的機會,這些在拍攝時將會困難、昂貴或不可能實現[16]。 這是一個保險網和創意工具——從隱藏特技裝置到添加虛構生物。
- 移除不需要的元素(Paint-Out): 另一個常見用途是“paint-out”或物體移除工作。假設咪咪麥克風在鏡頭中下降,或特技帶可見,或(著名地)在場景上留下了一個多餘的咖啡杯——VFX藝術家可以對該區域進行Rotoscoping並將其塗抹覆蓋。例如,導演馬丁·斯科賽斯曾在後期製作中使用Rotoscoping來將一塊污垢(或懸掛的可卡因)從演員的臉上去除,通過逐幀跟蹤和塗抹來移除該元素[17]。Rotoscope遮罩定義了要改變的區域。類似地,特技場景中使用的撐杆通常通過Rotoscoping圍繞演員來移除,並在每一幀中塗抹出撐杆。
- 運動圖形和風格化視頻效果: 除了重視VFX的情況外,Rotoscoping也用於一般視頻製作和運動圖形。編輯可能會對視頻中的一個人進行Rotoscoping,以創建剪裁的剪影效果,將素材轉變為風格化的“卡通”外觀,或者應用不同的背景處理。例如,音樂視頻可能會從素材中隔離舞者,然後用漩渦顏色或圖形替換背景——這種隔離可以通過Rotoscoping舞者來實現。
- 創意過渡: Rotoscoping可以用來在編輯中創建有趣的過渡。想像一個場景,一位演員跳起來,背景隨之變化——編輯可以對演員進行Rotoscoping,以及在他們跳起的同時將背景切換。這對觀眾來說是一種技術魔法技巧,通過小心的遮罩實現。
總之,影片/視頻中的Rotoscoping往往是為了實現控制。它使創作者能夠對視覺效果進行多種手術式操作:無論是換背景、添加疊加元素、重新著色場景的特定部分,還是添加手繪的裝飾。在VFX工作室中,一位Rotoscope藝術家可能在一天中逐幀跟蹤演員、道具和陰影,以幫助整合複雜鏡頭的所有元素。
為了說明Rotoscoping在製作中的重要性,請考慮即使在今天的數字工具如chroma key的情況下,許多好萊塢大片仍然依賴Rotoscope藝術家團隊。大量具有VFX的電影(想想漫威或科幻史詩)經常會有這樣的序列,其中演員並非在綠幕上拍攝,但後來需要從原始背景中隔離——Rotoscoping就是解決方案。這是一項乏味的工作,但它讓導演在後期製作中有了巨大的靈活性,可以進行修改。
例如,**在《復仇者聯盟:終局之戰》**中,如果一位超級英雄的畫面最初沒有綠幕,但導演後來決定使用CGI破壞來增強背景,藝術家將從原始鏡頭中Rotoscopy出演員,以便在他們身後插入CGI爆炸或天際線。這種用法在現代電影製作中是無處不在的。
Rotoscoping在數字營銷和廣告中的應用
除了電影和電視,Rotoscoping也成為數字營銷、廣告及其他創意視頻內容中的一種流行技術。營銷人員和廣告商始終在尋找視覺上引人注目的方式來講述故事或展示產品,而Rotoscope動畫則提供了獨特的現實主義和藝術融合,可以吸引觀眾的注意力。
Rotoscoping在營銷中的一個重要吸引力在於它以無縫的方式融合現實和想像[18]。因為這種技術從實際影像開始,所以結果保留了現實感——實際的人類運動、真實的產品細節——但通過跟蹤或風格化這些影像,最終的外觀獲得了藝術般的、幾乎是手工製作的風格。這種獨特的美學立即在典型的實景視頻中脫穎而出[19]。觀眾可能會注意到某些東西看起來像現實,但同時也像卡通,這可能是非常吸引人的。例如,一些品牌使用局部Rotoscope效果,讓一位實際演員突然轉變為動畫素描外觀,或者讓他們周圍有動畫裝飾;這創造了一個讓觀眾印象深刻的視覺效果。
廣告使用案例: Rotoscoping經常被用來**突出廣告中的產品或人。**廣告商可能會對一個產品(例如,一輛汽車或一雙鞋)進行Rotoscoping以進行隔離,然後將其放置在各種背景或圖形環境中,而無需每次都重新拍攝。在產品商業廣告中,Rotoscoping可以創造出將產品與任何選擇的背景無縫融合的效果——使其看起來就像產品實際上在那個環境中拍攝的一樣[20]。例如,一個汽車廣告可以在普通背景下拍攝汽車,然後再通過Rotoscoping將汽車放入異國情調的場所或超現實的景觀中。觀眾看到汽車完美融入新場景中,而這種感覺是因為汽車的影像是真實的——唯一被替換的是背景。
Rotoscope動畫也被視為品牌講述故事的一種風格選擇。廣告中的一個值得注意的案例研究是查爾斯·施瓦布(Charles Schwab)“和查克交談”的廣告系列(約2008年)。這些廣告是以實景拍攝的,但後來被Rotoscoping轉換為高對比度、草圖動畫風格。結果是一種引人注目的外觀;事實上,查爾斯·施瓦布的CMO指出,許多觀眾因為視覺風格如此獨特而能夠在記憶中回憶起廣告場景和對話[21]。這種Rotoscoping的外觀幫助一個本來簡單的金融服務廣告突破了喧囂,感覺像是一本移動的圖形小說。這表明廣告公司使用Rotoscope動畫來使商業廣告更具記憶點和吸引力[22][23]。這種技術讓他們能夠在動畫中突出某些細節(例如,突出講述者),同時仍然利用實際演員的自然運動和表情來保持真實感。
社交媒體和數字內容: 在Instagram、TikTok和YouTube的時代,營銷人員和內容創作者也開始使用Rotoscoping(或類似Rotoscope的效果)來製作值得分享的視覺效果。一段簡短的社交媒體視頻可能會對主要主題進行Rotoscoping,以應用創意過濾器或將背景替換為品牌元素等。因為Rotoscoping可能是勞工密集型的,所以並不會用於每一個細節,但當品牌想要一個**“驚嘆”因素**——也許是一個將真實影像與動畫信息圖融合的廣告,或一個音樂視頻風格的廣告——它是一種強大的方法。此外,現代軟件和AI也已經開始簡化Rotoscoping過程,使其對於在截止日期內的營銷團隊來說更加迅速和易於獲取[24]。 這意味著,即使是較短的廣告活動或小品牌也可以考慮使用Rotoscope效果,而無需擔心成本或時間。
為什麼營銷人員喜愛Rotoscope動畫:
- 它吸引注意:半動畫的外觀可以讓社交媒體中的滾動拇指暫停。Rotoscope視頻往往具有“創意”或“藝術”氛圍,可以吸引觀眾,從而導致更好的參與度[19]。
- 它增強講故事效果:營銷人員可以通過在現實上繪製來說明抽象的概念。例如,一個醫療保健廣告可能有一個Rotoscoped角色,周圍環繞著動畫圖表來展示內部過程——將真實的人與圖示化的圖形融合。
- 它可以簡化製作:令人驚訝的是,在某些情況下,Rotoscoping可能具有成本效益[25][23]。如果你已經擁有現場素材,應用Rotoscope動畫可能比從頭開始創建一個完全動畫的視頻更便宜,或為現場拍攝建立昂貴的場景。這使得在新的創意方式中使用“現有素材”變得可行,從而可能節省重拍或地點成本[25]。許多品牌已經通過對舊視頻內容進行Rotoscoping而重新利用它,並賦予它全新的動畫風格。
- 它在各行各業中具有多功能性:時裝品牌使用Rotoscoping讓現場模特看起來像是穿著最新設計的移動素描。科技公司可能利用它來可視化真實辦公室素材中的數據或流程。音樂視頻、金融廣告、非營利組織——所有這些都找到了獨特的方法來實現Rotoscope風格的內容,以強調其信息。[26][27]。
再舉個例子:《亞馬遜Prime系列Undone (2019)的音樂視頻/廣告使用了全Rotoscope動畫(像A Scanner Darkly在2006年做的那樣),創造出了一種夢幻、超現實的外觀,模糊了現實——非常適合涉及時間旅行和個人劇情的故事。廣告活動利用了同樣的Rotoscope風格,以在觀眾眼中脫穎而出[28]。這突顯出了一個最終點:Rotoscoping可以引發情感和語調,這是純實景或純動畫可能無法做到的。它存在於一個混合的空間,可以根據執行的不同而感覺懷舊、藝術或超現實。
總之,對於營銷和廣告而言,Rotoscoping提供了一個創作可能性的平台:一個將真實畫面的可信度與動畫的創意自由相融合的舞台。它幫助品牌以視覺引人入勝的方式講述故事,無論是為了清楚地解釋複雜概念,還是為了做出大膽的藝術聲明。隨著技術的進步,甚至小型團隊也可以對Rotoscoping進行實驗,以區別他們的內容——隨著自動化使其變得更容易,這一趨勢可能會增長。
手動Rotoscoping的挑戰
到目前為止,Rotoscoping被認為是強大的,但同時重要的是要理解為什麼它獲得了電影製作和視頻製作中最繁瑣的工作的名聲。傳統的Rotoscoping(甚至數字手動Rotoscoping)耗時且勞動密集[29]。
想像一下以每秒24幀拍攝的10秒視頻——那是240個單獨的幀。如果你需要在每個幀中跟蹤一個物體,那麼你必須繪製240個單獨的遮罩,調整每個遮罩以對應於物體的運動。對於5分鐘的場景來說,這可能是幾千個幀可供處理。因此,手動Rotoscoping可能需要幾個小時甚至幾天的時間,僅僅為幾秒鐘的影像[29]。VFX藝術家經常將Rotoscoping稱為“磨練”——這是一項艱辛的工作,需要集中的注意力,並且往往感覺像是長時間進行數字描摹或切割。
手動進行Rotoscoping的一些主要挑戰包括:
- 逐幀調整: 即使有軟件工具來繪製遮罩,藝術家仍然必須經常調整每個幀的遮罩(或每幾幀)以保持其與移動主題的對齊。視頻中的人和物體因透視變化、運動模糊和相機運動而不會保持相同的形狀或大小。因此,在第1幀包裹著一個人的遮罩,在第5幀時可能不會完全貼合——它必須調整。這意味著大量重複的工作。
- 對細節的細緻關注: 良好的Rotoscoping需要精確度。如果遮罩(遮罩)稍微偏差,你可能會看到“光暈”或背景的一部分滲透進新背景中。像頭髮、半透明的布料或運動模糊邊緣等細部特別難以處理。一位藝術家可能會花費過多的時間仔細動畫化圍繞著風吹過的人的頭髮或一群人重疊的四肢的遮罩點。這就像用一把非常小的手術刀進行數字外科手術。
- 疲勞和人為錯誤: 持續的逐帧描摹可能會導致疲勞,而疲勞又可能導致錯誤。對於一位Rotoscope藝術家來說,追踪一個點並使遮罩形狀搖擺或漂移是很容易的。這些**“搖擺”或不一致性**然後需要回到之前進行修正,這會浪費時間[5]。一致性至關重要——遮罩的形狀應該保持穩定,除非物體本身真的變形。手動執行時,保證一致性是困難的。
- 高技能要求: 雖然Rotoscoping可以教給初級藝術家,但做好這項工作確實是一項技能。資深的Rotoscope藝術家知道提高工作速度的技巧(例如使用運動跟踪輔助,或將複雜的主題分解成多個簡單的遮罩)。他們還會對如何處理棘手部分有一種敏銳的洞察力。然而,因為這工作勞動密集,工作室往往會將初級藝術家分配到或外包Rotoscoping任務給Rotoscope專家供應商[30]。這是因為資深藝術家的時間是昂貴的,而Rotoscoping大體上被認為是可以外包的機械類工作。但即使如此,質量仍需要進行檢查,修訂是常見的。
- 時間和成本的影響: 所有上述因素意味著手動Rotoscoping可能成為後期製作的瓶頸。如果一個項目有大量的Rotoscoping需求,它要麼會拖慢進度計劃,要麼需要雇用更多的藝術家來分擔工作。這自然而然地增加了成本。業界有關於必要幾秒的影像而花費幾個星期的Rotoscoping工作的故事。例如,我們提到的音樂視頻《Take On Me》耗費了16周的時間讓一組動畫師完成Rotoscoping——儘管這以非常藝術的方式完成,但它展示了所需努力的極端範疇[31]。在VFX中,團隊有時需要幾個月來對複雜的戰鬥場景或人群場景進行Rotoscoping,尤其在其他方法(如綠幕或差異遮罩)不可用的情況下。
鑑於這些挑戰,並不奇怪,Rotoscoping經常被視為電影製作中的**“必要之惡”**。對於許多效果來說,它至關重要,但從藝術家的角度來看卻是乏味的工作。事實上,從前大部分Rotoscoping都是使用Adobe After Effects、Nuke或Silhouette等軟件進行的——這些都提供比用紙上進行更好的繪畫和跟踪工具,但仍然基本上要求藝術家繪製形狀並隨時間動畫化。你可能會在第1幀和第10幀的某些特徵上進行跟蹤,然後讓計算機插值,但然後你就必須修正中間幀等等。
總結一下痛苦的過程:手動Rotoscoping有點像倒著進行動畫創作。在正常的動畫中,你繪製的是一個運動的物體。在Rotoscoping中,物體在影像中移動,而你卻是在畫出輪廓來匹配它。這很慢,細節導向,並且必須完美才能看起來正常。一個源頭將其形容為“一個艱鉅的手動過程,需要細緻的關注,通常需要視頻編輯者數小時甚至數天的時間和努力才能完美過一個場景”[29]。這真的是涵蓋了幾天數場景或者多天的繪製能量。
因此,長期以來對於簡化Rotoscoping的興趣就由此而生。而這也是技術最近開始提供一些救助的地方:自動化和AI。
自動化和AI如何改善Rotoscoping工作流程
在過去幾年中,軟件和人工智能的進步開始徹底改變Rotoscoping。曾經需要數小時的人類處理的任務,有時可以由訓練過的智能算法在分鐘(或幾秒)內完成。這一變化對於視頻編輯者和VFX藝術家而言是一個重大變革,將Rotoscoping從一項繁瑣的工作轉變為工作流程中的更精簡部分[32][24]。
現代Rotoscoping軟件的幫助: 即使在AI成為熱詞之前,已經開發了幫助Rotoscoping的工具。例如,運動跟踪可以通過跟蹤一個點或形狀來協助,使藝術家不必在每一幀上手動移動遮罩。平面跟踪器(如Mocha Pro中的跟踪器)可以跟蹤平面或物體,並在幀之間推進Roto形狀。這些工具節省了時間,但仍然需要手動校正。洋蔥皮特徵允許藝術家查看以往和下一幀叠加,以更一致地調整形狀[33]。所有這些使Rotoscoping變得不那麼痛苦,但這是漸進性的,而不是革命性的。
引入AI和機器學習: 現在我們正在迎來AI在Rotoscoping中以重要方式進攻的時代。基於AI的Rotoscoping(通常稱為**“AI輔助Rotoscoping”或僅稱為“自動遮罩”**)涉及經過大量圖像和視頻訓練的算法,用以識別特定主體(如人類、動物等),並將它們與背景分離。基本概念是AI可以自動識別和遮罩幀中的主體[34]。
以下是AI輔助Rotoscoping的一般工作原理:
- 物體檢測和分段: AI檢查每一幀並嘗試識別感興趣的對象(或多個對象)。例如,AI模型可以經過訓練來檢測視頻幀中的人物,並在他們的輪廓周圍生成遮罩。這類似於智能手機攝像頭識別面孔或人形,方便拍攝人像模式照片。擁有足夠的訓練資料後,AI可以根據幀中的前景與背景之間的差異做出合理的猜測。
- 時序跟踪: 一旦AI知道在一幀中遮罩的內容,它將在隨後幀中跟踪該對象。通過光流或深度學習,AI預測對象在下一幀中的移動位置並顯示相應的遮罩[34]。從本質上講,它是在自動完成一個人Roto藝術家手動必須做的事情——追蹤主體的運動。
- 遮罩精煉: 優秀的AI工具還會致力於精煉遮罩的邊緣,處理一些棘手的部分,如調整運動模糊或細節。一些AI系統明確處理頭髮,使用能夠捕獲毛茸茸的半透明區域的神經網絡(這是人類在Roto時所面臨的一個挑戰)。目標是生成一個幾乎與熟練人類繪製的遮罩一樣精確的遮罩。
這些AI步驟的結果可能是驚人的快。正如一個來源所指出的,高級工具使用算法自動識別和跟蹤幀中的物體,節省了數小時的手動工作,並且通常產生的結果和手動方法相媲美[35]。例如,Adobe After Effects推出了Rotobrush 2(由Adobe Sensei AI驅動),允許編輯者僅需約略繪製主體一次,然後AI就會將該選擇應用於數十或數百個幀,通常會獲得一個不錯的遮罩,只需輕微的調整即可[36]。同樣,Boris FX的Mocha Pro也集成了AI驅動的遮罩創建模塊。即使是Blackmagic Fusion和DaVinci Resolve也添加了一個名為Magic Mask的功能,使用機器學習自動跟蹤和遮罩人類。
這對實踐意味著什麼?這意味著手動完成的任務現在是可行的。一位編輯可以拿到一個4K解析度的片段,人物行走穿過人群,並且使用AI在極少的時間內隔離該人物——這在手動處理數千幀的情況下可能是禁止性昂貴的。具體示例是Runway ML的出現,這是一個用戶友好的AI視頻編輯工具:只需幾次點擊,Runway的Rotoscope工具就可以從背景中隔離一個移動的人。原本需要一天的過程現在只需幾分鐘的計算加少量清理即可完成。
但是,這並不是魔法(還不是)。**AI Rotoscoping工具有其優勢和局限性。**這裡是簡要的分析:
- AI Rotoscoping的優勢: 顯然的優勢是速度。它極大地加快了工作流程,使得接近實時的背景移除或物體隔離成為可能[37]。這不僅節省了時間,還減少了藝術家的繁瑣工作,讓他們能夠更專注於創意調整,而不是原始勞動。AI在處理一致且高對比度的情況下非常出色——例如,一個人在比較清晰的背景中移動,或顯著的前景物體。一些AI工具甚至能很好地處理複雜邊緣(如捲髮或自行車輪的輪廓),因為它們已經從大量資料集中學習過[38]。AI沒有情感——它不會感到疲憊或粗心,因此如果算法有效,它將為每一幀一致地應用遮罩(不會出現搖擺,除非主體本身搖擺)。
- 工作流程整合: 許多AI Roto工具現在整合到編輯者已經使用的軟件中(Adobe的工具在After Effects/Premiere內,或Nuke的OFX插件等),這意味著你可以在不完全改變流程的情況下將它們運用進來。這使得採用更為簡單。即使是獨立的在線工具(例如我們將從VIIDO討論的工具)通常也被設計得很簡單:上傳素材,獲得快速結果,下載遮罩或編輯後的視頻。結果,即使是非VFX專家的編輯者也能嘗試移除背景等任務,這之前可能需要專門的藝術家。
- 侷限性和挑戰: AI並不完美。它可能在複雜場景中遇到困難,這些場景中有很多重疊元素、混亂的動作,或者主體和背景之間顏色相似[39]。例如,如果某人部分被另一個人或物體遮擋,AI可能會失去追蹤,或者將兩個物體合併成一個遮罩。非常**快速的運動(運動模糊)**可能會混淆算法——AI可能不會明確知道在模糊幀中,主體的邊界和背景的邊界是什麼。此外,某些細微的細節,如毛發的毛髮、反射或透明物體,仍然很難被AI100%處理[39]。在這些情況下,AI生成的遮罩可能存在錯誤,仍需人類手動修正(儘管在調整半好的遮罩會比從零創建一個遮罩來得容易)。
- 另一個關鍵的限制是缺乏創造性的判斷。AI通常可以識別明顯的主體(如“人”或“汽車”),但它本質上不知道哪一個物體是你關心的,除非你指導它。不會知道你是否想排除一個陰影或包括一些微妙的東西。人類Roto藝術家通常會進行判斷性決策——例如,這個人的半透明影子應該包括在遮罩中還是排除在外?AI將做它被訓練做的事情,但這可能不符合藝術意圖[40]。因此,通常需要人類的監督。在專業VFX中,AI進行第一次處理後,藝術家將進入並細化遮罩,修復AI估算錯誤的部分,並確保它達到質量標準。
- 邊緣情況和泛化: AI模型是基於數據訓練的,如果你的素材超出了它“預期”的範圍,你可能會得到不良的結果。例如,訓練主要針對人類的AI Rotoscoping工具,在你要求它Rotoscoping一棵樹或抽象形狀時可能會遇到困難。或者如果畫面是顆粒的、低光的或位置不尋常,AI可能會發生錯誤[41](一些專業人士指出,在某些棘手的情況下,手動完成可能比讓AI混淆來得更快)[41]。
儘管如此,趨勢已經很明確:AI輔助Rotoscoping正在迅速改善,並且許多人認為它就是未來(或現實!)。有一篇文章這樣表示:隨著AI的進步,Rotoscoping正在經歷一場震撼性的變革。AI驅動的工具現在可以自動化許多過程,大幅縮短Rotoscoping所需的時間和精力[32]。共識並不是AI會完全取代手動Rotoscoping,而是它會增強藝術家的能力。最佳的結果通常來自於結合:AI讓你做到90%,然後人類清理剩下的10%,加上算法可能忽略的微妙觸碰[42][40]。
在實際應用中,過去幾天的工作現在可能只需幾小時。這意味著緊迫的截止日期變得更具可管理性。這也意味著Rotoscoping不再是小創作者的障礙;你不需要一個龐大的團隊在顯示器上進行Rotoscoping,當一個AI工具可以在你的筆記本電腦或通過網絡服務上完成。舉例來說,如果一名YouTuber想要在沒有綠幕的情況下去除背景,現在有AI驅動的Rotoscope工具能夠一鍵完成(接下來我們將深入討論一個特定的在線工具)。
總結這一部分,可以說:從此以後,為每一幀Rotoscoping花費數小時的日子已經屈指可數[43]。AI正在作為催化劑,而不是Rotoscoping的取代者。它接管了繁瑣的工作,使藝術家和編輯可以更專注於創意決策和最終修飾。最終,Rotoscoping仍然是一門藝術——人類的觸感對那些完美的細節仍至關重要——但現代工具已經開始讓Rotoscoping的生活變得輕鬆[43]。
VIIDO的在線Rotoscoping工具:讓AI驅動的Roto變得簡單
Rotoscoping領域中最令人興奮的發展之一是出現了用戶友好的在線工具,利用AI讓幾乎任何人都能進行Rotoscoping任務。VIIDO的在線Rotoscoping工具(可在vidio.ai上獲得)是我們所提到的改進進步的典型例子。這款工具將強大的AI算法包裹在簡單的網頁界面中,使得即使是初學者也能迅速隔離主體並以最小的努力進行背景替換。
舊式的Rotoscope藝術家在數位化時代之前的照明桌面上勾畫實景電影幀(大約1980年代)。像VIIDO這樣的現代AI工具將這個艱難的逐幀過程變成幾次點擊,通過自動檢測和遮罩運動主體。
主要特點及運作方式: VIIDO的Rotoscoping工具旨在簡單易用。工作流程通常包括幾個步驟:
- 上傳你的視頻片段。 因為它是線上工具,所以你不需要安裝任何軟件——你只需將視頻文件拖放或選擇,工具會在雲端處理繁重的計算,甚至會在視頻上傳和處理的過程中實時顯示進度(這樣你就不用猜測)[44]。
- 單擊確定前景主體。 一旦視頻加載完成,界面允許你單擊想要隔離的物體或人影。VIIDO的工具使用AI來解讀你的點擊,了解你指的是哪個主體(例如,幀中的人與背景)。在許多情況下,你可能只需在一幀中單擊一次主要主體,AI就會自動為該主體生成遮罩。
- AI“自動Rotoscope”視頻。 在你指定主體後,工具的高級算法會啟動,跟蹤該主體在每一幀的運動並創建準確的遮罩[45]。事實上,它將你的選擇應用到整個片段中。有時會出現一個像“推進遮罩”的按鈕,當你點擊時啟動AI處理所有幀(VIIDO的博客提到了一個“推進遮罩功能”,這確實有助於處理整個片段,基於你當前的幀選擇)。在這一過程中,AI完成了困難的工作:識別每一幀中的主體,處理其運動,將其與背景分隔。速度令人印象深刻——原本需要一小時的手動工作在這裡幾乎可以立刻完成。VIIDO的平台自豪地宣稱“在幾次點擊中實現閃電般迅速和超高精度的影像提取”,這意味著處理時間極快,且一旦推進完成,遮罩的準確度也非常高[46]。
- 如有需要,進行細化。 如果AI沒有完全準確地處理,該工具提供了選項以細化遮罩。例如,如果錯誤地包括了一點背景,你可以使用“擦除”刷子將其移除,或者使用“取消遮罩”工具排除某個區域。反過來,若有東西遺漏,你可以添加。然而,AI的目標是最大限度地減少這一步。VIIDO的界面被描述為*“用戶友好”*,旨在使即使對Rotoscope工作不熟悉的人也能輕鬆進行跟進[45]。你將看到遮罩在視頻上的叠加效果,可以調整邊緣或切換羽毛滑塊以柔化輪廓。
- 快速更改或移除背景。 更進一步,VIIDO的工具超越了僅僅遮罩——它基本上是一個**“互動背景換換器”**。一旦主體被隔離,該平台就提供了各種功能來進行不同的操作:
- 交換背景: 你可以在主體後面插入新背景。這可以是固體顏色、模糊、其他圖片或視頻。“只需幾次點擊即可拂換背景”的措辭是其關鍵賣點[47]。想像一下,將自己拍攝在凌亂的房間中,然後只需幾次點擊,就能將自己放在海灘或時尚錄影棚的背景下。
- 移除背景: 如果你只是想要透明背景(也許用以在另一部視頻或簡報中疊加主體),可以做到。這本質上使你的视频變成擁有Alpha通道(透過性)的資產。
- 風格化或模糊背景: VIIDO提到你可以“風格化背景”[47]。這可以意味著應用濾鏡(例如,將背景變成黑白,同時讓主體保持彩色,這是一種常見的營銷效果以突出主體),或添加高斯模糊以模擬淺景深(這是一個很好的技巧,可以使影像看起來更具電影感,通過模糊背景讓主體保持焦點)。這種突出移動物體或進行模糊的能力是內建的[44]。
- 前景調整: 一些工具還允許在遮罩後對主體進行輕微調整——如顏色調整或添加陰影——因為一旦你有了遮罩,你就可以分開處理前景和背景。在摘錄的背景b的上下文下,並沒有明確說明,但“調整前景”可能是一個選項(博客暗示“推進後調整前景/背景”)。
- 預覽並導出。 你可以在該工具中預覽效果——查看主體髮刷在新背景中或背景去除後的樣子。一旦滿意,你就可以導出最終視頻。處理已經完成,因此,導出是快速的。VIIDO的工具可能允許下載編輯過的片段或遮罩。如果你想在其他程序中進行進一步編輯,你可能會下載遮罩序列或alpha遮罩視頻。
VIIDO方法的好處:
- 易於使用: 上述整個過程不需要專業的VFX知識。這樣,營銷人員、內容創作者或從未手動進行Rotoscoping的編輯者也能實現結果。界面引導用戶(“點擊前景物體”等),而AI在背後處理複雜的部分[45]。這使得原本是一個小眾技術的工作變得容易接觸。根據該公司所述,他們的目標是讓使用AI的視頻編輯對*“即使是初學者”*所能使用的知識變得簡單[48]。換句話說,您不必是遮罩藝術家——您所需的工具是您的專家助理。
- 速度: VIIDO的工具是快速的——大幅減少這類任務的編輯時間。因為它利用雲計算和優化算法,可以比人類快得多輕鬆處理大量幀。這樣的速度意味著專案快速周轉。如果你是社交媒體經理,想在一個下午的時間內去除促銷視頻的背景,這現在變得可行了。你不必等待數天才能獲得藝術家或外包公司的遮罩。市場材料