遷移學(xué)習(xí)中的領(lǐng)域自適應(yīng)方法

遷移學(xué)習(xí)中的領(lǐng)域自適應(yīng)方法目

錄CONTENTS最新研究成果遷移學(xué)習(xí)簡(jiǎn)介領(lǐng)域自適應(yīng)問(wèn)題領(lǐng)域自適應(yīng)方法參考資料12345n

智能大數(shù)據(jù)時(shí)代n

數(shù)據(jù)量，以及數(shù)據(jù)類型不斷增加n

對(duì)機(jī)器學(xué)習(xí)模型的要求：快速構(gòu)建和強(qiáng)泛化能力n

雖然數(shù)據(jù)量多，但是大部分?jǐn)?shù)據(jù)往往沒有標(biāo)注n

收集標(biāo)注數(shù)據(jù)，或者從頭開始構(gòu)建每一個(gè)模型，代價(jià)高昂且費(fèi)時(shí)n

對(duì)已有標(biāo)簽的數(shù)據(jù)和模型進(jìn)行重用成為了可能n

傳統(tǒng)機(jī)器學(xué)習(xí)方法通常假定這些數(shù)據(jù)服從相同分布，不再適用如何基于已有的不同分布數(shù)據(jù)，快速構(gòu)建模型，實(shí)現(xiàn)數(shù)據(jù)標(biāo)定，是一個(gè)重要問(wèn)題1遷移學(xué)習(xí)的背景圖片及視頻音頻行為文本n

核心思想n

找到不同任務(wù)之間的相關(guān)性n

“舉一反三”、“照貓畫虎”，但不要“東施效顰”（負(fù)遷移）n

遷移學(xué)習(xí)n通過(guò)減小源域(輔助領(lǐng)域)到目標(biāo)域的分布差異，進(jìn)行知識(shí)遷移，從而實(shí)現(xiàn)數(shù)據(jù)標(biāo)定。遷移學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域用于解決標(biāo)記數(shù)據(jù)難獲取這一基礎(chǔ)問(wèn)題的重要手段1遷移學(xué)習(xí)簡(jiǎn)介源域數(shù)據(jù)減小差異知識(shí)遷移135n

應(yīng)用前景廣闊n

模式識(shí)別、計(jì)算機(jī)視覺、語(yǔ)音識(shí)別、自然語(yǔ)言處理、數(shù)據(jù)挖掘

…1遷移學(xué)習(xí)應(yīng)用場(chǎng)景不同用戶、不同設(shè)備、不同位置的行為識(shí)別不同場(chǎng)景、不同設(shè)備、不同時(shí)間的室內(nèi)定位不同用戶、不同接口、不同情境的人機(jī)交互不同視角、不同背景、不同光照的圖像識(shí)別不同領(lǐng)域、不同背景下的文本翻譯、輿情分析語(yǔ)料匱乏條件下不同語(yǔ)言

的相互翻譯學(xué)習(xí)n

數(shù)據(jù)為王，計(jì)算是核心n數(shù)據(jù)爆炸的時(shí)代！n

計(jì)算機(jī)更強(qiáng)大了！

n

但是n

大數(shù)據(jù)、大計(jì)算能力只是有錢人的游戲普通研究人員無(wú)法獲取足夠標(biāo)定數(shù)據(jù)，并且沒有足夠的計(jì)算資源1遷移學(xué)習(xí)簡(jiǎn)介：為什么需要遷移學(xué)習(xí)Googlea4onn

云+端的模型被普遍應(yīng)用n

通常需要對(duì)設(shè)備、環(huán)境、用戶作具體優(yōu)化n

個(gè)性化適配通常很復(fù)雜、很耗時(shí)n

對(duì)于不同用戶，需要不同的隱私處理方式如何針對(duì)新用戶、新設(shè)備、新環(huán)境，快速構(gòu)建模型？1遷移學(xué)習(xí)簡(jiǎn)介：為什么需要遷移學(xué)習(xí)沒有足夠的用戶數(shù)據(jù)，如何構(gòu)建模型？n

特定的機(jī)器學(xué)習(xí)應(yīng)用n

推薦系統(tǒng)中的冷啟動(dòng)問(wèn)題：沒有數(shù)據(jù)，如何作推薦？1遷移學(xué)習(xí)簡(jiǎn)介：為什么需要遷移學(xué)習(xí)n

為什么需要遷移學(xué)習(xí)n

數(shù)據(jù)的角度n

收集數(shù)據(jù)很困難n

為數(shù)據(jù)打標(biāo)簽很耗時(shí)n

訓(xùn)練一對(duì)一的模型很繁瑣n

模型的角度n

個(gè)性化模型很復(fù)雜n

云+端的模型需要作具體化適配n

應(yīng)用的角度n

冷啟動(dòng)問(wèn)題：沒有足夠用戶數(shù)據(jù)，推薦系統(tǒng)無(wú)法工作因此，遷移學(xué)習(xí)是必要的1遷移學(xué)習(xí)簡(jiǎn)介：為什么需要遷移學(xué)習(xí)基于實(shí)例的遷移(instance

basedTL)?

通過(guò)權(quán)重重用源域和目標(biāo)域的樣例進(jìn)行遷移基于特征的遷移

(feature

basedTL)?

將源域和目標(biāo)域的特征變換到相同空間基于模型的遷移

(parameter

basedTL)?

利用源域和目標(biāo)域的參數(shù)共享模型基于關(guān)系的遷移

(relation

basedTL)?

利用源域中的邏輯網(wǎng)絡(luò)關(guān)系進(jìn)行遷移1遷移學(xué)習(xí)簡(jiǎn)介：遷移學(xué)習(xí)方法n

常見的遷移學(xué)習(xí)方法分類1遷移學(xué)習(xí)簡(jiǎn)介：遷移學(xué)習(xí)方法研究領(lǐng)域n

常見的遷移學(xué)習(xí)研究領(lǐng)域與方法分類目

錄CONTENTS最新研究成果遷移學(xué)習(xí)簡(jiǎn)介領(lǐng)域自適應(yīng)問(wèn)題領(lǐng)域自適應(yīng)方法參考資料12345n

遷移學(xué)習(xí)基本概念n

域(Domain)：由數(shù)據(jù)特征和特征分布組成，是學(xué)習(xí)的主體nSourcedomain(源域)：已有知識(shí)的域n

Targetdomain

(目標(biāo)域)：要進(jìn)行學(xué)習(xí)的域n

任務(wù)(Task)：由目標(biāo)函數(shù)和學(xué)習(xí)結(jié)果組成，是學(xué)習(xí)的結(jié)果n

形式化n目標(biāo)：利用

和

學(xué)習(xí)在目標(biāo)域上的預(yù)測(cè)函數(shù)

。n

限制條件：

或

Ts

/

TT2領(lǐng)域分布自適應(yīng)：形式化條件：給定一個(gè)源域Ds

的學(xué)習(xí)任務(wù)TT和源域上的學(xué)習(xí)任務(wù)Ts

，目標(biāo)域DT

和目標(biāo)域上nn

領(lǐng)域自適應(yīng)問(wèn)題nDomainAdaptation

(DA);cross-domain

learning;

同構(gòu)遷移學(xué)習(xí)n問(wèn)題定義：有標(biāo)簽的源域和無(wú)標(biāo)簽的目標(biāo)域共享相同的特征和類別，但是特征分布不同，如何利用源域標(biāo)定目標(biāo)域Ds

/

DT:PS

(X)

/

PT

(X)n

計(jì)算機(jī)視覺中的一個(gè)重要問(wèn)題n

每年發(fā)表大量相關(guān)論文:CVPR、ICCV、ICML、NIPS、IJCAI、AAAI2領(lǐng)域自適應(yīng)：形式化n

領(lǐng)域自適應(yīng)問(wèn)題n

按照目標(biāo)域有無(wú)標(biāo)簽n目標(biāo)域全部有標(biāo)簽：supervised

DAn目標(biāo)域有一些標(biāo)簽：semi-supervised

DAn目標(biāo)域全沒有標(biāo)簽：unsupervised

DAn

Unsupervised

DA最有挑戰(zhàn)性，是我們的關(guān)注點(diǎn)2領(lǐng)域自適應(yīng)：形式化目

錄CONTENTS最新研究成果遷移學(xué)習(xí)簡(jiǎn)介領(lǐng)域自適應(yīng)問(wèn)題領(lǐng)域自適應(yīng)方法參考資料12345n

基本假設(shè)n

數(shù)據(jù)分布角度：源域和目標(biāo)域的概率分布相似n

最小化概率分布距離n

特征選擇角度：源域和目標(biāo)域共享著某些特征n

選擇出這部分公共特征n

特征變換角度：源域和目標(biāo)域共享某些子空間n

把兩個(gè)域變換到相同的子空間3領(lǐng)域自適應(yīng)：方法概覽解決思路數(shù)據(jù)分布特征選擇法(Feature

Selection)子空間學(xué)習(xí)法(Subspace

Learning)概率分布適配法(DistributionAdaptation)特征變換特征選擇nn概率分布適配法

(DistributionAdaptation)n

邊緣分布適配

(Marginal

distribution

adaptation)n假設(shè)：

P(xg)豐P(X)n

條件分布適配

(Conditional

distribution

adaptation)n

假設(shè)：

P(YS]X)*P(Y

X)n

聯(lián)合分布適配

(Joint

distribution

adaptation)n假設(shè)：

P(xs,ys)*p(xt,y)3領(lǐng)域自適應(yīng)：概率分布適配法源域數(shù)據(jù)

目標(biāo)域數(shù)據(jù)(1)

目標(biāo)域數(shù)據(jù)(2)優(yōu)先考慮邊緣分布

優(yōu)先考慮條件分布n

邊緣分布適配

(1)n

遷移成分分析

(Transfer

Component

Analysis,TCA)[Pan,

TNN-11]n優(yōu)化目標(biāo)：3領(lǐng)域自適應(yīng)：概率分布適配法n

最大均值差異(Maximum

Mean

Discrepancy,

MMD)n

最小化MMD，同時(shí)維持遷移過(guò)程中目標(biāo)域的結(jié)構(gòu)n

DomainTransfer

Multiple

Kernel

Learning

(DTMKL)

[Duan,

PAMI-12]n

多核MMDn

Deep

Domain

Confusion

(DDC)

[Tzeng,

arXiv-14]n

把MMD加入到神經(jīng)網(wǎng)絡(luò)中n

Deep

Adaptation

Networks

(DAN)

[Long,

ICML-15]n

把MKK-MMD加入到神經(jīng)網(wǎng)絡(luò)中n

Distribution-Matching

Embedding

(DME)

[Baktashmotlagh,

JMLR-16]n

先計(jì)算變換矩陣，再進(jìn)行映射n

Central

Moment

Discrepancy

(CMD)

[Zellinger,

ICLR-17]n

不只是一階的MMD，推廣到了k階n

邊緣分布適配

(2)n

遷移成分分析

(TCA)方法的一些擴(kuò)展n

Adapting

Component

Analysis

(ACA)

[Dorri,

ICDM-12]3領(lǐng)域自適應(yīng)：概率分布適配法n

條件分布適配n

DomainAdaptationofConditional

Probability

Modelsvia

Feature

Subsetting

[Satpal,

PKDD-07]n

條件隨機(jī)場(chǎng)+分布適配n優(yōu)化目標(biāo)：n

Conditional

Transferrable

Components

(CTC)

[Gong,

ICML-15]n

定義條件轉(zhuǎn)移成分，對(duì)其進(jìn)行建模3領(lǐng)域自適應(yīng)：概率分布適配法n

聯(lián)合分布適配

(1)n

聯(lián)合分布適配

(Joint

Distribution

Adaptation,JDA)[Long,

ICCV-13]n

直接繼承于TCA，但是加入了條件分布適配n優(yōu)化目標(biāo)：n問(wèn)題：如何獲得估計(jì)條件分布？n

充分統(tǒng)計(jì)量：用類條件概率近似條件概率n

用一個(gè)弱分類器生成目標(biāo)域的初始軟標(biāo)簽n

最終優(yōu)化形式3領(lǐng)域自適應(yīng)：概率分布適配法n

聯(lián)合分布適配的結(jié)果普遍優(yōu)于比單獨(dú)適配邊緣或條件分布n

聯(lián)合分布適配

(2)n

聯(lián)合分布適配(JDA)方法的一些擴(kuò)展n

Adaptation

Regularization

(ARTL)

[Long,

TKDE-14]n

分類器學(xué)習(xí)+聯(lián)合分布適配n

Visual

Domain

Adaptation

(VDA)

[Tahmoresnezhad,

KIS-17]n

加入類內(nèi)距、類間距n

JointGeometricalandStatisticalAlignment(JGSA)

[Zhang,

CVPR-17]n

加入類內(nèi)距、類間距、標(biāo)簽適配n[Hsu,TIP-16]：加入結(jié)構(gòu)不變性控制n[Hsu,AVSS-15]：目標(biāo)域選擇n

Joint

Adaptation

Networks

(JAN)

[Long,

ICML-17]n

提出JMMD度量，在深度網(wǎng)絡(luò)中進(jìn)行聯(lián)合分布適配3領(lǐng)域自適應(yīng)：概率分布適配法n

聯(lián)合分布適配

(3)n

平衡分布適配

(Balanced

Distribution

Adaptation,

BDA)[Wang,n

僅僅適配條件分布和邊緣分布就夠了嗎？n

聯(lián)合分布適配的問(wèn)題：兩種分布同等重要n

真實(shí)環(huán)境：兩種分布不一定同等重要n

加入平衡因子動(dòng)態(tài)衡量?jī)煞N分布的重要性u(píng)e

[0,1n

當(dāng)

，表示邊緣分布更占優(yōu)，應(yīng)該優(yōu)先適配n

當(dāng)，表示條件分布更占優(yōu)，應(yīng)該優(yōu)先適配n

最終表示形式平衡因子3領(lǐng)域自適應(yīng)：概率分布適配法ICDM-2017]n

聯(lián)合分布適配

(4)n

平衡分布適配

(BDA)：平衡因子的重要性n

對(duì)于不同的任務(wù)，邊緣分布和條件

分布并不是同等重要，因此，BDA方法可以有效衡量這兩個(gè)分布的權(quán)

重，從而達(dá)到最好的結(jié)果n

平衡分布適配

(BDA)：平衡因子的求解與估計(jì)n

目前尚無(wú)精確的估計(jì)方法;我們采用A-distance來(lái)進(jìn)行估計(jì)n

求解源域和目標(biāo)域整體的A-distancen

對(duì)目標(biāo)域聚類，計(jì)算源域和目標(biāo)域每個(gè)類的A-distancen

計(jì)算上述兩個(gè)距離的比值，則為平衡因子3領(lǐng)域自適應(yīng)：概率分布適配法n

概率分布適配：總結(jié)

n

方法n

基礎(chǔ)：大多數(shù)方法基于MMD距離進(jìn)行優(yōu)化求解n

分別進(jìn)行邊緣/條件

/聯(lián)合概率適配n效果：平衡

(BDA)

>聯(lián)合

(JDA)

>邊緣

(TCA)

>條件

n

使用n

數(shù)據(jù)整體差異性大

(相似度較低)，邊緣分布更重要n

數(shù)據(jù)整體差異性小

(協(xié)方差漂移)，條件分布更重要n

最新成果n

深度學(xué)習(xí)+分布適配往往有更好的效果

(DDC、DAN、JAN)3領(lǐng)域自適應(yīng)：概率分布適配法DDC、DAN、JAN與其他方法結(jié)果比較BDA、JDA、TCA精度比較n特征選擇法

(Feature

Selection)n

從源域和目標(biāo)域中選擇提取共享的特征，建立統(tǒng)一模型n

Structural

Correspondence

Learning

(SCL)

[Blitzer,

ECML-06]n

尋找Pivotfeature，將源域和目標(biāo)域進(jìn)行對(duì)齊3領(lǐng)域自適應(yīng)：特征選擇法n

特征選擇法其他擴(kuò)展n

Joint

feature

selection

and

subspace

learning

[Gu,

IJCAI-11]n

特征選擇/變換+子空間學(xué)習(xí)n

優(yōu)化目標(biāo)：

n

Transfer

Joint

Matching

(TJM)

[Long,

CVPR-14]n

MMD分布適配+源域樣本選擇n

優(yōu)化目標(biāo)：

n

Feature

Selection

and

Structure

Preservation

(FSSL)[Li,

IJCAI-16]n

特征選擇+信息不變性n

優(yōu)化目標(biāo)：3領(lǐng)域自適應(yīng)：特征選擇法n

特征選擇法：總結(jié)n

從源域和目標(biāo)域中選擇提取共享的特征，建立統(tǒng)一模型n

通常與分布適配進(jìn)行結(jié)合n

選擇特征通常利用稀疏矩陣3領(lǐng)域自適應(yīng)：特征選擇法n子空間學(xué)習(xí)法

(Subspace

Learning)n

將源域和目標(biāo)域變換到相同的子空間，然后建立統(tǒng)一的模型n

統(tǒng)計(jì)特征變換

(Statistical

Feature

Transformation)n

將源域和目標(biāo)域的一些統(tǒng)計(jì)特征進(jìn)行變換對(duì)齊n

流形學(xué)習(xí)

(Manifold

Learning)n

在流形空間中進(jìn)行子空間變換3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法統(tǒng)計(jì)特征變換流形學(xué)習(xí)n

統(tǒng)計(jì)特征變換

(1)n

子空間對(duì)齊法

(Subspace

Alignment,

SA)

[Fernando,

ICCV-13]n

直接尋求一個(gè)線性變換，把source變換到target空間中n優(yōu)化目標(biāo)：n直接獲得線性變換的閉式解：n

子空間分布對(duì)齊法

(Subspace

Distribution

Alignment,SDA)

[Sun,

BMVC-15]n

子空間對(duì)齊+概率分布適配3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法n

空間對(duì)齊法：方法簡(jiǎn)潔，計(jì)算高效n

統(tǒng)計(jì)特征變換

(2)n

關(guān)聯(lián)對(duì)齊法

(CORrelation

Alignment,CORAL)[Sun,

AAAI-15]n

最小化源域和目標(biāo)域的二階統(tǒng)計(jì)特征n優(yōu)化目標(biāo)：n

形式簡(jiǎn)單，求解高效n

深度關(guān)聯(lián)對(duì)齊

(Deep-CORAL)

[Sun,

ECCV-16]n

在深度網(wǎng)絡(luò)中加入CORALnCORAL

loss:3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法n

流形學(xué)習(xí)

(1)n

采樣測(cè)地線流方法

(Sample

Geodesic

Flow,

SGF)

[Gopalan,

ICCV-11]n

把領(lǐng)域自適應(yīng)的問(wèn)題看成一個(gè)增量式“行走”問(wèn)題n

從源域走到目標(biāo)域就完成了一個(gè)自適應(yīng)過(guò)程n

在流形空間中采樣有限個(gè)點(diǎn)，構(gòu)建一個(gè)測(cè)地線流n

測(cè)地線流式核方法

(Geodesic

Flow

Kernel,

GFK)

[Gong,

CVPR-12]n

繼承了SGF方法，采樣無(wú)窮個(gè)點(diǎn)n

轉(zhuǎn)化成Grassmann流形中的核學(xué)習(xí)，構(gòu)建了GFKn優(yōu)化目標(biāo)：3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法GFK方法SGF方法n

流形學(xué)習(xí)

(2)n

域CVP不R-變13]映射

(Domain-Invariant

Projection,

DIP)[Baktashmotlagh,

n

直接度量分布距離是不好的：原始空間特征扭曲n

僅作流形子空間學(xué)習(xí)：無(wú)法刻畫分布距離n

解決方案：流形映射+分布度量n

統(tǒng)計(jì)流形法

(Statistical

Manifold)

[Baktashmotlagh,

CVPR-14]n

在統(tǒng)計(jì)流形(黎曼流形)上進(jìn)行分布度量n

用Fisher-Raodistance

(Hellingerdistance)進(jìn)行度量3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法n

子空間學(xué)習(xí)法：總結(jié)n

主要包括統(tǒng)計(jì)特征對(duì)齊和流形學(xué)習(xí)方法兩大類n

和分布適配結(jié)合效果更好n

趨勢(shì)：與神經(jīng)網(wǎng)絡(luò)結(jié)合3領(lǐng)域自適應(yīng)：子空間學(xué)習(xí)法目

錄CONTENTS最新研究成果遷移學(xué)習(xí)簡(jiǎn)介領(lǐng)域自適應(yīng)問(wèn)題領(lǐng)域自適應(yīng)方法參考資料12345n領(lǐng)域自適應(yīng)的最新研究成果(1)n

與深度學(xué)習(xí)進(jìn)行結(jié)合n

Deep

Adaptation

Networks

(DAN)

[Long,

ICML-15]n

深度網(wǎng)絡(luò)+MMD距離最小化n

Joint

Adaptation

Networks

(JAN)

[Long,

ICML-17]n