機器學習 遷移學習

1.深入了解神經(jīng)網(wǎng)絡的組成、訓練和實現(xiàn)，掌握深度空間特征分布等關鍵概念；

2.掌握遷移學習的思想與基本形式，了解傳統(tǒng)遷移學習的基本方法，對比各種方法的優(yōu)缺點；

3.握深度遷移學習的思想與組成模塊，學習深度遷移學習的各種方法；

4.掌握深度遷移學習的網(wǎng)絡結構設計、目標函數(shù)設計的前沿方法，了解遷移學習在PDA、Source-Free DA上的應用；

5.掌握深度遷移學習在語義分割、目標檢測、行人重識別等任務中的應用，學習圖像/視頻風格遷移方法，了解風格遷移在實際生活中的應用；

6.掌握小樣本學習、Transformer等前沿方法和基本思想，了解小樣本學習、Transformer等在實際場景下的應用；

7.通過實操掌握圖片視頻風格遷移，自動駕駛中的跨域語義分割，目標檢測。

老師：來自中國科學院計算技術研究所、清華大學、北京理工大學等科研機構和大學的高級專家，擁有豐富的科研及工程技術經(jīng)驗，長期從事深度學習、遷移學習、計算機視覺等領域的教學與研究工作。

人員：各省市、自治區(qū)從事人工智能、機器學習、深度學習、遷移學習、計算機視覺、自然語言處理、語音識別、圖像處理、小樣本分析等領域相關的企事業(yè)單位技術骨干、科研院所研究人員和大專院校相關專業(yè)教學人員及在校研究生等相關人員，以及深度遷移學習廣大愛好者。

一、機器學習簡介與經(jīng)典機器學習算法介紹

1.什么是機器學習？

2.機器學習框架與基本組成

3.機器學習的訓練步驟

4.機器學習問題的分類

5.經(jīng)典機器學習算法介紹

目標：機器學習是人工智能的重要技術之一，詳細了解機器學習的原理、機制和方法，為學習深度學習與遷移學習打下堅實的基礎。

二、深度學習簡介與經(jīng)典網(wǎng)絡結構介紹

1.神經(jīng)網(wǎng)絡簡介

2.神經(jīng)網(wǎng)絡組件簡介

3.神經(jīng)網(wǎng)絡訓練方法

4.卷積神經(jīng)網(wǎng)絡介紹

5.經(jīng)典網(wǎng)絡結構介紹

目標：深入了解神經(jīng)網(wǎng)絡的組成、訓練和實現(xiàn)，掌握深度空間特征分布等關鍵概念，為深度遷移學習奠定知識基礎。

三、遷移學習基礎

1.遷移學習緒論

2.基于樣本的遷移學習

3.基于特征的遷移學習

4.基于分類器適配的遷移學習

目標：掌握遷移學習的思想與基本形式，了解傳統(tǒng)遷移學習的基本方法，對比各種方法的優(yōu)缺點，掌握遷移學習的適用范圍。

四、深度遷移學習介紹

1.深度遷移學習概述

2.基于距離函數(shù)的深度遷移學習

3.基于對抗網(wǎng)絡的深度遷移學習

4.深度異構遷移學習方法介紹

5.深度領域泛化學習介紹

目標：掌握深度遷移學習的思想與組成模塊，學習深度遷移學習的各種方法，對比各種方法的優(yōu)缺點，掌握深度遷移學習的適用范圍。

五、遷移學習前沿方法介紹

1.深度遷移網(wǎng)絡結構設計

2.深度遷移學習目標函數(shù)設計

3.全新場景下的遷移學習

目標：掌握深度遷移學習的網(wǎng)絡結構設計、目標函數(shù)設計的前沿方法，了解遷移學習在PDA、Source-Free DA上的應用。

六、遷移學習前沿應用

1.遷移學習在語義分割中的應用

2.遷移學習在目標檢測中的應用

3.遷移學習在行人重識別中的應用

4.圖片與視頻風格遷移

目標：掌握深度遷移學習在語義分割、目標檢測、行人重識別等任務中的應用，學習圖像/視頻風格遷移方法，了解風格遷移在實際生活中的應用。

七、小樣本學習、Transformer等前沿方法與應用

1.小樣本學習概念與基本方法介紹

2.小樣本學習應用

3.Transformer概念與基本方法介紹

4.Transformer在圖像領域的應用

目標：掌握小樣本學習、Transformer等前沿方法和基本思想，了解小樣本學習、Transformer等在實際場景下的應用。

八、實驗實操之實操環(huán)境搭建

1. 硬件準備：GPU顯存11GB以上

2. 軟件準備：Linux操作系統(tǒng)（Ubuntu16.04以上），顯卡驅(qū)動安裝（512.54），CUDA Toolkit（10.1）和cuDNN加速庫（7.6.4），VS Code編輯器安裝，Jupyter Notebook

3. 編程語言和框架：Python3.8.5、torch==1..07、torchvision==0.8.2、mmcv-full==1.3.7、opencv-python==4.4.0、matplotlib==3.4.2、numpy==1.19.2、Pillow==8.3.1、scikit-learn==1.0.2

4. 數(shù)據(jù)集準備：Office-31、IRVI、GTA5、Cityscapes、Foggy cityscapes等

注：硬件準備由主辦方提供云服務器

九、實驗實操之深度遷移學習實踐

1.掌握PyTorch中的基本原理和編程思想。

2.理解在一個新的場景或數(shù)據(jù)集下，何時以及如何進行遷移學習。

3.利用PyTorch加載數(shù)據(jù)、搭建模型、訓練網(wǎng)絡以及進行網(wǎng)絡微調(diào)操作。

4.給定遷移場景，利用daib庫和生成對抗技術獨立完成圖像分類中的領域適配。

5.遷移效果的可視化，利用機器學習庫scikit-learn中的t-SNE對遷移過后的高維數(shù)據(jù)進行可視化。

十、實驗實操之圖片與視頻風格遷移實踐

1.掌握基于生成對抗網(wǎng)絡的風格遷移技術。

2.圖像/視頻風格遷移網(wǎng)絡的搭建，重點掌握編碼器和****的內(nèi)在邏輯和不同損失函數(shù)的運用。

3.實踐紅外視頻轉換到可見光視頻的風格遷移。

十一、實驗實操之自動駕駛中的跨域語義分割實踐

1.掌握語義分割發(fā)展現(xiàn)狀及代表性工作，如FCN，DeepLab系列等。

2.了解常用的語義分割評價指標（PA、mPA、mIoU、FWIoU）和常見數(shù)據(jù)集（PASCAL VOC2012，ADE20K、BDD100K、Cityscapes、GTA5、Dark Zurich）。

3.語義分割工具箱MMSegmentaion的認識和使用。

4.設計一個分割模型能夠從仿真環(huán)境中得到的數(shù)據(jù)遷移到真實場景下產(chǎn)生的數(shù)據(jù)。

十二、實驗實操之目標檢測實踐

1.掌握目標檢測算法的基本框架以及目標檢測中的經(jīng)典模型，如R-CNN系列的兩階段檢測模型和YOLO系列的單階段檢測模型。

2.掌握目標檢測模型的評測指標（IOU和mAP）、標準評測數(shù)據(jù)集（Pascal VOC，MS COCO和Cityscapes）以及檢測模型中的一些訓練技巧，如數(shù)據(jù)增強、多尺度訓練/測試、預測框微調(diào)/投****法、在線難例挖掘、軟化非極大抑制、RoI對齊和集成。

3.實踐基于Transformer的端到端目標檢測框架的搭建，并在新的數(shù)據(jù)集上與基于CNN的網(wǎng)絡進行遷移性能的對比。

我們的官網(wǎng)：www.chinaai.org.cn

關注微信公眾號人工智能技術與咨詢了解更多！