人工智能數(shù)據(jù)服務(wù) 課件 3-4 項目三 任務(wù)3-4 數(shù)據(jù)增廣

任務(wù)3-4數(shù)據(jù)從無到有的魔法：數(shù)據(jù)增廣4知識&技能圖譜數(shù)據(jù)增廣是現(xiàn)代數(shù)據(jù)處理的關(guān)鍵環(huán)節(jié)。無論是在機器學(xué)習(xí)的模型訓(xùn)練中，還是在大數(shù)據(jù)分析的過程中，數(shù)據(jù)的豐富性和多樣性都至關(guān)重要。然而，真實世界中的數(shù)據(jù)往往有限，不足以滿足各種算法的需求。因此，我們需要通過數(shù)據(jù)增廣技術(shù)來擴展數(shù)據(jù)集，以提供更加全面和準(zhǔn)確的信息。本任務(wù)將提供5張圖像，5段文本，利用python，完成圖像和文本數(shù)據(jù)的增廣。部分?jǐn)?shù)據(jù)集如圖所示。實驗圖像實驗圖像

文本數(shù)據(jù)：今天天氣不錯，出去走走吧。明天早上的會議，記得提前做好準(zhǔn)備。我在超市買蘋果，順便帶瓶果汁回家。新買的裙子真合身，穿上它心情都好了。她說電影很好看，推薦你也去看看。實驗圖像同義詞組：不錯很好很棒真好

出去出門出發(fā)出走走走散步運動放松

早上早晨清晨上午順便趁便趁機順帶

提前提早預(yù)先趁早合身稱身合適適合

推薦引薦介紹推舉實驗圖像3.4.1數(shù)據(jù)增廣的定義數(shù)據(jù)增廣（DataAugmentation）是機器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域中一種重要的技術(shù)，它通過對原始數(shù)據(jù)進行多樣化的變換和處理，生成新的數(shù)據(jù)樣本，以擴充訓(xùn)練數(shù)據(jù)集的方法。數(shù)據(jù)增廣旨在提高模型的泛化能力、改善性能，并降低過擬合的風(fēng)險，尤其對于數(shù)據(jù)量有限的情況下尤為重要。數(shù)據(jù)增廣3.4.1數(shù)據(jù)增廣的定義數(shù)據(jù)增廣技術(shù)可以分為圖像數(shù)據(jù)增廣和文本數(shù)據(jù)增廣兩大類，針對不同類型的數(shù)據(jù)有各自特定的方法。數(shù)據(jù)增廣3.4.2.數(shù)據(jù)增廣的應(yīng)用場景數(shù)據(jù)增廣在具有廣泛的應(yīng)用場景，包括機器學(xué)習(xí)、計算機視覺、自然語言處理以及大數(shù)據(jù)分析等。在機器學(xué)習(xí)領(lǐng)域，數(shù)據(jù)增廣能夠顯著增強模型的泛化能力。尤其是在處理圖像、音頻等復(fù)雜數(shù)據(jù)時，通過數(shù)據(jù)增廣技術(shù)生成更多的訓(xùn)練樣本，模型能夠?qū)W習(xí)到更多樣化的數(shù)據(jù)分布，從而在面對未知數(shù)據(jù)時表現(xiàn)更加穩(wěn)健。數(shù)據(jù)增廣3.4.2.數(shù)據(jù)增廣的應(yīng)用場景在計算機視覺領(lǐng)域，數(shù)據(jù)增廣對于圖像識別、目標(biāo)檢測等任務(wù)至關(guān)重要。通過旋轉(zhuǎn)、縮放、裁剪等圖像變換手段，數(shù)據(jù)增廣能夠擴充圖像數(shù)據(jù)集，提升模型對于不同角度、不同尺度的目標(biāo)的識別能力。數(shù)據(jù)增廣3.4.2.數(shù)據(jù)增廣的應(yīng)用場景在自然語言處理領(lǐng)域，數(shù)據(jù)增廣同樣發(fā)揮著重要作用。通過同義詞替換、隨機插入、隨機刪除等文本變換方法，數(shù)據(jù)增廣能夠生成更多樣的文本數(shù)據(jù)，幫助模型更好地理解和處理語言信息。數(shù)據(jù)增廣3.4.2.數(shù)據(jù)增廣的應(yīng)用場景在大數(shù)據(jù)分析領(lǐng)域，數(shù)據(jù)增廣也能夠幫助我們挖掘更多隱藏在數(shù)據(jù)中的信息和規(guī)律。通過擴展數(shù)據(jù)集，我們可以運用更復(fù)雜的算法和模型來揭示數(shù)據(jù)之間的關(guān)聯(lián)和趨勢，為決策提供更有力的支持。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法數(shù)據(jù)增廣是擴展數(shù)據(jù)集、提升模型性能的重要方法。在圖像處理中，可以通過旋轉(zhuǎn)、縮放、裁剪等幾何變換，以及添加噪聲等方式，生成新的圖像樣本。在自然語言處理領(lǐng)域，同義詞替換、句子重組等操作也能有效增廣文本數(shù)據(jù)。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法此外還有數(shù)據(jù)混合、使用外部數(shù)據(jù)源等方法。這些方法可以單獨或組合使用，根據(jù)具體任務(wù)和數(shù)據(jù)集特點選擇合適的方法，以增強模型的泛化能力。但需注意，增廣過程中可能引入噪聲或偏差，需權(quán)衡使用。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法1圖像數(shù)據(jù)增廣圖像數(shù)據(jù)增廣是指通過對原始圖像進行一系列變換和處理，生成具有多樣性的新圖像樣本。圖像數(shù)據(jù)增廣可以有效改善模型在圖像識別、檢測、分割等任務(wù)中的性能，是深度學(xué)習(xí)和計算機視覺領(lǐng)域中的常用策略之一。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法圖像數(shù)據(jù)增廣包括：（1）幾何變換：幾何變換是圖像數(shù)據(jù)增廣中常用的方式之一，包括旋轉(zhuǎn)、翻轉(zhuǎn)、縮放和平移等操作。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法旋轉(zhuǎn)操作圍繞圖像中心點進行旋轉(zhuǎn)，這有助于讓模型學(xué)習(xí)不同角度下的物體特征，提高旋轉(zhuǎn)不變性。翻轉(zhuǎn)操作則可以水平或垂直翻轉(zhuǎn)圖像，幫助模型學(xué)習(xí)對稱性和不同視角下的物體識別?？s放操作調(diào)整圖像大小，包括放大和縮小，使模型能夠適應(yīng)不同尺度的輸入。而平移操作將圖像沿水平或垂直方向進行平移，有助于模型學(xué)習(xí)物體在不同位置的外觀特征。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法（2）顏色變換：主要關(guān)注圖像的色彩屬性，通過調(diào)整圖像的亮度、對比度、飽和度和色調(diào)等，可以生成色彩變化豐富的圖像樣本。這種變換有助于模型學(xué)習(xí)對光照條件、拍攝設(shè)備等因素的變化具有魯棒性。改變亮度是通過增加或減少圖像的亮度來使模型更魯棒地應(yīng)對光照變化，從而提高模型的泛化能力。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法對比度調(diào)整則可以調(diào)整圖像中像素之間的對比度，有助于突出圖像中的細(xì)節(jié)信息，進而提升模型對圖像細(xì)節(jié)的識別能力。飽和度調(diào)整涉及增加或降低圖像的飽和度，從而改變圖像的色彩鮮艷程度，增加圖像樣本的多樣性。此外，應(yīng)用濾鏡如模糊、銳化等效果也能增加圖像的多樣性，并提高模型的泛化能力。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法（3）裁剪和填充：圖像數(shù)據(jù)增廣中常用的技術(shù)手段，能夠有效地擴展訓(xùn)練數(shù)據(jù)集，提高模型的泛化能力和魯棒性。裁剪操作可以隨機或規(guī)則地裁剪圖像的一部分，從而模擬不同尺度下物體出現(xiàn)的情況，幫助模型適應(yīng)不同尺寸的輸入。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法隨機裁剪可以在訓(xùn)練過程中多次對圖像進行隨機裁剪，使模型能夠?qū)W習(xí)到物體在不同位置的特征，增加模型對物體位置變化的適應(yīng)能力。規(guī)則裁剪則可以按照固定的比例或位置裁剪圖像，以生成特定尺寸或比例的訓(xùn)練樣本，有助于訓(xùn)練模型在特定場景下取得更好的效果。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法填充操作則是在圖像周圍填充像素，用來擴展圖像的大小或調(diào)整圖像的長寬比例。填充操作可以根據(jù)需要在圖像的邊緣或周圍填充像素值，使得輸入圖像尺寸統(tǒng)一，有利于模型的訓(xùn)練和推理。填充還可以用來調(diào)整圖像的長寬比例，使得模型能夠處理不同長寬比例的輸入圖像，增加模型的適應(yīng)性。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法（4）添加噪聲：噪聲是指在圖像或信號中的隨機擾動，它可以由多種因素引起，如傳感器本身的噪聲、信號傳輸過程中的干擾、環(huán)境因素等。在圖像處理領(lǐng)域，噪聲通常表現(xiàn)為使圖像出現(xiàn)不希望的、隨機分布的像素值變化，從而影響了圖像的質(zhì)量和信息內(nèi)容。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法添加噪聲是圖像數(shù)據(jù)增廣中常用的一種技術(shù)手段，它有助于提高模型的魯棒性，使其更好地適應(yīng)真實世界中的噪聲環(huán)境。通過添加高斯噪聲、椒鹽噪聲或者其他的噪聲，可以使模型更好地適應(yīng)復(fù)雜的真實場景，提高其對噪聲的容忍度和抗干擾能力，從而在實際應(yīng)用中表現(xiàn)更加穩(wěn)定和可靠。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法2文本數(shù)據(jù)增廣文本數(shù)據(jù)增廣是指通過多種方式對原始文本數(shù)據(jù)進行變換和擴展，以生成更多樣化、更豐富的訓(xùn)練數(shù)據(jù)，意義在于擴大訓(xùn)練數(shù)據(jù)的規(guī)模和多樣性，幫助模型更好地學(xué)習(xí)數(shù)據(jù)的特征和模式，提高模型在真實場景下的性能表現(xiàn)。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法通過應(yīng)用適當(dāng)?shù)奈谋緮?shù)據(jù)增廣技術(shù)，可以有效改善模型的表現(xiàn)，并且降低過擬合的風(fēng)險，從而提升模型的泛化能力和應(yīng)用效果。文本數(shù)據(jù)增廣技術(shù)常用的方式包括：同義詞替換：同義詞是指在特定語境中具有相同或非常相似含義的詞語，它們可以互換使用而不改變句子的意思。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法換句話說，同義詞是在表達概念或含義上相近或相似的詞語。這些詞語之間可能存在一定的差異，例如在語氣、情感色彩或使用場景上有所區(qū)別，但總體而言它們可以替代彼此，并在語言表達中起到類似的作用。同義詞的存在豐富了語言的表達方式，同時也為文本理解和信息處理提供了更多的選擇和靈活性。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法（2）句子重組：句子重組也是一種文本數(shù)據(jù)增廣技術(shù)，其通過對句子中的詞語順序進行隨機調(diào)整，生成新的句子變體，從而擴充數(shù)據(jù)集。這一方法旨在增加訓(xùn)練樣本的多樣性，幫助模型更好地理解不同詞語之間的關(guān)聯(lián)和語境，提高其泛化能力和性能表現(xiàn)。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法在句子重組過程中，詞語的順序被打亂，但句子的語義信息仍然得以保留。這種方式可以有效地引入新的句子結(jié)構(gòu)和表達形式，讓模型更好地適應(yīng)各種語言組織方式，提升其對句子結(jié)構(gòu)和語法規(guī)則的理解能力。同時，句子重組也有助于模型學(xué)習(xí)更廣泛的語言模式，從而提高其在自然語言處理任務(wù)中的魯棒性和表現(xiàn)效果。數(shù)據(jù)增廣3.4.3.數(shù)據(jù)增廣的方法（3）添加噪音：在文本數(shù)據(jù)處理中，噪音可以表現(xiàn)為各種形式的干擾或錯誤，包括但不限于拼寫錯誤、打字錯誤、語法錯誤、標(biāo)點符號錯誤等。這些噪音可以在文本數(shù)據(jù)中引入不同程度的混亂和變異，反映了實際場景中文本數(shù)據(jù)的多樣性和復(fù)雜性。數(shù)據(jù)增廣64班級：組別：姓名：掌握程度：任務(wù)名稱基于opencv和jieba的圖像和文本數(shù)據(jù)增廣任務(wù)目標(biāo)生成與原數(shù)據(jù)不同的圖像和文本數(shù)據(jù)操作系統(tǒng)Win10、Win11工具清單Python，pycharm，opencv，jieba操作步驟圖像數(shù)據(jù)增廣環(huán)境準(zhǔn)備導(dǎo)入數(shù)據(jù)圖像幾何變換圖像顏色變換圖像裁剪文本數(shù)據(jù)增廣環(huán)境準(zhǔn)備導(dǎo)入數(shù)據(jù)文本同義詞替換文本句子重組考核標(biāo)準(zhǔn)生成與原圖相關(guān)的圖像和文本數(shù)據(jù)圖像數(shù)據(jù)增廣步驟一環(huán)境準(zhǔn)備64SUGGESTION11、下載并安裝好Pycharm和Anaconda，激活LabelStudio虛擬環(huán)境。12642、在虛擬環(huán)境中下載圖像增廣項目所依賴的python第三方庫：openCV，在Anaconda命令行操作圖窗中通過以下命令pipinstallopencv-python在label-studio虛擬環(huán)境中安裝openCV庫，如左圖所示。12641步驟二導(dǎo)入數(shù)據(jù)1、準(zhǔn)備好環(huán)境之后，在Pycharm中使用準(zhǔn)備好的Anaconda虛擬環(huán)境，并在當(dāng)前的工程目錄下，創(chuàng)建data文件夾用于存放圖像增廣項目需要用到的圖像數(shù)據(jù)，將要處理的圖像數(shù)據(jù)保存到data文件夾，并依次命名為img（1）、img（2）、img（3）、img（4）、img（5）。如下圖所示。1264SUGGESTION12、在Pycharm當(dāng)前的工程目錄下創(chuàng)建tuxiangzengguang.py文件，然后導(dǎo)入需要用到的opencv庫和os庫。具體代碼為以下兩句：importcv2importos3、使用os和opencv庫嘗試讀取data文件夾下的所有圖像并依次展示。首先獲取文件夾下面所有后綴名為.jpg、.png、.jpeg的文件名：1264SUGGESTION14、循環(huán)每個圖像文件，使用opencv庫讀取并展示，等待指定的鍵盤點擊事件展示下一張或者退出展示：1264步驟三圖像幾何變換使用os和OpenCV讀取指定文件夾下的所有圖像，并對每張圖像進行幾何變換（例如旋轉(zhuǎn)），然后將增廣后的圖像保存回同一文件夾。1、導(dǎo)入必要的庫并設(shè)置工作目錄首先導(dǎo)入OpenCV庫（cv2）和操作系統(tǒng)庫（os），用于圖像處理和文件操作。接著，定義目標(biāo)文件夾路徑，確保腳本知道從哪里讀取圖像以及將處理后的圖像保存在哪里。1264SUGGESTION12、遍歷文件夾中的所有圖像文件通過os.listdir()函數(shù)列出指定文件夾下的所有文件名，然后通過循環(huán)遍歷這些文件名，篩選出需要處理的圖像文件。1264SUGGESTION13、讀取圖像并獲取其尺寸使用OpenCV的cv2.imread()函數(shù)讀取每個圖像文件，并通過.shape屬性獲取圖像的高度和寬度，這些信息對于后續(xù)的圖像處理操作至關(guān)重要。1264SUGGESTION14、執(zhí)行圖像幾何變換（以旋轉(zhuǎn)為例）使用OpenCV對圖像進行旋轉(zhuǎn)處理。首先，計算旋轉(zhuǎn)中心點，然后基于該點和指定的角度生成旋轉(zhuǎn)矩陣，最后使用cv2.warpAffine()函數(shù)應(yīng)用旋轉(zhuǎn)。1264SUGGESTION15、保存變換后的圖像最后，為每張變換后的圖像創(chuàng)建一個新的文件名，并使用cv2.imwrite()函數(shù)將其保存回原始文件夾中。新文件名通過添加前綴來區(qū)分于原圖。1264SUGGESTION16、最終增廣的數(shù)據(jù)如圖所示。1264步驟四圖像顏色變換1、導(dǎo)入必要的庫并設(shè)置工作目錄，代碼與圖一致。2、遍歷文件夾中的圖像文件使用os.listdir()獲取文件夾中的所有文件名，并篩選出圖像文件進行處理。將處理后的圖像保存在哪里。126413、讀取圖像并進行顏色空間變換這里以將圖像轉(zhuǎn)換為灰度（GRAY）為例進行顏色空間變換，可以選擇其他顏色空間變換，如HSV、YCrCb等。126414、保存變換后的圖像為變換后的圖像創(chuàng)建新的文件名，并保存回原文件夾。126415、最終增廣的數(shù)據(jù)如圖。12641步驟五圖像裁剪1、導(dǎo)入必要的庫并設(shè)置工作目錄，代碼與圖一致。2、定義裁剪區(qū)域這個步驟需要決定如何裁剪圖像。這通常涉及到定義裁剪的起始點（x,y坐標(biāo)）以及裁剪區(qū)域的寬度和高度。我們定義從圖像的左上角開始，裁剪出圖像的一半寬度和一半高度，但這可以根據(jù)需要調(diào)整。1264SUGGESTION13、遍歷文件夾中的圖像文件使用os.listdir()遍歷指定文件夾中的所有文件，篩選出需要處理的圖像文件，并逐個讀取、裁剪、保存。1264SUGGESTION14、最終增廣的數(shù)據(jù)如圖：61文本數(shù)據(jù)增廣步驟一環(huán)境準(zhǔn)備1、下載并安裝好Pycharm和Anaconda，激活LabelStudio虛擬環(huán)境。2、在虛擬環(huán)境中安裝jieba和gensim庫，這兩個庫分別是自然語言處理領(lǐng)域中廣泛使用的庫，這里用于同義詞替換和潛在的句子重組任務(wù)，在Anaconda命令行操作圖窗中通過pipinstallgensimjieba命令在label-studio虛擬環(huán)境中安裝jieba和gensim庫，如圖所示。61步驟二導(dǎo)入數(shù)據(jù)1、準(zhǔn)備好環(huán)境之后，在Pycharm中使用準(zhǔn)備好的Anaconda虛擬環(huán)境，并在當(dāng)前的工程目錄下，創(chuàng)建txt_data文件夾用于存放文本增廣項目需要用到的txt文件，將要處理的txt文件保存到txt_data文件夾。如圖所示。12、在Pycharm當(dāng)前的工程目錄下創(chuàng)建wenbenzengguang.py文件，然后導(dǎo)入需要用到的jieba庫，gensim庫，numpy庫和scikit-learn庫。12641步驟三同義詞替換1、讀取sentence.txt里的5個句子，保存到列表里用于后續(xù)數(shù)據(jù)增廣操作。其中，withopen('./txt_data/sentence.txt','r',encoding='utf-8')asfile這句代碼使用with語句以只讀模式('r')和UTF-8編碼打開位于./txt_data/目錄下的sentence.txt文件。這樣可以確保文件在操作完成后會被正確關(guān)閉，即使在讀取過程中發(fā)生異常也是如此。split()方法可以按照指定字符分割字符串，默認(rèn)為空格。126412、讀取synonym.txt里的所有同義詞組，保存到列表里用于后續(xù)數(shù)據(jù)增廣操作。126413、遍歷句子列表和同義詞組列表，針對每個輸入句子，先進行分詞處理，然后查找每個詞語在預(yù)定義的同義詞列表中的同義詞，并生成該句子的所有可能的同義詞替換版本。最終，所有這些增強后的句子被收集起來，保存在列表用于后續(xù)進一步操作。其中，phrase=jieba.lcut(sentence)使用jieba庫對句子進行分詞，生成詞語列表phrase126414、定義函數(shù)preprocess(sentences)用于對原始文本進行分詞處理。利用jieba分詞庫將每個句子切分成單詞列表。126415、定義函數(shù)sentence_vector(model,words)用于計算給定單詞列表（代表一個句子）的向量表示。首先篩選出模型中已知的單詞，然后對這些單詞的詞向量求平均，得到句子向量。如果模型中沒有句子中的任何單詞，則返回一個零向量，這種方法簡單直觀。126416、調(diào)用preprocess(contents)函數(shù)對原始文本內(nèi)容contents進行分詞處理，得到分詞后的句子列表tokenized_sentences。7、使用Gensim的Word2Vec類訓(xùn)練一個詞向量模型。參數(shù)包括sentences=tokenized_sentences指定訓(xùn)練數(shù)據(jù)，window=5設(shè)置上下文窗口大小，min_count=1表示最小詞頻，workers=4指定并行計算的線程數(shù)。此步驟旨在學(xué)習(xí)單詞間的上下文關(guān)系，生成高質(zhì)量的詞向量。126418、計算相似度并篩選輸出，先開啟一個文件寫入流，準(zhǔn)備將結(jié)果寫入到augmentation_sentence.txt文件中。對于contents中的每個句子sentence_1，首先寫入原句。遍歷與之對應(yīng)的增強數(shù)據(jù)augmented_data[id]中的每個句子sentence_2，計算這兩個句子的向量表示，并使用cosine_similarity()函數(shù)計算它們的余弦相似度。如果相似度大于等于0.8（設(shè)定的閾值），則將sentence_2寫入文件。這個過程是為了篩選出與原始句子相似度高的增強句子，可能用于數(shù)據(jù)增強、相似內(nèi)容識別等目的。6步驟四句子重組1、讀取sentence.txt里的5個句子，保存到列表里用于后續(xù)數(shù)據(jù)增廣操作。如圖3-4-22所示。2、定義一個名為reverse_from_comma_and_remove_period的函數(shù)，其主要目的是對輸入的字符串執(zhí)行特定的操作：找到第一個逗號的位置，