機器學習研究現(xiàn)狀與發(fā)展趨勢.doc

資料收集于網(wǎng)絡(luò) 如有侵權(quán)請聯(lián)系網(wǎng)站 刪除 謝謝 機器學習研究現(xiàn)狀與發(fā)展趨勢計算機科學與軟件學院 引言:機器能否象人類一樣能具有學習能力呢？1959年美國的塞繆爾(Samuel)設(shè)計了一個下棋程序，這個程序具有學習能力，它可以在不斷的對奕中改善自己的棋藝。4年后，這個程序戰(zhàn)勝了設(shè)計者本人。又過了3年，這個程序戰(zhàn)勝了美國一個保持8年之久的常勝不敗的冠軍。這個程序向人們展示了機器學習的能力，提出了許多令人深思的社會問題與哲學問題。 機器學習的研究是根據(jù)生理學、認知科學等對人類學習機理的了解，建立人類學習過程的計算模型或認識模型，發(fā)展各種學習理論和學習方法，研究通用的學習算法并進行理論上的分析，建立面向任務(wù)的具有特定應(yīng)用的學習系統(tǒng)。這些研究目標相互影響相互促進。機器學習是關(guān)于理解與研究學習的內(nèi)在機制、建立能夠通過學習自動提高自身水平的計算機程序的理論方法的學科。近年來機器學習理論在諸多應(yīng)用領(lǐng)域得到成功的應(yīng)用與發(fā)展，已成為計算機科學的基礎(chǔ)及熱點之一。機器學習是繼專家系統(tǒng)之后人工智能應(yīng)用的又一重要研究領(lǐng)域，也是人工智能和神經(jīng)計算的核心研究課題之一。現(xiàn)有的計算機系統(tǒng)和人工智能系統(tǒng)沒有什么學習能力，至多也只有非常有限的學習能力，因而不能滿足科技和生產(chǎn)提出的新要求。對機器學習的討論和機器學習研究的進展，必將促使人工智能和整個科學技術(shù)的進一步發(fā)展 。一.機器學習的發(fā)展史機器學習是人工智能研究較為年輕的分支，它的發(fā)展過程大體上可分為4個時期。 第一階段是在50年代中葉到60年代中葉，屬于熱烈時期。 第二階段是在60年代中葉至70年代中葉，被稱為機器學習的冷靜時期。 第三階段是從70年代中葉至80年代中葉，稱為復興時期。 機器學習的最新階段始于1986年。 機器學習進入新階段的重要表現(xiàn)在下列諸方面： (1) 機器學習已成為新的邊緣學科并在高校形成一門課程。它綜合應(yīng)用心理學、生物學和神經(jīng)生理學以及數(shù)學、自動化和計算機科學形成機器學習理論基礎(chǔ)。 (2) 結(jié)合各種學習方法，取長補短的多種形式的集成學習系統(tǒng)研究正在興起。特別是連接學習符號學習的耦合可以更好地解決連續(xù)性信號處理中知識與技能的獲取與求精問題而受到重視。 (3) 機器學習與人工智能各種基礎(chǔ)問題的統(tǒng)一性觀點正在形成。例如學習與問題求解結(jié)合進行、知識表達便于學習的觀點產(chǎn)生了通用智能系統(tǒng)SOAR的組塊學習。類比學習與問題求解結(jié)合的基于案例方法已成為經(jīng)驗學習的重要方向。 (4) 各種學習方法的應(yīng)用范圍不斷擴大，一部分已形成商品。歸納學習的知識獲取工具已在診斷分類型專家系統(tǒng)中廣泛使用。連接學習在聲圖文識別中占優(yōu)勢。分析學習已用于設(shè)計綜合型專家系統(tǒng)。遺傳算法與強化學習在工程控制中有較好的應(yīng)用前景。與符號系統(tǒng)耦合的神經(jīng)網(wǎng)絡(luò)連接學習將在企業(yè)的智能管理與智能機器人運動規(guī)劃中發(fā)揮作用。 (5) 與機器學習有關(guān)的學術(shù)活動空前活躍。國際上除每年一次的機器學習研討會外，還有計算機學習理論會議以及遺傳算法會議。二.機器學習分類 1、基于學習策略的分類學習策略是指學習過程中系統(tǒng)所采用的推理策略。一個學習系統(tǒng)總是由學習和環(huán)境兩部分組成。由環(huán)境（如書本或教師）提供信息，學習部分則實現(xiàn)信息轉(zhuǎn)換，用能 夠理解的形式記憶下來，并從中獲取有用的信息。在學習過程中，學生（學習部分）使用的推理越少，他對教師（環(huán)境）的依賴就越大，教師的負擔也就越重。學習 策略的分類標準就是根據(jù)學生實現(xiàn)信息轉(zhuǎn)換所需的推理多少和難易程度來分類的，依從簡單到復雜，從少到多的次序分為以下五種基本類型：（）機械學習學習者無需任何推理或其它的知識轉(zhuǎn)換，直接吸取環(huán)境所提供的信息。如塞繆爾的跳棋程序，紐厄爾和西蒙的LT系統(tǒng)。這類學習系統(tǒng)主要考慮的是如何索引存貯的 知識并加以利用。系統(tǒng)的學習方法是直接通過事先編好、構(gòu)造好的程序來學習，學習者不作任何工作，或者是通過直接接收既定的事實和數(shù)據(jù)進行學習，對輸入信息 不作任何的推理。（）示教學習學生從環(huán)境（教師或其它信息源如教科書等）獲取信息，把知識轉(zhuǎn)換成內(nèi)部可使用的表示形式，并將新的知識和原有知識有機地結(jié)合為一體。所以要求學生有一定程 度的推理能力，但環(huán)境仍要做大量的工作。教師以某種形式提出和組織知識，以使學生擁有的知識可以不斷地增加。這種學習方法和人類社會的學校教學方式相似， 學習的任務(wù)就是建立一個系統(tǒng)，使它能接受教導和建議，并有效地存貯和應(yīng)用學到的知識。目前，不少專家系統(tǒng)在建立知識庫時使用這種方法去實現(xiàn)知識獲取。示教 學習的一個典型應(yīng)用例是FOO程序。（3）演繹學習學生所用的推理形式為演譯推理。推理從公理出發(fā)，經(jīng)過邏輯變換推導出結(jié)論。這種推理是保真變換和特化(specialization)的過程，使學生 在推理過程中可以獲取有用的知識。這種學習方法包含宏操作(macro-operation)學習、知識編輯和組塊(Chunking)技術(shù)。演繹推理的 逆過程是歸納推理。（4）類比學習利用二個不同領(lǐng)域（源域、目標域）中的知識相似性，可以通過類比，從源域的知識（包括相似的特征和其它性質(zhì)）推導出目標域的相應(yīng)知識，從而實現(xiàn)學習。類比 學習系統(tǒng)可以使一個已有的計算機應(yīng)用系統(tǒng)轉(zhuǎn)變?yōu)檫m應(yīng)于新的領(lǐng)域，來完成原先沒有設(shè)計的相類似的功能。類比學習需要比上述三種學習方式更多的推理。它一般要 求先從知識源（源域）中檢索出可用的知識，再將其轉(zhuǎn)換成新的形式，用到新的狀況（目標域）中去。類比學習在人類科學技術(shù)發(fā)展史上起著重要作用，許多科學發(fā) 現(xiàn)就是通過類比得到的。例如著名的盧瑟福類比就是通過將原子結(jié)構(gòu)（目標域）同太陽系（源域）作類比，揭示了原子結(jié)構(gòu)的奧秘。（）基于解釋的學習學生根據(jù)教師提供的目標概念、該概念的一個例子、領(lǐng)域理論及可操作準則，首先構(gòu)造一個解釋來說明為什該例子滿足目標概念，然后將解釋推廣為目標概念的一個 滿足可操作準則的充分條件。EBL已被廣泛應(yīng)用于知識庫求精和改善系統(tǒng)的性能。著名的EBL系統(tǒng)有迪喬恩（G.DeJong）的GENESIS, 米切爾（T.Mitchell）的LEXII和LEAP, 以及明頓（S.Minton）等的PRODIGY。（）歸納學習in charge 主管；看管歸納學習是由教師或環(huán)境提供某概念的一些實例或反例，讓學生通過歸納推理得出該概念的一般描述。這種學習的推理工作量遠多于示教學習和演繹學習，因為環(huán)境 并不提供一般性概念描述（如公理）。從某種程度上說，歸納學習的推理量也比類比學習大，因為沒有一個類似的概念可以作為源概念加以取用。歸納學習是最 基本的，發(fā)展也較為成熟的學習方法，在人工智能領(lǐng)域中已經(jīng)得到廣泛的研究和應(yīng)用。2.按應(yīng)用領(lǐng)域分類目前最主要的應(yīng)用領(lǐng)域有: 專家系統(tǒng)、認知模擬、規(guī)劃和問題求解、數(shù)據(jù)挖掘、網(wǎng)絡(luò)信息服務(wù)、圖象識別、故障診斷、自然語言理解、機器人和博弈等領(lǐng)域。從機器學習的執(zhí)行部分所反映的任務(wù)類型上看，目前大部分的應(yīng)用研究領(lǐng)域基本上集中于以下兩個范疇：分類和問題求解。（1）分類任務(wù)要求系統(tǒng)依據(jù)已知的分類知識對輸入的未知模式（該模式的描述）作分析，以確定輸入模式的類屬。相應(yīng)的學習目標就是學習用于分類的準則（如分類規(guī)則）。（2）問題求解任務(wù)要求對于給定的目標狀態(tài),?尋找一個將當前狀態(tài)轉(zhuǎn)換為目標狀態(tài)的動作序列；機器學習在這一領(lǐng)域的研究工作大部分集中于通過學習來獲取能提高問題求解效率的知識（如搜索控制知識，啟發(fā)式知識等）。三.機器學習技術(shù)的發(fā)展趨勢從目前研究趨勢看，機器學習今后主要的研究方向如下：1)人類學習機 制的研究：2)發(fā)展和完善現(xiàn)有學習方法，同時開展新的學習方法的研究：3)建立實用的學習系統(tǒng)，特別是開展 多種學習方法協(xié)同工作的集成化系統(tǒng)的研究：4)機器學習有關(guān)理論及應(yīng)用的研究機器學習是繼專家系統(tǒng)之后人工智能應(yīng)用的又一重要研究領(lǐng)域，也是人工智能和神經(jīng)計算的核心研究課題之一?，F(xiàn)有的計算機系統(tǒng)和人工智能系統(tǒng)沒有什么學習能力，至多也只有非常有限的學習能力，因而不能滿足科技和生產(chǎn)提出的新要求。對機器學習的討論和機器學習研究的進展，必將促使人工智能和整個科學技術(shù)的進一步發(fā)展 。結(jié)論我發(fā)現(xiàn),機器學習是繼專家系統(tǒng)之后人工智能應(yīng)用的又一重要研究領(lǐng)域，也是人工智能和神經(jīng)計算的核心研究課題之一?，F(xiàn)有的計算機系統(tǒng)和人工智能系統(tǒng)沒有什么學習能力，至多也只有非常有限的學習能力，因而不能滿足科技和生產(chǎn)提出的新要求。對機器學習的討論和機器學習研究的進展，必將促使人工智能和整個科學技術(shù)的進一步發(fā)展 。從目前研究趨勢看，機器學習今后主要的研究方向如下：1)人類學習機 制的研