鏃犵洃鐫ｇ殑瀛︿範
3.1 鍏宠仈瑙勫垯鎸栨帢
鍏宠仈瑙勫垯鎸栨帢鍙戠幇澶ч噺鏁版嵁涓」闆嗕箣闂存湁瓒ｇ殑鍏宠仈鎴栫浉鍏宠仈绯?璁綢 = { i1 , i2 ,..., im }鏄」鐨勯泦鍚?璁句换鍔＄浉鍏崇殑鏁版嵁D鏄暟鎹簱浜嬪姟鐨勯泦鍚?鍏朵腑姣忎釜浜嬪姟T鏄」鐨勯泦鍚?浣垮緱T I.璁続鏄竴涓」闆?浜嬪姟T鍖呭惈A褰撲笖浠呭綋A T.
鍏宠仈瑙勫垯鏄舰濡侫 B鐨勮暣娑靛紡,鍏朵腑A I,B I,骞朵笖A B = .瑙勫垯A B鍦ㄤ簨鍔￠泦D涓垚绔?鍏锋湁鏀寔搴,鍏朵腑s鏄疍涓簨鍔″寘鍚獳 B鐨勭櫨鍒嗘瘮.鍗?P(A B).瑙勫垯A B鍦ㄤ簨鍔￠泦D涓叿鏈夌疆淇″害c,濡傛灉D涓寘鍚獳鐨勪簨鍔″悓鏃朵篃鍖呭惈B鐨勭櫨鍒嗘瘮鏄痗.杩欐槸鏉′欢姒傜巼P(B|A).鍗?br />support (A B ) = P(A B) 
confidence (A B ) = P(B|A)
3.1 鍏宠仈瑙勫垯鎸栨帢(缁?
Apriori鎬ц川:棰戠箒椤归泦鐨勬墍鏈夐潪绌哄瓙闆嗛兘蹇呴』涔熸槸棰戠箒鐨?
Apriori鎬ц川鍩轰簬濡備笅瑙傚療:鏍规嵁瀹氫箟,濡傛灉椤归泦I涓嶆弧瓒虫渶灏忔敮鎸佸害闃堝€約,鍒橧涓嶆槸棰戠箒鐨?鍗砅(I) < s.濡傛灉椤笰娣诲姞鍒癐,鍒欑粨鏋滈」闆?鍗矷 A)涓嶅彲鑳芥瘮I鏇撮绻佸嚭鐜?鍥犳,I A涔熶笉鏄绻佺殑,鍗砅(I A) < s.
璇ユ€ц川琛ㄦ槑濡傛灉涓€涓泦鍚堜笉鑳介€氳繃娴嬭瘯,鍒欏畠鐨勬墍鏈夎秴闆嗕篃閮戒笉鑳介€氳繃鐩稿悓鐨勬祴璇?
灏咥priori鎬ц川搴旂敤浜庣畻娉?涓嬮潰绠楁硶鐨勪袱涓富瑕佹杩囩▼鐢辫繛鎺ュ拰鍓灊缁勬垚.
3.1 鍏宠仈瑙勫垯鎸栨帢(缁?
杩炴帴姝?涓烘壘Lk,閫氳繃Lk - 1涓庤嚜宸辫繛鎺ヤ骇鐢熷€欓€塳-椤归泦鐨勯泦鍚?璇ュ€欓€夐」闆嗙殑闆嗗悎璁颁綔Ck. Ck鏄疞k鐨勮秴闆?鎵弿鏁版嵁搴?纭畾Ck涓瘡涓€欓€夌殑璁℃暟,灏嗕护璁℃暟鍊间笉灏忎簬鏈€灏忔敮鎸佸害璁℃暟鐨?棰戠箒鐨?鎵€鏈夊€欓€夊姞鍏k.
鍓灊姝?浣咰k鍙兘寰堝ぇ,杩欐牱鎵€娑夊強鐨勮绠楅噺灏卞緢澶?鏍规嵁Apriori鎬ц川濡傛灉涓€涓€欓€塳-椤归泦鐨?k-1)-瀛愰泦涓嶅湪Lk-1涓?鍒欒鍊欓€変篃涓嶅彲鑳芥槸棰戠箒鐨?浠庤€屽彲浠ョ敱Ck涓垹闄?
Apriori鎬ц川(閫嗗弽鎻忚堪):浠讳綍闈為绻佺殑(k-1)-椤归泦閮戒笉鏄彲鑳芥槸棰戠箒k-椤归泦鐨勫瓙闆?
3.2 鍐崇瓥鏍?br />鍐崇瓥鏍戝涔犳槸褰掔撼鎺ㄧ悊绠楁硶.瀹冩槸涓€绉嶉€艰繎绂绘暎鍑芥暟鐨勬柟娉?涓斿鍣０鏁版嵁鏈夊緢濂界殑鍋ュ．鎬?鍦ㄨ繖绉嶆柟娉曚腑瀛︿範鍒扮殑鐭ヨ瘑琚〃绀轰负鍐崇瓥鏍?鍐崇瓥鏍戜篃鑳藉啀琚〃绀轰负澶氫釜if-then鐨勮鍒?浠ユ彁楂樺彲璇绘€?
鍩烘湰鍐崇瓥鏍戠畻娉曞氨鏄竴涓椽蹇冪畻娉?瀹冮噰鐢ㄨ嚜涓婅€屼笅,鍒嗚€屽埗涔嬬殑閫掑綊鏂瑰紡鏉ユ瀯閫犱竴涓喅绛栨爲
閫氬父,鍐崇瓥鏍戞槸涓€绉嶈嚜椤跺悜涓嬪闀挎爲鐨勮椽濠畻娉?鍦ㄦ瘡涓粨鐐归€夊彇鑳芥渶濂藉湴鍒嗙被鏍蜂緥鐨勫睘鎬?缁х画杩欎釜杩囩▼鐩村埌杩欐５鏍戣兘瀹岀編鍒嗙被璁粌鏍蜂緥,鎴栨墍鏈夌殑灞炴€ч兘浣跨敤杩囦簡."淇℃伅澧炵泭" 鐢ㄤ簬琛￠噺灞炴€х殑浠峰€?鐔?entropy)鏄竴绉嶅害閲忎俊鎭鐩婄殑鎸囨爣,瀹冩弿杩颁簡鏍锋湰鐨勭函搴?purity).涓嬮潰鏄喌鐨勫畾涔?
Entropy = -∑Pilog2Pi
3.2 鍐崇瓥鏍?缁?
娉ㄦ剰鐐?
(1)閬垮厤杩囧害鎷熷悎,搴旇閫傚害鍓灊;(2)杩炵画鍊肩殑绂绘暎鍖?(3)澶勭悊缂哄け鍊肩殑鏂规硶:鏈€甯歌鍊?鎸夋鐜囧垎閰?(4)澶勭悊鏉冮噸涓嶅悓鐨勫睘鎬?br />甯哥敤瀹炵幇绠楁硶:
CART,ID3,ASSISTANT,C4.5
3.3 浜哄伐绁炵粡缃戠粶
浜哄伐绁炵粡缃戠粶(Artificial Neural Networks)鎻愪緵浜嗕竴绉嶆櫘閬嶈€屼笖瀹炵敤鐨勬柟娉?鏉ヤ粠鏍蜂緥涓涔犲€间负瀹炴暟,绂绘暎鎴栧悜閲忕殑鍑芥暟.
鍙嶅悜浼犳挱(Back Propagation)杩欐牱鐨勭畻娉曚娇鐢ㄦ搴︿笅闄嶆潵璋冭妭缃戠粶鍙傛暟浠ユ渶浣虫嫙鍚堢敱杈撳叆/杈撳嚭瀵圭粍鎴愮殑璁粌闆嗗悎.
BP缃戠粶鐨勫涔犳柟娉曞拰鐩爣:瀵圭綉缁滅殑杩炴帴鏉冨€艰繘琛岃皟鏁?浣垮緱瀵逛换涓€杈撳叆閮借兘寰楀埌鎵€鏈熸湜鐨勮緭鍑?
甯哥敤鐨勯潪绾挎€т綔鐢ㄥ嚱鏁版槸Sigmoid鍑芥暟,鍗砯 (x)=1/(1+ e-x).鍦ㄧ缁忕綉缁滄ā鍨嬩腑,澶ч噺绁炵粡鍏冭妭鐐规寜涓€瀹氫綋绯荤粨鏋勮繛鎺ユ垚缃戠姸.绁炵粡缃戠粶涓€鑸兘鍏锋湁杈撳叆灞?闅愬眰鍜岃緭鍑哄眰.
姣忎釜绁炵粡鍏冮兘鏄竴涓粨鏋勭浉浼肩殑鐙珛鍗曞厓,瀹冩帴鍙楀墠涓€灞備紶鏉ョ殑鏁版嵁,骞跺皢杩欎簺鏁版嵁鐨勫姞鏉冨拰杈撳叆闈炵嚎鎬т綔鐢ㄥ嚱鏁颁腑,鏈€鍚庡皢闈炵嚎鎬т綔鐢ㄥ嚱鏁扮殑杈撳嚭缁撴灉浼犻€掔粰鍚庝竴灞?
璇樊鍙嶅悜浼犳挱鐨勮繃绋?br />3.3 浜哄伐绁炵粡缃戠粶(缁?
鑷€傚簲鍏辨尟鐞嗚妯″瀷(ART) ——鑱氱被
杩炵画/绂绘暎Hopfield绁炵粡缃戠粶——姹傝繎浼兼渶浼樿В,璇嗗埆涓庡垎绫?br />鍙屽悜鑱旀兂璁板繂妯″瀷 (BAM) ——璇嗗埆
鐜诲皵鍏规浖鏈?BM) ——姹傛渶浼樿В
鑴戜腑鐩掓ā鍨?BSB) ——璇嗗埆涓庡垎绫?br />鑷粍缁囨槧灏勬ā鍨?SOM) ——璇嗗埆涓庡垎绫?br />瀵瑰悜浼犳挱缃戠粶妯″瀷(CPN) ——璇嗗埆涓庡垎绫?br />灏忚剳妯″瀷(CMAC) ——蹇€熻瘑鍒?br />3.4 鏈寸礌璐濆彾鏂?Naive Bayes)鍒嗙被鍣?br />鏈寸礌璐濆彾鏂垎绫诲櫒鏄竴绉嶅熀浜庤礉鍙舵柉鐞嗚鐨勫垎绫诲櫒.瀹冪殑鐗圭偣鏄互姒傜巼褰㈠紡琛ㄨ揪鎵€鏈夊舰寮忕殑涓嶇‘瀹?瀛︿範鍜屾帹鐞嗛兘鐢辨鐜囪鍒欏疄鐜?瀛︿範鐨勭粨鏋滃彲浠ヨВ閲婁负瀵逛笉鍚屽彲鑳界殑淇′换绋嬪害. 
P(H)鏄厛楠屾鐜?鎴朒鐨勫厛楠屾鐜?P(H|X)鏄悗楠屾鐜?鎴栨潯浠禭涓?H鐨勫悗楠屾鐜?鍚庨獙姒傜巼P(H|X)姣斿厛楠屾鐜嘝(H)鍩轰簬鏇村鐨勪俊鎭?P(H)鏄嫭绔嬩簬X鐨?
鍋囧畾鏁版嵁鏍锋湰涓栫晫鐢辨按鏋滅粍鎴?鐢ㄥ畠浠殑棰滆壊鍜屽舰鐘舵弿杩?鍋囧畾X琛ㄧず绾㈣壊鍜屽渾鐨?H琛ㄧず鍋囧畾X鏄嫻鏋?鍒橮(H|X)鍙嶆槧褰撴垜浠湅鍒癤鏄孩鑹插苟鏄渾鐨勬椂,鎴戜滑瀵筙鏄嫻鏋滅殑纭俊绋嬪害.
鏈寸礌璐濆彾鏂垎绫昏兘澶熷鏁堢殑鍓嶆彁鏄?P(X|H) 鐩稿姣旇緝瀹规槗璁＄畻.鍋囧畾X琛ㄧず绾㈣壊鍜屽渾鐨?H琛ㄧず鍋囧畾X鏄嫻鏋?鍒橮(X|H)琛ㄧず宸茬煡鑻规灉,瀹冩棦绾㈠張鍦嗙殑姒傜巼.
3.5 鏈熸湜鏈€澶у寲(EM)
鏈熸湜鏈€澶у寲(EM)鏂规硶鍜屾湸绱犺礉鍙舵柉鏂规硶鏈夌潃鍏卞悓鐨勭悊璁哄熀纭€.鏈熸湜鏈€澶у寲鏄竴绉嶅熀浜庡惊鐜繃绋嬬殑鏈€澶т技鐒跺弬鏁颁及璁℃柟娉?鐢ㄤ簬瑙ｅ喅甯︾己澶辨暟鎹殑鍙傛暟浼拌闂.
鏍锋湰鏁版嵁鍒嗕负鏍囪鏍锋湰鍜屾湭鏍囪鏍锋湰,鎸夌収缁熻鐨勮鐐?瀵逛簬姣忎竴涓牱鏈殑浜х敓,鍏惰儗鍚庨兘鏈変竴涓ā鍨?鍗虫牱鏈敓鎴愭ā鍨?鏍锋湰鐢熸垚妯″瀷鐨勫弬鏁板厛鐢辨爣璁版牱鏈‘瀹?鍐嶉€氳繃鏍囪鏍锋湰鍜屽埄鐢ㄥ綋鍓嶆ā鍨嬪垽鏂爣璁扮殑鏈爣璁版牱鏈叡鍚岃皟鏁?
3.5 鏈熸湜鏈€澶у寲(缁?
濡傛灉鍙傛暟閫傚綋,EM 绠楁硶鑳藉緱鍒拌緝濂界殑鍒嗙被缁撴灉,浣嗚绠楅€熷害鐩稿杈冩參.鍏跺叿浣撶殑姝ラ濡備笅:
涓€,鍒濆鍙傛暟浼拌,灏嗘湭鏍囪鐨勬牱鏈寜鏈寸礌璐濆彾鏂垎绫绘柟娉曡繘琛岀被鏍囨敞.
浜?鍙嶅杩唬E姝ラ鍜孧姝ラ,鐩村埌鏀舵暃.
涓?E姝ラ:瀵逛簬姣忎釜鏈爣璁扮殑鏍锋湰,鎸変笅寮忚绠楃被鏍囪鐨勬湡鏈涘€?
鍥?M姝ラ:鍒╃敤E姝ラ璁＄畻鍑虹殑鏈熸湜鍊?鎸変笅寮忕敤宸叉爣璁版牱鏈拰鏈爣璁版牱鏈噸鏂颁及璁℃柊鐨勫垎绫诲櫒鍙傛暟.
3.6 K-鏈€杩戦偦鍒嗙被
K-杩戦偦(K-NN)鍒嗙被鏄熀浜庤寖渚嬬殑鍒嗙被鏂规硶,瀹冪殑鍩烘湰鎬濇兂鏄?缁欏畾寰呭垎绫绘牱鏈悗,鑰冭檻鍦ㄨ缁冩牱鏈泦涓笌璇ュ緟鍒嗙被鏍锋湰璺濈鏈€杩?鏈€鐩镐技)鐨凨 涓牱鏈?鏍规嵁杩橩 涓牱鏈腑澶у鏁版牱鏈墍灞炵殑绫诲埆鍒ゅ畾寰呭垎绫绘牱鏈殑绫诲埆.
瀹冪殑鐗逛緥鏄?- NN,鍗冲垎绫绘椂閫夊嚭寰呭垎绫绘牱鏈殑鏈€杩戦偦,骞朵互姝ゆ渶杩戦偦鐨勭被鏍囪鏉ュ垽鏂牱鏈殑绫?
K-NN绠楁硶鐨勪紭鐐瑰湪浜庡畠鏈夎緝楂樼殑绮剧‘绋嬪害,鐮旂┒琛ㄦ槑,K-NN鐨勫垎绫绘晥鏋滆鏄庢樉濂戒簬鏈寸礌璐濆彾鏂垎绫?鍐崇瓥鏍戝垎绫?
3.6 K-鏈€杩戦偦鍒嗙被(缁?
鏈€杩戦偦鍒嗙被鐨勭畻娉曟楠ゅ涓?
涓€,浠ュ悜閲忕┖闂存ā鍨嬬殑褰㈠紡鎻忚堪鍚勮缁冩牱鏈?
浜?鍦ㄥ叏閮ㄨ缁冩牱鏈泦涓€夊嚭涓庡緟鍒嗙被鏍锋湰鏈€鐩镐技鐨凨涓牱鏈?K鍊肩殑纭畾鐩墠娌℃湁寰堝ソ鐨勬柟娉?涓€鑸噰鐢ㄥ厛瀹氫竴涓?00宸﹀彸鐨勫垵濮嬪€?鐒跺悗鍐嶈皟鏁?
涓?灏嗗緟鍒嗙被鏍锋湰鏍囪涓哄叾K涓偦灞呬腑鎵€灞炴渶澶氱殑閭ｄ釜绫诲埆涓?
3.7 閬椾紶绠楁硶
閬椾紶绠楁硶鏄撲簬骞惰澶勭悊,鍏朵緷鎹槸鑷劧鐣岃繘鍖栧拰閫傝€呯敓瀛樼殑鍘熷垯.閬椾紶瀛︿範寮€濮嬪涓?鍒涘缓鑻ュ共涓敱闅忔満浜х敓鐨勪釜浣撶粍鎴愮殑鍒濆缇や綋.姣忎釜涓綋鐢ㄤ竴涓簩杩涗綅涓茶〃绀?
褰㈡垚鐢卞綋鍓嶇兢浣撲腑鏈€閫傚悎鐨勪釜浣撶粍鎴愭柊鐨勭兢浣?浠ュ強杩欎簺瑙勫垯鐨勫瓙濂?涓綋鐨勯€傚悎搴︾敤鏌愪竴鐩爣鍑芥暟鏉ヨ瘎浼?
瀛愬コ閫氳繃浣跨敤璇稿浜ゅ弶鍜屽彉寮傜瓑閬椾紶鎿嶄綔鏉ュ垱寤?鍦ㄤ氦鍙夋搷浣滀腑,鏉ヨ嚜涓綋瀵圭殑瀛愪覆浜ゆ崲,褰㈡垚鏂扮殑涓綋瀵?鍦ㄥ彉寮傛搷浣滀腑,涓綋涓殢鏈洪€夋嫨鐨勪綅琚弽杞?
3.7 閬椾紶绠楁硶(缁?
Fitness:閫傚簲搴﹁瘎鍒嗗嚱鏁?涓虹粰瀹氬亣璁捐祴浜堜竴涓瘎浼板緱鍒?
Fitness_threshold:鎸囧畾缁堟鍒ゆ嵁鐨勯槇鍊?
p:缇や綋涓寘鍚殑鍋囪鏁伴噺.r:姣忎竴姝ヤ腑閫氳繃浜ゅ弶鍙栦唬缇や綋鎴愬憳鐨勬瘮渚?m:鍙樺紓鐜?
鍒濆鍖栫兢浣?P 闅忔満浜х敓鐨刾涓亣璁?br />璇勪及:瀵逛簬P涓殑姣忎竴涓猦,璁＄畻Fitness(h)
褰揫Fitness(h)]浜х敓鏂扮殑涓€浠S:
3.7 閬椾紶绠楁硶(缁?
閫夋嫨:鐢ㄦ鐜囨柟娉曢€夋嫨P鐨?1-r)p涓垚鍛樺姞鍏S.浠嶱涓€夋嫨鍋囪hi鐨勬鐜嘝(hi)閫氳繃涓嬮潰鍏紡璁＄畻:
浜ゅ弶:鏍规嵁涓婇潰缁欏嚭鐨凱(hi),浠嶱涓寜姒傜巼閫夋嫨r p/2瀵瑰亣璁?瀵逛簬姣忎竴瀵瑰亣璁惧簲鐢ㄤ氦鍙夌畻瀛愪骇鐢熶袱涓悗浠?鎶婃墍鏈夌殑鍚庝唬鍔犲叆PS.
鍙樺紓:浣跨敤鍧囧寑鐨勬鐜囦粠PS涓€夋嫨m鐧惧垎姣旂殑鎴愬憳.瀵逛簬閫夊嚭鐨勬瘡涓垚鍛?鍦ㄥ畠鐨勮〃绀轰腑闅忔満閫夋嫨涓€涓綅鍙栧弽.
鏇存柊:P PS.
璇勪及:瀵逛簬P涓殑姣忎竴涓猦璁＄畻Fitness(h)
浠嶱涓繑鍥為€傚簲搴︽渶楂樼殑鍋囪.
3.8 鑱氱被鍒嗘瀽
涓鸿揪鍒板叏灞€鏈€浼?鍩轰簬鍒掑垎鐨勮仛绫讳細瑕佹眰绌蜂妇鎵€鏈夊彲鑳界殑鍒掑垎.鑱氱被鎶€鏈皢鏁版嵁鍏冪粍瑙嗕负瀵硅薄.瀹冨皢瀵硅薄鍒掑垎涓虹兢鎴栬仛绫?浣垮緱鍦ㄤ竴涓仛绫讳腑鐨勫璞?quot;绫讳技",浣嗕笌鍏跺畠鑱氱被涓殑瀵硅薄"涓嶇被浼?quot;.
缁濆ぇ澶氭暟搴旂敤閲囩敤浜嗕互涓嬩袱涓瘮杈冩祦琛岀殑鍩轰簬鍒掑垎鐨勬柟娉?杩欎簺鍩轰簬鍒掑垎鐨勮仛绫绘柟娉曞鍦ㄤ腑灏忚妯＄殑鏁版嵁搴撲腑鍙戠幇鐞冪姸绨囧緢閫傜敤.
(1)k-means绠楁硶,鍦ㄨ绠楁硶涓?姣忎釜绨囩敤璇ョ皣涓璞＄殑骞冲潎鍊兼潵琛ㄧず.
(2)k-medoids绠楁硶,鍦ㄨ绠楁硶涓?姣忎釜绨囩敤鎺ヨ繎鑱氱被涓績鐨勪竴涓璞℃潵琛ㄧず.
3.8 鑱氱被鍒嗘瀽(缁?
甯哥敤鐨勭浉浼肩▼搴﹀害閲?span class="Apple-converted-space"> 
浣欏鸡澶硅: Dice绯绘暟:
Jaccard绯绘暟:
3.8 鑱氱被鍒嗘瀽(缁?
鍩轰簬灞傛鐨勬柟娉?灞傛鐨勬柟娉曞缁欏畾鏁版嵁闆嗗悎杩涜灞傛鐨勫垎瑙?鏍规嵁灞傛鐨勫垎瑙ｅ浣曞舰鎴?灞傛鐨勬柟娉曞彲浠ヨ鍒嗕负鍑濊仛鎴栧垎瑁傛柟娉? (Chameleon ,CURE,BIRCH) 
鍩轰簬瀵嗗害鐨勬柟娉?鍙涓磋繎鍖哄煙鐨勫瘑搴﹁秴杩囨煇涓槇鍊?灏辩户缁仛绫?閬垮厤浠呯敓鎴愮悆鐘惰仛绫?(DBSCAN,OPTICS,DENCLUE)
鍩轰簬缃戞牸鐨勬柟娉?鍩轰簬缃戞牸鐨勬柟娉曟妸瀵硅薄绌洪棿閲忓寲涓烘湁闄愭暟鐩殑鍗曞厓,鎵€鏈夌殑鑱氱被鎿嶄綔閮藉湪杩欎釜閲忓寲鐨勭┖闂翠笂杩涜.杩欑鏂规硶鐨勪富瑕佷紭鐐规槸瀹冪殑澶勭悊閫熷害寰堝揩.(STING,CLIQUE,WaveCluster)
鍩轰簬妯″瀷鐨勬柟娉?涓烘瘡涓皣鍋囪涓€涓ā鍨?鍙戠幇鏁版嵁瀵规ā鍨嬬殑鏈€濂藉尮閰?(COBWEB,CLASSIT,AutoClass)
3.9 闅愰┈灏斿彲澶ā鍨?br />瀵逛簬涓€涓殢鏈轰簨浠?鏈変竴涓瀵熷€煎簭鍒?O1, ..., OT.璇ヤ簨浠堕殣鍚潃涓€涓姸鎬佸簭鍒?X1, ..., XT
鍋囪1:椹皵鍙か鎬?P(Xi| Xi-1…X1) = P(Xi| Xi-1)
鍋囪2:涓嶅姩鎬?P(Xi+1| Xi) = P(Xj+1| Xj),瀵逛换鎰廼,j鎴愮珛
鍋囪3:杈撳嚭鐙珛鎬?P(O1,..., OT | X1,..., XT) = ∏P(Ot | Xt) 
涓€涓殣椹皵鍙か妯″瀷鏄竴涓簲鍏冪粍:(ΩX, ΩO, A, B, π)
鍏朵腑:ΩX = {Q1,..., QN}:鐘舵€佺殑鏈夐檺闆嗗悎;
ΩO = {V1,..., VM}:瑙傚療鍊肩殑鏈夐檺闆嗗悎;
A = {aij},aij = P(Xt+1 = Qj |Xt = Qi):杞Щ姒傜巼;
B = {bik},bik = P(Ot = Vk | Xt = Qi):杈撳嚭姒傜巼;
π = {πi},πi = P(X1 = Qi):鍒濆鐘舵€佸垎甯?
3.9 闅愰┈灏斿彲澶ā鍨?缁?
浠?λ = {A, B,π} 涓虹粰瀹欻MM鐨勫弬鏁?
浠?σ = O1,...,OT 涓鸿瀵熷€煎簭鍒?
闅愰┈灏斿彲澶ā鍨嬬殑涓変釜鍩烘湰闂: 
璇勪及闂:瀵逛簬缁欏畾妯″瀷,姹傛煇涓瀵熷€煎簭鍒楃殑姒傜巼P(σ|λ) .鍚戝墠/鍚戝悗绠楁硶:瀹氫箟鍚戝墠/鍚戝悗鍙橀噺.閲囩敤鍔ㄦ€佽鍒掔畻娉?澶嶆潅搴(N2T)
瑙ｇ爜闂:瀵逛簬缁欏畾妯″瀷鍜岃瀵熷€煎簭鍒?姹傚彲鑳芥€ф渶澶х殑鐘舵€佸簭鍒?Viterbi绠楁硶:閲囩敤鍔ㄦ€佽鍒掔畻娉?澶嶆潅搴(N2T)
瀛︿範闂:瀵逛簬缁欏畾鐨勪竴涓瀵熷€煎簭鍒?璋冩暣鍙傛暟λ,浣垮緱瑙傚療鍊煎嚭鐜扮殑姒傜巼P(σ|λ)鏈€澶?鍚戝墠EM绠楁硶鐨勪竴涓壒渚?甯﹂殣鍙橀噺鐨勬渶澶т技鐒朵及璁?Baum-Welch绠楁硶.
3.9 闅愰┈灏斿彲澶ā鍨?缁?
鍚戝墠/鍚戝悗绠楁硶:瀹氫箟鍚戝墠/鍚戝悗鍙橀噺:
鍒濆鍖?
閫掑綊:
缁堢粨:
3.9 闅愰┈灏斿彲澶ā鍨?缁?
Viterbi绠楁硶
鍒濆鍖?
閫掑綊:
缁堢粨:
姹係搴忓垪:
3.9 闅愰┈灏斿彲澶ā鍨?缁?
Baum-Welch绠楁硶
涓昏姝ラ:
1. 鍒濆妯″瀷(寰呰缁冩ā鍨? l0,
2. 鍩轰簬l0 浠ュ強瑙傚療鍊煎簭鍒梥,璁粌鏂版ā鍨?l;
3. 濡傛灉 log_P(X|l) - log(P(X|l0) < Delta,璇存槑璁粌宸茬粡杈惧埌棰勬湡鏁堟灉, 绠楁硶缁撴潫.
4. 鍚﹀垯,浠0 = l ,缁х画绗?姝ュ伐浣?span class="Apple-converted-space"> 
3.10 鏀寔鍚戦噺鏈?br />鏀寔鍚戦噺鏈哄熀鏈ā鍨嬫槸閽堝绾挎€у彲鍒嗘儏鍐典笅鐨勬渶浼樺垎鐣岄潰鎻愬嚭鐨?鍦ㄨ繖涓€鏉′欢涓?姝ｇ被鍜屽弽绫昏缁冩牱鏈彲鐢ㄨ秴骞抽潰瀹屽叏姝ｇ‘鍦板垎寮€.
璁剧嚎鎬у彲鍒嗘牱鏈泦鍚堜负( xi , yi ),i = 1,…, n;x∈Rd,y∈{+1,-1}鏄被鍒爣璁?鏀寔鍚戦噺鏈哄伐浣滅殑鏈虹悊鍙弿杩颁负:瀵绘壘涓€涓秴骞抽潰w·x + b = 0,璇ュ钩闈㈡妸涓ょ被璁粌鏍锋湰鐐瑰畬鍏ㄦ纭湴鍒嗗紑,鍗虫弧瓒?涓?;鍚屾椂婊¤冻涓ょ被璁粌鐐瑰埌姝よ秴骞抽潰鐨勬渶杩戣窛绂讳箣鍜?鍗?quot;闂撮殧" (Margin),杈惧埌鏈€澶?
婊¤冻涓婅堪鏉′欢鐨勫垎鐣岄潰灏辨槸鏈€浼樺垎鐣岄潰,缁忚繃涓ょ被鏍锋湰涓窛绂绘渶浼樺垎绫婚潰鏈€杩戠殑鐐?涓斿钩琛屼簬鏈€浼樺垎鐣岄潰鐨勮秴骞抽潰H1,H2(杈圭晫瓒呭钩闈?涓婄殑璁粌鏍锋湰绉颁负鏀寔鍚戦噺,鍗冲浘涓甫鍦堢殑鐐?
3.10 鏀寔鍚戦噺鏈?缁?
鏍规嵁鏈€杩戣窛绂讳箣鍜屾渶澶т互鍙婃纭垎绂讳袱绫绘牱鏈繖涓や釜鏉′欢,鍙互鏋勯€犵害鏉熸瀬鍊奸棶棰?瑙?1)寮?
閫氳繃鎷夋牸鏈楁棩涔樻暟娉曞苟寮曞叆鎷夋牸鏈楁棩涔樻暟,璇ョ害鏉熸瀬鍊奸棶棰樺氨鍙互杞寲鎴愪竴涓眰瑙ｈ緝涓虹畝鍗曠殑瀵瑰伓闂,閫氳繃瀵绘眰璇ュ鍋堕棶棰樼殑鏈€浼樿В,灏卞彲浠ュ緱鍒板師闂鐨勬渶浼樿В.鏋勯€犲垎绫诲櫒鍒ゅ喅鍑芥暟:瑙?2)寮?
(2)寮忎腑,sgn(.)鏄彇绗﹀彿鍑芥暟,浜х敓+1鎴?1涓ょ缁撴灉.褰撴祴璇曟棤鏍囪鐨勬祴璇曟暟鎹椂,鏍规嵁涓婂紡鐨勮绠楃粨鏋滃氨鍙垽鏂棤鏍囪娴嬭瘯鏁版嵁灞炰簬姝ｇ被杩樻槸鍙嶇被.
(1)
(2)
3.10 鏀寔鍚戦噺鏈?缁?
鐢变簬鍣０鎴栧叾浠栧洜绱犵殑褰卞搷,涓ょ被鏁版嵁鍙兘鏈夊皯鏁扮殑铻嶅悎鎴栦氦鍙?寮曞叆鏉惧紱鍙橀噺x浣垮緱鍒嗙被鍣ㄥ湪璁粌鍚庝粛鍙互瀛樺湪涓€浜涢敊鍒嗘牱鏈?涓嶄絾瑕佷娇涓ょ被鏍锋湰涔嬮棿鐨勯棿闅斿敖閲忓ぇ,鍚屾椂杩樿浣块敊鍒嗙殑鏍锋湰鐨勬澗寮涘彉閲忎箣鍜屽敖鍙兘鐨勫皬,鍗?br />鍏朵腑,x涓烘澗寮涘彉閲?婊¤冻xi≥0;C涓哄ぇ浜庨浂鐨勬姌琛峰洜瀛?瀹冭皟鍜屼簡闂撮殧璺濈鍜岄敊鍒嗘牱鏈暟涔嬮棿鐨勫叧绯?C瓒嬭繎浜庢棤绌峰ぇ鏃跺嵆涓虹嚎鎬у彲鍒嗙殑褰㈠紡.涓轰簡鎻愰珮鏀寔鍚戦噺鏈虹殑鎺ㄥ箍鑳藉姏,C閫氬父鍙栦负杈冨ぇ鐨勬暟. 
3.10 鏀寔鍚戦噺鏈?缁?
瑙ｅ喅绾挎€т笉鍙垎鏁版嵁闂鐨勬柟娉曟槸灏嗕綆缁寸┖闂寸殑绾挎€т笉鍙垎鏁版嵁鏄犲皠鍒伴珮缁寸殑绾挎€у彲鍒嗙┖闂翠腑.
鏀寔鍚戦噺鏈洪€氳繃闈炵嚎鎬ф槧灏刦 (x)鎶婃暟鎹敱浣庣淮绌洪棿鍚戦珮缁寸┖闂存槧灏?鍦ㄩ珮缁寸┖闂翠负浣庣淮鏁版嵁鏋勯€犵嚎鎬у垎绂昏秴骞抽潰.璇ュ垎绂昏秴骞抽潰瀵瑰簲鐫€鍘熺壒寰佺┖闂翠笂鐨勪竴涓垎鍓茶秴鏇查潰.
鍦ㄩ珮缁寸壒寰佺┖闂翠笂鎵€鏈夋秹鍙奻 (x)鐨勮绠楀強鍒ゅ喅鍑芥暟閮戒互f (x)鐨勫唴绉舰寮忓嚭鐜?鍥犺€屽彲浠ュ紩鍏ヤ竴涓牳鍑芥暟杩涜鏁翠綋澶勭悊浠庤€岄伩鍏嶄簡瀵筬 (x)鐨勭洿鎺ヨ绠?浣挎墍鏈夌殑璁＄畻浠嶅湪鍘熺┖闂磋繘琛? 
3.10 鏀寔鍚戦噺鏈?缁?
缁熻瀛︿範鐞嗚璁や负:瀛︿範鏈鸿鍒ゆ湭鐭ユ暟鎹被鍒殑瀹為檯椋庨櫓涓庡涔犳満鐨勮缁冭宸苟涓嶅畬鍏ㄤ竴鑷?瀵逛簬涓ょ被鍒嗙被闂,瀹為檯椋庨櫓涓庡涔犳満鐨勮缁冭宸箣闂磋嚦灏戜互1-h 鐨勬鐜?0< h <1)婊¤冻涓嬪紡:

鏍规嵁缁熻瀛︿範鐨勭悊璁?瀵逛簬涓ょ被鍒嗙被鐨勬敮鎸佸悜閲忔満,鍦ㄧ嚎鎬у彲鍒嗙殑鎯呭喌涓?瀹冪殑鎺ㄥ箍璇樊鐨勪笂鐣?浠?-d 鐨勬鐜?0< d <1)淇濊瘉)涓?
鍏朵腑,m鏄繛缁垎绫绘纭殑鏍锋湰鏁?g =1/ ||w||,鏄棿闅旇窛绂荤殑涓€鍗?R鏄竴涓壒寰佺┖闂寸悆鐨勫崐寰?瀹冨皢鍏ㄩ儴鏍锋湰鍖呭惈鍦ㄥ叾涓? 
3.11 鍏崇郴瀛︿範
鍏崇郴瀛︿範鎵€娑夊強鐨勯棶棰樻瘮浼犵粺鏈哄櫒瀛︿範涓秹鍙婂埌鐨勯棶棰橀珮涓€涓眰娆?璇ョ被闂鐨勫亣璁剧┖闂村簽澶?缁撴瀯澶嶆潅;闇€瑕佸姞鍏ラ鍩熺煡璇嗗弽鏄犻棶棰樼殑鍐呭湪缁撴瀯.
鍏崇郴瀛︿範涓煡璇嗙殑琛ㄧず:鍘熷瓙;鏋愬彇,鍚堝彇,钑村惈,闈?楠岃瘉,绛変环,娑佃暣绛?鍙ュ瓙鐢变笂杩板厓绱犵粍鎴?
涓€闃禜orn瀛愬彞:浠呭寘鍚竴涓偗瀹氭枃瀛楃殑瀛愬彞.
鏈変笁绉嶇被鍨嬬殑Horn瀛愬彞:鍗曚竴鍘熷瓙(浜嬪疄);涓€涓暣娑?瑙勫垯);涓€涓惁瀹氭枃瀛楃殑闆嗗悎(鐩爣).
3.11 鍏崇郴瀛︿範(缁?
褰掔撼閫昏緫缂栫▼(Inductive Logic Programming, ILP)鏄鐞嗗叧绯诲涔犻鍩熼棶棰樼殑閲嶈鏂规硶.瀹冩槸褰掔撼瀛︿範鍜岄€昏緫绋嬪簭缁撳悎鐨勪骇鐗?
ILP鐢ㄤ簬涓€闃堕€昏緫鐨勬蹇靛涔犲拰閫昏緫绋嬪簭鐨勫悎鎴?ILP 绯荤粺澶勭悊鍒嗙被浠诲姟鏃朵富瑕侀噰鐢ㄤ袱绉嶆柟寮?瑕嗙洊鏂规硶鍜屽垎娌绘柟娉?
瀛愬彞绌洪棿鐢卞舰濡?H←L1,L2,…Lm 鐨勪竴闃跺瓙鍙ユ瀯鎴?
θ-鍖呭鍏崇郴:鍋囪c鍜宑'鏄袱涓▼搴忓瓙鍙?瀛愬彞c θ-鍖呭瀛愬彞c',濡傛灉瀛樺湪涓€涓浛鎹?theta;浣垮緱cθ c'
鍩轰簬ILP鐨勫父鐢ㄦ柟娉曟湁:Progol,FOIL,TLIDE,ICL
鍥?妯″瀷涓婄殑妯″瀷
4.1 瑁呰 / 鎻愬崌
缁欏畾s涓牱鏈殑闆嗗悎S.瑁呰(Bagging)杩囩▼濡備笅.瀵逛簬杩唬t ( t = 1, 2,..., T ),璁粌闆哠t閲囩敤鏀惧洖閫夋牱,鐢卞師濮嬫牱鏈泦S閫夊彇.
鐢变簬浣跨敤鏀惧洖閫夋牱,S鐨勬煇浜涙牱鏈彲鑳戒笉鍦⊿t涓?鑰屽叾瀹冪殑鍙兘鍑虹幇澶氭.
鐢辨瘡涓缁冮泦St瀛︿範,寰楀埌涓€涓垎绫绘硶Ct.涓哄涓€涓湭鐭ョ殑鏍锋湰X鍒嗙被,姣忎釜鍒嗙被娉旵t杩斿洖瀹冪殑绫婚娴?绠椾綔涓€绁?
瑁呰鐨勫垎绫绘硶C*缁熻寰楃エ,骞跺皢寰楃エ鏈€楂樼殑绫昏祴浜圶.閫氳繃鍙栧緱绁ㄧ殑骞冲潎鍊?瑁呰涔熷彲浠ョ敤浜庤繛缁€肩殑棰勬祴.
4.1 瑁呰 / 鎻愬崌(缁?
鎻愬崌(Boosting)杩囩▼濡備笅:姣忎釜璁粌鏍锋湰璧嬩簣涓€涓潈,骞跺涔犲緱鍒颁竴绯诲垪鍒嗙被娉?
瀵逛簬杩唬t ( t = 1, 2,..., T ),瀛︿範寰楀埌鍒嗙被娉旵t鍚?鏇存柊鏉?浣垮緱闅忓悗鐨勫垎绫绘硶Ct+1"鏇村叧娉?quot;Ct鐨勫垎绫婚敊璇?
鏈€缁堢殑鎻愬崌鍒嗙被娉旵*缁勫悎姣忎釜鍒嗙被娉曠殑琛ㄥ喅,杩欓噷姣忎釜鍒嗙被娉曠殑琛ㄥ喅鏄叾鍑嗙‘鐜囩殑鍑芥暟.
閫氳繃鍙栧緱绁ㄧ殑骞冲潎鍊?鎻愬崌绠楁硶涔熷彲浠ユ墿鍏呭埌杩炵画鍊奸娴?
4.2 鍏卞悓璁粌(Co-Training)
鍏卞悓璁粌绠楁硶鐢ㄤ袱涓笉鍚岀殑"瑙嗗浘"(鍗崇壒寰侀泦鍚?鏉ユ弿杩版枃鏈殑鐗瑰緛.
鍩烘湰鎬濊矾:姣忎釜瑙嗗浘瀵瑰簲涓€涓涔犳満,鑰屾瘡涓涔犳満閮芥牴鎹嚜韬凡瀛﹀埌鐨勮寰嬫潵鏍囪"鏈€鏈夋妸鎻?quot;鐨勬棤鏍囪鏍锋湰,鐒跺悗灏嗚繖涓?鎴栬繖鍑犱釜)鏂版爣璁扮殑鏍锋湰鍔犲叆璁粌鏍锋湰,骞舵墿灞曞悗鐨勮缁冩牱鏈彁渚涚粰鍙︿竴涓涔犳満杩涜瀛︿範.濡傛鍙嶅,鐩村埌婊¤冻涓€瀹氱殑鏉′欢涓烘.
璇ョ畻娉曚腑鎵€鐢ㄥ埌鐨勪袱涓鍥鹃渶瑕佹弧瓒充互涓嬩袱涓潯浠?棣栧厛,姣忎釜鐗瑰緛闆嗗悎瀵规枃鏈垎绫诲涔犳潵璇撮兘鏄厖鍒嗙殑;鍏舵,鍦ㄧ粰瀹氱被鍒爣璁扮殑鏉′欢涓?涓や釜鐗瑰緛闆嗗悎鐩镐簰鐙珛.
4.3 涓诲姩瀛︿範 / 琚姩瀛︿範

涓诲姩瀛︿範鍦ㄥ涔犺繃绋嬩腑鍙互鏍规嵁瀛︿範杩涚▼,閫夋嫨鏈€鏈夊埄浜庡垎绫诲櫒鎬ц兘鐨勬牱鏈潵杩涗竴姝ヨ缁冨垎绫诲櫒,瀹冭兘鏈夋晥鍦板噺灏戣瘎浠锋牱鏈殑鏁伴噺;
琚姩瀛︿範鍙槸闅忔満鍦伴€夋嫨璁粌鏍锋湰,琚姩鍦版帴鍙楄繖浜涙牱鏈殑淇℃伅杩涜瀛︿範.
涓诲姩瀛︿範鏄疄鐜扮洃鐫ｅ涔犺繃绋嬬殑涓€涓湁鏁堢殑鏂规硶.鍦ㄤ富鍔ㄥ涔犺繃绋嬩腑,鍒嗙被鍣ㄤ富鍔ㄥ湴閫夋嫨瀵瑰叾"鏈€鏈夊府鍔?quot;鐨勪竴缁勫瓙鏍锋湰杩涜瀛︿範,鑰屼笉鏄鍔ㄥ湴鎺ュ彈璁粌闆?
"鏈€鏈夊府鍔?quot;鐨勬牱鏈寚鐨勬槸瀵瑰綋鍓嶅垎绫诲櫒鏉ヨ,褰掑睘鏈€涓嶇‘瀹氱殑鏍锋湰.鍗冲綋鍓嶅垎绫诲櫒鏈€闅句互鍖哄垎鐨勬牱鏈?閫氬父鎯呭喌涓?涓诲姩瀛︿範鐨勮绠楀鏉傚害姣斾竴鑸殑鐩戠潱瀛︿範杩囩▼瑕佹樉钁楀緱浣?
4.3 涓诲姩瀛︿範 / 琚姩瀛︿範(缁?
鍒濆鐘舵€佷笅,鍊欓€夋牱鏈泦涓墍鏈夌殑鏍锋湰閮芥湭甯︾被鍒爣娉?鏍规嵁鍏堥獙鐭ヨ瘑鎴栬€呴殢鏈哄湴浠庡€欓€夋牱鏈泦涓€夋嫨灏戦噺鏍锋湰骞舵爣娉ㄥ畠浠殑绫诲埆,鏋勯€犲垵濮嬭缁冩牱鏈泦,纭繚鍒濆璁粌鏍锋湰闆嗕腑鑷冲皯鍖呭惈鏈変竴涓渚嬫牱鏈拰涓€涓礋渚嬫牱鏈?
鍦ㄤ笂杩板垵濮嬭缁冩牱鏈泦涓婅缁冧竴涓垎绫诲櫒,骞堕噰鐢ㄦ煇绉嶉拡瀵硅鍒嗙被鍣ㄩ噰鏍风畻娉?浠庡€欓€夋牱鏈泦涓€夋嫨鏈€鏈夊埄浜庢彁楂樺垎绫诲櫒鎬ц兘鐨勬牱鏈?鎵嬪伐鏍囨敞鍏剁被鍒苟鍔犲叆璁粌鏍锋湰闆?鍐嶉噸鏂拌缁冨垎绫诲櫒.
閲嶅浠ヤ笂杩囩▼,鐩村埌鍊欓€夋牱鏈泦涓虹┖鎴栬揪鍒版煇绉嶈姹?涓诲姩瀛︿範鏄竴涓惊鐜弽澶嶇殑杩囩▼.
鍦ㄤ富鍔ㄥ涔犵殑妯″瀷涓?鍏ㄩ儴鏁版嵁琚垎涓轰袱閮ㄥ垎,涓€閮ㄥ垎鏄甫鏍囩鐨勬牱鏈泦X,鍙︿竴閮ㄥ垎鏄棤鏍囩鐨勬牱鏈泦U.涓诲姩瀛︿範鐨勬ā鍨嬭繕鍖呮嫭浜嗕竴涓湪甯︽爣绛剧殑鏍锋湰闆哫涓婅缁冪殑瀛︿範鏈篖鍜屼竴涓喅绛栨ā鍧梣.鍐崇瓥妯″潡q鐢ㄦ潵鍐冲畾U涓殑鍝竴浜涙牱鏈簲璇ヨ閫夊嚭鏍囪鏍囩,骞跺姞鍏ュ甫鏍囩鐨勬牱鏈泦X.鏇存柊鍚庣殑X灏嗗湪涓嬩竴涓疆娆¤鐢ㄤ簬璁粌瀛︿範鏈篖.涓诲姩瀛︿範鐨勬鏋舵ā鍨嬪鍥?
鏍规嵁鍐崇瓥妯″潡q鐨勪笉鍚屽伐浣滄満鐞?涓诲姩瀛︿範鏂规硶鍙堝彲浠ヨ鍒嗕负涓ゅぇ绫?鍏朵竴鏄笉纭畾鍙栨牱鏂规硶;鍙︿竴鏄鍛樹細鍜ㄨ鏂规硶.
4.4 鐩存帹寮忓涔?br />鐩存帹寮忓涔犵殑鎬濇兂鏉ユ簮浜庡墠闈㈡彁鍒扮殑鏈哄櫒瀛︿範鐨勫洶澧?涓€鏂归潰鑾峰彇宸茬煡鏍囩鐨勬牱鏈唬浠烽珮鏄?鍙︿竴鏂归潰鑾峰彇鏃犳爣绛剧殑鏍锋湰瑕佺浉瀵瑰鏄撳緱澶?
鐩存帹寮忓涔犵殑瀛︿範杩囩▼鎭版伆鍙互灏嗗ぇ閲忔棤鏍囩鐨勬祴璇曢泦鏍锋湰鎵€鎼哄甫鐨勫垎绫讳俊鎭?閫氳繃杩唬閫愭杞Щ鍒颁簡鏈€缁堢殑鍒嗙被鍣ㄤ腑鍘?
鐢变簬娴嬭瘯鏍锋湰鏄撲簬鑾峰緱,鏁伴噺杈冨,鐩存帹寮忓涔犳満鑳藉鏇村ソ鍦版弿杩版暣浣撴牱鏈┖闂翠笂鐨勬暟鎹垎甯冪壒鎬?浣挎祴璇曟牱鏈殑鍒嗙被缁撴灉鏇翠负鍑嗙‘.
4.4 鐩存帹寮忓涔?缁?
鍦ㄥ鏁版儏鍐典笅,浜轰滑鍙娴嬭瘯鏂囨湰鐨勫垎绫荤粨鏋滄劅鍏磋叮,杩欐椂灏辨病鏈夊繀瑕侀潪寰楀姹傚叿鏈夎壇濂芥硾鍖栬兘鍔涚殑瑙勫垯,鑰屽彧瑕佹眰鍒嗙被鍣ㄨ兘瀵硅繖浜涚壒瀹氱殑鏂囨湰鍋氬嚭姝ｇ‘鍒嗙被鍗冲彲.
瀹冨湪鐩墠宸茬煡鏍囩鏍锋湰鍗佸垎绱х己,鑰屾湭鐭ユ爣绛炬牱鏈槗浜庤幏寰楃殑鏉′欢涓?鏈夌潃闈炲父閲嶈鐨勭幇瀹炴剰涔?
4.5 骞夸箟EM绠楁硶
EM绠楁硶鍙敤浜庤澶氶棶棰樻鏋?鍏朵腑闇€瑕佷及璁′竴缁勬弿杩板熀鍑嗘鐜囧垎甯冪殑鍙傛暟θ,鍙粰瀹氫簡鐢辨鍒嗗竷浜х敓鐨勫叏閮ㄦ暟鎹腑鑳借瀵熷埌鐨勪竴閮ㄥ垎.
涓€鑸湴,浠=浠ｈ〃鍦ㄥ悓鏍风殑瀹炰緥涓湭瑙傚療鍒扮殑鏁版嵁,骞朵护Y=X∪Z浠ｈ〃鍏ㄤ綋鏁版嵁.
娉ㄦ剰鍒版湭瑙傚療鍒扮殑Z鍙鐪嬩綔闅忔満鍙橀噺,瀹冪殑姒傜巼鍒嗗竷渚濊禆浜庢湭鐭ュ弬鏁?theta;鍜屽凡鐭ユ暟鎹甔.绫讳技鍦?Y鏄竴闅忔満鍙橀噺,鍥犱负瀹冩槸鐢遍殢鏈哄彉閲廧鏉ュ畾涔夌殑.
鍦?strong style="BACKGROUND-COLOR: rgb(153,255,153); COLOR: black">EM绠楁硶鐨勪竴鑸舰寮忎腑,鐢╤鏉ヤ唬琛ㄥ弬鏁?theta;鐨勫亣璁惧€?鑰宧 浠ｈ〃鍦‥M鐨勬瘡娆¤凯浠ｄ腑淇敼鐨勫亣璁?
4.5 骞夸箟EM绠楁硶(缁?
EM绠楁硶閫氳繃鎼滃浣縀[lnP(Y|h )]鏈€澶х殑h 鏉ュ鎵炬瀬澶т技鐒跺亣璁緃 .姝ゆ湡鏈涘€兼槸鍦╕鎵€閬靛惊鐨勬鐜囧垎甯冧笂璁＄畻,姝ゅ垎甯冪敱鏈煡鍙傛暟θ纭畾.
棣栧厛,P(Y|h )鏄粰瀹氬亣璁緃 涓嬪叏閮ㄦ暟鎹甕鐨勪技鐒舵€?鍏跺悎鐞嗘€у湪浜庢垜浠瀵绘壘涓€涓猦 浣胯閲忕殑鏌愬嚱鏁板€兼渶澶у寲.
鍏舵,浣胯閲忕殑瀵规暟lnP(Y|h )鏈€澶у寲涔熶娇P(Y|h )鏈€澶у寲.
绗笁,寮曞叆鏈熸湜鍊糆[lnP(Y|h )]鏄洜涓哄叏閮ㄦ暟鎹甕鏈韩涔熸槸涓€闅忔満鍙橀噺.宸茬煡鍏ㄩ儴鏁版嵁Y鏄瀵熷埌鐨刋鍜屾湭瑙傚療鍒扮殑Z鐨勫悎骞?鎴戜滑蹇呴』鍦ㄦ湭瑙傚療鍒扮殑Z鐨勫彲鑳藉€间笂鍙栧钩鍧?骞朵互鐩稿簲鐨勬鐜囦负鏉冨€?
4.5 骞夸箟EM绠楁硶(缁?
鍦?strong style="BACKGROUND-COLOR: rgb(153,255,153); COLOR: black">EM绠楁硶鐨勪竴鑸舰寮忛噷,閲嶅浠ヤ笅涓や釜姝ラ鐩磋嚦鏀舵暃.
姝ラ1:浼拌(E)姝ラ:浣跨敤褰撳墠鍋囪h鍜岃瀵熷埌鐨勬暟鎹甔鏉ヤ及璁涓婄殑姒傜巼鍒嗗竷浠ヨ绠桻(h |h).
姝ラ2:鏈€澶у寲(M)姝ラ:灏嗗亣璁緃鏇挎崲涓轰娇Q鍑芥暟鏈€澶у寲鐨勫亣璁緃 :
4.6 寮哄寲瀛︿範
寮哄寲瀛︿範鐨勬ā鍨嬪鍥炬墍绀?br />閫氳繃Agent涓庣幆澧冪殑浜や簰杩涜瀛︿範. Agent涓庣幆澧冪殑浜や簰鎺ュ彛鍖呮嫭琛屽姩(Action),鍥炴姤(Reward)鍜岀姸鎬?State).
浜や簰杩囩▼鍙互琛ㄨ堪涓哄涓嬪舰寮?
姣忎竴姝?Agent鏍规嵁绛栫暐閫夋嫨涓€涓鍔ㄦ墽琛?鐒跺悗鎰熺煡涓嬩竴姝ョ姸鎬佸拰鍗虫椂鍥炴姤,閫氳繃缁忛獙鍐嶄慨鏀硅嚜宸辩殑绛栫暐.Agent鐨勭洰鏍囧氨鏄渶澶у寲闀挎湡鍥炴姤.
4.6 寮哄寲瀛︿範(缁?
椹皵鍙か杩囩▼鏄洓鍏冪粍_M = .鍏朵腑S鏄姸鎬侀泦.A鏄鍔ㄩ泦, A(s)_琛ㄧず鐘舵€乻涓嬪彲鎵ц鐨勮鍔?
T = S×A×S [0,1]鏄姸鎬佽浆鎹㈡ā鍨? T(s,a,s') 琛ㄧず鐘舵€乻涓嬫墽琛岃鍔╝鍒拌揪鐘舵€乻' 鐨勬鐜?涓旀弧瓒?sum;s' T(s,a,s') = 1 .
R = S×A×S R鏄嵆鏃跺洖鎶ュ嚱鏁? R(s,a,s')琛ㄧず鐘舵€乻涓嬫墽琛岃鍔╝鍒拌揪鐘舵€乻' 鍚庡彲浠ュ緱鍒扮殑鍗虫椂鍥炴姤.
4.6 寮哄寲瀛︿範(缁?
杞崲妯″瀷鍜屽洖鎶ュ嚱鏁版槸鐜鐨勪竴閮ㄥ垎,鎻忚堪浜嗙幆澧冩ā鍨?涓斿彧涓庡綋鍓嶇姸鎬佸拰琛屽姩鏈夊叧,涓庝互鍓嶇殑鐘舵€佸拰琛屽姩閮芥病鏈夊叧绯?浣撶幇浜嗛┈灏斿彲澶壒鎬?
Agent涓轰簡瀹屾垚浠诲姟,蹇呴』鐭ラ亾姣忎釜琛屽姩鐨勯暱杩滃洖鎶?鑰屼笉浠呬粎鏄嵆鏃跺洖鎶?鑰岄暱杩滃洖鎶ュ繀椤荤粡杩囦竴瀹氭椂闂寸殑寤惰繜涔嬪悗鎵嶅彲浠ヨ幏寰? 
鏈夌粓浠诲姟鍜屾寔缁换鍔″彲浠ョ粺涓€璧锋潵,浠栦滑鐨勯暱鏈熷洖鎶ユ槸 鎴?br />4.6 寮哄寲瀛︿範(缁?
Agent涓庣幆澧冧氦浜掔殑瀛︿範閫夋嫨琛屽姩鐨勬柟娉曠О涓虹瓥鐣?pi;:S×A _[0, 1],π(s, a)琛ㄧず鍦ㄧ姸鎬乻涓嬮€夋嫨琛屽姩a鐨勬鐜?
绛栫暐鐨勪竴涓€€鍖栧舰寮忎负π:S A,绉颁负纭畾鎬х瓥鐣?琛ㄧず鍦ㄧ姸鎬乻涓嬭鍔╝鐨勬墽琛屾鐜囦负1,鍏跺畠琛屽姩鍧囦负0.Q瀛︿範鏄渶甯哥敤鐨勫己鍖栧涔犳妧鏈?
鍊煎嚱鏁?br />Q鍑芥暟
4.6 寮哄寲瀛︿範(缁?
瀛︿範鐨勭洰鐨勬槸鎵惧埌涓€涓渶浼樼瓥鐣?璁炬湁绛栫暐π鍜?pi;',鑻ュ鎵€鏈夌姸鎬乻∈S閮芥湁 Vπ(s) ≥ Vπ'(s) _,鍒欑О绛栫暐π姣旂瓥鐣?pi;'濂?
杩欐牱灏辨€诲瓨鍦ㄤ竴涓瓥鐣?瀹冩瘮鍏跺畠鎵€鏈夌瓥鐣ラ兘濂?绉颁负鏈€浼樼瓥鐣?pi;*.
鑻ユ渶浼樼瓥鐣ュ搴旂殑鐘舵€佽瘎浠峰嚱鏁拌涓篤 *,鍒欏鎵€鏈夌姸鎬乻∈S,鏈塚 * (s) = max Vπ(s) .
瀵规墍鏈夌姸鎬乻∈S,鎵€鏈夎鍔╝∈A(s),鏈塓 * (s) = max Qπ(s).
4.6 寮哄寲瀛︿範(缁?
涓夌璁＄畻"鍊煎嚱鏁?quot; Vπ(s)鏂规硶 :
鍔ㄦ€佽鍒掓硶:宸茬煡鐜妯″瀷T鍜孯,姣忔杩涜杩唬 .
Monte Carlo娉?娌℃湁鐜妯″瀷,鏍规嵁缁忛獙瀛︿範.鍙€冭檻鏈夌粓浠诲姟,浠诲姟缁撴潫鍚庡鎵€鏈夌殑鍥炴姤杩涜骞冲潎.
鏃跺簭宸垎娉?娌℃湁鐜妯″瀷,鏍规嵁缁忛獙瀛︿範.姣忔杩涜杩唬,涓嶉渶瑕佺瓑浠诲姟瀹屾垚.
4.6 寮哄寲瀛︿範(缁?
鍦ㄥAgent绯荤粺涓?鐜鍦ㄥ涓狝gent鐨勮仈鍚堝姩浣滀笅杩涜鐘舵€佺殑杩佺Щ.瀵逛簬鍗曚釜Agent鏉ヨ,鐢变簬鍏跺彧鑳界‘瀹氳嚜韬獳gent鐨勮涓哄姩浣?鍥犳浣撶幇鍑轰竴绉嶈涓哄姩浣滀笂鐨?quot;閮ㄥ垎鎰熺煡",浠庤€屼骇鐢熷嚭鍙︿竴绉嶅舰寮忕殑闈炴爣鍑嗛┈灏斿彲澶幆澧?
澶欰gent寮哄寲瀛︿範鐨勬妧鏈寘鎷?鍚堜綔澶欰gent寮哄寲瀛︿範(閫傜敤浜庡垎甯?鍚屾瀯,鍚堜綔鐜);鍩轰簬骞宠　瑙ｅAgent寮哄寲瀛︿範(閫傜敤浜庡悓鏋勬垨寮傛瀯,鍚堜綔鎴栫珵浜夌幆澧?;鏈€浣冲搷搴斿Agent寮哄寲瀛︿範(閫傜敤浜庡紓鏋?绔炰簤鐜).
澶欰gent寮哄寲瀛︿範鏈哄埗琚箍娉涘簲鐢ㄥ埌鍚勪釜棰嗗煙,渚嬪娓告垙,閭欢璺敱閫夋嫨,鐢垫缇ゆ帶绯荤粺浠ュ強鏈哄櫒浜鸿璁＄瓑绛?
4.6 寮哄寲瀛︿範(缁?
鍦ㄥ绛栨ā鍨嬩腑,姣忎釜Agent鑾峰緱鐨勭灛鏃跺鎯╀笉浠呬粎鍙栧喅浜庤嚜韬殑鍔ㄤ綔,鍚屾椂杩樹緷璧栦簬鍏朵粬Agent鐨勫姩浣?
椹皵鍙か瀵圭瓥 鍦╪涓狝gent鐨勭郴缁熶腑,瀹氫箟绂绘暎鐨勭姸鎬侀泦S,Agent鍔ㄤ綔闆咥i鐨勯泦鍚圓.
鑱斿悎濂栬祻鍑芥暟Ri:S×A1×…×An×S R;
鐘舵€佽浆绉诲嚱鏁癟:S×A1×…×An×S [0,1].
姣忎釜Agent鐩爣閮芥槸鏈€澶у寲鏈熸湜鎶樻墸濂栬祻鍜? 
浜?鎬ц兘璇勪及
5.1 鍒嗙被绮惧害璇勪环鎸囨爣
鐞嗘兂鐨勫垎绫诲櫒搴旇灏嗘墍鏈夊睘浜庢煇涓€绫荤殑鏍锋湰鏍囪涓鸿绫?涓斾笉灏嗕换浣曚竴涓笉灞炰簬璇ョ被鐨勬牱鏈爣璁颁负璇ョ被.鍙互閲囨湁涓や釜鎸囨爣鐢ㄦ潵璇勪环鍒嗙被鍣ㄧ殑鎬ц兘:鍑嗙‘鐜?鏌ュ噯鐜?鍜屽彫鍥炵巼 (鏌ュ叏鐜?.瀵逛簬鏌愪竴鐗瑰畾绫诲埆Ci ,
鍑嗙‘鐜?P) =
鍙洖鐜?R) =
5.1 鍒嗙被绮惧害璇勪环鎸囨爣(缁?
瀵逛簬鍚屼竴鍒嗙被鍣?杩欏噯纭巼鍜屾煡鍏ㄧ巼鐨勫彉鍖栬秼鍔块€氬父鏄浉鍙嶇殑,鐗囬潰杩芥眰鍏朵腑涓€涓寚鏍囪€屽畬鍏ㄤ笉椤惧強鍙︿竴涓槸娌℃湁鎰忎箟鐨?
涓虹患鍚堣€冭檻鍑嗙‘鐜囧拰鏌ュ叏鐜?鍙互浣跨敤涓€绉嶈兘澶熷叏闈㈣瘎浠峰垎绫诲櫒鎬ц兘鐨勬寚鏍?F-1.
F-1 =
F-1缁煎悎鑰冭檻浜嗕笂杩颁袱鎸囨爣,涓斿亸鍚戜簬鍑嗙‘鐜囧拰鏌ュ叏鐜囦腑杈冨皬鐨勪竴涓?鍙湁褰撳噯纭巼鍜屾煡鍏ㄧ巼閮借緝澶ф椂,F-1鎸囨爣鎵嶄細姣旇緝澶?
5.1 鍒嗙被绮惧害璇勪环鎸囨爣(缁?
澶氭暟鍒嗙被鍣ㄥ彲浠ラ€氳繃璋冩暣鍙傛暟鑾峰緱涓嶅悓鐨勫噯纭巼鍜屾煡鍏ㄧ巼,褰撳垎绫诲櫒鐨勫弬鏁拌皟鑺傚埌姝ｅソ浣垮噯纭巼鍜屾煡鍏ㄧ巼鐩哥瓑鏃?璇ュ€肩О涓篜/R鏃犳崯鑰?骞宠　)鐐?瀹冧篃鏄竴绉嶇患鍚堣€冭檻鍑嗙‘鐜囧拰鏌ュ叏鐜囩殑鎸囨爣. 
鍦ㄧ患鍚堣€冭檻鍏ㄩ儴绫诲埆鐨勬潯浠朵笅,绮剧‘搴?Accuracy)涔熸槸涓€涓父鐢ㄧ殑鎸囨爣,瀹冩槸鎸囨墍鏈夊垎绫绘纭殑鏍锋湰鏁板湪鎵€鏈夋牱鏈腑鎵€鍗犵殑姣斾緥.
绮剧‘搴?A) =
5.2 鍒嗙被鍣ㄦ硾鍖栨€ц兘
鍒嗙被鍣ㄧ殑娉涘寲鎬ц兘,鏄寚鍦ㄦ煇涓€璁粌闆嗕笂璁粌杩囦互鍚庣殑鍒嗙被鍣ㄩ€傚簲璇ヨ缁冮泦浠ュ鐨勬暟鎹殑鎬ц兘,涔熺О涓哄彲鎵╁睍鎬?娉涘寲鎬ц兘濂界殑鍒嗙被鍣ㄤ笉浣嗗璁粌闆嗕腑鐨勬暟鎹噯纭垎绫?涔熻兘瀵瑰叾浠栨暟鎹噯纭垎绫?
鍦╧-鎶樹氦鍙夐獙璇佷腑,鍒濊瘯鏁版嵁琚垝鍒嗘垚k涓簰涓嶇浉浜ょ殑瀛愰泦鎴?quot;鎶?quot;S 1,S 2,..., S k,姣忎釜鎶樼殑澶у皬澶ц嚧鐩哥瓑.璁粌鍜屾祴璇曡繘琛宬娆?鍦ㄧi娆¤凯浠?S i鐢ㄤ綔娴嬭瘯闆?鍏朵綑鐨勫瓙闆嗛兘鐢ㄤ簬璁粌鍒嗙被娉?
鎵ｇ暀娴嬭瘯(Hold-out)鏄皢璁粌闆嗛殢鏈哄湴鍒嗘垚涓ら儴鍒?涓€閮ㄥ垎鐢ㄤ簬璁粌瀛︿範鏈?璁颁綔Strain,鍙︿竴閮ㄥ垎鐢ㄤ簬娴嬭瘯,璁颁綔Sval.Hold-out娴嬭瘯鐨勮宸寜涓嬪紡璁＄畻:
5.2 鍒嗙被鍣ㄦ硾鍖栨€ц兘(缁?
瑙ｉ瀷甯︽硶(Bootstrap)娴嬭瘯鏄竴绉嶄及璁¤缁冭宸亸宸殑鏂规硶,瀹冧互Bootstrap鏍锋湰杩涜澶氭璁粌,骞惰瘎浠峰畠浠殑鎬诲亸宸?
Bootstrap鏍锋湰鏄€氳繃鏇挎崲娉曚粠璁粌鏍锋湰涓嫭绔嬫彁鍙栧嚭鏉ョ殑.Bootstrap娴嬭瘯鏄竴绉嶈绠椾唬浠烽潪甯搁珮鐨勮瘎浼版柟娉?
鐣欎竴娉?Leave One Out)鏄竴绉嶇壒娈婄殑浜ゅ弶楠岃瘉,瀹冧护n绛変簬璁粌闆嗕釜鏁?鍗虫瘡娆″彧鎶藉彇涓€涓綔涓烘祴璇曟牱鏈?
鐣欎竴娉曢敊璇殑璁＄畻鐣欎竴娉曢敊璇槸鎺ㄥ箍璇樊鐨勫嚑涔庢棤鍋忎及璁?
5.2 鍒嗙被鍣ㄦ硾鍖栨€ц兘(缁?
鍙戠敓鐣欎竴娉曢敊璇渶灏戠殑妯″瀷鐨勬硾鍖栬兘鍔涙渶濂?杩欐椂妯″瀷鐨勫弬鏁版槸瀛︿範鏈烘渶浣崇殑鍙傛暟.
鐩存帴杩涜鐣欎竴娉曢獙璇佺殑浠ｄ环鏄珮鏄傜殑.瀹冨繀椤昏繘琛孨娆?N涓鸿缁冮泦鏍锋湰鏁?璁粌鎵嶈兘缁熻鍑虹暀涓€娉曢敊璇彂鐢熺殑娆℃暟.
涓洪伩鍏嶅ぇ閲忕殑瀛︿範鏈鸿缁冩鏁?涓€浜涘鑰呮彁鍑轰簡鍙渶杩涜涓€娆¤缁冨嵆鍙及璁″嚭鐣欎竴娉曢敊璇彂鐢熸鏁扮殑鐣欎竴娉曢敊璇及璁℃柟娉?
浼拌鏂规硶鍖呮嫭鐨凴-M浼拌,xa浼拌,Span浼拌浠ュ強GCKL鍜孏ACV绛? 
5.3 鍒嗙被鍣ㄧ殑鍏朵粬鎬ц兘
闄や簡鍑嗙‘鎬?鍙墿灞曟€т箣澶?杩樻湁閫熷害鍜屽彲鐞嗚В鎬т篃鍙互浣滀负鍒嗙被鍣ㄧ殑姣旇緝鎸囨爣.
鍩轰簬鏈夌洃鐫ｅ涔犵殑鍒嗙被鍣ㄩ€熷害鍖呮嫭璁粌閫熷害鍜屽喅绛栭€熷害,閫氬父,鍏跺喅绛栭€熷害杩滃揩浜庤缁冮€熷害.
鍩轰簬鏃犵洃鐫ｅ涔犵殑鍒嗙被鍣ㄤ粎鏈変竴涓喅绛栫殑杩囩▼,閫氬父姣旇緝鎱?鍩轰簬鍗婄洃鐫ｅ涔犵殑鍒嗙被鍣ㄤ竴鑸渶瑕侀€氳繃鍙嶅璁粌鑾峰緱鍐崇瓥缁撴灉,鍏堕€熷害涔熷緢鎱?
鍙悊瑙ｆ€ф槸鎸囪鍒欐槸鍚︽槗浜庤浜虹被鐞嗚В.渚嬪,鍐崇瓥鏍戠殑鍙戠幇鐨勮鍒欏氨杩滄瘮绁炵粡缃戠粶鎵€鑾峰緱鐨勬潈鍊兼槗浜庣悊瑙?