Chapter 6Machine Learning

1

ดร.สุ�ขชาตร ประสุมสุ�ขสุาขาเทคโนโลยีสุารสุนเทศ

คณะเทคโนโลยีสุารสุนเทศและการสุ��อสุาร

มหาวิ�ทยีาล�ยีพะเยีา

Leaning คื�ออะไร (What is Learning?)• “ Learning เป!นเคร��องหมายีของการเปล�ยีนแปลงในระบบ ซึ่&�งท'าให(ควิามเป!นไปได(ในการท'างานแบบเดยีวิก�นให(มประสุ�ทธิ�ภาพมากยี��งข&,นในการท'างานคร�,งต-อไป “ Herbert Simon • “ Learning ค�อ การสุร(างหร�อการปร�บปร�งแก(ไข ต�วิอยี-างของห�วิข(อท�วิ-าเราจะน'าประสุบการณ/มาใช(ท'าอะไร “ Ryszard Michalski •“ Learning ก'าล�งท'าประโยีชน/จากการเปล�ยีนแปลงของควิามค�ด “ Marvin Minsky

2

Machine Leaning คื�ออะไร(What is machine learing?)

•การเร�ยนร��ของเคืร��อง (Machine learning) คื�อ การทำ�าให้�เคืร��องเร�ยนร��ได้�จากข�อมู�ลตั�วอย�าง ห้ร�อจากสภาพแวด้ล�อมู จ#ด้มู#�งห้มูายคื�อการพ�ฒนาห้ร�อปร�บปร#งประส'ทำธิ'ภาพการทำ�างานของระบบให้�ด้�ข)*น เมู��อเร�ยนร��แล�วคืวามูร��ทำ��เร�ยนได้�จะเก+บไว�ในฐานคืวามูร��ด้�วยร�ปแบบการแทำนคืวามูร��อย�างใด้อย�างห้น)�ง เช่�น กฎ ฟั0งก1ช่�น ฯลฯ•Learning ในพจนาน#กรมูได้�ให้�คื�าน'ยามูว�า การได้�มูาซึ่)�งคืวามูร�� ห้ร�อ คืวามูเข�าใจ ห้ร�อทำ�กษะ โด้ยการศึ)กษาคื�าส��ง ห้ร�อประสบการณ์1 ในทำ��น�*จะเน�นไปทำ��การเร�ยนร��ในเคืร��องจ�กร

3

ทำ�าไมูตั�อง Machine Leaning

(Why do Machine Learning?)

• เข(าใจและปร�บปร�ง การเรยีนร0 (ของมน�ษยี/อยี-างมประสุ�ทธิ�ภาพ เช-น ใช(ปร�บปร�งวิ�ธิการต-างๆ ใน การสุอน และการอบรม • ค(นพบสุ��งใหม-ๆ หร�อ โครงสุร(างใหม-ๆ ซึ่&�งมน�ษยี/ไม-ร0 (มาก-อน • เกณฑ์/ท�ไม-สุมบ0รณ/เก�ยีวิก�บขอบเขตท�กวิ(าง, ระบบ A.I.ท�มควิามซึ่�บซึ่(อนไม-สุามารถถ0กท'าให(สุมบ0รณ/ได( โดยีใช(ม�อและต(องการการปร�บปร�งอยี0-ตลอดเวิลา เพ��อรวิบรวิมข(อม0ลใหม-ๆ เข(าด(วิยีก�น การเรยีนร0 (ถ&งล�กษณะเฉพาะใหม-ๆ ขยีายีขอบเขตหร�อควิามช'านาญและบทเรยีนท�กล-าวิถ&ง การไม-สุามารถปร�บต�วิได(ของระบบ “ ”

4

ส�วนประกอบของระบบการเร�ยนร��(Components of a Learning System)

• Learning element ท'าให(เปล�ยีนสุ0-ระบบพ�,นฐานอยี-างท�ม�นก'าล�งท'าอยี0- • Performance Element เป!น agent ท�ท'างานโดยีต�วิม�นเอง • Critic จะแจ(งให( Learning Element ทราบถ&งสุ��งท�ควิรจะท'า โดยีเปรยีบเทยีบก�บมาตรฐานการท'างานท�ถ0กก'าหนดตายีต�วิ • Problem Generator จะช-วิยีระบ�ให(เห8นต�วิป9ญหา หร�อ การกระท'าซึ่&�งจะท'าให(เก�ดต�วิอยี-าง หร�อประสุบการณ/ใหม-ๆ ท�จะช-วิยีในเร��องการอบรมหาระบบต-อไป

5

Why should machine have to learn?

1. มู�นอาจจะเป8นไปได้�ทำ��ข�อมู�ลทำ��ซึ่�อนทำ�ามูกลางกล#�มูของข�อมู�ลให้ญ่� ทำ��มู�คืวามูส�มูพ�นธิ1และคืวามูเก��ยวข�องทำ��ส�าคื�ญ่ ว'ธิ� machine learning สามูารถทำ��จะใช่�ในการถอด้คืวามูส�มูพ�นธิ1เห้ล�าน�*ออกมูา ( data mining )2. บ�อยคืร�*งทำ��มูน#ษย1น�กออกแบบผล'ตัเคืร��องจ�กรทำ��ไมู�สามูารถทำ�างานด้�เทำ�าก�บอย��ในส'�งแวด้ล�อมูทำ��ออกแบบ อ�นทำ��จร'งแล�วคื#ณ์ล�กษณ์ะของส'�งแวด้ล�อมูทำ��ออกแบบให้�ทำ�างานอาจจะออกแบบไมู�สมูบ�รณ์1 ว'ธิ� machine learning สามูารถใช่�ส�าห้ร�บพ�ฒนาในการออกแบบเคืร��องจ�กรทำ��เป8นอย��ให้�ด้�ข)*นเมู��ออย��ในสภาพแวด้ล�อมูทำ��เป8นจร'ง

3.จ�านวนของคืวามูร��ทำ��มู�อย��เก��ยวก�บงานทำ��แน�นอน อาจจะมู�มูากมูายส�าห้ร�บทำ��จะแสด้งออกมูาโด้ยมูน#ษย1 เคืร��องจ�กรทำ��เร�ยนร��คืวามูร��น�*ทำ�ละเล+กทำ�ละน�อย อาจจะสามูารถจ�บตัรงประเด้+นทำ��ตั�องการออกมูา ได้�มูากกว�ามูน#ษย1ทำ�าการเข�ยนลงไป4. ส'�งแวด้ล�อมูทำ��เปล��ยน เคืร��องทำ��สามูารถเปล��ยนไปอย��ในส'�งแวด้ล�อมูทำ��เปล��ยนไป จะช่�วยลด้คืวามูจ�าเป8นในการออกแบบให้มู�

6

Evaluating Performanceคืวามูห้ลากห้ลายของบรรทำ�ด้ฐานส�าห้ร�บ การว�ด้

ถ)งข�*นตัอนในการเร�ยนร�� การพยากรณ์1การแบ�งห้มูวด้ห้มู��อย�างถ�กตั�อง คืวามูเร+วของผ��เร�ยน คืวามูเร+วของการแบ�งห้มูวด้ห้มู�� Space requirements บรรทำ�ด้ฐานทำ��ส�าคื�ญ่ทำ��ส#ด้ คื�อ Predictive accuracy

7

การแบ-งการเรยีนร0 (ของเคร��อง (Machine Learning)

การเร�ยนร��แบบมู�ผ��สอน (Supervised learning) --- อ�ลกอร�ธิ&มสุร(างฟั9งก/ช�นท�เช��อมระหวิ-างข(อม0ลเข(าก�บผลท�

ต(องการ การเร�ยนร��แบบไมู�มู�ผ��สอน (Unsupervised learning)

--- อ�ลกอร�ธิ&มสุร(างโมเดลจากช�ดข(อม0ลเข(า การเร�ยนร��แบบเสร'มูก�าล�ง (Reinforcement learning)

--- อ�ลกอร�ธิ&มเรยีนแผนซึ่&�งก'าหนดการกระท'าของระบบจากสุ��งท�สุ�งเกตได(

การเร�ยนว'ธิ�การเร�ยน (Learning to learn, Meta-learning) --- อ�ลกอร�ธิ&มท�เรยีนวิ�ธิการเรยีนร0 (ของตนเอง

8

การเร�ยนร��แบบมู�ผ��สอน (Supervised learning) • การเรยีนร0 (แบบมผ0(สุอน ▫ เป!นเทคน�คหน&�งของการเรยีนร0 (ของเคร��องซึ่&�งสุร(างฟั9งก/ช�นจาก

ข(อม0ลสุอน (training data) ข(อม0ลสุอนประกอบด(วิยีวิ�ตถ�เข(า และผลท�ต(องการ

▫ผลจากการเรยีนร0 (จะเป!นฟั9งก/ช�นท�อาจจะให(ค-าต-อเน��อง (จะเรยีกวิ�ธิการวิ-า การถดถอยี -- regression)

▫หร�อ ใช(ท'านายีประเภทของวิ�ตถ� (เรยีกวิ-า การแบ-งประเภท -- classification)

▫ภารก�จของเคร��องเรยีนร0 (แบบมผ0(สุอนค�อการท'านายีค-าของฟั9งก/ช�นจากวิ�ตถ�เข(าท�ถ0กต(องโดยีใช(ต�วิอยี-างสุอนจ'านวินน(อยี (training examples -- ค0-ของข(อม0ลเข(าและผลท�เป!นเป<าหมายี) โดยีเคร��องเรยีนร0 (จะต(องวิางน�ยีท��วิไปจากข(อม0ลท�มอยี0-ไปยี�งกรณท�ไม-เคยีพบอยี-างมเหต�ผล

▫ต�วิอยี-าง (การเรยีนร0 (เพ��อร0 (จ'าลายีม�อ)

9

การเร�ยนร��แบบไมู�มู�ผ��สอน (Unsupervised learning) •เป!นเทคน�คหน&�งของการเรยีนร0 (ของเคร��อง โดยี

การสุร(างโมเดลท�เหมาะสุมก�บข(อม0ล การเรยีนร0 (แบบน,แตกต-างจากการเรยีนร0 (แบบมผ0(สุอน ค�อ จะไม-มการระบ�ผลท�ต(องการหร�อประเภทไวิ(ก-อน การเรยีนร0 (แบบน,จะพ�จารณาวิ�ตถ�เป!นเซึ่ตของต�วิแปรสุ�-ม แล(วิจ&งสุร(างโมเดลควิามหนาแน-นร-วิมของช�ดข(อม0ล

10

การเร�ยนร��แบบไมู�มู�ผ��สอน (ตั�อ)

•การเรยีนร0 (แบบไม-มผ0(สุอนสุามารถน'าไปใช(ร-วิมก�บการอน�มาณแบบเบยี/ เพ��อหาควิามน-าจะเป!นแบบมเง��อนไขของต�วิแปรสุ�-มโดยีก'าหนดต�วิแปรท�เก�ยีวิข(องให( นอกจากน,ยี�งสุามารถน'าไปใช(ในการบบอ�ดข(อม0ล ซึ่&�งโดยีพ�,นฐานแล(วิ ข�,นตอนวิ�ธิการบบอ�ดข(อม0ลจะข&,นอยี0-ก�บ การแจกแจงควิามน-าจะเป!นของข(อม0ลไม-อยี-างช�ดแจ(งก8โดยีปร�ยีายี

11

การเร�ยนร��แบบเสร'มูก�าล�ง (Reinforcement learning)

•แนวิควิามค�ด ค�อ จะเรยีนร0 (จากสุ��งแวิดล(อมรอบต�วิ เรยีนร0 (จากธิรรมชาต�รอบต�วิท�มอยี0-ในชวิ�ตจร�ง น'ามาด�ดแปลงให(ก�บคอมพ�วิเตอร/ ต�วิอยี-างเช-น การเล-นหมากร�ก จะต(องมการท'านายีล-วิงหน(าวิ-าจะสุามารถเก�ดอะไรข&,นได( ซึ่&�งการเด�นแต-ละคร�,งอาจจะไม-เป!นผลดต-อคร�,งน�,นแต-อาจมผลดในคร�,งต-อๆ ไปก8ได( หร�อ เกมสุ/ OX

12

Example OX-Game

x o o

o x x

x

13

วิ�ธิการง-ายีก8ค�อ ค�อ การข�ดขวิางไม-ให(ฝ่>ายีตรงข(ามสุามารถเขยีนเรยีงต�ดต-อก�นได( แต-ไม-ท'าให(เป!นผ0(ชนะได(

Machine Learing with AIMachine Learning ปกต�จะกล-างถ&งการ

เปล�ยีนแปลงในระบบท�แสุดงการท'างานสุ�มพ�นธิ/ก�บ Artificial Intelligent (AI) เช-นงานท�เก�ยีวิข(องก�บ

Recognition การร�บร0 (และร0 (จ�กDiagnose การวิ�น�จฉ�ยีโรคPlanning การวิางแผนRobot control การควิบค�มห�-นยีนต/Prediction การท'านายี Etc.

14

Learning in Problem Solving

เป!นวิ�ธิการเรยีนร0 (จากประสุบการณ/ โดยีไม-จ'าเป!นต(องมค'าแนะน'าจากผ0(สุอนLearning by Parameter AdjustmentLearning with Macro-OperatorsThe Utility Problem

15

การเร�ยนโด้ย Parametere Adjustment

16

• ใช(ข(อม0ลจากหลายีๆ แหล-ง ในการหาผลสุร�ป ทางสุถ�ต�

• แบ-งแยีก pattern โดยีรวิมเอาหลายีๆ ค�ณล�กษณะมาใช(

ในการต�ดสุ�นใจ • ยีากในการให(น',าหน�ก ก�บแต-ละค�ณล�กษณะ

ต�วิอยี-าง โปรแกรม samuel ’s checkers ใช( pattern c1t1 + c2t2 + … + c16t16

การเร�ยนร��ด้�วยการทำ�างานของมูาโคืรมูาโคืร คื�อ ล�าด้�บของการกระทำ�าซึ่)�งใช่�ในการแก�ใช่�

ป0ญ่ห้าในสภาพแวด้ล�อมูทำ��ก�าห้นด้ตั�วอย�างของการทำ�างานตัามูสภาพแวด้ล�อมูทำ��ก�าห้นด้

เช่�น การเด้'นทำางไปย�งไปรษณ์�ย1

17

การเร�ยนร��ด้�วยการทำ�างานของมูาโคืร

ตั�วอย�างว'ธิ�การแก�ป0ญ่ห้าการเด้'นทำางไปย�งไปรษณ์�ย1

ตั�วอย�างของรายละเอ�ยด้ปล�กย�อยในการทำ�างาน เช่�น ข�*นตัอนในการสตัาร1ทำรถ ทำ��จะตั�องมู�การทำ�างานย�อย ๆ ซึ่)�งได้�แก� การน��งลง, ปร�บกระจก, เส�ยบก#ญ่แจ และบ'ด้ล�กก#ญ่แจ โด้ยการทำ�างานเห้ล�าน�*เป8นล�าด้�บของการกระทำ�าซึ่)�งสามูารถทำ�าให้�สตัาร1ทำรถยนตั1ได้� เราจะถ�อว�าจะเป8น ตั�ว“กระทำ�าทำางมูาโคืร ”

18

เข(าไปในรถ

สุตาร/ทรถ

ข�บรถไปยี�งไปรษณยี/

(ตามเสุ(นทาง)

การเร�ยนร��ด้�วยการทำ�างานของมูาโคืร

ได(มการเร��มการใช(งานต�วิกระท'าทางมาโครคร�,งแรกในระบบแก(ไขป9ญหา STRIPS

โดยีในโปรแกรม STRIPS จะมการแก(ไขป9ญหาในแต-ละสุ-วินแล(วิก8จะมการค'านวิณแผนและเก8บวิ�ธิการแก(ป9ญหาเอาไวิ(เป!นต�วิกระท'าทางมาโคร (หร�อท�เรยีกวิ-า MACROP)

โดยี MACROP น�,นเป!นเหม�อนก�บต�วิกระท'าการท��วิ ๆ ไป แต-จะต-างก�นตรงท� MACROP น�,นจะมล'าด�บของการกระท'าเป!นข�,นตอน

19

ป0ญ่ห้าทำางด้�านประโยช่น1การใช่�งาน

ป9ญหาน,มผลล�พธิ/มาจากระบบการเรยีนร0 (โดยีอาศ�ยีพ�,นฐานทางด(านการอธิ�บายีควิาม โดยีใช(ในวิ�ธิการเพ��อท�จะต�ดสุ�นใจควิามมประโยีชน/ของกฎการเรยีนร0 (ซึ่&�งไม-สุามารถเก�ดข&,นจร�งได(

โดยีในกรณน, ระบบท�มอยี0-ในป9จจ�บ�นไม-สุามารถท�จะพ�ฒนากฎในการเรยีนร0 (ได(เหม�อนก�บท� EBL สุามารถท�จะประยี�กต/ใช(ได(

เน��องจากกฎด�งกล-าวิจ'าต(องท'าให(เรยีนร0 (บ-อยี แต-การเรยีนร0 (ด�งกล-าวิอาจจะสุ-งผลให(การท'างานของระบบช(าลงได(

20

ป0ญ่ห้าทำางด้�านประโยช่น1การใช่�งาน

ซึ่)�ง Carbonell, et al.(1991) ได้�ระบ#ถ)งป0จจ�ยสามูอย�างทำ��เก��ยวของก�บป0ญ่ห้าด้�านประโยช่น1การใช่�งานด้�งตั�อไปน�*คืวามูถ��ในการใช่�งานโปรแกรมู - ซึ่)�งกฎด้�งกล�าวน�*นอาจจะเก'ด้

จากทำ��ระบ#เอาไว�ซึ่)�งทำ�าให้�เก'ด้การใช่�งานได้�ไมู�บ�อยจนสามูารถทำ��จะทำ�าให้�เก'ด้ประโยช่น1ได้�

ตั�นทำ#นในการห้าว'ธิ�การทำ��ตัรงก�นอย�างแมู�นย�า ซึ่)�งคืวามู–ตั�องการเห้ล�าน�* โด้ยเฉพาะส�วนทำ��เสนอล�าด้�บการทำ�างานทำ��มู�ข�*นตัอนมูาก ๆ อาจจะทำ�าให้�เก'ด้คื�าใช่�จ�ายในการเข�าถ)งการกระทำ�าด้�งกล�าวได้�ทำ��แพงจนเก'นไป

มู�ประโยช่น1ตั��า - เน��องจากกฎเห้ล�าน�*อาจจะไมู�ก�อให้�เก'ด้ประโยช่น1ส�วนเพ'�มูในส�วนของการทำ�างานในการแก�ไขป0ญ่ห้าได้�

21

การเร�ยนร��โด้ยการว'เคืราะห้1คืวามูแตักตั�าง

การเรยีนร0 (โดยีการวิ�เคราะห/ควิามแตกต-าง ถ0กพ�ฒนาโดยี Winston ในปAคศ. 1975

ต�วิอยี-างสุอน (training example) ต�วิอยี-างบวิก (positive example) ต�วิอยี-าลบ (negative example)

22

Winston’s learning Program

23

Winston’s learning Program

ค'าอธิ�บายีเร��มต(น

ค'าอธิ�บายีของต�วิอยี-างต�วิท�สุอง

24

Winston’s learning Program

โมเดลระหวิ-างวิ�วิ�ฒนาการ

ค'าอธิ�บายีของต�วิอยี-างท�สุาม

25

Winston’s learning Program

โมเดลหล�งร�บต�วิอยี-างท�สุาม

26

Winston’s learning Program

27

• คื�าอธิ'บายของตั�วอย�างบวกทำ��ส��

Winston’s learning Program (Algorithm)

28

Question/Answer

29