65
Đề tài : Agents that Communicate Thành viên nhóm : Nguyễn Tiến Nam Phạm Ngọc Hải Trần Văn Trọng Nguyễn Thanh Hào Nguyễn Quang Minh Phạm Xuân Bách Nguyễn Thành Hữu Đào Thị Thu Hiền Nguyễn Tiến Đạt

agents that_communicate

  • Upload
    nth142

  • View
    334

  • Download
    2

Embed Size (px)

Citation preview

Page 1: agents that_communicate

Đề tài :Agents that Communicate

Thành viên nhóm : Nguyễn Tiến Nam Phạm Ngọc Hải Trần Văn Trọng Nguyễn Thanh Hào Nguyễn Quang Minh Phạm Xuân Bách Nguyễn Thành Hữu Đào Thị Thu Hiền Nguyễn Tiến Đạt

Page 2: agents that_communicate

Nội dung Communication as Action Types of Communicating Agents A Formal Grammar for a Subset of English Syntactic Analysis (Parsing) Definite Clause Grammar (DCG) Augmenting a Grammar Semantic Interpretation Ambiguity and Disambiguation A Communicating Agent

Page 3: agents that_communicate

Chúng ta sẽ tìm hiểu lý do tại sao các đại lý cần trao đổi thông tin mang thông điệp với nhau, và làm thế nào chúng có thể làm như vậy

Ví dụ :Trong một buổi hoàng hôn trong khu rừng của vườn quốc gia Amboseli gần cơ sở của Kilimanjaro. Một nhóm các con khỉ thuộc loài vervet đang tìm kiếm thức ăn. Một con khỉ nhìn thấy con báo trong bụi rậm đã liên lạc với nhóm bằng cách kêu to và cả nhóm phản ứng bằng cách đu nhanh qua những cành cây để tránh con báo đang ẩn trong bụi rậm . Ở đây chú khỉ Vervet đã thành công liên lạc với nhóm

Lời mở đầu

Page 4: agents that_communicate

- Giao tiếp tuy là một hiện tượng phổ biến mà nhưng rất khó có thể định nghĩa một cách chính xác. Nhìn chung, giao tiếp là việc trao đổi thông tin  mang lại sự trình bày và nhận thức của dấu hiệu rút ra từ một hệ thống chia sẻ của các ký hiệu thông thường

- Hầu hết các loài động vật sử dụng một tập cố định  các dấu hiệu để đại diện cho các tin nhắn quan trọng cho sự sống còn của nó

Page 5: agents that_communicate

Communication as Action

Một trong những hành động có sẵn của một Agent là để tạo ra ngôn ngữ.

Ví dụ : Hãy tưởng tượng một nhóm Agents sẽ cùng chơi trò wumpus với nhau.Có thể làm như sau:

- Thông báo cho nhau về các phần của bản đồ đã khám phá mà mỗi Agents đã làm, điều này được thực hiện bằng cách lập báo cáo. Truy vấn các đại lý khác về các khía cạnh cụ thể của bản đồ, điều này thường được thực hiện bằng cách đặt câu hỏi: 

- Bạn đã thấy Wumpus ở đâu không?Trả lời câu hỏi. Đây là một loại thông báo. Có, tôi  thấy  Wumpus ở vị trí 2 5. Khi đó Agents khác nhận được thông tin như thế, nó sẽ quay trở lại để bắt đầu và đi ra hướng khác

Page 6: agents that_communicate

Sự phát triển của ngôn ngữ

Năm1866, Societe de Linguistique de Paris đã thôngqua một đạo luật cấm mọi tranh cãi về nguồn gốc của ngôn ngữ. Bên ngoài hội nghị đó cuộc tranh cãi lại vẫn tiếp tục

Có bằng chứng cho rằng việc sử dụng ngôn ngữ có thể được thực hiện bởi  các kỹ năng khác nhau mà không phụ thuộc vào khả năng nhận thức nói chung, và nhiều người trong số các nhà khoa học sử dụng ngôn ngữ của con người có thể được nhìn thấy trong các loài linh trưởng khác và trong các hóa thạch.

Page 7: agents that_communicate

◦Ít nhất bảy nhà nghiên cứu khẳng định đã dạy loài linh trưởng trên 100 từ. Chúng có thể hiểu các câu liên quan đến khái niệm trừu tượng một cách hạn chế, chẳng hạn như đề cập đến đối tượng mà không thể hiện ra.

◦Ví dụ, loài tinh tinh có thể phản ứng một cách chính xác với mệnh lệnh  đưa quả bóng ra ngoài hoặc mang lại cho chúng ta quả bóng màu đỏ hoặc quả bóng màu xanh, chúng thậm chí có thể nói dối

Page 8: agents that_communicate

Vấn đề cơ bản của ngôn ngữ

Mặc dù chúng ta chủ yếu quan tâm đến ngôn ngữ tự nhiên, tuy nhiên chúng ta sẽ xây dựng cho việc sử dụng tất cả các công cụ của lý thuyết của ngôn ngữ hình thức, bắt đầu với ký hiệu hình thức Backus-Naur (BNF). 

Một ngôn ngữchính thức được định nghĩa là một tập hợp các chuỗi, mỗi chuỗi là một dãy các ký hiệu lấy từ một tập hợp hữu hạn được gọi là các ký hiệu đầu cuối. Đối với tiếng Anh,các ký hiệu đầu cuối bao gồm các từ như , aback, abacus, và khoảng 400.000 từ khác

Page 9: agents that_communicate

CÁC BƯỚC THÀNH PHẦN CỦA GIAO TiẾP

Một tập giao tiếp điển hình, trong đó người nói S muốn truyền đạt đề nghị P tới người nghe H sử dụng từ W, bao gồm bảy quá trình.

Ba vị trí đưa ra trong người nói:◦Dự định: S muốn H tin P◦Sự phát sinh: S chọn từ W◦Tổng hợp: S phát ra từ WBốn đưa ra trong người nghe:◦Nhận thức: H nhận thức W◦Phân tích: H suy luận W có ý nghĩa có thể

là P1, ..., Pn◦Định hướng: H suy luận rằng S có ý định

truyền đạt Pi◦Kết hợp: H quyết định để tin rằng Pi

Page 10: agents that_communicate

KHẢ NĂNG SINH

Hình thức ngữ pháp có thể được phân loại theo khả năng năng sinh ra của nó. Chomsky (1957) mô tả bốn lớp học của hình thức ngữ pháp chỉ khác nhau ở hình thức viết lại quy tắc:◦ Đệ quy đếm ngược ◦ Ngữ pháp theo ngữ cảnh ◦ Ngữ pháp phi ngữ cảnh◦ Thường lề

Page 11: agents that_communicate

I.3 VÍ DỤ VỀ GIAO TiẾP

Page 12: agents that_communicate

Ví dụ về giao tiếp

Dự định: Người nói có ý định cho người nghe biết rằng Wumpus không còn sống lâu hơn nữa.

Phát sinh: Người nói sử dụng kiến thức về ngôn ngữ để quyết định những gì nói.

Tổng hợp: Hầu hết các hệ thống ngôn ngữ cơ bản AI tổng hợp kiểu xuất ra trên một màn hình hoặc giấy tờ, chúng ta thấy các agent tổng hợp một chuỗi âm thanh bằng văn bản trong bảng chữ cái ngữ âm được định nghĩa trước

Page 13: agents that_communicate

Ví dụ về giao tiếp

Nhận thức: Tại đây người nghe tiến hành nhận dạng thông tin được xuất ra từ người nói (nhận dạng giọng nói hoặc nhận dạng ký tự quang học: đây là hai cách phổ biến cho tới thời điểm này).

Phân tích: Chia ra phân tích thành hai phần chính: ◦ Giải thích cú pháp (hoặc phân tích cú pháp): Đề

cập đến tiến trình của một phần của lời nói (danh từ, động từ … ) cho mỗi từ trong một câu và nhóm các từ thành các cụm từ.

◦ Giải thích ngữ nghĩa: là quá trình lấy ra ý nghĩa tương tự của một lời nói như một biểu thức trong một số ngôn ngữ đại diện. Nó bao gồm cả giải thích thực tế ( là một phần giải thích ngữ nghĩa nó đưa tình hình hiện tại tới người dùng)

Page 14: agents that_communicate

Ví dụ về giao tiếp

Định hướng: hầu hết người nói không cố ý tạo nên sự mơ hồ, nhưng hầu hết các lời phát biểu có nhiều cách hiểu khác nhau. Công việc của người nghe lúc này là tìm ra và giải thích một ý nghĩa của nội dung truyền đạt mà người nói cung cấp

Kết hợp: một Agent ngây thơ hoàn toàn có thể tin tất cả mọi thứ nó nghe, nhưng một agent tinh vi xử lý từ W và giải thích nguồn gốc từ Pi như là phần bổ sung, xem xét cùng với tất cả các bằng chứng khác để cho Pi hợp lý.

Page 15: agents that_communicate

HAI MÔ HÌNH GIAO TiẾP

Mã hóa thông điệp: Mô hình tin nhắn mã hóa cho biết rằng người nói có một đề xuất P xác định trong tâm trí, và mã hóa các đề xuất vào các từ (hoặc có dấu hiệu) W. người nghe sau đó cố gắng để giải mã các tin nhắn W để lấy các đề xuất ban đầu P (gọi là mã Morse).

Ngôn ngữ hoàn cảnh: ý nghĩa của một thông điệp phụ thuộc vào cả hai là từ và tình hình trong đó các từ được thốt ra. Việc tính toán trong thực tế cho thấy rằng rằng các từ tương tự có thể có ý nghĩa rất khác nhau trong các tình huống khác nhau. ◦ Thất bại trong khi sử dụng mô hình ngôn ngữ

hoàn cảnh: nếu người nói và người nghe có những suy nghĩ khác nhau về cùng một tình hình hiện tại, thì sau đó tin nhắn không thể có được thông qua như dự định

Page 16: agents that_communicate

Văn phạm chính quy cho tập con tiếng anh

Định nghĩaKý hiệuSự khác biệt với ngôn ngữ tự nhiênTừ vựng của ngôn ngữ Văn phạm của ngôn ngữ

Page 17: agents that_communicate

Định nghĩa

Một văn phạm chính quy cho tập con của tiếng anh là thích hợp để tạo các câu lệnh trong thế giới wumpus – Ngôn ngữ

Văn phạm xử lý

ngôn ngữ tự nhiên

Page 18: agents that_communicate

Ký hiệu

Tập chữ cái hoặc âm thanh kết hợp thành tập từ cố định

Chuẩn hóa thành xâu đơn giản◦ Ví dụ: This is a sentence

Page 19: agents that_communicate

Sự khác biệt với ngôn ngữ tự nhiên

Khó để mô tả ngôn ngữ tự nhiên thành tập các xâu:◦ Người nói không theo nguyên tắc◦ Ngôn ngữ thay đổi theo thời gian◦ Phát biểu không văn phạm◦ Nghĩa nhập nhằng

Page 20: agents that_communicate

Từ vựng của ngôn ngữ

Page 21: agents that_communicate

Văn phạm của ngôn ngữ

Page 22: agents that_communicate

Phân tích cú phápo Có nhiều thuật toán phân tích cú pháp – khôi phục cấu trúc

cụm từ của lời nói, đưa ra ngữ pháp

o Một số hoạt động theo quy tắc từ trên

o Một số sử dụng phương pháp kết hợp giữa phương pháp từ

trên xuống và từ dưới lên

o Sử dụng một số kĩ thuật lập trình năng động để trách những

yếu điểm của việc quay lui.

Page 23: agents that_communicate

Thuật toán không đơn định phân tích cú pháp từ dưới lên

Page 24: agents that_communicate

Thuật toán không đơn định phân tích cú pháp từ dưới lên

Page 25: agents that_communicate

OverviewCommunication as ActionTypes of Communicating AgentsA Formal Grammar for a Subset of EnglishSyntactic Analysis (Parsing)Definite Clause Grammar (DCG)Augmenting a GrammarSemantic InterpretationAmbiguity and DisambiguityA Communicating Agent

Page 26: agents that_communicate

Definite Clause Grammer (DCG)

Problems with Backus-Naur Form (BNF)◦ Need meaning◦ Context sensitive

Introduction of First Order Logic

BNF First Order LogicS ® NP VP NP(s1) /\ VP(s2) Þ S(Append(s1 ,s2))Noun ® stench | …(s=“stench” \/ …) Þ Noun(s)

Page 27: agents that_communicate

DCG Notation

Positive:◦ Easy to describe grammars

Negative:◦ More verbose than BNF

3 Rules:

•The notation X ® Y Z … translate as Y(s1) /\ Z(s2)…Þ X(Append(s1, s2,…).

•The notation X ® word translates as X([“word”]).

•The notation X ® Y | Z | … translates as Y’(s) \/ Z’(s) \/…Þ X(s), where Y’ is the translation into logic of the DCG expression Y.

Page 28: agents that_communicate

Extending the Notation

Non-terminal symbols can be augmentedA variable can appear on RHSAn arbitrary logical test can appear on RHS

DCG First Order Logic

Digit(sem) ® sem { 0 £ sem £ 9 }Number(sem) ® Digit(sem)Number(sem) ® Number(sem1) Digit(sem2) {sem = 10 ´ sem1 + sem2}

(s=[sem]) Þ Digit(sem , s)Digit(sem , s) Þ Number(sem , s)Number(sem , s1) /\ Digit(sem , s2) /\

sem = 10 ´ sem1 + sem2 Þ

Number(sem , Append(s1 , s2)

Page 29: agents that_communicate

OverviewCommunication as ActionTypes of Communicating AgentsA Formal Grammar for a Subset of EnglishSyntactic Analysis (Parsing)Definite Clause Grammar (DCG)Augmenting a GrammarSemantic InterpretationAmbiguity and DisambiguityA Communicating Agent

Page 30: agents that_communicate

Overgeneration

Simple grammar can overgenerate◦ Ex: “Me smells a stench.”

To fix we must understandCases of English

◦ Nominative - subjective - “I”◦ Accusative - objective - “me”

Page 31: agents that_communicate

New Rules

Use of Augmentation

SNP(case)

VPPP

Pronoun(Subjective)Pronoun(Objective)

®®®®®®

NP(subjective) VP | …Pronoun(case) | Noun | Article NounVP NP(Objective) | …Preposition NP(Objective)I | you | he | she | …me | you | him | her | …

Changes needed to handle subjective and objective cases

SNPs

Npo

VPPP

Pronouns

Pronouno

®®®®®®®

NPs VP | …Pronouns | Noun | Article NounPronouno | Noun | Article NounVP NPo | …Preposition NPo

I | you | he | she | …me | you | him | her | …

Page 32: agents that_communicate

Verb Subcategorization

Now have slight improvementMust create a sub-categorization list

Verb Subcats Example

give [NP , PP][NP , NP]

give the gold in 3,3 to megive me the gold

smell [NP][Adjective][PP]

smell a wumpussmell awfulsmell like a wumpus

is [Adjective][PP][NP]

Is smellyis in 2 2is a pit

believe [S] Believe the smelly wumpus in 2 2 is dead

Page 33: agents that_communicate

Parse Tree

S

NP

VP([])

VP([NP])

VP([NP,NP]) NP NP

Pronoun Pronoun Article NounVerb([NP,NP])

You give me the gold

Page 34: agents that_communicate

22.7 SEMANTIC INTERPRETATION

- "X + Y" in arithmetic or X A Y in logic they have a compositional semantics. we know the meaning of X and Y (and +), then we know the meaning of the whole phrase.

- "The batter hit the ball“ and "The chef mixed the batter to be served at the ball“; we expect the two words to have different meanings.

Semantic interpretation alone cannot be certain of the right interpretation of a phrase or sentence

Page 35: agents that_communicate

Semantics as DCG Augmentations

Arithmetic “3 + (4 - 2)” is analyzed as Exp(5), an expression whose semantic interpretation is 5.

Page 36: agents that_communicate

The semantics of "John loves Mary"

We will look at the simple sentence "John loves Mary" and associate with it the semantic interpretation Loves(John,Mary).

Page 37: agents that_communicate

We end up with the grammar shown in Figure 22.15 and the parse tree shown in Figure 22.16.

Page 38: agents that_communicate

The semantics of £1

"Every agent smells a wumpus" can be expressed as:

Our task is to build up our desired representation from the constituents of the sentence. We first break the sentence into NP and VP phrases, to which we can assign the following semantics:

Page 39: agents that_communicate

Right away there are two problems. First, the semantics of the entire sentence appears to be the semantics of the NP with the semantics of the VP filling in the ... part

The second problem is that we need to get the variable a as an argument to the relation Perceive.

The semantics of £1 (cont…)

Page 40: agents that_communicate

To avoid this confusion, many modern grammars take a different tack. They define an intermediate form to mediate between syntax and semantics.

Because it sits between the syntactic and logical forms, it is sometimes called a quasi-logical form.8

we will use a quasi-logical form that includes all of first-order logic and is augmented by lambda expressions and one new construction, which we will call a quantified term.

The semantics of £1 (cont…)

Page 41: agents that_communicate

It can be difficult to write a complex grammar that always comes

up with the right semantic interpretation, and everyone has their

own way of attacking the problem. We suggest a methodology

based on 8 steps:

1. Decide on the logical or quasi-logical form you want to generate

2. Make one-word-at-a-time modifications to your example sentences, and study the corresponding logical forms.

3. Eventually you should be able to write down the basic logical type of each lexical category (noun, verb, and so on), along with some word/logical form pairs.

4. Now consider phrase-at-a-time modifications to your example sentences (e.g., substituting "every stinking wumpus" for "I").

The semantics of £1 (cont…)

Page 42: agents that_communicate

5. Once you know the type of each category, it is not too hard to attach semantic interpretation augmentations to the grammar rules.

6. Other times, the right-hand side of a rule will contain a semantic interpretation that is a predicate (or function), and one or more that are objects.

7. Sometimes the semantics is built up by concatenating the semantics of the constituents, possibly with some connectors wrapped around them

8. Finally, sometimes you need to take apart one of the constituents before putting the semantics of the whole phrase back together.

The semantics of £1 (cont…)

Page 43: agents that_communicate

The semantics of £1 (cont…)

Page 44: agents that_communicate

The semantics of £1 (cont…)

Page 45: agents that_communicate

The semantics of £1 (cont…)

Page 46: agents that_communicate

Bài tập trí tuệ nhân tạo

Chuyển đổi dạng gần logic sang dạng logic (Convert quasi-logical form to logical form)

Giải thích thực tế (Pragmatic Interpretation)

Page 47: agents that_communicate

Quy tắc chuyển đổi dạng bán logic sang dạng logic

Thay thế thuật ngữ định lượng với x QLF thay bằng qx P(x) op QLF

op là => khi q là V và

op là A khi q là 3 (tồn tại) hoặc 3! (không tồn tại)

Page 48: agents that_communicate

Ví dụ chuyển đổi dạng gần logic sang dạng logic

“Every dog has a day”

Ví dụ này không chỉ rõ lượng từ nào được biểu diễn trước vì vậy ta sẽ có 2 cách biểu diễn sau:

Page 49: agents that_communicate

Giải thích thực tiễn

indexicals là cụm từ đề cập trực tiếp đến tình trạng hiện tại, làm rõ nghĩa của indexicals là một yêu cầu cần thiết trong giải thích thực tiễn

"I am in Boston today“

indexicals "I" and "today" phụ thuộc vào người nói và thời điểm nói

Phép trùng lặp (anaphora): sự xuất hiện của các cụm từ tham chiếu tới đối tượng được nêu trước đó

Page 50: agents that_communicate

Giải thích thực tiễn (tiếp)

"He saw him in the mirror" có 2 đại từ he và hiem phải tham chiếu tới 2 người khác nhau.

"He saw himself", đại từ he và himself cùng chỉ 1 người.

Không có quy định bắt buộc nào về tham chiếu của sự trùng lặp vì vậy quyết định tham chiếu là một phần của giải quyết nhập nhằng, mặc dù giải quyết nhập nhằng chắc chắn phụ thuộc vào các thông tin, ngữ cảnh thực tế của thông tin.

Page 51: agents that_communicate

04/14/2023 51

AmbiguityHiểu lầm trong giao tiếpNhập nhằng

◦Từ vựng◦Cú pháp◦Ngữ nghĩa◦….

Page 52: agents that_communicate

04/14/2023 52

Lexical AmbiguityMột từ có nhiều nghĩa“hot”

Page 53: agents that_communicate

04/14/2023 53

Lexical AmbiguityMột từ có thể thuộc nhiều từ loại trong

các ngữ cảnh khác nhau“back”

Page 54: agents that_communicate

04/14/2023 54

Syntactic AmbiguityCó thể xuất hiện cùng Lexical AmbiguityNhiều cây phân tích cú phápPP attachment

◦“Tôi nhìn thấy cô ấy với cái kính”

Page 55: agents that_communicate

04/14/2023 55

Semantic AmbiguityCó thể xuất hiện bởiReferential ambiguity

◦“it”, “those”, ‘which’…Syntactic và Semantic Ambiguity

◦“S1 and S2 and S3”

Page 56: agents that_communicate

04/14/2023 56

Local ambiguityXem xét đến ngữ nghĩa của ngữ cảnh lớn

hơn của toàn bộ câu hay đoạn văn◦char * c; 2*c

Page 57: agents that_communicate

04/14/2023 57

DisambiguationLoại bỏ nhập nhằngCố gắng đưa ra câu có ngữ nghĩa đúng

nhất với văn cảnh

Page 58: agents that_communicate

04/14/2023 58

Four model The world modelThe mental modelThe language modelThe acoustic model

Page 59: agents that_communicate

04/14/2023 59

PCFGP(tree) = Tích số của P(rules)

◦S → NP VP (0.9)◦S → S Conjunction S (0.1)

Page 60: agents that_communicate

04/14/2023 60

PCFGMỗi luật có xác suấtCác luật được đánh giá có trọng sốMội số luật hay sử dụng thì được ưu tiên

hơn các luật ít sử dụngChọn cây phân tích cú pháp nào có xác

suất lớn nhất

Page 61: agents that_communicate

04/14/2023 61

Communicating AgentsỨng dụng các kĩ thuật NLPMở rộng ngữ pháp để nhận biết các mệnh

lệnh

Page 62: agents that_communicate

04/14/2023 62

Các luật cho mệnh lệnhcác luật cho một mệnh lệnh:

◦S(Command(rel(Hearer)) → VP(rel)◦S(Command(rel(obj)) → NP(obj) VP(rel)

Diễn giải logic (quasi-logical)◦Command(Зe e €Go(Hearer,[2,2]))

Page 63: agents that_communicate

04/14/2023 63

Các luật cho sự tiếp nhậnS(Acknowledge(sem)) → Ack(sem)Ack(True) → yesAck(True) → OKAck(False) → no

Page 64: agents that_communicate

04/14/2023 64

Tổng kếtCác vấn đề về xử lý ngôn ngữ tự nhiênCác vấn đề trong việc xây dựng tác tử hội

thoạiLàm thế nào để tác tử hiểu được ngôn

ngữ tự nhiên

Page 65: agents that_communicate

04/14/2023 65

Khó khănMục đích của lời thoại bằng tín hiệu là thực

Ngôn ngữ của loài người phức tạp

Lý thuyết văn phạm và ngôn ngữ còn giới hạn

Ảnh hưởng của văn phong, cách nói trong ngữ cảnh