Cau Truc Du Lieu Va Giai Thuat Cua DHBK

5/17/2018 Cau Truc Du Lieu Va Giai Thuat Cua DHBK - slidepdf.com

http://slidepdf.com/reader/full/cau-truc-du-lieu-va-giai-thuat-cua-dhbk 1/59

1

Môn học:

Phân tích và Thiết kế Giải thuậtSố tín chỉ: 2

BÀI GIẢNG ĐIỆN TỬBiên soạn bởi: TS. Dương Tuấn Anh

Khoa Công nghệ Thông tin

Trường Đ.H. Bách Khoa

ĐạI học Quốc Gia Tp Hồ Chí Minh



2

Tài liệu tham khảo

[1] Cormen, T. H., Leiserson, C. E, and Rivest, R. L.,Introduction to Algorithms , The MIT Press, 1997.

[2] Levitin, A., Introduction to the Design and Analysis

of Algorithms , Addison Wesley, 2003[3] Sedgewick, R., Algorithms in C++ , Addison-Wesley,1998

[4] Weiss, M.A., Data Structures and Algorithm

Analysis in C , TheBenjamin/Cummings Publishing,1993



3

Đề cương Môn học

1. Các khái niệm căn bản2. Phân tích độ phức tạp một số giải thuật sắp thứ tự

và tìm kiếm

3. Phân tích độ phức tạp một số giải thuật làm việc trên

cấu trúc dữ liệu

4. Phân tích độ phức tạp một số giải thuật làm việc trênđồ thị

5. Các chiến lược thiết kế giải thuật6. Vấn đề NP-đầy đủ



5

Nội dung

1. Kiểu dữ liệu trừu tượng2. Đệ quy

3. Phân tích giải thuật



6

1.Kiểu dữ liệu trừu tượng

• Mô tả một cấu trúc dữ liệu theo các tác vụ ( operations) làm

việc trên cấu trúc dữ liệu thì tiện lợi hơn là diễn tả nó theonhững chi tiết thi công (implementation details).

• Chúng ta nên tách những khái niệm về cấu trúc dữ liệu rakhỏi những chi tiết thi công.

• Khi một cấu trúc dữ liệu được định nghĩa theo cách như vậy ta sẽ có một kiểu dữ liệu trừu tượng ( abstract data type)

hay ADT.

Một kiểu dữ liệu trừu tượng là một mô hình toánhọc đi cùng với những tác vụ được định nghĩa trênmô hình này.



7

Vài thí dụ về Kiểu dữ liệu trừu tượng

• Một tập ( set) là một tập hợp gồm zero hay nhiều phần tử.

Một phần tử không được phép xuất hiện nhiều hơn mộtlần trong tập. Một tập gồm n phần tử được ký hiệu là {a1,

a2,…,an}, nhưng vị trí của một phần tử trong một tập làkhông quan trọng.

• Một đa tập ( multiset) là một tập mà trong đó một phần tử được phép xuất hiện nhiều hơn một lần. Thí dụ, {5,7,5,2} làmột đa tập. Một đa tập có thể có những tác vụ sau:

initialize (khởi tạo)

insert (thêm vào)is_empty (thử đa tập có rỗng)delete (xoá)

findmin (tìm phần tử bé nhất)



Vài thí dụ về Kiểu dữ liệu trừu tượng (tt)

• Một chuỗi ( sequence) là một tập hợp có thứ tự của zero haynhiều phần tử; được ký hiệu là <a1, a2,…, an>. Vị trí củamột phần tử trong một chuỗi là có ý nghiã. Một chuỗi có thểcó những tác vụ sau:

initialize (khởi tạo)length (chiều dài)head (phần tử đầu)tail (phần đuôi)concatenate (ghép kề hai chuỗi)



Giải một bài toán bằng ADT

Để thấy ích lợi của kiểu dữ liệu trừu tượng, thử xét bài toánsau:

Cho một mảng (array) gồm n số, A[1..n], hãy xác định k phầntử lớn nhất trong mảng, với k ≤ n. Thí dụ, nếu A là {5, 3, 1, 9,6}, và k = 3, thì kết quả là {5, 9, 6}.

Không dễ để xây dựng một giải thuật để giải bài toán trên.Ta thử dùng kiểu dữ liệu trừu tượng đa tập (multiset) với cáctác vụ:

initialize(M),insert(x, M),

deleteMin(M),

findMin(M)



10

Suy ngh ĩ trên đa tập M, ta có thể viết một giải thuật như sau:

Initialize(M);

for i:= 1 to k do

Insert(A[i], M);

for i:= k + 1 to n do

if A[i] > FindMin(M) thenbegin

DeleteMin(M); Insert(A[i],M)

end;

Trong thí d ụ trên, ta thấy kiểu dữ liệu trừu tượng đã làmđơn giản hóa việc xây dựng giải thuật bằng cách không bậntâm đến những chi tiết thi công hay hiện thực hóa.



11

Thi công một kiểu dữ liệu trừu tượng

Quá trình dùng một cấu trúc dữ liệu cụ thể để hiện thực hóamột ADT được gọi là thi công kiểu dữ liệu trừu tượng . Trongsự thi công này, phần dữ liệu trừu tượng được hiện thực hóabằng một cấu trúc dữ liệu cụ thể và phần các tác vụ trừutượng được hiện thực hóa bằng các tác vụ cụ thể hơn.

AbstractData

Operations

DataStructure

Concreteoperations



12

Thi công một kiểu dữ liệu trừu tượng (tt.)

Có thể dùng mảng (array) hay danh sách liên kết (linked list)

để thi công tập hợp (set).

Có thể dùng mảng (array) hay danh sách liên kết (linked list)

để thi công chuỗi.

Với kiểu dữ liệu trừu tượng đa tập như trong thí dụ trước, tacó thể dùng hàng đợi có độ ưu tiên ( priority queue) để thicông. Và sau đó ta có thể dùng cấu trúc dữ liệu heap để thi

công hàng đợi có độ ưu tiên.



13

2. Đệ quy

Hệ thức truy hồi

Thí dụ 1: Hàm tính giai thừaN! = N.(N-1)! với N ≥ 1

0! = 1

Những định nghĩa hàm đệ quy mà chứa những đối số nguyênđược gọi là những hệ thức truy hồi ( recurrence relation) .

function factorial (N: integer): integer;

begin

if N = 0then factorial: = 1

else factorial: = N*factorial (N-1);

end;



14

Hệ thức truy hồi

Thí dụ 2: Số Fibonacci

Hệ thức truy hồi:FN = FN-1 + FN-2 for N ≥ 2

F0 = F1 = 1

1, 1, 2, 3, 5, 8, 13, 21, …

function fibonacci (N: integer): integer;

begin

if N <= 1

then fibonacci: = 1else fibonacci: = fibonacci(N-1) +

fibonacci(N-2);

end;



15

Một cách khác: Ta có thể dùng một mảng để chứa những trị sốđi trước trong khi tính hàm fibonacci. Ta có một giải thuật

không đệ quy.

procedure fibonacci;

const max = 25;

var i: integer;

F: array [0..max] of integer;

begin

F[0]: = 1; F[1]: = 1;

for i: = 2 to max do

F[i]: = F[i-1] + F[i-2]end;



16

Chiến lược Chia-để-trị

Nhiều giải thuật hay có cấu trúc đệ quy: để giải một vấn đềgiải thuật gọi chính nó một hay nhiều lần để đối phó vớinhững vấn đề con (subproblem) có quan hệ chặt chẽ với nhau.

Những giải thuật như vậy tuân theo cách tiếp cận chia-để -tr ị (divide and conquer):

Giải thuật phân rã vấn đề thành những vấn đề con, giảinhững vấn đề con này và kết hợp những lời giải của nhữngvấn đề con thành lời giải cho vấn đề nguyên thủy.

Chiến lược này bao gồm 3 bước sau đây ở mỗi cấp đệ quy: phân chia (divide)

tr ị (conquer)

kết hợp (combine)



17

Thí dụ: Xét việc vạch những vạch cách nhau 1 inch trên 1cây thước: có một nét vạch tại điển ½ inch, nét vạch ngắnhơn ở những đoạn ¼ inch, nét vạch ngắn hơn nữa ở nhữngđoạn 1/8 inch, v.v...

procedure rule(l, r, h: integer); /* l: left position of the ruler; r: rightposition

of the ruler */ var m: integer;begin

if h > 0 thenbegin

m: = (1 + r) div 2; mark(m, h);rule(l, m, h-1);rule(m, r , h-1)

end;

end;

Giả sử thủ tục

mark(x, h) vẽ mộtvạch h đơn vị tại vịtrí x.



18

Khử đệ quy

Vấn đề: Giải thuật không đệ quy thường làm việc hữu hiệuvà dễ kiểm soát hơn 1 giải thuật đệ quy.

Làm cách nào để chuyển đổi một chương trình đệ quythành một chương trình không-đệ-quy tương đương.

Phương pháp:• Cho một thủ tục đệ quy P, mỗi lần có một lệnh gọi đệ quyđến P, giá trị hiện hành của các tham số và các biến cục bộđược cất vào các ngăn xếp (stack) để xử lý sau.

•Mỗi lần có một sự quay về đệ quy về P, giá trị của cáctham số và các biến cục bộ sẽ được khôi phục lại từ các ngănxếp.



19

Khử đệ quy (tt.)

Việc đối phó với địa chỉ khứ hồi ( return address) được thực

hiện như sau:Giả sử thủ tục P chứa một lệnh gọi đệ quy tại bước lệnh

K , địa chỉ khứ hồi K+1 sẽ được lưu tại một ngăn xếp và sẽđược dùng để quay về mức thực thi thủ tục P hiện hành.

procedure hanoi(n, beg, aux, end);begin

if n = 1 then writeln(beg, end)elsebegin

hanoi(n-1, beg, end, aux) ;writeln(beg, end);hanoi(n-1, aux, beg, end);

endend;

Thí dụ: Thủ tục hanoi là một thủtục đệ quy giải bàitoán Tháp Hà Nội



20

procedure hanoi(n, beg, aux, end:integer);

/* Stacks STN, STBEG, STAUX,STEND, and STADD correspond,

respectively, to variables N, BEG, AUX,END and ADD */ label 1, 3, 5;var t: integer;begin

top: = 0; /* preparation for stacks */

1: if n = 1 thenbegin writeln(beg, end); goto 5 end;top: = top + 1; /* first recursive call */ STN[top]: = n; STBEG[top]: = beg;STAUX [top]:= aux;STEND [top]: = end;

STADD [top]: = 3; /* saving return address */ n: = n-1; t:= aux; aux: = end;end: = t;goto 1;

3: writeln(beg, end);top: = top + 1; /* second

recursive call */ STN[top]: = n;STBEG[top]: = beg;STAUX[top]: aux;STEND[top]: = end;STADD[top]: = 5; /* saving return address */ n: = n-1; t:= beg; beg: = aux;

aux: = t; goto 1;5. /* translation of return point */ if top <> 0 thenbegin

n: = STN[top];beg: = STBEG [top];

aux: = STAUX [top];end: = STEND [top];add: = STADD [top];top: = top – 1; goto add

endend;



21

Sự duyệt cây đệ quy

Cách đơn giản nhất để duyệt các nút trong một cây nhị

phân theo thứ tự nội là nhờ một thủ tục đệ quy như sau: // duyệt thứ tự nội (Inorder traversal)

typelink = ↑node;node = record

info: …….; l, r: link end;

procedure traverse(t: link);begin

if t <> z then /* z is dummy node */ begin

traverse(t↑.l);visit(t);traverse(t↑.r)

endend;



22

Thủ tục duyệt cây tiền thứ tự (Pre-order)

procedure traverse (t: link)

beginif t <> z then

begin

visit(t);

traverse(t↑.1); traverse(t↑.r)

end

end;

Trước khi khử đệ quy thủ tục này, ta có thể loại bỏ lệnh gọi

đệ quy thứ hai dễ dàng vì không có mã chương trình đi saunó.

Lệnh gọi đệ quy thứ hai có thể được chuyển thành một lệnh goto như sau:



23

Khử đệ quy đuôi

procedure traverse (t: link);

label 0,1;

begin

0: if t = z then goto 1;

visit(t);

traverse(t↑. l);t: = t↑.r; goto 0;

1: end;

Kỹ thuật này được gọi là khử đệ quy đuôi ( tail-recursion

removal).



24

procedure traverse(t: link);label 0, 1, 2, 3;

begin

0: if t = z then goto 1;

visit(t);push(t); t: = t↑.l; goto 0;

3: t: = t↑.r; goto 0;

1: if stack_empty then goto 2;

t: = pop; goto 3;

2: end;

Chú ý: Do chỉ có một địa chỉ khứ hồi, 3, mà là cố định, nênta không phải nhồi nó vào stack.

Bây giờ áp dụng phương pháp tổng quát, ta có thể khử lệnhgọi đệ quy còn lại trong chương trình.



25

procedure traverse(t: link);label 0,2;

begin

0: while t <> z do

beginvisit(t);

push(t↑.r); t: = t↑.1;

end;

if stack_empty then goto 2;

t: = pop; goto 0;

2: end;

Ta có thể loại bỏ vài phát biểu goto bằng cách dùng vòng lặpwhile như sau.



26

procedure traverse(t: link);

begin

push(t);

repeat

t: = pop;while t <> z do

begin

visit(t);

push(t↑.r); t: = t↑.l;

end;

until stack_empty;

end;

Một lần nữa ta có thể loại bỏ hai lệnh goto còn lại bằng cáchdùng vòng lặp repeat .



27


begin

push(t);

repeat

t: = pop;if t <> z then

begin

visit(t);

push(t↑.r); push(t↑.1);

end;

until stack_empty;

end;

Hai vòng lặp lồng nhau có thể được đơn giản hóanhư sau:



28

Để tránh đưa những cây con rỗng vào stack, ta có thể sửachương tr ình trên thành:


begin

push(t);

repeat

t: = pop;visit(t);

if t↑.r < > z then push(t↑.r);

if t↑.l < > z then push(t↑.l);

until stack_empty;end;

Đây là chương tr ình không đệ quy hoàn chỉnh để duyệt câynhị phân.



29

Khử hàm đệ quy

Nếu thủ tục đệ quy P là một hàm, ta cần bổ sung vào qui tắcchuyển đổi tổng quát một số điểm sau đây:

Thí dụ: Hàm tính tổ hợpfunction comb(m, n: int):int

If (n=m or m = 0) thenreturn 1

elsebegin

a:= comb(n -1, m);

b:= comb(n-1, m -1);return (a+b);

end

1. Tại câu lệnh có gắn địa chỉkhứ hồi, ta phải khôi phục trị

hàm từ stack; nếu cần thìthêm lệnh sử dụng trị hàmnày.

2. Tại câu lệnh return, cần đưa

vào phát biểu định trị biểuthức đi liền sau từ khóa return

và cất trị hàm trả về này vàostack.



30

int comb(int n, int m)

{

int top, topF;

int stackN[100]; int stackM[100];

int stackADD[100];int stackF[100];

int a, b, add, c;

top = topF = 0; //stack initialize

L0: if (m == 0 || n ==m)

{ c = 1, goto L3;}else { // 1st recursive call

top = top +1 ; stackN[top] = n;

stackM[top] = m;

stackADD[top] =1;

n = n-1; goto L0;L1:// 2nd recursive call

top = top +1 ; stackN[top] = n;

stackM[top] = m;

stackADD[top] =2;

n = n-1; m = m-1; go to L0;

L2: a= stackF[topF], topF = topF –1;

b = stackF[topF], topF = topF –1;

c = a + b;

L3: if (top >0)

{

n = stackN[top];

m = stackM[top];

add = stackADD[top];

top = top –1; // push the result

topF = topF + 1; stackF[top] = c;

if (add == 1) goto L1;

else if (add == 2) goto L2;

}return c;

}

}



31

3. Phân tích độ phức tạp giải thuật

Với phần lớn các bài toán, thường có nhiều giải thuật khácnhau để giải một bài toán.Làm cách nào để chọn giải thuật tốt nhất để giải một bàitoán?

Làm cách nào để so sánh các giải thuật cùng giải được mộtbài toán?

Phân tích độ phức tạp của một giải thuật: dự đoán các tài

nguyên mà giải thuật đó cần.

Tài nguyên: Chỗ bộ nhớ Thời gian tính toán

Thời gian tính toán là tài nguyên quan trọng nhất.



32

Hai cách phân tích

Thời gian tính toán của một giải thuật thường làmột hàm của kích thước dữ liệu nhập.

Chúng ta quan tâm đến:

• Trường hợp trung bình ( average case): thời giantính toán mà một giải thuật cần đối với một “dữ liệu nhâp thông thường” (typical input data).

• Trường hợp xấu nhất (worst case): thời gian tínhtoán mà một giải thuật cần đối với một “dữ liệunhâp xấu nhất”



33

Khung thức của sự phân tích

♦ Bước 1: Đặc trưng hóa dữ liệu nhập và quyết định kiểuphân tích thích hợp.

Thông thường, ta tập trung vào việc- chứng minh rằng thời gian tính toán luôn nhỏ hơn một “cậntrên” (upper bound), hay

- dẫn xuất ra thời gian chạy trung bình đối với một dữ liệu

nhập ngẫu nhiên.♦ Bước 2: nhận dạng thao tác trừu tượng ( abstract operation)

mà giải thuật dựa vào đó làm việc.Thí dụ: thao tác so sánh trong giải thuật sắp thứ tự.

Tổng số thao tác trừu tượng thường tùy thuộc vào một vài đạilượng.

♦ Bước 3: thực hiện phân tích toán học để tìm ra các giá trịtrung bình và giá trị xấu nhất của các đại lượng quan trọng.



34

Hai trường hợp phân tích

• Thường thì không khó để tìm ra cận trên của thời

gian tính toán của một giải thuật.• Nhưng phân tích trường hợp trung bình thường đòi

hỏi một sự phân tích toán học cầu kỳ, phức tạp.

• Về nguyên tắc, một giải thuật có thể được phân tíchđến một mức độ chính xác rất chi li. Nhưng trongthực tế, chúng ta thường chỉ tính ước lượng(estimating) mà thôi

• Tóm lại, chúng ta tìm kiếm một ước lượng thô về thờigian tính toán của một giải thuật (nhằm mục đíchphân lớp độ phức tạp).



35

Phân lớp độ phức tạp

Hầu hết các giải thuật thường có một thông số chính, N, sốmẩu dữ liệu nhập mà được xử lý.

Thí dụ:

Kích thước của mảng (array) được sắp thứ tự hoặc tìm kiếm.Số nút của một đồ thị.

Giải thuật có thể có thời gian tính toán tỉ lệ với

1. Nếu tác vụ chính được thực thi một vài lần.

⇒ thời gian tính toán là hằng số.

2. lgN (logarithmic) log2N ≡ lgN

Giải thuật tăng chậm hơn sự tăng của N.



36

3. N (linear)

4. NlgN

5. N2 (quadratic) khi giải thuật là vòng lặp lồng hai

6. N3

(cubic) khi giải thuật là vòng lặp lồng ba

7. 2N một số giải thuật có thời gian chạy luỹ thừa.

Một vài giải thuật khác có thể có thời gian chạyN3/2, N1/2 , (lgN)2 …



37

Độ phức tạp tính toán

Chúng ta tập trung vào phân tích trường hợp xấu nhất. Khi

phân tích, bỏ qua những thừa số hằng số để xác định sự phụthuộc hàm của thời gian tính toán đối với kích thước dữ liệunhập.

Thí dụ: Thời gian tính toán của sắp thứ tự bằng phương pháp

trộn ( mergesort ) là tỉ lệ với NlgN.

Khái niệm “tỉ lệ với” ( proportional to)

Công cụ toán học để làm chính xác khái niệm này là ký hiệu – O (O-notation).

Định nghĩa: Một hàm g(N) được gọi là O(f(N)) nếu tồn tại haihằng số c0 và N0 sao cho g(N) nhỏ hơn c0f(N) với mọiN > N0.



38

Ký hiệu O

Ký hiệu O là một cách hữu ích để phát biểu cận trên về thờigian tính toán mà độc lập đối với đặc tính dữ liệu nhập vàchi tiết hiện thực hóa.

Chúng ta cố gắng tìm cả “cận trên” lẫn “cận dưới” của thờigian tính toán trong phân tích trường hợp xấu nhất.

Nhưng cận dưới (lower-bound ) thì thường khó xác định.



39

Phân tích trường hợp trung bình

Với kiểu phân tích này, ta phải- đặc trưng hóa dữ liệu nhập của giải thuật- tính giá trị trung bình của số lần một phát biểu được

thực thi.- tính thời gian tính toán trung bình của toàn giải

thuật.

Nhưng thường thì khó- xác định thời gian chạy của mỗi phát biểu.

- đặc trưng hóa chính xác dữ liệu nhập trong thực tế.



40

Các kết quả tiệm cận và xấp xỉ

Kết quả của một sự phân tích toán học thường mang tính xấpxỉ ( approximate): nó có thể là một biểu thức gồm một chuỗinhững số hạng giảm dần tầm quan trọng.

Ta thường để ý đến các số hạng dẫn đầu trong biểu thức toán

học.

Thí dụ: Thời gian tính toán trung bình của một chương trìnhlà:

a0NlgN + a1N + a2

Ta có thể viết lại là:a0NlgN + O(N)

Với N lớn, ta không cần tìm giá trị của a1 hay a2.



41

Các kết quả xấp xỉ

Ký hiệu O cho ta một cách tìm ra kết quả xấp xỉ khi Nlớn.

Do đó, thông thường chúng ta có thể bỏ qua một số đại

lượng khi có tồn tại một số hạng dẫn đầu trong biểuthức.

Example: nếu biểu thức là N(N-1)/2, chúng ta có thể bảo

rằng nó khoảng chừng N2 /2.



42

Phân tích một giải thuật lặp

Thí dụ 1 Cho một giải thuật tìm phần tử lớn nhất trongmột mảng 1 chiều.

procedure MAX(A, n, max)

/* Set max to the maximum of A(1:n) */

begin

integer i, n;max := A[1];

for i:= 2 to n do

if A[i] > max then max := A[i]

end

Nếu C(n) là độ phức tạp tính toán của giải thuật được tínhtheo thao tác so sánh (A[i]> max). Hãy xác định C(n)trong trường hợp xấu nhất.



43

Phân tích một giải thuật lặp (tt.)

Thao tác căn bản của thủ tục MAX là thao tác so sánh.

Tổng số thao tác so sánh của thủ tục MAX chính là số lầnthân vòng lặp được thực thi: (n-1).

Vậy độ phức tạp tính toán của giải thuật là O(n).

Đây là độ phức tạp của cả hai trường hợp trung bình và xấunhất.

Ghi chú: Nếu thao tác căn bản là phát biểu gán (max := A[i])

thì O(n) là độ phức tạp trong trường hợp xấu nhất.



44


Thí dụ 2: Giải thuật kiểm tra xem có phải mọi phần tử trong

mảng 1 chiều là khác biệt nhau.function UniqueElements(A, n)

begin

for i:= 1 to n –1 do

for j:= i + 1 to n doif A[i] = A[j] return false

return true

end

Trong trường hợp xấu nhất, mảng không hề có hai phần tử nào bằng nhau hoặc mảng có hai phần tử cuối cùng bằngnhau. Lúc đó một sự so sánh diễn ra mỗi khi thân vòng lặptrong được thực hiện.



45

i = 1 j chạy từ 2 cho đến n tức n – 1 lần so sánhi = 2 j chạy từ 3 cho đến n tức n – 2 lần so sánh

.

.

i = n -2 j chạy từ n-1 cho đến n tức 2 lần so sánhi = n -1 j chạy từ n cho đến n tức 1 lần so sánh

Tóm lại, tổng số lần so sánh là:1 + 2 + 3 + … + (n-2) + (n-1) = n(n-1)/2

Vậy độ phức tạp tính toán của giải thuật trong trường hợp xấu

nhất là O(n2

).



46


Thí dụ 3 (So trùng dòng ký tự - string matching): Tìm tất cả

những sự xuất hiện của một khuôn mẫu (pattern) trong mộtvăn bản (text).

Văn bản là một mảng T[1..n] gồm n ký tự và kiểu mẫu là mộtmảng P[1..m] gồm m ký tự.

Kiểu mẫu P xuất hiện với độ dịch chuyển ( shift) s trong vănbản T (tức là, P xuất hiện bắt đầu từ vị trí s+1 trong văn bảnT) nếu 1 ≤ s ≤ n – m và T[s+1..s+m] = P[1..m].



47

Một giải thuật đơn giản nhất để tìm tất cả những sự xuấthiện của P trong T sẽ dùng một vòng lặp mà kiểm tra điềukiện P[1..m] = T[s+1..s+m] với mỗi trị trong n – m + 1 trị cóthể có của s.

procedure NATIVE-STRING-MATCHING(T,P);

beginn: = |T|; m: = |P|;

for s:= 0 to n – m do

if P[1..m] = T[s+1,..,s+m] then

print “Pattern occurs with shift” s;

end



48

procedure NATIVE-STRING-MATCHING(T,P);

beginn: = |T|; m: = |P|;

for s:= 0 to n – m do

begin

exit:= false; k:=1;while k ≤ m and not exit do

if P[k] ≠ T[s+k] then exit := true

else k:= k+1;

if not exit then

print “Pattern occurs with shift” s;end

end



49

Giải thuật NAIVE STRING MATCHER có hai vònglặp lồng nhau:

- vòng lặp ngoài lặp n – m + 1 lần.- vòng lặp trong lặp tối đa m lần.Do đó, độ phức tạp của giải thuật trong trường hợpxấu nhất là:O((n – m + 1)m).



50

Phân tích giải thuật đệ quy: các công thức truyhồi căn bản

Có một phương pháp căn bản để phân tích độ phức tạp củacác giải thuật đệ quy.

Tính chất của một giải thuật đệ quy ⇒ thời gian chạy đối

với bộ dữ liệu nhập kích thước N tùy thuộc vào thời gianchạy của những bộ dữ liệu nhập nhỏ hơn.

Tính chất này được mô tả bằng một công thức toán học đượcgọi là hệ thức truy hồi ( recurrence relation).

Để dẫn xuất ra độ phức tạp của một giải thuật đệ quy, chúngta phải giải hệ thức truy hồi này.

Phâ í h iả ậ ệ ằ á ặ



51

Phân tích giải thuật đệ quy bằng phương pháp lặp

Công thức 1: Một chương trình đệ quy mà lặp qua bộ dữ liệu

nhập để loại đi một phần tử. Hệ thức truy hồi của nó như sau:CN = CN-1 + N N ≥ 2

C1 = 1

CN = CN-1 + N= CN-2 + (N – 1) + N

= CN-3 + (N – 2) + (N – 1) + N

.

.

.

= C1 + 2 + … + (N – 2) + (N – 1) + N

= 1 + 2 + … + (N – 1) + N

= N(N-1)/2

= N2 /2

Cách suy ra độ phứctạp bằng phươngpháp lặp:

Thí d 2



52

Thí dụ 2

Công thức 2: Một chương trình đệ quy mà tách đôi bộ dữ liệu nhập trong một bước làm việc. Hệ thức truy hồi là:CN = CN/2 + 1 N ≥ 2

C1 = 0

Cách suy ra độ phức tạp:

Giả sử N = 2n

C(2n) = C(2n-1) + 1

= C(2n-2 )+ 1 + 1

= C(2n-3 )+ 3.

. .

= C(20 ) + n= C1 + n = n

CN = n = lgN

CN ≈ lgN

Thí d 3



53

Thí dụ 3

Công thức 3. Một chương trình đệ quy mà tách đôi bộ dữ liệunhập trong một bước làm việc nhưng phải xem xét từng phần tử trong dữ liệu nhập. Hệ thức truy hồi là

CN = 2CN/2 + N for N ≥ 2

C1 = 0

Assume N = 2n

C(2n) = 2C(2n-1) + 2n

C(2n)/2n = C(2n-1)/ 2n-1 + 1

= C(2n-2)/ 2n-2 + 1 +1

.

.

= n⇒ C(2n ) = n.2n

CN = NlgN

CN ≈ NlgN


Thí d 4



54

Thí dụ 4

Công thức 4. Một chương trình đệ quy mà tách đôi dữ liệu nhậpthành hai nửa trong một bước làm việc . Hệ thức truy hồi làC(N) = 2C(N/2) + 1 for N ≥ 2

C(1) = 0


Giả sử N = 2n.

C(2n) = 2C(2n-1) + 1

C(2n)/ 2n = 2C(2n-1)/ 2n + 1/2n

=C(2n-1)/ 2n-1 + 1/2n

=[C(2n-2)/ 2n-2 + 1/2n-1 ]+ 1/2n

.

.

.

=C(2n-i)/ 2n -i + 1/2n – i +1 + … + 1/2n



55

Cuối cùng, khi i = n -1, ta được:

C(2n)/2n = C(2)/2 + ¼ + 1/8 + …+ 1/2n

= ½ + ¼ + ….+1/2n

≈ 1

⇒ C(2n) = 2n

C(N) ≈ N

Một số hệ thức truy hồi có vẻ giống nhau nhưng mức độkhó khi giải chúng để tìm độ phức tạp thì có thể rấtkhác nhau.

N ê tắ hâ tí h độ hứ t t bì h



56

Nguyên tắc phân tích độ phức tạp trung bình

Để tính độ phức tạp trung bình của một giải thuật A, ta phải làmmột số bước:

1. Quyết định một không gian lấy mẫu (sampling space) để diễn tảnhững dữ liệu đầu vào (kích thước n) có thể có. Giả sử khônggian lấy mẫu là S = { I1, I2,…, Ik}

2. Ta ph ải định nghĩamột phân bố xác xuất p trên S mà biểu diễnmức độ chắc chắn mà dữ liệu đầu vào đó có thể xảy ra.

3. Ta ph ải tính tổng số tác vụ căn bản được giải thuật A thực hiệnđể xử lý một trường hợp mẫu. Ta dùng v(Ik) ký hiệu tổng số tác

vụ được thực hiện bởi A khi dữ liệu đầu vào thuộc trường hợpIk.

Phâ tí h độ hứ t t bì h (tt )



57

Phân tích độ phức tạp trung bình (tt.)

4. Ta tính trị trung bình của số tác vụ căn bản bằng cách tính kỳvọng sau:

Cavg(n) = v(I1).p(I1) + v(I2).p(I2) + …+v(Ik).p(Ik).

Thí dụ: Cho một mảng A có n phần tử. Tìm kiếm vị trí mà trịX xuất hiện trong mảng A.

begin

i := 1;

while i <= n and X <> A[i] doi := i+1;

end

Thí d Tì kiế t ầ t



58

Thí dụ: Tìm kiếm tuần tự

Giả sử X có xuất hiện trong mảng và giả định rằng xác xuấtđể nó xuất hiện tại một vị trí bất kỳ trong mảng là đều nhauvà xác xuất để mỗi trường hợp xảy ra là p = 1/n.

Số lần so sánh để tìm thấy X nếu nó xuất hiện tại vị trí 1 là 1Số lần so sánh để tìm thấy X nếu nó xuất hiện tại vị trí 2 là 2

…Số lần so sánh để tìm thấy X nếu nó xuất hiện tại vị trí n là n

Tổng số tác vụ so sánh trung bình là:C(n) = 1.(1/n) + 2.(1/n) + …+ N.(1/n)

= (1 + 2 + …+ n).(1/n)

= (1+2+…+n)/n = n(n+1)/2.(1/n) = (n+1)/2.

Vài ch ỗi ố thô d



59

Vài chuỗi số thông dụng

Có một vài chuỗi số thông dụng trong việc phân tích độ

phức tạp giải thuật.

• Chuỗi số cọngS1 = 1 + 2 + 3 + … + n

S1 = n(n+1)/2 ≈ n2 /2

S2 = 1 + 22 + 32 + …+ n2

S2 = n(n+1)(2n+1)/6 ≈ n3 /3

• Chuỗi số nhân

S = 1 + a + a2 + a3 + … + an

S = (an+1 -1)/(a-1)

If 0< a < 1, then

S ≤ 1/(1-a)

Và khi n →∞, S tiến về 1/(1-a).

Vài h ỗi ố thô d (tt )



Vài chuỗi số thông dụng (tt.)

• Tổng chuỗi số điều hoà (Harmonic sum)

Hn = 1 + ½ + 1/3 + ¼ +…+1/n

Hn = loge n + γ

γ ≈ 0.577215665 được gọi là hằng số Euler .

Một chuỗi số khác cũng rất thông dụng khi phân tích cácthao tác làm việc trên cây nhị phân:

1 + 2 + 4 +…+ 2m-1 = 2m -1

Documents

Cau Truc Du Lieu Va Giai Thuat Cua DHBK