Thạc Sĩ Nghiên cứu một số phương pháp phân cụm mờ và một số Ứng dụng

MỤC LỤC



DANH MỤC CÁC TỪ VIẾT TẮT 4

DANH MỤC CÁC HÌNH MINH HOẠ . 5

Chương 1 - TỔNG QUAN VỀ KHÁM PHÁ TRI THỨC VÀ KPDL . 6

1.1. Giới thiệu chung về khám phá tri thức và khai phá dữ liệu . 6

1.2. Quá trình khám phá tri thức . 7

1.3. Quá trình khai phá dữ liệu . 8

1.4. Các phương pháp khai phá dữ liệu 9

1.5. Các lĩnh vực ứng dụng thực tiễn của KPDL 10

1.6. Các hướng tiếp cận cơ bản và kỹ thuật áp dụng trong KPDL . 11

1.7. Các thách thức - khó khăn trong KPTT và KPDL 12

1.8. Kết luận 12

Chương 2 - PHÂN CỤM DỮ LIỆU VÀ CÁC THUẬT TOÁN TRONG PCDL . 13

2.1. Khái niệm và mục tiêu của phân cụm dữ liệu 13

2.2. Các ứng dụng của phân cụm dữ liệu 15

2.3. Các yêu cầu của phân cụm . 16

2.4. Những kỹ thuật tiếp cận trong phân cụm dữ liệu 18

2.4.1. Phương pháp phân cụm phân hoạch . 19

2.4.2. Phương pháp phân cụm phân cấp . 19

2.4.3. Phương pháp phân cụm dựa trên mật độ . 20

2.4.4. Phương pháp phân cụm dựa trên lưới . 21

2.4.5. Phương pháp phân cụm dựa trên mô hình 22

2.4.6. Phương pháp phân cụm có dữ liệu ràng buộc . 22

2.5. Một số thuật toán cơ bản trong phân cụm dữ liệu . 24

2.5.1. Các thuật toán phân cụm phân hoạch 24

2.5.2. Các thuật toán phân cụm phân cấp 26

2.5.3. Các thuật toán phân cụm dựa trên mật độ . 29

2.5.4. Các thuật toán phân cụm dựa trên lưới . 32

2.5.5. Các thuật toán phân cụm dựa trên mô hình 35
2.5.6. Các thuật toán phân cụm có dữ liệu ràng buộc . 36
Chương 3 - KỸ THUẬT PHÂN CỤM DỮ LIỆU MỜ 37
3.1. Tổng quan về phân cụm mờ 37

3.2. Các thuật toán trong phân cụm mờ 38

3.2.1. Thuật toán FCM(Fuzzy C-means) 39

3.2.1.1. Hàm mục tiêu . 39

3.2.1.2. Thuật toán FCM . 42

3.2.2. Thuật toán FCM(ε- Insensitive Fuzzy C-means) 46

3.2.2.1. Hàm mục tiêu . 46

3.2.2.2. Thuật toán FCM . 48
3.2.3. Thuật toán FCM Cải tiến 49

3.2.3.1. Thuật toán 1: Thuật toán lựa chọn các điểm dữ liệu
làm ứng viên cho việc chọn các trung tâm của các cụm . 49
3.2.3.2. Thuật toán 2: Thuật toán lược bớt các ứng viên . 51

3.2.3.3. Thuật toán 3: Thuật toán chọn các ứng viên làm cực
tiểu hàm mục tiêu 51

3.2.3.4. Thuật toán 4: Gán các trung tâm có liên kết “gần
gũi” vào một cụm 52
3.2.3.5. Tổng kết thuật toán FCM-Cải tiến . 56
Chương 4 - MÔ HÌNH MẠNG NƠRON ĐA KHỚP DÙNG CHO PCM . 58
4.1. Tổng quan về mạng Nơron 58
4.2. Cấu trúc mạng Nơron 61
4.2.1. Hàm kích hoạt . 61
4.2.2. Liên kết mạng 61
4.2.3. Bài toán huấn luyện mạng . 61
4.3. Mạng HOPFIELD 62
4.3.1. Huấn luyện mạng 62
4.3.2. Sử dụng mạng . 63

4.4. Mạng Nơron đa khớp dùng cho phân cụm 63

4.4.1. Xây dựng lớp mạng Layer1 cho tối ưu các trung tâm cụm . 65

4.4.2. Xây dựng lớp mạng Layer2 cho tối ưu các độ thuộc 68

4.5. Sự hội tụ của FBACN 72

4.5.1. Chứng minh sự hội tụ của FBACN . 72

4.5.2. Sự hội tụ FBACN liên tục của Layer1 74

4.6. Giải thuật của FBACN và FBACN với việc học . 75

Chương 5 - CÀI ĐẶT THỬ NGHIỆM VÀ ỨNG DỤNG 79

5.1. Cài đặt thử nghiệm thuật toán FCM 79

5.2. Ứng dụng thuật toán FCM-Cải tiến vào nhận dạng ảnh 82

KẾT LUẬN . 86

TÀI LIỆU THAM KHẢO . 87

DANH MỤC CÁC TỪ VIẾT TẮT

CNTT CSDL CEF DL
FBACN



FCM HMT KPDL KPTT LKM MH NDA NN PCM PCDL TLTK TT XLA

Công nghệ thông tin

Cơ sở dữ liệu

Computational Energy Function

Dữ liệu

Fuzzy Bi-directional Associative Clustering Network (Mạng Nơron đa khớp phục vụ cho phân cụm mờ) Fuzzy C-Means
Hàm mục tiêu Khai phá dữ liệu Khám phá tri thức Liên kết mạng
Mô hình

Nhận dạng ảnh Neural Network Phân cụm mờ Phân cụm dữ liệu
Tài liệu tham khảo

Thuật toán

Xử lý ảnh


DANH MỤC CÁC HÌNH MINH HOẠ


Quá trình Khám phá tri thức 7

Quá trình Khai phá dữ liệu . 9

Mô tả tập dữ liệu vay nợ được phân thành 3 cụm . 14

Các chiến lược phân cụm phân cấp . 20

Cấu trúc phân cấp 21

Các cách mà các cụm có thể đưa ra . 23

Các thiết lập để xác định ranh giới các cụm ban đầu . 24

Tính toán trọng tâm của các cụm mới 25

Khái quát thuật toán CURE . 27

Các cụm dữ liệu được khám phá bởi CURE 27

Hình dạng các cụm được khám phá bởi TT DBSCAN . 30

Mô phỏng về tập dữ liệu đơn chiều . 44

Hàm thuộc với trọng tâm của cụm A trong k-means . 44

Hàm thuộc với trọng tâm của cụm A trong FCM 45

Các cụm khám phá được bởi thuật toán FCM . 46

Mô hình mạng Nơron . 60

Mô hình học có giám sát 62

Mô hình FBACN 64

Mô hình Lớp Layer1 của FBACN . 65

Mô hình Lớp Layer2 của FBACN . 69

Giao diện của thuật toán FCM khi khởi động 80

Giao diện của thuật toán FCM khi làm việc 81

Giao diện của chương trình khi khởi động 83

Giao diện của chương trình khi chọn ảnh để phân cụm . 84

Giao diện của chương trình khi thực hiện phân cụm . 85