Tiểu Luận Bài toán nội suy và mạng nơron rbf

MỤC LỤC








LỜI CẢM ƠN . 3


LỜI CAM ĐOAN . 4


DANH MỤC CÁC KÝ HIỆU VÀ TỪ VIẾT TẮT 5


DANH MỤC CÁC BẢNG . 6


DANH MỤC CÁC HÌNH VẼ 7


MỤC LỤC . 9


MỞ ĐẦU . 12


CHƯƠNG 1. NỘI SUY HÀM SỐ VÀ MẠNG NƠRON 16
1.1. Nội suy hàm số 17
1.1.1. Bài toán nội suy tổng quát . 17
1.1.2. Nội suy hàm một biến . 18
1.1.3. Nội suy hàm nhiều biến . 24
1.2. Giới thiệu về mạng nơron nhân tạo 27
1.2.1. Mạng nơron sinh học . 28
1.2.2. Mạng nơron nhân tạo . 30
1.2.3. Mạng perceptron nhiều tầng MLP (Multi-Layer Perceptrons) . 37


CHƯƠNG 2. MẠNG NƠRON RBF 43
2.1. Hàm cơ sở bán kính RBF và bài toán nội suy 44
2.1.1. Bài toán nội suy nhiều biến với cách tiếp cận RBF 44
2.1.2. Kỹ thuật hàm cơ sở bán kính . 46
2.2. Kiến trúc mạng RBF 48
2.3. Huấn luyện mạng RBF 49
2.3.1. Phương pháp huấn luyện một pha . 49
2.3.2. Phương pháp huấn luyện hai pha 53
2.3.3. Phương pháp huấn luyện đầy đủ . 54
2.3.4. Nhận xét chung các thuật toán huấn luyện 57
2.4. So sánh mạng RBF với mạng MLP 57
2.5. Kết luận của chương 58





CHƯƠNG 3. THUẬT TOÁN MỚI HUẤN LUYỆN MẠNG NỘI SUY RBF . 59
3.1. Nền tảng lý thuyết của thuật toán . 59
3.1.1. Các phương pháp lặp đơn giải hệ phương trình tuyến tính 59
3.1.2. Tóm lược về mạng nội suy RBF với hàm RBF dạng Gauss . 61
3.2. Thuật toán lặp hai pha huấn luyện mạng nội suy RBF 64
3.2.1. Định lý cơ bản 64
3.2.2. Mô tả thuật toán 65
3.2.3. Đặc tính hội tụ 68
3.2.4. Độ phức tạp của thuật toán . 69
3.3. Thử nghiệm thuật toán 70
3.3.1. Tốc độ hội tụ 71
3.3.2. Tính tổng quát 73
3.4. So sánh với phương pháp Gradient 77
3.4.1. So sánh thời gian và độ chính xác của những điểm huấn luyện. . 77
3.4.2. So sánh tính tổng quát 79
3.5. Nhận xét chung về thuật toán lặp hai pha HDH . 81


CHƯƠNG 4. BÀI TOÁN NỘI SUY VỚI MỐC CÁCH ĐỀU . 84
4.1. Biểu diễn bài toán . 85
4.2. Định lý cơ sở và mô tả thuật toán . 87
4.2.1. Định lý cơ sở . 87
4.2.2. Mô tả thuật toán một pha . 88
4.3. Thực nghiệm . 89
4.3.1. So sánh thời gian huấn luyện 90
4.3.2. So sánh sai số huấn luyện 91
4.3.3. So sánh tính tổng quát . 94
4.4. Nhận xét chung về thuật toán một pha mới . 96


CHƯƠNG 5. MẠNG RBF ĐỊA PHƯƠNG . 97
5.1. Giới thiệu 97
5.2. Mạng RBF địa phương 99
5.2.1. Kiến trúc và thủ tục xây dựng mạng 99
5.2.2. Thuật toán phân cụm nhờ cây k-d. . 101
5.2.3. Độ phức tạp thuật toán huấn luyện mạng . 103





5.3. Tính xấp xỉ tổng quát của mạng nội suy RBF địa phương . 104
5.4. Bài toán động 106
5.5. Kết quả thực nghiệm 106
5.5.1. So sánh thời gian và sai số huấn luyện . 107
5.5.2 Tính tổng quát . 111
5.5.3. Huấn luyện tăng cường ở bài toán động 115
5.6. Nhận xét chung . 117


KẾT LUẬN . 118


DANH MỤC CÁC CÔNG TRÌNH CÔNG BỐ CỦA TÁC GIẢ 120


TÀI LIỆU THAM KHẢO . 121