Đồ Án Mạng NEURAL RBF và ứng dụng nhận dạng chữ viết tay

Mặc dù đã được nghiên cứu từ rất lâu, nhưng đến nay bài toán nội suy và xấp xỉ hàm nhiều biến vẫn còn có rất ít công cụ toán học để giải quyết. Mạng Neural nhân tạo là một phương pháp hay để giải quyết bài toán nội suy, xấp xỉ hàm nhiều biến. Năm 1987 M.J.D. Powell đã đưa ra một cách tiếp cận mới để giải quyết bài toán nội suy hàm nhiều biến sử dụng kỹ thuật hàm cơ sở bán kính (Radial Basis Function - RBF), năm 1988 D.S. Bromhead và D. Lowe đề xuất kiến trúc mạng Neural RBF và đã trở một công cụ hữu hiệu để giải quyết bài toán nội suy và xấp xỉ hàm nhiều biến(xem [11]).




Nội dung chính của khóa luận là trình bày khảo cứu về mạng Neural RBF để giải quyết bài toán nội suy, xấp xỉ hàm nhiều biến sau đó ứng dụng cơ sở lý thuyết trên để xây dựng phần mềm nhận dạng chữ số viết tay.





MỞ ĐẦU . 1


Chương 1 BÀI TOÁN NỘI SUY, XẤP XỈ HÀM SỐ VÀ MẠNG NEURAL RBF 1


1.1 PHÁT BIỂU BÀI TOÁN NỘI SUY VÀ XẤP XỈ HÀM SỐ 1


1.1.1 Bài toán nội suy 1 1.1.1.1 Nội suy hàm một biến số 1 1.1.1.2 Bài toán nội suy hàm nhiều biến 2
1.1.2 Bài toán xấp xỉ . 2


1.1.3 Các phương pháp giải quyết bài toán nội suy và xấp xỉ hàm số 2


1.2 MẠNG NEURAL NHÂN TẠO . 3


1.2.1 Giới thiệu mạng Neural nhân tạo 3 1.2.1.1 Mạng Neural sinh học 4 1.2.1.2 Mạng Neural nhân tạo . 5
1.3 MẠNG NEURAL RBF . 8


1.3.1 Giới thiệu mạng Neural RBF 8 1.3.1.1 Bài toán nội suy nhiều biến và kỹ thuật hàm cơ sở bán kính . 8 1.3.1.2 Kiến trúc mạng Neural RBF . 10 1.3.1.3 Ứng dụng của mạng Neural RBF . 10
1.4 CÁC PHƯƠNG PHÁP HUẤN LUYỆN MẠNG NEURAL RBF . 11


1.4.1 Phương pháp huấn luyện một pha . 11


1.4.2 Phương pháp huấn luyện hai pha 12


1.4.3 Phương pháp huấn luyện 2 pha HDH . 13


1.4.4 Phương pháp huấn luyện ba pha đầy đủ 16


1.5 KẾT QUẢ THỰC NGHIỆM 16


1.5.1 Kết quả . 16


1.5.2 Nhận xét . 19


Chương 2 NHẬN DẠNG CHỮ VIẾT TAY . 20


2.1 NHẬN DẠNG MẪU 20


2.1.1 Nhận dạng mẫu 20


2.1.1.1 Mẫu là gì ? 20

2.1.1.2 Nhận dạng mẫu là gì ? 20 2.1.1.3 Lịch sử của lĩnh vực nhận dạng mẫu 21 2.1.1.4 Ứng dụng của nhận dạng mẫu . 21 2.1.1.5 Các bài toán nhận dạng mẫu . 22 2.1.1.6 Các bước xử lý trong hệ thống nhận dạng mẫu . 22
2.2 BÀI TOÁN NHẬN DẠNG CHỮ VIẾT TAY . 24


2.2.1 Tình hình chung về nhận dạng chữ viết tay . 24


2.2.2 Giới thiệu bài toán nhận dạng chữ viết tay 24


2.2.3 Hướng giải quyết cho bài toán nhận dạng ký tự viết tay . 24


2.3 CÁC PHƯƠNG PHÁP TRÍCH CHỌN ĐẶC TRƯNG CHỮ VIẾT TAY . 25


2.2.1 Phương pháp trích chọn đặc trưng kết hợp biến đổi DCT và thuật toán phân tích thành phần chính PCA 25 2.2.1.1 Thuật toán PCA . 26
2.2.1.2 Phương pháp trích chọn đặc trưng kết phép biến đổi DCT và thuật


toán PCA . 27


2.2.2 Phương pháp trích đặc trưng sử dụng Momen Legendre . 28 2.2.2.1 Momen và Momen Legendre . 28 2.2.2.2 Phương pháp trích chọn đặc trưng chữ viết tay bằng Momen Legendre30
2.2.3 Phương pháp sử dụng mạng Neural nhân chập(Convolution neural


network) 32 2.2.3.1 Khái niệm cơ sở . 32 2.2.3.2 Phương pháp trích đặc trưng sử dụng mạng Neural nhân chập . 33
2.4 THỰC NGHIỆM 34


2.4.1 Kết quả . 35


2.4.2 Nhận xét . 35


Chương 3 CÁC PHƯƠNG PHÁP CẢI THIỆN HIỆU SUẤT CỦA MẠNG


NEURAL RBF 36


3.1 CÁC PHƯƠNG PHÁP CẢI THIỆU HIỆU SUẤT CỦA MẠNG NEURAL


RBF 36


3.1 CÁC PHƯƠNG PHÁP CẢI THIỆU HIỆU SUẤT CỦA MẠNG NEURAL


RBF 36

3.1.1 Tăng tập dữ liệu huấn luyện . 36


3.1.1.1 Tăng tập dữ liệu bằng các phép biến đổi hình học . 36


3.1.2 Phương pháp học tập hợp . 37


3.1.2.1 Phương pháp học tập hợp cải tiến 38


3.1.3 Phương pháp tăng tốc độ nhận dạng . 39


3.1.3.1 Phương pháp bộ nhận dạng ba lớp 40


3.2 THỰC NGHIỆM 41


Chương 4 GIỚI THIỆU CHƯƠNG TRÌNH NHẬN DẠNG CHỮ SỐ VIẾT TAY


VÀ TỔNG KẾT 42


4.1 GIỚI THIỆU CHƯƠNG TRÌNH NHẬN DẠNG CHỮ SỐ VIẾT TAY 42


4.1.1 Chương trình nhận dạng chữ viết tay 42


4.1.1.1 Giới thiệu chương trình 42


4.2 TỔNG KẾT VÀ PHƯƠNG HƯỚNG PHÁT TRIỂN CỦA ĐỀ TÀI . 43


4.2.1 Tổng kết . 43
4.2.1.1 Những công việc đã làm được 43
4.2.2.2 Hướng phát triển của đề tài . 44
TÀI LIỆU THAM KHẢO 45