Luận Văn nhận dạng ký tự quang sử dụng mạng nơron Kohonen

MỤC LỤCMỤC LỤC 1
CÁC HÌNH VẼ, BẢNG BIỂU TRONG LUẬN VĂN 3
THUẬT NGỮ TIẾNG ANH 3
Lời cảm ơn. 4
Chương 1. Giới thiệu về mạng nơron nhân tạo. 6
1.1 Cấu trúc và mô hình mạng nơron. 8
1.1.1 Mô hình một nơron sinh học. 8
1.1.2 Cấu trúc và mô hình của một nơron nhân tạo. 9
1.2 Cấu tạo và phương thức làm việc của mạng nơron. 12
1.2.1 Mạng nơron một lớp. 14
1.2.2 Mạng nơron truyền thẳng nhiều lớp. 15
1.2.3 Mạng nơron phản hồi 16
1.2.4 Mạng nơron hồi quy. 16
1.2.5 Mạng Hopfield. 16
1.2.6 Mạng BAM . 18
1.3 Các luật học. 19
1.3.1 Học có giám sát 20
1.3.2 Học củng cố. 21
1.3.3 Học không có giám sát 21
1.4 Thuật toán lan truyền ngược. 23
1.5 Kết luận. 29
Chương 2. Tìm hiểu mạng nơron Kohonen. 31
2.1 Giới thiệu. 31
2.2 Mạng nơron Kohonen. 32
2.2.1 Mạng nơron Kohonen nhận dạng. 34
2.2.2 Cấu trúc của mạng nơron Kohonen. 34
2.2.3 Chuẩn hóa dữ liệu đầu vào. 35
2.2.4 Tính toán dữ liệu đầu ra của nơron. 36
2.2.5 Ánh xạ lưỡng cực. 36
2.2.6 Chọn nơron thắng. 37
2.2.7 Quá trình học của mạng Kohonen. 38
2.2.8 Tỉ lệ (tốc độ) học. 39
2.2.9 Điều chỉnh các trọng số (cập nhật trọng số). 40
2.2.10 Tính toán sai số. 40
2.3. Thực thi mạng nơron Kohonen. 41
2.3.1 Thực thi mạng nơron truyền thẳng. 41
2.3.2 Thực thi lan truyền ngược. 46
2.3.3 Các tập huấn luyện. 47
2.3.4 Báo cáo tiến trình. 48
2.3.4.1 Lớp mạng cơ sở. 48
2.3.4.2 Lớp KohonenNetwork. 50
2.4 Kết luận. 58
Chương 3. Nhận dạng ký tự quang sử dụng mạng nơron Kohonen. 60
3.1 Giới thiệu chung. 60
3.2 Huấn luyện mạng. 61
3.3 Thử nghiệm sử dụng mạng nơron Kohonen để nhận dạng ký tự quang. 62
3.4 Trường hợp ngoại lệ. 65
3.5 Kết luận. 65
KẾT LUẬN 67
Tài tham khảo. 68







CÁC HÌNH VẼ, BẢNG BIỂU TRONG LUẬN VĂNHình 1.1 Một nơron sinh học. 9
Hình 1.2. Sự liên kết các nơron. 9
Hình 1.3 Mô hình một nơron nhân tạo. 10
Hình 1.4 Đồ thị các dạng hàm kích hoạt 12
Hình 1.5 Mạng nơron ba lớp. 13
Hình 1.6 Một số dạng mạng nơron. 15
Hình 1.7 Cấu trúc của mạng Hopfield. 17
Hình 1.8 Cấu trúc của BAM . 18
Hình 1.9: Cấu trúc huấn luyện mạng nơron. 20
Hình 1.10: Học có giám sát 21
Hình 1.12: Học không có giám sát 22
Hình 1.13: Sơ đồ cấu trúc chung của quá trình học. 23
Hình 1.14: Mạng 3 lớp lan truyền ngược. 24
Hình 2.1: Một dạng mạng nơron Kohonen. 36
Hình 2.2: Sơ đồ khối biểu diễn huấn luyện mạng nơron Kohonen. 40
Hình 3.1:Mô hình chung trong nhận dạng chữ viết. 62
Hình 3.2: Sơ đồ huấn luyện mạng. 62
Hình 3.4: Biểu diễn ký tự e theo ma trận 5x7 pixcel. 64
Hình 3.5: Biểu diễn ký tự e theo ma trận 5x7 bởi các giá trị 64
Hình3.6: Biểu diễn ký tự e ở vector đầu vào. 64
Hình 3.7 Vẽ và gán ký tự. 65
Hình 3.8 Kết quả mạng nơron Kohonen nhận dạng ký tự e và ký tự c. 65
Hình 3.9 Đưa chữ ký vào mạng và gán tên. 65
Hình 3.10 Kết quả mạng nơron Kohonen nhận dạng chữ ký. 66
THUẬT NGỮ TIẾNG ANH
[TABLE]
[TR]
[TD]ANN
[/TD]
[TD]Mạng nơron cần huấn luyện
[/TD]
[/TR]
[TR]
[TD]BAM
[/TD]
[TD]Mạng BAM (Bidirectional Associative Memory)
[/TD]
[/TR]
[TR]
[TD]SOM
[/TD]
[TD]Mạng nơron tự tổ chức (Self Organizing Maps)
[/TD]
[/TR]
[TR]
[TD]PE
[/TD]
[TD]Phần tử xử lý (Processing Element)
[/TD]
[/TR]
[TR]
[TD]OCR
[/TD]
[TD]Nhận dạng ký tự quang (optical character recognition)
[/TD]
[/TR]
[/TABLE]



Lời cảm ơnChúng ta đều biết rằng, bộ não con người là một sản phẩm hoàn hảo của tạo hóa, nó có khả năng tư duy và sáng tạo. Hiện nay, con người đang nghiên cứu phương thức hoạt động của bộ não, sau đó áp dụng cho những công nghệ hiện đại. Để tiếp cận khả năng học, người ta đưa ra mô hình mạng nơron gồm các nơron liên kết với nhau thành mạng phỏng theo cấu trúc mạng thần kinh của con người.
Mỗi nơron riêng lẻ có khả năng xử lý thông tin yếu, nhưng khi chúng được ghép với nhau thành mạng, thì khả năng xử lý thông tin sẽ mạnh hơn rất nhiều. Mỗi cấu trúc mạng đều có một ưu điểm đặc thù, chúng cho ta một công cụ mạnh trong các lĩnh vực kỹ thuật điều khiển và kỹ thuật thông tin. Một mạng nơron nhân tạo là tập hợp một số lớn các phần tử xử lý (các nút hay các khối), thường được tổ chức song song và được cấu hình theo kiến trúc đệ quy. Cách ứng sử trên mạng nơron nhân tạo giống như bộ não con người, nó chứng tỏ khả năng học, nhớ lại, và tổng quát hóa từ dữ liệu huấn luyện.
Mạng nơron nhân tạo là công cụ tốt trong việc giải quyết các bài toán như: hợp và phân lớp đối tượng, xấp xỉ hàm, tối ưu hóa, định lượng vector, phân cụm dữ liệu, .Nó thay thế hiệu quả các công cụ tính toán truyền thống để giải quyết các bài toán này.
Nhận dạng là một lĩnh vực đóng vai trò quan trọng trong khoa học kỹ thuật. Trong hầu hết các vấn đề kỹ thuật ngày nay, ta đều phải xác định, nhận dạng được các mô hình và đối tượng liên quan, để từ đó tìm ra giải pháp. Nhận dạng mô hình là bài toán rất quan trong trong lý thuyết hệ thống. Lý do đơn giản là vì không thể phân tích, tổng hợp hệ thống khi không có mô hình toán học mô tả hệ thống. Trong quá trình xây dựng mô hình hệ thống trên phương diện lý thuyết, người ta thường không khảo sát được mọi ảnh hưởng của môi trường đến tính động học của hệ thống, cũng như những tác động qua lại bên trong hệ thống một cách chính xác tuyệt đối. Rất nhiều yếu tố đã bị bỏ qua, hoặc chỉ được xem xét đến như là một tác động ngẫu nhiên. Bởi vậy, nếu nói một cách chặt chẽ thì những hiểu biết lý thuyết ban đầu về hệ thống, mới chỉ có thể giúp ta khoanh được lớp các mô hình thích hợp. Để có thể có được một mô hình cụ thể có chất lượng phù hợp với bài cụ thể toán đặt ra trong lớp các mô hình thích hợp đó, thì phải sử dụng phương pháp nhận dạng. Còn bài toán nhận dạng, phân tích phân cụm dữ liệu, là các bài toán rất hay gặp trong thực tế, khi chúng ta nhìn thấy một vật gì đó, thì câu hỏi thường trực của mỗi người là; vật đó có máy loại, và nó thuộc loại nào trong các loại có thể có.
Để giải quyết các bài toán nhận dạng, người ta đã đưa vào các cách tiếp cận khác nhau, mỗi phương pháp tiếp cận trong những bài toán cụ thể đều có những ưu, nhược điểm riêng. Phương pháp ứng dụng mạng nơron trong nhận dạng là một cách tiếp cận mới và hiện đại. Nó có thể là công cụ rất mạnh để giải quyết các bài toán trong lĩnh vực này.
Nội dung của đề tài đi vào tìm hiểu và xây dựng các phần tử nơron cơ bản, xem xét và nghiên cứu cấu trúc một mạng nơron, giới thiệu về mạng nơron nhiều lớp với thuật toán lan truyền ngược. Trọng tâm của đề tài đi vào tìm hiểu về mạng nơron Kohonen (hay mạng nơron tự tổ chức – SOM).
Đề tài gồm ba chương
Chương 1, trình bày cấu trúc một phần tử nơron cơ bản, các cấu trúc mạng nơron nhân tạo thường gặp, thuật toán học, phân tích ưu nhược điểm của chúng, và giới thiệu về thuật toán lan truyền ngược.
Chương 2, tìm hiểu mạng nơron Kohonen.
Chương 3, nhận dạng ký tự quang sử dụng mạng nơron Kohonen.
Cuối cùng em xin cảm ơn các thày cô giáo, đặc biệt là PGS.TSKH Bùi Công Cường đã tận tình chỉ dẫn cho em trong suốt thời gian làm đề tài. Xin cảm ơn các bạn cùng lớp đã tạo điều kiện cho tôi được học tập và nghiên cứu trong môi trường tốt.