Đồ Án Tìm hiểu và mô phỏng mạng NƠRON

MỞ ĐẦU
Nhờ các khả năng: Học, nhớ lại và khái quát hoá từ các mẫu huấn luyện hoặc dữ liệu, mạng nơron nhân tạo trở thành một phát minh mới đầy hứa hẹn của hệ thống xử lý thông tin. Các tính toán nơron cho phép giải quyết tốt những bài toán đặc trưng bởi một số hoặc tất cả các tính chất sau: Sử dụng không gian nhiều chiều, các tương tác phức tạp, chưa biết hoặc không thể theo dõi về mặt toán học giữa các biến. Ngoài ra phương pháp này còn cho phép tìm ra nghiệm của những bài toán đòi hỏi đầu vào là các cảm nhận của con người như: tiếng nói, nhìn và nhận dạng .
Cùng với sự phát triển của mô hình kho dữ liệu (Dataware house), ở Việt nam ngày càng có nhiều kho dữ liệu với lượng dữ liệu rất lớn. Để khai thác có hiệu quả những dữ liệu khổng lồ này, đã có nhiều công cụ được xây dựng để thỏa mãn nhu cầu khai thác dữ liệu mức cao. Việc xây dựng các hệ chuyên gia, các hệ thống dựa trên một cơ sở tri thức của các chuyên gia, để có thể dự báo được khuynh hướng phát triển của dữ liệu, thực hiện các phân tích trên các dữ liệu của tổ chức. Mặc dù các công cụ, các hệ thống trên hoàn toàn có thể thực hiện được phần lớn các công việc nêu trên, chúng vẫn yêu cầu một độ chính xác, đầy đủ nhất định về mặt dữ liệu để có thể đưa ra được các câu trả lời chính xác.
Mạng Nơron có thể được huấn luyện và ánh xạ từ các dữ liệu vào tới các dữ liệu ra mà không yêu cầu các dữ liệu đó phải đầy đủ. Các mạng nơron có khả năng biểu diễn các ánh xạ phi tuyến giữa đầu vào và đầu ra, chúng được coi như là các “bộ xấp xỉ đa năng”. Đặc biệt đối với việc dự báo khuynh hướng thay đổi của các dữ liệu tác nghiệp trong các cơ quan, tổ chức kinh tế, xã hội, .
Mặc dù đã hết sức nỗ lực, song do thời gian và kinh nghiệm nghiên cứu khoa học còn hạn chế nên không thể tránh khỏi những thiếu sót. Em rất mong nhận được sự góp ý của các thầy cô và bạn bè đồng nghiệp để hiểu biết của mình ngày một hoàn thiện hơn.



Qua đề tài này em xin chân thành cảm ơn: Ths. Nguyễn Thị Tuyển bộ môn KHMT đã tận tình giúp đỡ, động viên, định hướng, hướng dẫn em nghiên cứu và hoàn thành đề tài này. Em xin cảm ơn các thầy cô giáo trong bộ môn KHMT, các thầy cô giáo khoa Công nghệ thông tin ĐH Thái Nguyên, đã giảng dạy và giúp đỡ em, cảm ơn sự giúp đỡ nhiệt tình của các bạn sinh viên trong lớp KHMT.

Thái Nguyên, tháng 3 năm 2011
Sinh viên thực hiện
Lê Ngọc Thắng



Mục Lục

MỞ ĐẦU 4
CHƯƠNG I : TỔNG QUAN MẠNG NƠRON NHÂN TẠO 6
1.1. Giới thiệu mạng Nơron. 6
1.1.1. Lịch sử phát triển của mạng nơron. 6
1.1.2. Nơron sinh học. 7
1.1.3. Nơron nhân tạo. 8
1.1.4. Các thành phần của một nơron nhân tạo. 9
1.2. Đơn vị xử lý. 11
1.3. Hàm xử lý 12
1.3.1. Hàm kết hợp 12
1.3.2. Hàm kích hoạt (hàm chuyển) 13
1.4. Các kiến trúc mạng. 16
1.4.1. Mạng Một Tầng. 16
1.4.2. Mạng Đa Tầng 18
1.5. Các hình trạng của mạng. 20
1.5.1. Mạng truyền thẳng. 20
1.5.2. Mạng hồi quy. 22
1.6. Tiếp cận Nơron cho tính toán. 23
1.6.1. Luật học. 23
1.6.2 Tốc độ học. 25
1.6.3 Các luật học. 26
1.7. Phạm vi ứng dụng của mạng nơron. 28
1.7.1. Những bài toán thích hợp. 28
1.7.2. Phân loại. 28
1.7.3. Mô hình hoá. 29
1.7.4. Liên kết. 30
1.8. Các lĩnh vực ứng dụng của mạng nơron. 30
1.9. Ưu nhược điểm của mạng nơron. 31
1.10. Nhận xét 32
CHƯƠNG II. MẠNG TRUYỀN THẲNG NHIỀU LỚP 33
2.1 Khái niệm 33
2.2. Khả năng thể hiện. 34
2.3. Vấn đề thiết kế cấu trúc mạng. 35
2.3.1. Số lớp ẩn. 35
2.3.2. Số đơn vị trong lớp ẩn. 36
2.4. Thuật toán lan truyền ngược (Back-Propagation) 37
2.4.1. Mô tả thuật toán 37
2.4.2. Sự hội tụ. 41
2.4.3. Sự tổng quát hóa 42
2.4.4. Nhận xét 43
CHƯƠNG III : MÔ PHỎNG MẠNG NƠRON 46
Giới Thiệu. 46
3.1. Chuẩn bị dữ liệu. 46
3.2. Load dữ liệu. 49
3.3. Đào tạo mạng. 50
3.3.1. Chia dữ liệu 50
3.3.2. Chọn dữ liệu học và các tham số 51
3.3.3. Đào tạo mạng (training). 52
3.3.4 Kiểm tra đồ thị lỗi. 54
3.3.5. Kiểm tra đồ thị trọng số và đầu vào trung bình của một nơ ron 56
3.3.6. Xem đồ thị dữ liệu và đồ thị đầu ra của mạng 57
3.4. Kết luận 60
3.5. Một số nhận xét 60
KẾT LUẬN 62
TÀI LIỆU THAM KHẢO 63