Luận Văn MẠNG NƠRON TRUYỀN THẲNG - Luận văn cao học

MẠNG NƠRON TRUYỀN THẲNG - Luận văn cao học


CHƯƠNG I: CÁC KHÁI NIỆM CƠ BẢN VỀ MẠNG NƠRON .​ .4
1.1. Sơ lược về mạng nơron ​ 4
1.1.1. Lịch sử phát triển ​ ​4
1.1.2. Ứng dụng ​ ​ .6
1.1.3. Căn nguyên sinh học ​ .6
1.2. Đơn vị xử lý ​ ​ 8
1.3. Hàm xử lý ​ ​ .9
1.3.1. Hàm kết hợp .​ ​ 9
1.3.2. Hàm kích hoạt (hàm chuyển) ​ .9
1.4. Các hình trạng của mạng ​ .12
1.4.1. Mạng truyền thẳng .​ ​.12
1.4.2. Mạng hồi quy .​ ​ .13
1.5. Mạng học ​ ​ 13
1.5.1. Học có thầy ​ ​ 13
1.5.2. Học không có thầy ​ 14
1.6. Hàm mục tiêu ​ ​ .14
CHƯƠNG II. MẠNG NƠRON TRUYỀN THẲNG VÀ THUẬT TOÁN LAN TRUYỀN NGƯỢC 16
2.1. Kiến trúc cơ bản ​ .1​6
2.1.1. Mạng truyền thẳng .​ ​.16
2.1.2. Mạng hồi quy .​ ​ .18
2.2. Khả năng thể hiện ​ 19
2.3. Vấn đề thiết kế cấu trúc mạng ​ .19
2.3.1. Số lớp ẩn ​ ​ 19
2.3.2. Số đơn vị trong lớp ẩn ​ .20
2.4. Thuật toán lan truyền ngược (Back-Propagation) ​ .21
2.4.1. Mô tả thuật toán ​ .2​2
2.4.2. Sử dụng thuật toán lan truyền ngược .​ .27
2.4.3. Một số biến thể của thuật toán lan truyền ngược ​ .31
2.4.4. Nhận xét ​ ​ 36
2.5. Các thuật toán tối ưu khác ​ .38
2.5.1. Thuật toán giả luyện kim (Simulated annealing) ​ .38
2.5.2. Thuật giải di truyền (Genetic Algorithm) ​ 39
CHƯƠNG III. ỨNG DỤNG MẠNG NƠRON TRUYỀN THẲNG TRONG DỰ BÁO DỮ LIỆU .41
3.1. Sơ lược về lĩnh vực dự báo dữ liệu ​ .41
3.2. Thu thập, phân tích và xử lý dữ liệu ​ 42
3.2.1. Kiểu của các biến ​ 43​
3.2.2. Thu thập dữ liệu ​ .4​4
3.2.3. Phân tích dữ liệu ​ .4​5
3.2.4. Xử lý dữ liệu ​ ​ .46
3.2.5. Tổng hợp ​ ​ .48
3.3. Chương trình dự báo dữ liệu ​ 48
3.3.1. Các bước chính trong quá trình thiết kế và xây dựng ​ 48
3.3.2. Xây dựng chương trình ​ 54
3.3.3. Chương trình dự báo dữ liệu ​ 69
3.4. Một số nhận xét .​ ​ .75
KẾT LUẬN ​ ​ 77
TÀI LIỆU THAM KHẢO ​ ​ .79