Cây quyết định

- Cây quyết địnhBách khoa toàn thư mở WikipediaBước tới: menu, tìm kiếmTrong lý thuyết quyết định (chẳng hạn quản lí rủi ro), một cây quyết định (tiếng Anh: decisiontree) là một đồ thị của các quyết định và các hậu quả có thể của nó (bao gồm rủi ro và hao phí tàinguyên).
- Cây quyết định được sử dụng để xây dựng một kế hoạch nhằm đạt được mục tiêu mongmuốn.
- Các cây quyết định được dùng để hỗ trợ quá trình ra quyết định.
- Cây quyết định là mộtdạng đặc biệt của cấu trúc cây.Mục lục[ẩn.
- 1 Giới thiệu chung • 2 Các kiểu cây quyết định • 3 Ví dụ thực hành • 4 Các công thức ○ 4.1 Gini impurity ○ 4.2 Entropy • 5 Ưu điểm của cây quyết định • 6 Mở rộng cây quyết định thành đồ thị quyết định • 7 Các nguồn tài nguyên khác[sửa] Giới thiệu chungTrong lĩnh vực học máy, cây quyết định là một kiểu mô hình dự báo (predictive model), nghĩalà một ánh xạ từ các quan sát về một sự vật/hiện tượng tới các kết luận về giá trị mục tiêu của sựvật/hiện tượng.
- đường nối giữa nóvới nút con của nó thể hiện một giá trị cụ thể cho biến đó.
- Mỗi nút lá đại diện cho giá trị dự đoáncủa biến mục tiêu, cho trước các giá trị của các biến được biểu diễn bởi đường đi từ nút gốc tớinút lá đó.
- Kỹ thuật học máy dùng trong cây quyết định được gọi là học bằng cây quyết định,hay chỉ gọi với cái tên ngắn gọn là cây quyết định.Học bằng cây quyết định cũng là một phương pháp thông dụng trong khai phá dữ liệu.
- Khi đó,cây quyết định mô tả một cấu trúc cây, trong đó, các lá đại diện cho các phân loại còn cành đạidiện cho các kết hợp của các thuộc tính dẫn tới phân loại đó[1].
- Một cây quyết định có thể đượchọc bằng cách chia tập hợp nguồn thành các tập con dựa theo một kiểm tra giá trị thuộc tính [1].Quá trình này được lặp lại một cách đệ qui cho mỗi tập con dẫn xuất.
- Quá trình đệ qui hoànthành khi không thể tiếp tục thực hiện việc chia tách được nữa, hay khi một phân loại đơn có thểáp dụng cho từng phần tử của tập con dẫn xuất.
- Một bộ phân loại rừng ngẫu nhiên (randomforest) sử dụng một số cây quyết định để có thể cải thiện tỉ lệ phân loại.Cây quyết định cũng là một phương tiện có tính mô tả dành cho việc tính toán các xác suất cóđiều kiện.Cây quyết định có thể được mô tả như là sự kết hợp của các kỹ thuật toán học và tính toán nhằmhỗ trợ việc mô tả, phân loại và tổng quát hóa một tập dữ liệu cho trước.Dữ liệu được cho dưới dạng các bản ghi có dạng:(x, y.
- xk, y)Biến phụ thuộc (dependant variable) y là biến mà chúng ta cần tìm hiểu, phân loại hay tổng quáthóa.
- là các biến sẽ giúp ta thực hiện công việc đó[sửa] Các kiểu cây quyết địnhCây quyết định còn có hai tên khác:Cây hồi quy (Regression tree) ước lượng các hàm giá có giá trị là số thực thay vì được sử dụngcho các nhiệm vụ phân loại.
- (ví dụ: ước tính giá một ngôi nhà hoặc khoảng thời gian một bệnhnhân nằm viện)Cây phân loại (Classification tree), nếu y là một biến phân loại như: giới tính (nam hay nữ), kếtquả của một trận đấu (thắng hay thua).[sửa] Ví dụ thực hànhTa sẽ dùng một ví dụ để giải thích về cây quyết định:David là quản lý của một câu lạc bộ đánh golf nổi tiếng.
- Để thực hiện điều đó, anh cầnhiểu được tại sao khách hàng quyết định chơi và tìm hiểu xem có cách giải thích nào cho việc đóhay không.Vậy là trong hai tuần, anh ta thu thập thông tin về:Trời (outlook) (nắng (sunny), nhiều mây (clouded) hoặc mưa (raining.
- David thu được một bộ dữ liệu gồm 14 dòngvà 5 cột.Sau đó, để giải quyết bài toán của David, người ta đã đưa ra một mô hình cây quyết định.Cây quyết định là một mô hình dữ liệu mã hóa phân bố của nhãn lớp (cũng là y) theo các thuộctính dùng để dự đoán.
- Nút gốc (nútnằm trên đỉnh) đại diện cho toàn bộ dữ liệu.
- Thuật toán cây phân loại phát hiện ra rằng cách tốtnhất để giải thích biến phụ thuộc, play (chơi), là sử dụng biến Outlook.
- Phân loại theo các giá trịcủa biến Outlook, ta có ba nhóm khác nhau: Nhóm người chơi golf khi trời nắng, nhóm chơi khitrời nhiều mây, và nhóm chơi khi trời mưa.Kết luận thứ nhất: nếu trời nhiều mây, người ta luôn luôn chơi golf.
- Ta thấy rằng khách hàng không muốnchơi golf nếu độ ẩm lên quá 70%.Cuối cùng, ta chia nhóm trời mưa thành hai và thấy rằng khách hàng sẽ không chơi golf nếu trờinhiều gió.Và đây là lời giải ngắn gọn cho bài toán mô tả bởi cây phân loại.
- Vào những hôm khác, khi nhiều người sẽ đến chơi golf, anh ta có thểthuê thêm nhân viên thời vụ để phụ giúp công việc.Kết luận là cây quyết định giúp ta biến một biểu diễn dữ liệu phức tạp thành một cấu trúc đơngiản hơn rất nhiều.[sửa] Các công thức[sửa] Gini impurityDùng trong thuật toán CART (Classification and Regression Trees).
- Giá trị của nó tiến đến cực tiểu(bằng 0) khi mọi trường hợp trong nút rơi vào một thể loại đích duy nhất.Giả sử y nhận các giá trị trong {1, 2.
- m} và gọi f(i,j) là tần xuất của giá trị j trong nút i.
- Số đo này dựa trên khái niệm entropytrong lý thuyết thông tin (information theory).[sửa] Ưu điểm của cây quyết địnhSo với các phương pháp khai phá dữ liệu khác, cây quyết định là phương pháp có một số ưuđiểm.
- Cây quyết định dễ hiểu.
- Người ta có thể hiểu mô hình cây quyết định sau khi được giải thích ngắn.
- Việc chuẩn bị dữ liệu cho một cây quyết định là cơ bản hoặc không cần thiết.
- Các kỹ thuật khác thường đòi hỏi chuẩn hóa dữ liệu, cần tạo các biến phụ (dummy variable) và loại bỏ các giá trị rỗng.
- Cây quyết định có thể xử lý cả dữ liệu có giá trị bằng số và dữ liệu có giá trị là tên thể loại.
- Các kỹ thuật khác thường chuyên để phân tích các bộ dữ liệu chỉ gồm một loại biến.
- Chẳng hạn, các luật quan hệ chỉ có thể dùng cho các biến tên, trong khi mạng nơ- ron chỉ có thể dùng cho các biến có giá trị bằng số.
- Cây quyết định là một mô hình hộp trắng.
- Nếu có thể quan sát một tình huống cho trước trong một mô hình, thì có thể dễ dàng giải thích điều kiện đó bằng logic Boolean.
- Mạng nơ-ron là một ví dụ về mô hình hộp đen, do lời giải thích cho kết quả quá phức tạp để có thể hiểu được.
- Có thể thẩm định một mô hình bằng các kiểm tra thống kê.
- Điều này làm cho ta có thể tin tưởng vào mô hình.
- Cây quyết định có thể xử lý tốt một lượng dữ liệu lớn trong thời gian ngắn.
- Có thể dùng máy tính cá nhân để phân tích các lượng dữ liệu lớn trong một thời gian đủ ngắn để cho phép các nhà chiến lược đưa ra quyết định dựa trên phân tích của cây quyết định.[sửa] Mở rộng cây quyết định thành đồ thị quyết địnhTrong cây quyết định, mọi đường đi từ nút gốc đến nút lá được tiến hành bằng các phép hội(AND).
- Trong đồ thị quyết định, có thể dùng các phép tuyển (OR) để kết nối ghép hai hay nhiềuđường lại với nhau.Phần bù của cây quyết định là phân tích hình thái học (Morphological Analysis).[sửa] Các nguồn tài nguyên khác • [1] T.
- Eruditionhome Site thư mục lớn nhất chứa các nguồn tài nguyên trong khai phá dữ liệu

Xem thử không khả dụng, vui lòng xem tại trang nguồn
hoặc xem Tóm tắt