Note Tool

Orange3

介紹 Orange3 基本元件。

什麼是 Orange3？

Orange3 是一款開源 (Open Source) 的資料探勘與機器學習工具。它最大的特色是視覺化的流程介面 (Visual Programming)。

使用者不需要撰寫程式碼，只需要透過拖拉、連接不同的 「元件」 (Widgets)，就可以建構出完整的資料分析、資料前處理、模型訓練與評估的流程。

核心優勢

  • 視覺化工作流： 整個分析流程一目了然，非常適合用來教學和展示。
  • 無需程式碼： 大幅降低了機器學習的入門門檻。
  • 互動式探索： 任何元件的參數一經調整（例如你調整 Random Forest 的樹木數量），下游所有元件的結果（如 Test & Score）都會即時更新，便於快速實驗。
  • 功能完整： 涵蓋了資料探勘的完整步驟，從資料讀取到複雜的模型評估都包含在內。

核心元件 (Widgets) 介紹

Orange3 的所有功能都包裝在左側的「元件庫」中。以下是我們在房價預測專案中使用到的關鍵元件：

1. Data (資料)

這是分析的起點。

  • File (檔案): 用於載入你的資料集。支援 CSV, Excel, .tab 檔案，也內建了許多經典資料集 (例如 boston.tab)。
  • Select Columns (選擇欄位): 極度重要的步驟。在這裡，我們要告訴 Orange 我們的「目標 (Target)」是什麼 (例如 MEDV 房價)，以及哪些是「特徵 (Features)」(例如 RM, LSTAT 等)。

2. Transform (轉換 / 資料前處理)

原始資料通常不能直接拿來建模，需要先「清洗」。

  • Impute (插補缺失值): 處理資料中的空白格。雖然波士頓資料集很乾淨，但真實世界的資料常用到。
  • Preprocess (前處理): 一個強大的打包元件，我們用它來做正規化 (Normalize Features)。正規化 (例如 Z-score) 可以消除不同特徵間的尺度差異 (例如 RM 房間數 39 vs. TAX 稅率 200700)，讓模型訓練更穩定。

3. Visualize (視覺化)

分析特徵與目標之間的關係。

  • Box Plot (箱型圖): 非常適合用來比較 「類別變數」 與 「數值變數」 的關係。
    • 範例： 我們用 CHAS (是否臨河) 作為分組 (Subgroups)，觀察 MEDV (房價) 的分佈，清楚地看到臨河的房價中位數更高。
  • Scatter Plot (散點圖): 用來觀察 「兩個數值變數」 之間的關係。
    • 範例： 我們設定 X 軸為 RM (房間數)、Y 軸為 MEDV (房價)，看到了明顯的「正相關」。
    • 進階： 還可以加入 顏色 (Color) (例如 LSTAT) 或 形狀 (Shape) (例如 CHAS) 來同時呈現 3~4 個維度的資訊。
  • Rank (排名): 用來回答「哪些特徵最重要？」。它會計算所有特徵與目標變數的相關性分數，是回答 Q2 的關鍵。

4. Model (模型)

我們選擇用來預測的演算法。

元件 (Widget)任務類型功能說明
Linear Regression (線性迴歸)迴歸找出 y=mx+b 的最佳直線。最基本、最快、最能解釋的迴歸模型。
Random Forest (隨機森林)兩者皆可建立一個「森林」，裡面有數百棵決策樹，並對結果進行投票/平均。功能強大且不易過擬合。
Tree (決策樹)兩者皆可建立一個樹狀的 IF-THEN 規則。容易理解，但單一棵樹非常容易過擬合。Random Forest 是它的進化版。
Gradient Boosting (梯度提升)兩者皆可建立一系列的樹，後一棵樹會專注於「修正」前一棵樹的錯誤。通常是準確率最高的模型之一。
SVM (支援向量機)兩者皆可試圖在資料點之間找到一個「最寬的邊界」。在特徵複雜時表現良好。
KNN (k-鄰近演算法)兩者皆可預測新資料時，看它「最接近的 k 個鄰居」是什麼，然後進行投票 (分類) 或平均 (迴歸)。
Neural Network (類神經網路)兩者皆可模擬人腦神經元，可建立複雜的非線性關係。是「深度學習」的基礎。
Constant (常數模型)兩者皆可最笨的基準模型。它總是預測「平均值」(迴歸) 或「最常見的類別」(分類)。用來當作效能的「地板」。
Logistic Regression (羅吉斯迴歸)分類(名稱有 Regression 但用於分類) 預測一個事件發生的「機率」(例如 0% ~ 100%)。
Naive Bayes (單純貝氏)分類基於貝氏定理，假設特徵之間彼此獨立。在「文字分類」(例如垃圾郵件) 上表現極佳。
CN2 Rule Induction (CN2 規則歸納)分類從資料中學習出一套 IF-THEN 的「分類規則」。
AdaBoost (自適應提升)兩者皆可類似 Gradient Boosting，也是一種提升法，它會給「預測錯誤」的資料點更高的權重。
Stochastic Gradient Descent (SGD)兩者皆可(進階) 一種「最佳化演算法」，當資料量非常非常大 (數百萬筆) 時，用來加速 Linear Regression 或 Neural Network 等模型的訓練。
Calibrated Learner分類(進階) 用來「校準」一個分類模型的機率輸出，讓它的機率更接近真實的機率。
PLS (偏最小平方法)迴歸(進階) 類似線性迴歸，但當你的「特徵非常多」且「特徵之間高度相關」時特別有用。
Curve Fit (曲線擬合)迴歸(進階) 讓你手動選擇一個數學函數 (如 log(x), x^2) 去擬合資料。
Scoring Sheet兩者皆可(非模型) 讓你手動輸入規則或公式來評分。
Stacking (堆疊)兩者皆可(進階) 模型的「組合技」。訓練多個不同的模型 (例如 A, B, C)，然後再訓練一個「最終模型」去學習如何組合 A, B, C 的預測結果。
Save Model / Load Model(工具)將你訓練好的模型 (例如你那 100 棵樹的 Random Forest) 存成一個檔案，以便下次直接載入使用。

5. Evaluate (評估)

用來評斷模型「好壞」的元件。

  • Test & Score (測試與評分): 評估的核心。我們把資料 (Preprocess) 和模型 (Linear Regression, Random Forest) 都連到這裡。
  • Cross-validation (交叉驗證): Test & Score 內最重要的設定。它會自動將資料分成 N 份（例如 10 份），輪流將 9 份當作訓練集、1 份當作測試集，最後算出平均分數。這能有效避免過擬合，得到一個可靠的效能指標。