機器學習 ~ KNN 演算法

機器學習 ~ KNN 演算法

機器學習 ~ KNN 演算法


資料來源: https://github.com/jash-git/Classical-lVIachine-Learning-Algorithms-in-Practice-by-Java


    假定某個人有20 個親密的朋友,其中有9 個人的愛好是打籃球, 6 個人的愛好是打乒乓球, 5 個人的愛好是打排球,那么就可以猜測這個人更可能喜歡打籃球。


    這個過程就是利用KNN 算法思想進行分類的過程,其標准的描述如下:假定有三類體育運動分別是籃球、乒乓球和排球,要求判斷這個用戶喜愛的運動。


    根據上述過程,要做出這個判斷,首先得找出用戶親密的朋友,而且數量是20 個,然后根據這20 個親密的朋友的愛好做出判斷。


    由此類推到KNN 算法。K-近鄰算法是一款簡單實用的分類算法,通過測量不同樣本之間的距離,然后根據距離最近的K 個鄰居來進行分類。

整個分類過程主要有三個步驟:

    第一,算距離。要判斷哪些是用戶親密的朋友,需要一個鄰近度量方法。
    第二,求近鄰。“ 20 個” 就是用戶近鄰用戶,為什么是20 個?這就是K 值的選擇問題。
    第三,做決策。用戶的愛好最終是與近鄰用戶人數最多的一個類別,這里釆用了多數表決的方法進行分類決策,可以概括為“隨大流”的思想。

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *