简介
邻近算法，或者说K最近邻(kNN，k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻，就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居来代表。
kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，kNN方法较其他方法更为适合。
本文将采用Python和numpy库实现KNN的核心算法，并使用一个简单的例子进行验证。
KNN核心算法的实现
对于KNN算法实现，首先我们计算欧式空间距离，然后根据距离排序，找到k个紧邻，找出最相近的分类。
from numpy import tile
import operator
def do_knn_classifier(in_array, data_set, labels, k):
'''''
classify the in_array according the data set and labels
'''
#计算距离适量
data_set_size = data_set.shape[0]
diff_matrix = tile(in_array, (data_set_size, 1)) - data_set
sq_diff_matrix = diff_matrix ** 2
sq_distance = sq_diff_matrix.sum(axis=1)
distances = sq_distance ** 0.5
#argsort函数返回的是数组值从小到大的索引值， 距离排序
sorted_dist_indicies = distances.argsort()
# 选择K个紧邻
class_count = {}
for i in range(k):
vote_label = labels[sorted_dist_indicies[i]]
class_count[vote_label] = class_count.get(vote_label, 0) + 1
#排序，并返回最相邻的分类
sorted_class_count = sorted(class_count.iteritems(), key=operator.itemgetter(1), reverse=True)
return sorted_class_count[0][0]
数值的归一化
多数情况下，由于选择的特征值取值范围比较大。在处理这种不同取值范围的特征值时，通常需要采用的方法就是将数值归一化，如将取值范围处理到0到1或-1到1之间。下面的公式可以将任意取值范围的特征值转化为0到1的区间内的值：
newValue = (oldValue - min) / (max - min)
其中min和max分别是数据集中的最小特征值和最大特征值。
from numpy import tile import operator def auto_normalize_data(data_set): ''''' 对数据集进行归一化操作 ''' # 参数0使函数可以从列中选取最小值，而不是当前行的最小值 min_vals = data_set.min(0) max_vals = data_set.max(0) ranges = max_vals - min_vals # 归一化处理 m = data_set.shape[0] norm_data_set = data_set - tile(min_vals, (m, 1)) norm_data_set = norm_data_set / tile(ranges, (m, 1)) return norm_data_set, ranges, min_vals
实例
以一个简单的例子来结束本文的介绍。在这里并不需要实现数据的归一化处理。
from numpy import array from knn.knn_classifier import do_knn_classifier def get_data_set(): ''''' Get data set and labels ''' group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]]) labels = ['A', 'A', 'B', 'B'] return group, labels if __name__ == '__main__': data_set, labels = get_data_set() t = do_knn_classifier(array([0.2, 0.1]), data_set, labels, 3) print t
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。
Python,KNN,邻近算法
免责声明：本站文章均来自网站采集或用户投稿，网站不提供任何软件下载或自行开发的软件！ 如有用户或公司发现本站内容信息存在侵权行为，请邮件告知！ 858582#qq.com
《魔兽世界》大逃杀！60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容，新游玩模式《强袭风暴》即将于3月21 日在亚服上线，届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕，并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时，他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中，玩家将会进入一个全新的海盗主题大逃杀式限时活动，其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场，作为一个独立于主游戏之外的活动，玩家可以用大逃杀的风格来体验《魔兽世界》，不分职业、不分装备（除了你在赛局中捡到的），光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式，玩家在加入海盗主题的预赛大厅区域前，可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹，《巨龙崛起》和《魔兽世界：巫妖王之怒 经典版》的玩家都可以获得奖励。