R 编程中的 K-NN 分类器

介绍

K-最近邻(K-Nearest Neighbors，简称 K-NN) 分类器是一种基于实例的学习方法，常用于分类和回归问题。它的工作原理是通过计算待分类样本与训练集中已标记样本的距离，选取最近的 K 个样本作为参考，根据这些样本的标签来决定待分类样本的类别。K-NN 算法简单直观，并且易于实现。

本文将介绍如何在 R 编程语言中使用 K-NN 分类器进行分类。

准备工作

在使用 K-NN 分类器之前，需要准备以下步骤：

1. 导入所需的 R 包。使用 library() 函数导入 class 包，该包提供了 K-NN 分类器的实现。

library(class)

2. 准备训练集和测试集。将要分类的数据集划分为训练集和测试集，一般采用 70% 的数据作为训练集，30% 的数据作为测试集。

3. 数据预处理。对数据进行清洗、特征提取、特征缩放等预处理操作，以提高分类器的性能。

4. 确定 K 值。选择适当的 K 值对分类结果有重要影响，一般可通过交叉验证等方法进行确定。

K-NN 分类器的使用步骤

1. 加载数据集。将训练集和测试集加载到 R 中，并进行必要的预处理。

# 加载训练集和测试集
train_data <- read.csv("train_data.csv")
test_data <- read.csv("test_data.csv")

# 数据预处理
...

2. 构建 K-NN 模型。使用 knn 函数构建 K-NN 分类器模型。该函数接受以下参数：

• train：训练数据集，包含特征和标签；
• test：测试数据集，只包含特征；
• cl：训练数据集的标签；
• k：选择的 K 值。

# 构建 K-NN 模型
knn_model <- knn(train = train_data[, -ncol(train_data)],
                  test = test_data,
                  cl = train_data$label,
                  k = 5)

3. 预测结果。使用训练好的 K-NN 模型对测试集进行分类预测。

# 预测结果
predictions <- as.factor(knn_model)

4. 评估性能。根据实际的标签与预测的标签比对，计算分类器的性能指标，例如准确率、召回率、F1 分数等。

# 计算分类器性能
accuracy <- sum(predictions == test_data$label) / length(test_data$label)

示例代码

# 导入必要的包
library(class)

# 加载训练集和测试集
train_data <- read.csv("train_data.csv")
test_data <- read.csv("test_data.csv")

# 数据预处理
...

# 构建 K-NN 模型
knn_model <- knn(train = train_data[, -ncol(train_data)],
                  test = test_data,
                  cl = train_data$label,
                  k = 5)

# 预测结果
predictions <- as.factor(knn_model)

# 计算分类器性能
accuracy <- sum(predictions == test_data$label) / length(test_data$label)

以上代码将加载训练集和测试集数据，并进行数据预处理。然后使用 K-NN 分类器构建模型，并进行分类预测。最后根据预测结果计算分类器的性能。

总结

通过使用 R 编程语言中的 K-NN 分类器，我们可以对数据集进行分类预测。K-NN 算法简单易懂，适用于小规模的数据集和简单的分类问题。在实际应用中，我们可以根据需要选择不同的 K 值和预处理方法，以获得更好的分类结果。