第一步，建立一个模型，描述预定的数据类或概念集。通过分析由属性描述的数据库元组来构造模型。假定每个元组属于一个预定义的类，由一个称作类标

号属性类标号属性的属性确定。对于分类，数据元组也称作样本、实例或对象。为建立模型而被分析的数据元组形成 训练数据集。训练数据集中的单个元组称作 训练样本，并随机地由样本群选取。由于提供了每个训练样本的类标号，该步也称作 有指导的学习（即，模型的学习在被告知每个训练样本属于哪个类的“指导”下进行）。它不同于 无指导的学习（或 聚类），那里每个训练样本的类标号是未知的，要学习的类集合或数量也可能事先不知道。

第二步，使用模型进行分类。首先评估模型（分类法）的预测准确率。 保持（holdout ）方法是一种使用类标号样本 测试集的简单方法。这些样本随机选取，并独立于训练样本。模型在给定测试集上的 准确率是正确被模型分类的测试样本的百分比。对于每个测试样本，将已知的类标号与该样本的学习模型类预测比较。注意，如果模型的准确率根据训练数据集评估，评估可能是乐观的，因为学习模型倾向于过分适合数据（即，它可能并入训练数据中某些异常，这些异常不出现在总体样本群中）。因此，使用测试集。