Я классифицировал набор данных 20NG с помощью k-nn с 200 экземплярами в каждой категории с разделением тестов поездов 80-20, где я нашел следующие результаты.

Здесь точность довольно низкая, но насколько высока точность, если точность настолько низкая? разве это не формулы точности TP/(TP + FP)? Если да, то высокоточный классификатор должен генерировать высокое истинное положительное значение, что приведет к высокой точности, но как K-nn генерирует высокую точность со слишком меньшей истинной положительной скоростью?
Ответ 1 · рейтинг 2 · Jose Maria Gomez Hidalgo
Отзыв эквивалентен истинному положительному показателю. Задачи классификации текста (особенно поиск информации, но также и категоризация текста) показывают компромисс между полнотой и точностью. Когда точность очень высока, отзыв имеет тенденцию быть низким, и наоборот. Это связано с тем, что вы можете настроить классификатор, чтобы классифицировать больше или меньше экземпляров как положительные. Чем меньше случаев вы классифицируете как положительные, тем выше точность и ниже отзыв.
Чтобы убедиться, что мера эффективности коррелирует с точностью, вам следует сосредоточиться на F-мере, которая усредняет полноту и точность (F-мера = 2*r*p / (r+p)).
Неленивые классификаторы следуют процессу обучения, в котором они пытаются оптимизировать точность или ошибку. K-NN, будучи ленивым, не имеет тренировочного процесса и, как следствие, не пытается оптимизировать какие-либо меры эффективности. Вы можете играть с различными значениями K, и интуитивно понятно, что чем больше K, тем выше отзыв и ниже точность, и наоборот.