Метод опорных векторов - SVM (Support Vector Machine). Проблема линейной неразделимости

Введение

Метод опорных векторов (support vector machine, SVM) является од-ним из методов интеллектуального анализа данных для решения задачи классификации. Его основная идея заключается в переводе исходных век-торов в пространство более высокой размерности c применением метода ядра для обеспечения линейной разделимости классов и в поиске разделя-ющей гиперплоскости с максимальным зазором между гиперплоскостью и опорными векторами в этом пространстве.
Несмотря на высокую точность работы, метод имеет и недостатки - отсутствие общего подхода к автоматическому выбору ядра, а также вы-сокую вычислительную сложность.
Вышеизложенное обусловило актуальность выбранной темы.
Целью данной работы является изучение метода опорных векторов SVM (Support Vector Machine, а также проблемы линейной неразделимо-сти.
В соответствии с поставленной целью необходимо решить ряд задач, таких как:
 рассмотреть метод опорных векторов SVM (Support Vector Machine);
 раскрыть проблему линейной неразделимости.
Объектом исследования является метод опорных векторов, предме-том – проблема линейной неразделимости.

1 Метод опорных векторов SVM (Support Vector Machine)

Метод опорных векторов(SVM - support vector machine) — набор схожих алгоритмов обучения с учителем, использующихся для задач клас-сификации и регрессионного анализа. Принадлежит семейству линейных классификаторов и может также рассматриваться как специальный случай регуляризации по Тихонову.
SVM используется как для линейно разделяемых данных, так и для нелинейных разделяемых данных.
Для нелинейных данных используются функции ядра.
Давайте узнаем о SVC (классификатор опорных векторов) в линей-ных разделяемых данных, который используется для задач классификации в этой статье.
Рассмотрим линейно разделяемые данные.
1. Одномерное пространство.

Предположим, у нас есть два класса, красный и зеленый, и если мы можем найти границу, которая разделяет два класса, это называется ли-нейно разделяемыми данными.

Здесь мы могли бы выделить одну точку, которая действует как гра-ница между двумя классами. Точки данных ниже конкретной точки отно-сятся к красному классу, а выше этой конкретной точки относятся к зеле-ному классу.
2. Двумерное пространство (см. рис. 1