Support Vector Machines (SVM): Το Βέλτιστο Υπερεπίπεδο

Οι Support Vector Machines (SVMs) είναι μία από τις πιο ισχυρές τεχνικές της επιβλεπόμενης μάθησης.

Στόχος τους είναι να βρουν το βέλτιστο υπερεπίπεδο που διαχωρίζει τα δεδομένα σε διαφορετικές κατηγορίες, μεγιστοποιώντας το περιθώριο μεταξύ των σημείων που βρίσκονται κοντά στα όρια.

---

Επεξήγηση της εικόνας

Στην εικόνα φαίνεται ένα απλό πρόβλημα δυαδικής ταξινόμησης με δύο χαρακτηριστικά ($x^1$, $x^2$):

• Τα γαλάζια σημεία ανήκουν στην κλάση 1.

• Τα κίτρινα σημεία ανήκουν στην κλάση 2.

• Η πράσινη γραμμή $\mathbf{w} \cdot \mathbf{x} + b = 0$ είναι το υπερεπίπεδο απόφασης.

• Οι διακεκομμένες γραμμές $\mathbf{w} \cdot \mathbf{x} + b = \pm 1$ καθορίζουν τα όρια του περιθωρίου.

• Η απόσταση μεταξύ των ορίων είναι:

  $$\frac{2}{\mathrm{\parallel }\mathbf{w}\mathrm{\parallel }}$$

  και το SVM επιλέγει το υπερεπίπεδο που μεγιστοποιεί αυτή την απόσταση.