Πώς το Εσωτερικό Γινόμενο Συνδέεται με τη Μηχανική Μάθηση

Το εσωτερικό γινόμενο (dot product) είναι ένα από τα πιο βασικά εργαλεία στα μαθηματικά και τη Μηχανική Μάθηση, αλλά η σημασία του δεν είναι πάντα προφανής.

Τι σχέση έχει με την ομοιότητα; Και γιατί το χρησιμοποιούμε καθημερινά στα μοντέρνα αλγοριθμικά μοντέλα;

Ας δούμε τη μαθηματική και πρακτική του διάσταση.

---

1. Γεωμετρική Ερμηνεία του Dot Product

Για δύο διανύσματα $\mathbf{u}$ και $\mathbf{v}$ στο επίπεδο ή στο χώρο, το εσωτερικό γινόμενο ορίζεται ως:

$$\mathbf{u} \cdot \mathbf{v} = \|\mathbf{u}\|\|\mathbf{v}\|\cos\theta$$

όπου $\theta$ είναι η γωνία ανάμεσά τους.

• Μεγάλο και θετικό → τα διανύσματα έχουν παρόμοια κατεύθυνση → υψηλή ομοιότητα.

• Μηδενικό → τα διανύσματα είναι ορθογώνια → καμία ομοιότητα.

• Αρνητικό → δείχνουν σε αντίθετες κατευθύνσεις → αντίθεση.

Αν κανονικοποιήσουμε τα διανύσματα (μήκος = 1), τότε το εσωτερικό γινόμενο ισούται με το cosine similarity, που μετρά αποκλειστικά τη γωνιακή ομοιότητα.

---

2. Γιατί Είναι Κρίσιμο στη Μηχανική Μάθηση;

Η Μηχανική Μάθηση δουλεύει με διανύσματα χαρακτηριστικών.

Κείμενα, εικόνες, ήχοι και χρήστες σε συστήματα συστάσεων, όλα καταλήγουν να περιγράφονται με διανύσματα υψηλής διάστασης.

Το dot product χρησιμοποιείται για να μετρήσει ομοιότητα και να κάνει προβλέψεις.

Παραδείγματα:

1. Συστήματα Συστάσεων (Recommender Systems)

   • Ομοιότητα χρήστη–προϊόντος με βάση τα χαρακτηριστικά τους:

     $$\text{score} = U \cdot P$$

   Μεγάλο αποτέλεσμα → υψηλή πιθανότητα ενδιαφέροντος.

2. Νευρωνικά Δίκτυα (Neural Networks)

   • Κάθε νευρώνας υπολογίζει:

     $$z = \mathbf{w} \cdot \mathbf{x} + b$$

   Δηλαδή, ένα dot product ανάμεσα στα βάρη και τα δεδομένα εισόδου.

3. Self-Attention στους Transformers

   • Τα μοντέλα τύπου GPT υπολογίζουν τη συσχέτιση λέξεων μέσω dot products ανάμεσα σε διανύσματα Query και Key.

---

3. Από τη Γεωμετρία στην Πράξη

Αν έχουμε δύο διανύσματα χαρακτηριστικών εικόνων:

$$A = [0.6, 0.8], \quad B = [0.9, 0.4]$$

τότε:

$$A \cdot B = 0.6 \cdot 0.9 + 0.8 \cdot 0.4 = 0.86$$

Ένα θετικό και σχετικά μεγάλο dot product δείχνει ότι οι εικόνες είναι παρόμοιες.

Αν τα κανονικοποιήσουμε, το ίδιο αποτέλεσμα μας δίνει απευθείας το cosine similarity.

---

Συμπέρασμα

Το εσωτερικό γινόμενο δεν είναι απλώς ένας τύπος.

Αποτελεί το θεμέλιο της μέτρησης ομοιότητας σε υψηλές διαστάσεις και εμφανίζεται σε κάθε γωνιά της Μηχανικής Μάθησης: από συστάσεις προϊόντων και αναγνώριση προτύπων μέχρι τα πιο προηγμένα μοντέλα φυσικής γλώσσας.