Hamiltonian Monte Carlo (HMC) Explained with a Worked Mathematical Example

Hamiltonian Monte Carlo (HMC): Μαθηματική Θεμελίωση και Συγκεκριμένο Παράδειγμα

Το Hamiltonian Monte Carlo (HMC) είναι μέθοδος δειγματοληψίας από κατανομές πιθανότητας, σχεδιασμένη για χώρους υψηλής διάστασης, όπου οι κλασικές μέθοδοι MCMC αποτυγχάνουν λόγω random walk συμπεριφοράς. Η μέθοδος βασίζεται σε μια ακριβή αναλογία με τη Χαμιλτονιανή μηχανική.

Η κατανομή–στόχος

Έστω ότι θέλουμε να δειγματοληπτήσουμε από την κατανομή:

$$ \pi(q) \propto \exp\!\left(-\frac{q^2}{2}\right) $$

δηλαδή από την κανονική κατανομή N(0,1). Ο αρνητικός λογάριθμος της πυκνότητας ορίζεται ως δυναμική ενέργεια:

$$ U(q) = -\log \pi(q) = \frac{q^2}{2} $$

Εισαγωγή ορμής και κινητική ενέργεια

Εισάγουμε μια τεχνητή μεταβλητή ορμής p, ανεξάρτητη από το q, με κατανομή N(0,1). Η κινητική ενέργεια ορίζεται ως:

$$ K(p) = \frac{p^2}{2} $$

Ο πλήρης Χαμιλτονιανός του συστήματος είναι:

$$ H(q,p) = U(q) + K(p) = \frac{q^2}{2} + \frac{p^2}{2} $$

Οι εξισώσεις Hamilton

Η εξέλιξη του συστήματος δίνεται από τις εξισώσεις Hamilton:

$$ \dot q = \frac{\partial H}{\partial p} = p $$

$$ \dot p = -\frac{\partial H}{\partial q} = -q $$

Οι εξισώσεις αυτές περιγράφουν έναν αρμονικό ταλαντωτή. Οι τροχιές στο επίπεδο (q,p) είναι κύκλοι και η συνολική ενέργεια διατηρείται.

Ένα πλήρες βήμα HMC

1. Ξεκινάμε από μια θέση q₀.
2. Δειγματοληπτούμε νέα ορμή p₀ ~ N(0,1).
3. Ολοκληρώνουμε τις εξισώσεις Hamilton για χρόνο T.
4. Παράγουμε νέα πρόταση q\*.
5. Την αποδεχόμαστε με κανόνα Metropolis.

Στο συγκεκριμένο παράδειγμα, επειδή η ολοκλήρωση είναι ακριβής, η πιθανότητα αποδοχής είναι 1.

Κρίσιμη διαφορά από random walk MCMC
Η κίνηση ακολουθεί καμπύλες σταθερής ενέργειας, επιτρέποντας μεγάλα, συστηματικά άλματα στον χώρο παραμέτρων χωρίς μείωση της πιθανότητας.

Γενίκευση σε υψηλές διαστάσεις

Για q ∈ ℝⁿ, η ίδια κατασκευή ισχύει, με τον HMC να εκμεταλλεύεται τη γεωμετρία της κατανομής. Αυτός είναι ο λόγος που αποτελεί τη βάση σύγχρονων Bayesian εργαλείων όπως το Stan.

Hamiltonian Monte Carlo (HMC): Mathematical Foundations with a Concrete Example

Hamiltonian Monte Carlo (HMC) is a sampling method designed for high-dimensional probability distributions, where random-walk MCMC methods become inefficient. It is grounded in Hamiltonian mechanics.

The target distribution

$$ \pi(q) \propto \exp\!\left(-\frac{q^2}{2}\right) $$

$$ U(q) = -\log \pi(q) = \frac{q^2}{2} $$

The Hamiltonian

$$ H(q,p) = \frac{q^2}{2} + \frac{p^2}{2} $$

Hamilton’s equations

$$ \dot q = p, \qquad \dot p = -q $$

These equations describe a harmonic oscillator with circular trajectories in phase space.

A single HMC step

1. Sample momentum.
2. Simulate Hamiltonian dynamics.
3. Propose a new position.
4. Accept using Metropolis.

Key idea:
HMC replaces random walks with structured, energy-preserving motion.