Metropolis-Algorithmus

mathematischer Algorithmus
(Weitergeleitet von Metropolis-Verfahren)

Der Metropolis-Algorithmus ist ein Markov-Chain-Monte-Carlo-Verfahren (MCMC) zur Erzeugung von Zuständen eines Systems entsprechend der Boltzmann-Verteilung. Der davon abgeleitete, allgemeinere Metropolis-Hastings-Algorithmus[1] ermöglicht es, Folgen von Zufallsvariablen, genauer Markow-Ketten, zu simulieren, die eine gewünschte Verteilung als stationäre Verteilung besitzen, insbesondere in vielen Fällen, bei denen die Verteilungen der Zufallsvariablen nicht direkt simuliert werden können.

Metropolis-Algorithmus

Bearbeiten

Der Metropolis-Algorithmus wurde 1953 von Nicholas Metropolis, Marshall Rosenbluth, Edward Teller, Augusta H. Teller, Arianna W. Rosenbluth publiziert[2] (zur Geschichte siehe auch Monte-Carlo-Simulation). Er wird dazu genutzt, eine Markow-Kette und damit die Zustände eines Systems entsprechend der Boltzmann-Verteilung zu erzeugen. Dabei hängt der neue Zustand des Systems   nur vom vorherigen Zustand   ab.

Im Folgenden wird der Algorithmus für den Fall beschrieben, dass das System von einem mehrdimensionalen Ort   abhängt.   sei kontinuierlich und der aktuelle Ort nach   Iterationen wird mit   bezeichnet. Der Metropolis-Algorithmus ergibt sich dann durch Wiederholung der folgenden Schritte:

  1. Ein neuer Ort   wird ausgewählt, wobei   ein Zufallsvektor aus Komponenten zwischen −1 und +1 und r ein fest gewählter Suchradius ist, das heißt, der neue Ortsvektor wird als Zufallsvektor in einer festen Umgebung von   gewählt, wobei die verschiedenen Komponenten der räumlichen Dimensionen nicht notwendigerweise gleich sein müssen.
  2. Die Energie-Differenz   wird berechnet und die neue Konfiguration mit der Wahrscheinlichkeit   akzeptiert, wobei   für die Temperatur des Systems und   für die Boltzmann-Konstante steht.
    Dies bedeutet:
    • Ist  , die neue Position also energetisch gleichwertig oder günstiger, wird   in jedem Fall als neuer aktueller Ort akzeptiert,  .
    • Ist  , die neue Position also energetisch ungünstiger, wird   dagegen nur mit der Wahrscheinlichkeit   als neuer aktueller Ort akzeptiert, wozu man praktisch eine Zufallszahl q zwischen 0 und 1 bestimmt und anschließend mit   vergleicht: Ist q kleiner als  , wird   als neuer aktueller Ort akzeptiert,   andernfalls nicht,  .

Das oben beschriebene Verfahren lässt sich einfach auch auf andere Fälle wie beispielsweise diskrete Zustände übertragen. Für Systeme aus vielen wechselwirkenden Teilchen wird der Metropolis-Algorithmus dabei zunächst lokal für ein einzelnes Teilchen angewandt und anschließend – entweder nacheinander oder zufällig – auf alle Teilchen.

Eigenschaften

Bearbeiten

Autokorrelation

Bearbeiten

Kleine Werte für die Vorschlagsänderungen   führen dabei zu großen Akzeptanzraten, haben jedoch den Nachteil hoher Autokorrelationszeiten

 

Große Werte von   dagegen verkürzen zwar die Autokorrelationszeit, haben dafür aber nun den Nachteil einer geringeren Akzeptanzrate, so dass in der Praxis stets ein Mittelweg gesucht werden muss.

Burn-In Phase

Bearbeiten

Da die Markovkette an einem beliebigen Punkt startet, welcher eventuell sehr unwahrscheinlich ist, sind die anfänglich vorgeschlagenen Zustände aufgrund der Autokorrelation immer noch unwahrscheinlich. Erst nach einer gewissen Zahl an akzeptierten Vorschlägen erreicht das Verfahren Zustände, welche „repräsentative“ Stichproben aus der stationären Verteilung sind. Daher werden anfänglich gezogene Stichproben verbrannt, sie stammen aus der „Burn-In Phase“. Zur Diagnostik der Konvergenz von Markovketten[3], kann z. B. die Gelman-Rubin Diagnostik durchgeführt werden, bei der mehrere Markov-Ketten simuliert werden und durch Zusammenfassungsstatiken überprüft wird, ob diese Ketten zu ähnlichen Werten konvergiert sind. Während der Burn-In Phase unterscheiden sich die simulierten Markov-Ketten typischerweise deutlich in den Zusammenfassungsstatistiken.

Metropolis-Hastings-Algorithmus

Bearbeiten

W. Keith Hastings generalisierte 1970 das Verfahren.[1] Der Metropolis-Hastings-Algorithmus kann Zustände für eine beliebige Wahrscheinlichkeitsverteilung   erzeugen. Voraussetzung ist lediglich, dass die Dichte an jedem Ort   berechnet werden kann. Der Algorithmus benutzt eine Vorschlagsdichte  , die vom derzeitigen Ort   und möglichem nächsten Ort   abhängt. Beim Metropolis-Hastings-Algorithmus wird ein Vorschlag   anhand der Vorschlagsdichte zufällig erzeugt und mit der Wahrscheinlichkeit   akzeptiert.

Für eine Vorschlagsdichte, die symmetrisch ist ( ), sowie eine Boltzmann-Verteilung als Wahrscheinlichkeitsverteilung   ergibt sich hieraus der ursprüngliche Metropolis-Algorithmus.

Anwendungen

Bearbeiten

Monte-Carlo-Simulation

Bearbeiten

Bei Monte-Carlo-Simulationen werden Konfigurationen mittels des Metropolis-Algorithmus erzeugt und Mittelwerte/Erwartungswerte physikalisch relevanter Größen berechnet, beispielsweise der Erwartungswert des Drucks oder der Dichte:

 

mit

 
 

Dazu werden von den Iterationsschritten des Metropolis-Algorithmus zunächst so viele ausgeführt, bis sich das System hinreichend nah an das thermische Gleichgewicht angenähert hat, d. h. bis die Wahrscheinlichkeit der einzelnen Konfigurationen der Boltzmann-Verteilung entspricht. Befindet sich das System im thermischen Gleichgewicht, so entspricht die Wahrscheinlichkeitsverteilung   der Boltzmann-Verteilung, d. h. die Konfigurationen werden mit der Wahrscheinlichkeit   erzeugt (Importance Sampling) und es muss lediglich über jeden Messwert, bzw. Messwerte in konstantem Abstand, gemittelt werden:  .

Der Metropolis-Algorithmus erzeugt Systeme im kanonischen Zustand, d. h. mit konstanter Temperatur. Um mikrokanonische Zustände zu erzeugen, können Molekulardynamik-Algorithmen verwendet werden.

In der Originalarbeit von Nicholas Metropolis et al. wurde der Algorithmus für die Monte-Carlo-Simulation eines zweidimensionalen Harte-Scheiben-Modells verwendet. Der Algorithmus wurde später für eine Vielzahl unterschiedlichster Monte-Carlo-Simulationen in Bereichen wie z. B. bei der Thermodynamik bzw. der Statistischen Physik, Festkörperphysik, Quantenelektrodynamik oder Quantenchromodynamik eingesetzt. Dabei muss der Algorithmus gegebenenfalls angepasst werden; beispielsweise muss man die Energie durch den Hamiltonoperator oder die Wirkung ersetzen.

Der Metropolis-Algorithmus ist leicht zu implementieren, jedoch nicht immer der effizienteste Algorithmus. Alternativ können andere lokale oder nicht-lokale Verfahren Verwendung finden.

Optimierungsverfahren

Bearbeiten

Der Metropolis-Algorithmus kann auch als stochastisches Optimierungsverfahren zum Finden eines globalen Minimums einer Funktion verwendet werden. Hierzu wird mit einer hohen Temperatur begonnen, damit möglichst ein großes Gebiet der Wertelandschaft besucht wird. Anschließend wird die Temperatur langsam abgesenkt, sodass man sich mit immer höherer Wahrscheinlichkeit einem Minimum nähert. Ein solcher Metropolis-Algorithmus mit von der (Simulations-)Zeit abhängiger Temperatur heißt simulierte Abkühlung (simulated annealing). Für bestimmte Formen der simulierten Abkühlung konnte bewiesen werden, dass sie das globale Minimum einer Wertelandschaft finden.

Das Verfahren ähnelt dem Bergsteigeralgorithmus (hill climbing), akzeptiert jedoch im Gegensatz zu diesem auch Schritte weg vom nächsten Minimum, so dass das „Hängen bleiben“ in lokalen Minima vermieden wird, die noch nicht das absolute Minimum ergeben. Der Metropolis-Algorithmus überwindet so kleine Hügel, bevor weiter in Richtung Tal gegangen wird, da der Anstieg in Richtung Hügel klein ist und somit die Akzeptanzwahrscheinlichkeit relativ groß ist.

Bayessches Lernen

Bearbeiten
 
Ablauf des Metropolis-Hastings (M-H) Algorithmus für die Parameterschätzung mithilfe des Markov Chain Monte Carlo (MCMC) Ansatzes.

Zum Ziehen von Stichproben (engl. Sample) aus der Posterior-Verteilung wird folgende Akzeptanzwahrscheinlichkeit verwendet um von einem Zustand   zu einem vorgeschlagenen Zustand   überzugehen:   wobei   die Likelihood der Daten ist,   die Prior-Wahrscheinlichkeitsdichte und  die (bedingte) Vorschlagsdichte.

Literatur

Bearbeiten

Einzelnachweise

Bearbeiten
  1. a b W. K. Hastings: Monte Carlo sampling methods using Markov chains and their applications. In: Biometrika. Band 57, Nr. 1, 1. April 1970, ISSN 1464-3510, S. 97–109, doi:10.1093/biomet/57.1.97 (englisch, oup.com [abgerufen am 4. Juli 2023]).
  2. Nicholas Metropolis, Arianna W. Rosenbluth, Marshall N. Rosenbluth, Augusta H. Teller, Edward Teller: Equation of State Calculations by Fast Computing Machines. In: The Journal of Chemical Physics. Band 21, Nr. 6, 1. Juni 1953, ISSN 0021-9606, S. 1087–1092, doi:10.1063/1.1699114 (englisch).
  3. Vivekananda Roy: Convergence Diagnostics for Markov Chain Monte Carlo. In: Annual Review of Statistics and Its Application. Band 7, Nr. 1, 9. März 2020, ISSN 2326-8298, S. 387–412, doi:10.1146/annurev-statistics-031219-041300 (englisch, annualreviews.org [abgerufen am 4. Juli 2023]).