Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung

Vertrauensbereiche für den Punktschätzer einer Binomialverteilung

Ein Konfidenzintervall für die Erfolgswahrscheinlichkeit der Binomialverteilung ist ein Konfidenzintervall (Vertrauensbereich) für den unbekannten Parameter der Binomialverteilung (nach Beobachtung von Treffern in einer Stichprobe der Größe ).

Vergleich der in diesem Artikel besprochenen Methoden, Konfidenzintervalle für den Schätzer von zu bestimmen (das Konfidenzniveau ist hier gleich 0,95). Abgebildet sind (für zwei unterschiedliche Stichprobengrößen n=40 und n=400) die Zahl der Erfolge k auf der x-Achse und auf der y-Achse die Konfidenzintervalle um die (nicht dargestellte) Maximum-Likelihood Schätzung der Wahrscheinlichkeit .

Exakte Konfidenzintervalle erhält man unter Zuhilfenahme der Binomialverteilung. Es gibt aber auch Näherungsmethoden, die (meistens) auf der Approximation der Binomialverteilung durch die Normalverteilung basieren.[1]

Einführendes BeispielBearbeiten

Um den unbekannten relativen Anteil   einer politischen Partei A in der Wählerschaft zu schätzen, werden in einer Meinungsumfrage   Personen befragt, ob sie die Partei A wählen werden. Das exakte Vorgehen ist: Wir wählen 400 Mal eine zufällige Person aus der Wählerschaft aus und befragen diese. Dabei halten wir nicht fest, ob diese Person schon einmal befragt wurde. Es kann also vorkommen, wenngleich es auch bei einer großen Wählerschaft entsprechend unwahrscheinlich ist, dass dieselbe Person mehrmals befragt wird. Die Anzahl   der Befragten, die angeben, die Partei A zu wählen, ist vom Zufall abhängig und deshalb eine Zufallsvariable. Da die befragten Personen zufällig und unabhängig voneinander ausgewählt werden, ist die Zufallsvariable   binomialverteilt mit den Parametern   und dem unbekannten Parameter  . Nehmen wir an, in der Umfrage haben   Befragte angegeben, die Partei A zu wählen. Man berechnet einen Schätzwert   von   als:

 .

Man nennt dies eine Punktschätzung, weil nur ein Wert als Schätzung von   berechnet wird.

Der wahre Wert des relativen Anteils   kann sowohl kleiner als auch größer als der Punktschätzwert   sein. Mit Sicherheit gilt nur, dass   jeden Wert zwischen 0 und 1 annehmen kann. Wünschenswert wäre ein Konfidenzintervall   für  . Beim vielfachen Wiederholen des Verfahrens sollen die berechneten Konfidenzintervalle in den „meisten Fällen“ den Parameter   enthalten. Wie oft das der Fall sein soll, wird mittels der Vertrauenswahrscheinlichkeit (oder auch Konfidenzniveau)   ausgedrückt. Das berechnete Intervall   wird Konfidenzintervall (oder Vertrauensbereich) genannt. Oft wird   gleich 95 % gewählt. Das bedeutet, dass bei Wiederholung des Verfahrens für 95 % aller Stichproben die Aussage   richtig ist.

Wald-Intervall: Einfache Approximation durch die NormalverteilungBearbeiten

Gegeben sei die binomialverteilte Zahl der Erfolge  , deren Mittelwert   und Varianz   sind. Bei der Schätzung des Parameters   ersetzt man den Erwartungswert durch die Zahl der Erfolge in der Stichprobe (der Größe n):

 .

Entsprechend folgt der Standardfehler   Systematisch kann dieses Ergebnis auch durch den Standardfehlers des Maximum-Likelihood-Schätzers   erhalten werden, wobei   die Loglikelihood-Funktion ist, siehe Konstruktion des Wald-Konfidenzintervalls[2].

 
Überdeckungswahrscheinlichkeit des Standard-Intervalls für n=400.

Daraus folgt die oft verwendete folgende Näherungsformel für die Grenzen des Konfidenzintervalls   (welches auch als Standard-Intervall oder Wald-Intervall bezeichnet wird):[3]

 
 , wobei   eine Konstante ist, die vom Irrtumsniveau abhängt:

 , wobei   das Irrtumsniveau und   die Quantilfunktion der Standardnormalverteilung, also die Umkehrfunktion ihrer Verteilungsfunktion   bezeichnet (z. B.   für  ).

Wenn diese Formel verwendet wird, sollte   und   sein. Trotzdem kann die Verwendung des Standard-Intervalls problematisch sein. In der Abbildung ist als Beispiel die Überdeckungswahrscheinlichkeit für   und   illustriert. Sie liegt oft unter dem geforderten Niveau von 0,95.

Ein weiterer großer Nachteil der Approximation ist, dass das untere Ende des Konfidenzintervalls für sehr kleine Erfolgswahrscheinlichkeiten empirisch nicht mögliche negative Werte überdecken kann bzw. bei sehr hohen Erfolgswahrschinlichkeiten über 1 hinaus gehen kann.

Agresti-Coull-IntervallBearbeiten

Für dieses Intervall setzt man  ,  ,   und verwendet die (oben beschriebene) einfache Approximation mit diesen Parametern:

 

Der Mittelpunkt des Intervalls ist identisch zu dem des Wilson-Intervalls und das Intervall ist nie kürzer als ein Wilson-Intervall.[4]

Falls γ = 0,95, dann ist   und man bekommt eine einfache Regel:  ,   und  .

Wilson-IntervallBearbeiten

Dieses Intervall wurde 1927 von Edwin Bidwell Wilson vorgeschlagen und ist genauer als die einfache Approximation durch die Normalverteilung. Es gilt, mit dem gleichen   wie im Abschnitt über die Approximation durch die Normalverteilung,

 

Offenbar konvergieren die Intervallgrenzen für große   gegen die Grenzen des Standard-Intervalls (da   und   mit wachsendem   gegen Null gehen).

Durch Umformen erhält man die bei Brown/Cai/DasGupta auf Seite 107 angegebene Formel (4):

 

Die bei Henze auf Seite 228 angegebene Formel unterscheidet sich davon noch durch eine Stetigkeitskorrektur (von +0,5 oder −0,5 angewandt auf  ).

Clopper-Pearson-IntervallBearbeiten

 
Überdeckungswahrscheinlichkeit des Clopper-Pearson-Intervalls für   und  . Sie liegt für alle   über dem geforderten Konfidenzniveau.

Von C. Clopper und Egon Pearson (1934) stammt das folgende exakte Verfahren, um die untere Grenze   und die obere Grenze   zu bestimmen.[5] Es sei, wie bisher,   die Größe der Stichprobe,   die Anzahl der Erfolge und das Konfidenzniveau sei 95 %.

Die obere Grenze bestimmt man aus   und die untere Grenze aus  , siehe Abbildung. Die untere Grenze lässt sich für   mit dieser Formel nicht angeben.

Erläuterung: Wenn die Wahrscheinlichkeit, höchstens   Erfolge zu erzielen, für einen Anteilswert   die Grenze 0,025 unterschreitet, so kann bei einer Irrtumswahrscheinlichkeit von maximal 2,5 % ausgeschlossen werden, dass   der gesuchte Anteilswert ist. Somit ist po der größte Wert von  , bei dem beim gegebenen Konfidenzniveau noch angenommen werden kann, dass k oder weniger Erfolge auftreten. Für größere Werte von   erscheint dies zu unwahrscheinlich.

Für die untere Grenze gilt entsprechend:   ist der kleinste Wert von  , bei dem noch angenommen wird, dass   oder mehr Erfolge auftreten können. Für kleinere Werte von   erscheint dies zu unwahrscheinlich, wobei auch hier die Irrtumswahrscheinlichkeit maximal 2,5 % beträgt. Somit liegt man in mindestens 95 % aller Fälle mit der Aussage „  und  “ richtig.

Praktische BerechnungBearbeiten

Die beiden Werte pu, po lassen sich mit der verallgemeinerten inversen Verteilungsfunktion der Betaverteilung berechnen also beispielsweise mit der Excel-Funktion BETAINV[6] oder der mithilfe von cipy.stats.beta.ppf[7]. Die Funktion gibt das Quantil der angegebenen Betaverteilung zurück und man erhält aufgrund des Zusammenhangs der Binomial- und Betaverteilung für die Auflösung der Gleichung  :
 . Im Folgenden bezeichnen wir wie bisher das Konfidenzniveau mit  , außerdem sei  .

Im Beispiel mit   sowie Konfidenzniveau von 95 % erhält man so für die untere Grenze des Konfidenzintervalls:
P(X ≥ 20) = 0,025
P(X ≤ 19) = 0,975
 

und für die obere Grenze des Konfidenzintervalls:
 
 

Erläuterung in Worten: In der Stichprobe von 400 befragten Personen gaben 20 Personen an, Partei A zu wählen. Damit lässt sich bei 95-prozentiger Konfidenz der Stimmanteil der Partei A in der gesamten Bevölkerung mit 3,1 % – 7,6 % abschätzen.

Die Methode ist in der folgenden Tabelle zusammengefasst:

allgemeiner Fall Sonderfall
untere Grenze pu = BETAINV(α/2;k;n-k+1) pu=0 für k=0
obere Grenze po = BETAINV(1-α/2;k+1;n-k) po=1 für k=n

Analyse der ÜberdeckungswahrscheinlichkeitBearbeiten

Ist   das Konfidenzintervall zu   Erfolgen, so verlangt man laut Definition, dass für alle   die Überdeckungswahrscheinlichkeit   größer oder gleich  ; ist. Bei stetigen Verteilungen lassen sich Konfidenzintervalle finden, so dass hier Gleichheit vorliegt (also   statt  ). Dies ist für die diskrete Binomialverteilung nicht möglich. In folgender Abbildung ist die Überdeckungswahrscheinlichkeit in Abhängigkeit von   dargestellt. Das Clopper-Pearson-Intervall wird übrigens deshalb exakt genannt, weil es eine Überdeckungswahrscheinlichkeit sicherstellt, die für alle   tatsächlich größer oder gleich dem geforderten Konfidenzniveau ist. Für die anderen oben besprochenen Approximationen ist das nicht der Fall: hier gibt es oft Überdeckungswahrscheinlichkeiten, die kleiner sind als das geforderte Niveau!

Die Überdeckungswahrscheinlichkeit berechnet man in Abhängigkeit von   und   als Erwartungswert der Indikatorfunktion  , wobei der Träger der Indikatorfunktion von der Zahl der Erfolge   abhängt, die Binomialverteilt mit   sind:

 .

Die Indikatorfunktion nimmt den Wert 1 an, wenn   im Konfidenzintervall liegt, und sonst den Wert 0. Für   setzt man   und für   setzt man  .

Diskussion der Vor- und Nachteile der VerfahrenBearbeiten

Die beschriebenen Methoden werden in dem grundlegenden Artikel von Brown/Cai/DasGupta[8] verglichen. Dort wird das Standard-Intervall auch Wald-Intervall genannt (nach Abraham Wald). Brown/Cai/DasGupta empfehlen drei Intervall-Methoden: das Wilson-Intervall, das Agresti-Coull-Intervall und das Jeffreys-Intervall, welches wir hier nicht besprochen haben.[9] Für einen graphischen Vergleich der oberen und unteren Grenzen für die vier Methoden siehe auch die Abbildung am Anfang dieser Seite und die folgenden vier Abbildungen, welche eine Überdeckungswahrscheinlichkeit kleiner   rot einfärben, eine Überdeckungswahrscheinlichkeit größer gleich   in grün:

LiteraturBearbeiten

WeblinksBearbeiten

EinzelnachweiseBearbeiten

  1. Die wichtigsten Methoden werden in dem grundlegenden Artikel von Brown/Cai/DasGupta verglichen. Außer den hier angegebenen wird dort noch z. B. das Jeffreys-Intervall besprochen.
  2. Supplement: Loglikelihood and Confidence Intervals. Abgerufen am 14. Juli 2021.
  3. Siehe hierfür und auch für die Clopper-Pearson- und Wilson-Intervalle Seite 459 des Taschenbuch der Statistik von Horst Rinne.
  4. Siehe Brown/Cai/DasGupta, S. 108
  5. Siehe Krengel, Kapitel 4.7, Abschnitt Konfidenzintervalle für die Erfolgswahrscheinlichkeit
  6. BETAINV-Funktion. microsoft.com. Abgerufen am 1. August 2021.
  7. scipy.stats.beta (englisch) docs.scipy.org. Abgerufen am 1. August 2021.
  8. Lawrence D. Brown, T. Tony Cai, Anirban DasGupta: Interval Estimation for a Binomial Proportion. In: Statistical Science. Band 16, Nr. 2, 1. Mai 2001, ISSN 0883-4237, doi:10.1214/ss/1009213286.
  9. Ihr Artikel wird ergänzt durch fünf Kommentare von (1) Alan Agresti und Brent A. Coull (2) George Casella (3) Chris Corcoran und Cyrus Mehta (4) Malay Ghosh (5) Thomas J. Santner und abgeschlossen durch eine Erwiderung von Brown/Cai/DasGupta.