Grenzwertsätze für Lösungen stochastischer Differenzengleichungen in Banach-Räumen mit Anwendungen

Valerij Koval^{∗}

Hochschule für Gerätebau Rusjkastraße 56 282001 Ternopil, Ukraine

Rainer Schwabe^{†}

Freie Universität Berlin 1. Mathematisches Institut Arnimallee 2–6 D-14 195 Berlin, Deutschland

Zusammenfassung In dieser Arbeit werden exakte Konvergenzraten vom Typ des Gesetzes des iterierten Logarithmus für rekursive stochastische Differenzengleichungen in Banach-Räumen untersucht. Zur Illustration werden die Resultate auf autoregressive Prozesse endlicher Ordnung angewandt.

1. Einleitung Es sei IB ein reeller, separabler Banach-Raum mit Norm ||·|| und L(IB) der Raum

der beschränkten linearen Operatoren auf IB. In IB betrachten wir die Rekursionsformel

X_{n} = A_{n}X_{n−1} + D_{n}V_{n}, n ≥ 1, (1.1)

in der X_{0}, V_{n} und A_{n}, D_{n} zufällige Elemente in IB bzw. L(IB) sind. Es wird vorausgesetzt, daß die Bedingung

lim_{n→∞} ||A_{n} − A|| = 0  fast sicher (f. s.)  (1.2)

erfüllt ist, wobei A ∈ L(IB) und der Spektralradius r von A kleiner als 1 ist, d. h.

lim_{n→∞} ||A^{n}||^{1/n} = r < 1.  (1.3)

∗Diese Arbeit entstand während eines durch den Deutschen Akademischen Austauschdienstes geförderten Aufenthaltes an der Freien Universität Berlin

†gefördert durch das Forschungsprojekt Ku719/2-1 der Deutschen Forschungsgemeinschaft

(c_{n}) sei eine nichtwachsende Folge von positiven Zahlen mit c_{n} → 0 (n → ∞). Wir interessieren uns für Bedingungen, unter denen die Eigenschaft

lim sup_{n→∞} c_{n} ∥∑_{i=1}^{n} X_{i}∥ = α  f. s.  (1.4)

gültig ist, wobei α eine zufallsunabhängige Konstante (0 < α < ∞) ist.

Analoge Probleme wurden insbesondere in den Publikationen von Chen und Guo (1988) und Bosq (1993) untersucht. In der ersten dieser beiden Arbeiten wird vorausgesetzt, daß der zugrundeleigende Banach-Raum IB der Euklidische Raum IR^{m} und die Folge (V_{n}) eine stationäre, ergodische Martingaldifferenzfolge ist. In der zweiten wurde vorausgesetzt, daß die Operatorfolge (A_{n}) konstant A und die Operatorfolge D_{n} konstant gleich dem identischen Operator I ist und daß (V_{n}) eine Folge von identisch verteilten zufälligen Elemente mit endlichem Erwartungswert E||V_{1}||^{2+δ} < ∞ für ein δ > 0 ist. Insbesondere wird in beiden Arbeiten der Fall c_{n} = (n log log n)^{−1/2} betrachtet. In den Arbeiten von Koval (1992) und Pechtl (1993) wurde ein log log-Invarianzprinzip für die Lösungen (X_{n}) der Gleichung (1.1) im Fall D_{n} ≡ I (bzw. unter der zusätzlichen Voraussetzung A_{n} ≡ A) hergeleitet. In der vorliegenden Arbeit soll eine Verallgemeinerung der bisherigen Ergebnisse geleistet werden.

Es ist hervorzuheben, daß die Untersuchung der Eigenschaft (1.4) sowohl von selbstständigem Interesse ist, als auch viele verschiedene Anwendungen hat. Einige von diesen wurden von Chen und Guo (1988) und Bosq (1993) vorgestellt. Eine weitere wichtige Anwendung der Eigenschaft (1.4) wird in der vorliegenden Arbeit aufgezeigt, die in direkter Verbindung zur Methode der schrittweisen Näherung bei stochastischen Störungen steht (siehe Polyak, 1990, Polyak und Juditsky, 1992).

2. Das Hauptergebnis und Folgerungen daraus Wir betrachten die Gleichung (1.1) und setzen im weiteren voraus, daß (c_{n}) eine

beliebige, festgehaltene, nichtwachsende Folge von positiven Zahlen ist mit c_{n} → 0 (n → ∞).

Satz 1. Die Voraussetzungen (1.2) und (1.3) seien erfüllt und es gelte

lim_{n→∞} ||D_{n} − D|| = 0 f. s.  (2.1)

mit D ∈ L(IB),

lim_{n→∞} c_{n} ∑_{i=1}^{n} c_{i}^{−1}||A_{i} − A_{i+1}|| = 0 f. s.,  (2.2)
lim_{n→∞} c_{n} ∑_{i=1}^{n} c_{i}^{−1}||D_{i} − D_{i+1}|| = 0 f. s.,  (2.3)
lim_{n→∞} c_{n}||V_{n}|| = 0 f. s.  (2.4)

Genügen die zufälligen Elemente (V_{n}) zusätzlich der Voraussetzung

sup_{n} c_{n} ∥∑_{i=1}^{n} V_{i}∥ < ∞ f. s.,  (2.5)

dann gilt

lim_{n→∞} c_{n} ∥∑_{i=1}^{n} X_{i} − (I − A)^{−1}D ∑_{i=1}^{n} V_{i}∥ = 0 f. s.  (2.6)

Bemerkung 1. Die Voraussetzung (2.5) ist immer dann erfüllt, wenn die Folge (V_{n}) einer Form des Gesetzes vom iterierten Logarithmus genügt.

Bemerkung 2. Für c_{n} = (n log log n)^{1/2} gilt die Voraussetzung (2.4), wenn zum Beispiel:

a) (V_{n}) eine Folge von identisch verteilten zufälligen Elemente mit E||V_{1}||^{2} < ∞ ist; oder

b) (V_{n}) eine Folge von zufälligen Elemente ist, mit sup_{n} E||V_{n}||^{2+δ} < ∞ für ein δ > 0.

Weiterhin, ist (V_{n}) eine Folge von unabhängigen zufälligen Elemente und c_{n} = (s_{n}^{2} log log s_{n}^{2})^{−1/2} mit s_{n} = sup_{||f||≤1} (∑_{i=1}^{n} Ef^{2}(V_{i}))^{1/2}, f ∈ IB^{∗}, dann folgt die Voraussetzung (2.4) aus der Beziehung für das Wachstum der Folge (V_{n}) im klassischen Gesetz vom iterierten Logarithmus von Kolmogorov (siehe Ledoux und Talagrand, 1991, § 8).

Bemerkung 3. Wir betrachten von den formal ähnlichen Voraussetzungen (2.2) und (2.3) exemplarisch (2.2). Ist z. B. A_{n} = A+a_{n}T, n ≥ 1, T ein zufälliges Element in L(IB), a_{n} ∈ IR und c_{n} = (n log log n)^{−1/2}, dann gilt (2.2), falls die Bedingung sup_{n} n^{ν}|a_{n} − a_{n+1}| < ∞ für ein ν > 1 erfüllt ist. Insbesondere gilt diese Bedingung für a_{n} = n^{−γ} mit γ > 0.

Bemerkung 4. Auf Grund der Voraussetzung (1.3) ist die Existenz des inversen beschränkten linearen Operators (I − A)^{−1} gesichert.

Als nächstes betrachten wir einige Folgerungen aus Satz 1.

Folgerung 1. Unter den Voraussetzungen des Satzes gilt

lim sup_{n→∞} c_{n} ∥∑_{i=1}^{n} X_{i}∥ = lim sup_{n→∞} c_{n} ∥(I − A)^{−1}D ∑_{i=1}^{n} V_{i}∥ f. s.

Folgerung 2. Sind die Voraussetzungen des Satzes erfüllt, existiert der inverse Operator D^{−1} ∈ L(IB) und ist

lim sup_{n→∞} c_{n} ∥∑_{i=1}^{n} V_{i}∥ = v f. s.

für eine endliche Konstante v erfüllt, dann gilt

\frac{v}{||D^{−1}(I − A)||} ≤ lim sup_{n→∞} c_{n} ∥∑_{i=1}^{n} X_{i}∥ ≤ ||(I − A)^{−1}D|| v f. s.  (2.7)

Folgerung 3. Sind die Voraussetzungen des Satzes erfüllt, existiert D^{−1} ∈ L(IB) und gilt

lim_{n→∞} d (c_{n} ∑_{i=1}^{n} V_{i} , K) = 0 f. s.,

wobei d (x, K) der Abstand des Punktes x von der Menge K der Limespunkte der Folge (c_{n} ∑_{i=1}^{n} V_{i}) mit Wahrscheinlichkeit 1 ist, dann ist (I − A)^{−1}DK die Menge der Limespunkte der Folge (c_{n} ∑_{i=1}^{n} X_{i}) mit Wahrscheinlichkeit 1 und es gilt

lim_{n→∞} d (c_{n} ∑_{i=1}^{n} X_{i}, (I − A)^{−1}DK) = 0 f. s.

Bemerkung 5. Die Folgerungen 2 und 3 stellen Verallgemeinerungen der entsprechenden Sätze in den Arbeiten von Chen und Guo (1988) und Bosq (1993) dar. Insbesondere folgt aus (2.6) ein log log-Invarianzprinzip für die Lösungen (X_{n}) der Gleichung (1.1) (s. Koval, 1992, und Pechtl, 1993).

Beispiel 1. Es sei IB ein reeller separabler Hilbert-Raum und (V_{n}) eine Folge von unabhängigen, identisch verteilten zufälligen Elementen in IB mit EV_{1} = 0 und Kovarianzoperator T. Dann gilt

lim sup_{n→∞} \frac{||(I − A)^{−1}D ∑_{i=1}^{n} V_{i}||}{(n log log n)^{1/2}} = (2||(I − A)^{−1}DT D^{∗}(I − A^{∗})^{−1}||)^{1/2} f. s.,

wobei A^{∗} und D^{∗} die adjungierten Operatoren zu A und D sind (siehe Ledoux und Talagrand, 1991, § 8). Sind die Voraussetzungen (1.2), (1.3) und (2.1) bis (2.3) erfüllt, dann gilt aufgrund der Folgerung 1

lim sup_{n→∞} \frac{|| ∑_{i=1}^{n} X_{i}||}{(n log log n)^{1/2}} = (2||(I − A)^{−1}DT D^{∗}(I − A^{∗})^{−1}||)^{1/2} f. s.

3. Beweise Wir beweisen zuerst den Satz 1. Dazu schreiben wir die Gleichung (1.1) in der

Form

X_{n} = AX_{n−1} + DV_{n} + (D_{n} − D)V_{n} + (A_{n} − A)X_{n−1}

um. Dann erhalten wir durch Iteration der Rekursionsformel

X_{n} = ∑_{i=1}^{n} A^{n−i}DV_{i} + A^{n−1}A_{1}X_{0} + ∑_{i=1}^{n} A^{n−i}(D_{i} − D)V_{i}
+ ∑_{i=1}^{n−1} A^{n−i−1}(A_{i+1} − A)X_{i} .

Schreiben wir nun k statt n und summieren X_{k} über k von 1 bis n und benutzen die Identität

∑_{k=1}^{n} ∑_{i=1}^{k} A^{k−i}T_{i} = (I − A)^{−1} ∑_{i=1}^{n}(I − A^{n+1−i})T_{i} .

so erhalten wir als Ergebnis

∑_{k=1}^{n} X_{k} = (I − A)^{−1} {D ∑_{i=1}^{n} V_{i} + (I − A^{n})A_{1}X_{0} − ∑_{i=1}^{n} A^{n+1−i}D_{i}V_{i}

+ ∑_{i=1}^{n}(D_{i} − D)V_{i} + ∑_{i=1}^{n−1} [A_{i} − A − A^{n−i}(A_{i+1} − A)] X_{i}} .

Nun benutzen wir die Abelsche Identität für die zwei letzten Summen und finden

∑_{k=1}^{n} X_{k} = (I − A)^{−1} {D ∑_{i=1}^{n} V_{i} + (I − A^{n})A_{1}X_{0} − ∑_{i=1}^{n} A^{n+1−i}D_{i}V_{i} + ∑_{i=1}^{n−1}(D_{i} − D_{i+1}) ∑_{j=1}^{i} V_{j} + (D_{n} − D) ∑_{j=1}^{n} V_{j} + ∑_{i=1}^{n−1} [A_{i+1} − A_{i+2} − A^{n−i}(A_{i+1} − A) + A^{n−i−1}(A_{i+2} − A)] ∑_{j=1}^{i} X_{j}} .

Wir setzen

Y_{n} = c_{n} ∑_{k=1}^{n} X_{k} und Z_{n} = c_{n} ∑_{k=1}^{n} V_{k} . (3.1)

Damit können wir die letzte Beziehung in folgender Form umschreiben

Y_{n} = (I − A)^{−1} {DZ_{n} + c_{n}(I − A^{n})A_{1}X_{0} − c_{n} ∑_{i=1}^{n} A^{n+1−i}D_{i}V_{i}
+ c_{n} ∑_{i=1}^{n−1} c_{i}^{−1}(D_{i} − D_{i+1})Z_{i} + (D_{n} − D)Z_{n}

+ c_{n} ∑_{i=1}^{n−1} c_{i}^{−1} [A_{i+1} − A_{i+2} − A^{n−i}(A_{i+1} − A) + A^{n−i−1}(A_{i+2} − A)] Y_{i}} .

Setzen wir noch

R_{n} = (I − A)^{−1} {c_{n}(I − A^{n})A_{1}X_{0} − c_{n} ∑_{i=1}^{n} c_{i}^{−1}A^{n+1−i}D_{i}(c_{i}V_{i})
+ c_{n} ∑_{i=1}^{n−1} c_{i}^{−1}(D_{i} − D_{i+1})Z_{i} + (D_{n} − D)Z_{n}} ,
G_{n,i} = (I − A)^{−1}c_{n}c_{i}^{−1} [A_{i+1} − A_{i+2} − A^{n−i}(A_{i+1} − A) + A^{n−i−1}(A_{i+2} − A)] .

dann können wir Y_{n} wie folgt schreiben:

Y_{n} = (I − A)^{−1}DZ_{n} + R_{n} + ∑_{i=1}^{n−1} G_{n,i}Y_{i} .  (3.2)

Wir werden nun zuerst zeigen, daß

lim_{n→∞} ||R_{n}|| = 0 f. s.  (3.3)

Hierzu bezeichne im weiteren M positive Konstanten, die mit Wahrscheinlichkeit 1 endlich sind und die von Formel zu Formel unterschiedliche Werte annehmen können. Aus den Bedingungen (1.3), (2.5) und der Monotonität der Folge (c_{n}) ergibt sich

||R_{n}|| ≤ M (c_{n} + ∑_{i=1}^{n} q^{n−i}c_{i}||V_{i}|| + c_{n} ∑_{i=1}^{n−1} c_{i}^{−1}||D_{i} − D_{i+1}|| + ||D_{n} − D||) , wobei q eine Konstante mit 0 < q < 1 ist. Damit folgt die Konvergenz (3.3) von ||R_{n}|| gegen 0 aus den Voraussetzungen (2.1), (2.3), (2.4), c_{n} → 0, (n → ∞) und dem Lemma von Toeplitz.

Als nächstes wollen wir zeigen, daß

lim_{n→∞} ∑_{i=1}^{n−1} ||G_{n,i}|| = 0 f. s.  (3.4)

gilt. Dazu betrachten wir die Abschätzung

∑_{i=1}^{n−1} ||G_{n,i}|| ≤ M (c_{n} ∑_{i=1}^{n−1} c_{i}^{−1}||A_{i+1} − A_{i+2}|| + ∑_{i=1}^{n} q^{n−i}||A_{i} − A||) ,

und die Konvergenz (3.4) folgt aus den Voraussetzungen (1.2) und (2.2) mit Hilfe des Lemmas von Toeplitz.

Nun gilt wegen (2.5) und (3.3)

sup_{n} ||(I − A)^{−1}DZ_{n} + R_{n}|| < ∞ f. s.

und mit Bedingung (3.4) und Lemma 2 von Walk und Zsidó (1989) ergibt sich

M = sup_{n} ||Y_{n}|| < ∞ f. s.

Daraus folgt entsprechend (3.2)

||Y_{n} − (I − A)^{−1}DZ_{n}|| ≤ ||R_{n}|| + M ∑_{i=1}^{n−1} ||G_{n,i}|| ,

woraus mit (3.3) und (3.4) die Behauptung (2.6) folgt. □

Bemerkung 6. Anhand des Beweises des Satzes sieht man, daß statt der Voraussetzung (1.2) auch die Voraussetzung ∑_{n=1}^{∞} ||A^{n}|| < ∞ von Bosq (1993) benutzt werden kann. Auch in diesem Fall ist das Lemma von Toeplitz anwendbar, und die Behauptung des Satzes bleibt gültig.

Als nächstes beweisen wir die Folgerungen:

Folgerung 1 ergibt sich unmittelbar aus Satz 1 und der Ungleichung (siehe für die Bezeichnungen (3.1))

|lim sup_{n→∞} ||Y_{n}|| − lim sup_{n→∞} ||(I − A)^{−1}DZ_{n}||| ≤ lim sup_{n→∞} ||Y_{n} − (I − A)^{−1}DZ_{n}||.

Für Folgerung 2 ergibt sich die obere Abschätzung (2.7) aus Folgerung 1. Für die untere Abschätzung (2.7) benutzen wir die Beziehung (3.2). Da der Operator D^{−1} ∈ L(IB) nach Voraussetzung existiert, gilt

D^{−1}(I − A)Y_{n} = Z_{n} + D^{−1}(I − A) (R_{n} + ∑_{i=1}^{n−1} G_{n,i}Y_{i})

und somit, mit Wahrscheinlichkeit 1,

v = lim sup_{n→∞} ||Z_{n}|| = lim sup_{n→∞} ||D^{−1}(I − A)Y_{n}|| ≤ ||D^{−1}(I − A)|| lim sup_{n→∞} ||Y_{n}|| .

Hieraus ergibt sich die untere Abschätzung (2.7).

Die Folgerung 3 wird mit Hilfe von Standard-Argumenten auf Grund der Resultate des Satzes 1 bewiesen.

4. Anwendungen auf Differenzengleichungen m-ter Ordnung in IR Wir betrachten eine Differenzengleichung

x_{n} = a_{1}x_{n−1} + a_{2}x_{n−2} + … + a_{m}x_{n−m} + v_{n}, n ≥ 1,  (4.1)

in IR mit festen, reellwertigen Koeffizienten a_{1}, ⋯ a_{m}, in der x_{0}, x_{−1},…, x_{1−m} und v_{n}, n ≥ 1, zufällige Größen sind. Die charakteristische Gleichung zu (4.1) ist

λ^{m} − (a_{1}λ^{m−1} + … + a_{m}) = 0.  (4.2)

Satz 2. Liegen die Wurzeln der charakteristischen Gleichung (4.2) im Kreis mit Radiuslänge 1 in der komplexen Ebene, genügen die Folgen (c_{n}) und (v_{n}) den Bedingungen

lim_{n→∞} \frac{c_{n}}{c_{n−i}} = 1, i = 1, 2,…, m − 1,  (4.3)
lim_{n→∞} c_{n}|v_{n}| = 0 f. s.  (4.4)

und

sup_{n} c_{n} |∑_{i=1}^{n} v_{i}| < ∞ f. s.,  (4.5)

dann gilt

lim sup_{n→∞} c_{n} |∑_{i=1}^{n} x_{i}| = \frac{1}{|1 − ∑_{k=1}^{m} a_{k}|} lim sup_{n→∞} c_{n} |∑_{i=1}^{n} v_{i}| f. s.  (4.6)

Folgerung 4. Liegen die Wurzeln der charakteristischen Gleichung (4.2) im Kreis mit Radiuslänge 1 in der komplexen Ebene und ist (v_{n}) eine Folge von unabhängigen, identisch verteilten zufälligen Größen mit Ev_{1} = 0, Ev_{1}^{2} = σ^{2} < ∞, dann gilt

lim sup_{n→∞} \frac{|∑_{i=1}^{n} x_{i}|}{(n log log n)^{1/2}} = \frac{\sqrt{2}σ}{|1 − ∑_{k=1}^{m} a_{k}|} f. s.

Bemerkung 7. Für die Lösungen der Gleichung (4.1) wurde das starke Gesetz der großen Zahlen von Gaposhkin (1988) untersucht.

Beweis von Satz 2. Wir betrachten den Raum IR^{m} mit der Supremums-Norm ||X||_{∞} = max_{1≤k≤m} |x_{k}| für X = (x_{1},…, x_{m})^{T} ∈ IR^{m} (^{T} bezeichnet die Transposition). Wir setzen

X_{n} = ( x_{n} ; x_{n−1} ; ⋮ ; x_{n−m+1} ) , V_{n} = ( v_{n} ; 0 ; ⋮ ; 0 ) und A = ( \begin{matrix}a_{1} & a_{2} & … & a_{m−1} & a_{m} \\ 1 & 0 & … & 0 & 0 \\ 0 & 1 & … & 0 & 0 \\ ⋮ & & ... & & ⋮ \\ 0 & 0 & … & 1 & 0 \end{matrix} )

und betrachten die Gleichung

X_{n} = AX_{n−1} + V_{n}, n ≥ 1,

in IR^{m}. Die Matrix A ist eine Frobenius-Matrix und ihr charakteristisches Polynom ist gegeben durch

det(λI − A) = λ^{m} − (a_{1}λ^{m−1} + … + a_{m}).  (4.7)

Auf Grund der Voraussetzungen des Satzes ist der Spektralradius der Matrix A kleiner als eins. Daher erhalten wir, wegen (4.4) und (4.5), und auf Grund der Folgerung 1,

lim sup_{n→∞} c_{n} ∥∑_{i=1}^{n} X_{i}∥ = lim sup_{n→∞} c_{n} ∥(I − A)^{−1} ∑_{i=1}^{n} V_{i}∥ f. s.  (4.8)

Im folgenden schreiben wir diese Beziehung in Koordinaten um. Wir betrachten zuerst (I − A)^{−1}. Wegen ∑_{i=1}^{n} V_{i} = (∑_{i=1}^{n} v_{i}, 0,…, 0)^{T} , ist es ausreichend, nur die erste Spalte der Matrix (I − A)^{−1} zu bestimmen. Man kann zeigen, daß diese Spalte nur die Elemente 1 enthält. Außerdem folgt mit λ = 1 aus (4.7), daß det(I − A) = 1 − ∑_{k=1}^{m} a_{k} ≠ 0 gilt. Deshalb ist

∥(I − A)^{−1} ∑_{i=1}^{n} V_{i}∥ = \frac{1}{|1 − ∑_{k=1}^{m} a_{k}|} |∑_{i=1}^{n} v_{i}| .

Damit können wir (4.8) wie folgt umschreiben:

lim sup_{n→∞} c_{n} max_{1≤k≤m} |∑_{i=2−k}^{n+1−k} x_{i}| = \frac{1}{|1 − ∑_{k=1}^{m} a_{k}|} lim sup_{n→∞} c_{n} |∑_{i=1}^{n} v_{i}| f. s.

Weiter benutzen wir die Beziehung

lim sup_{n→∞} max{p_{n}, q_{n}} = max{lim sup_{n→∞} p_{n}, lim sup_{n→∞} q_{n}},

beachten Bedingung (4.3) und erhalten die Behauptung des Satzes. □

Der Beweis der Folgerung 4 folgt aus der (4.6) mit c_{n} = (2σ^{2}n log log n)^{−1/2} und dem klassischen Gesetz vom iterierten Logarithmus von Hartman und Wintner.

Bemerkung 8. Satz 2 läßt sich in naheliegender Weise auf Differenzengleichungen m-ter Ordnung mit variierenden Koeffizienten

x_{n} = a_{1n}x_{n−1} + a_{2n}x_{n−2} + … + a_{mn}x_{n−m} + b_{n}v_{n}, n ≥ 1,

verallgemeinern.

5. Anwendungen auf die Mittelungsmethode Wir betrachten die Operatorengleichung

x = Ax + b  (5.1)

in einem separablen Banach-Raum IB mit b ∈ IB, wenn der Spektralradius von A ∈ L(IB) kleiner als 1 ist. Die Lösung θ dieser Gleichung wird mit der Methode der schrittweisen Näherung gesucht

x_{n} = Ax_{n−1} + b , n ≥ 1, x_{0} ∈ IB.

Bei zufälligen Störungen (V_{n}) (zum Beispiel: Rechenfehlern) haben wir

Y_{n} = AY_{n−1} + b + V_{n} , n ≥ 1, Y_{0} ∈ IB.  (5.2)

Dann kann das Auffinden der approximativen Lösung θ̂_{n} der Gleichung (5.1) mit Hilfe der Mittelungsmethode verwirklicht werden (Polyak, 1990, Polyak und Juditsky, 1992)

θ̂_{n} = \frac{1}{n} ∑_{i=1}^{n} Y_{i} .

Wir wollen die Geschwindigkeit von ||θ̂_{n} − θ|| → 0 (n → ∞) f. s. bei dieser Methode abschätzen. Wir setzen voraus, daß

lim sup_{n→∞} \frac{∥∑_{i=1}^{n} V_{i}∥}{(n log log n)^{1/2}} ≤ v f. s.

Wir setzen X_{n} = Y_{n} −θ. Dann ist (X_{n}) die Lösung der Gleichung X_{n} = AX_{n−1} +V_{n}, n ≥ 1. Auf Grund der Folgerung 2 erhalten wir

lim sup_{n→∞} (\frac{n}{log log n})^{1/2} ||θ̂_{n} − θ|| = lim sup_{n→∞} \frac{∥∑_{i=1}^{n} X_{i}∥}{(n log log n)^{1/2}} ≤ ||(I − A)^{−1}|| v f. s.

Das ist dieselbe Geschwindigkeit der Ordnung (n^{−1} log log n)^{1/2}, die auch die Methode von Robbins und Monro

Z_{n} = Z_{n−1} − \frac{1}{n}(F Z_{n−1} − f + V_{n}) , n ≥ 1, Z_{0} ∈ IB,

zum Auffinden der Lösung θ der Gleichung F x = f, f ∈ IB, F ∈ L(IB) mit inf{Reλ : λ ∈ spec(F)\} > \frac{1}{2}, besitzt (Walk, 1988).

Literaturverzeichnis

[1] Bosq, D. (1993): Propriétés asymptotiques des processus autoregressifs Banachiques. Applications. C. R. Akad. Sci. Sér. 1 316, 607–610.

[2] Chen, H. F. und Guo, L. (1988): Laws of iterated logarithm for state variables with applications. Acta Math. Sin. New Ser. 4, 343–355.

[3] Gaposhkin, V. F. (1988): Über das Gesetz der großen Zahlen für lineare Prozesse der Autoregression. Izv. VUZ. Matematika 4, 12–21 (auf russisch).

[4] Koval, V. A. (1992): Loglog-invariance principle for solutions of stochastic difference equation in a Banach space. In: Skorohod, A. V. (Hrsg.): Random processes and infinite-dimensional analysis. Inst. Math. Akad. Nauk Ukraine: Kiev, 57–62 (auf russisch).

[5] Ledoux, M. und Talagrand, M. (1991): Probability in Banach Spaces. Springer: New York.

[6] Pechtl, A. (1993): Arithmetic means and invariance principles in stochastic approximation. J. Theor. Probab. 6, 153–173.

[7] Polyak, B. T. (1990): New method of stochastic approximation type. Automat. Remote Control 51, 937–946.

[8] Polyak, B. T. und Juditsky, A. B. (1992): Acceleration of stochastic approximation by averaging. SIAM J. Contr. Optimiz. 30, 838–855.

[9] Walk, H. (1988): Limit behaviour of stochastic approximation processes. Statist. Decis. 6, 109–128.

[10] Walk, H. und Zsidó, L. (1989): Convergence of the Robbins-Monro method for linear problems in a Banach space. J. Math. Anal. Appl. 139, 152–177.