概率論論文--隨機(jī)過程概述

1、<p><b>　　概率論課期中報告</b></p><p>　　題目： 隨機(jī)過程概述 </p><p>　　姓名： </p><p>　　班級: </p><p>　　學(xué)院: 信息與通信工程學(xué)院 &

2、lt;/p><p>　　2010年5月23日</p><p><b>　　摘要</b></p><p>　　本文通過對隨機(jī)過程及其數(shù)字特征的研究和整理，以邏輯化的方式得出隨機(jī)過程的一系列有用的性質(zhì)，并在鋪敘過程中介紹了隨機(jī)過程理論發(fā)展的歷程和實際中應(yīng)用的情況。</p><p><b>　　關(guān)鍵詞</b>

3、</p><p>　　隨機(jī)過程，概率分布，數(shù)字特征，平穩(wěn)過程，寬平穩(wěn)過程</p><p><b>　　正文</b></p><p><b>　　隨機(jī)過程概述</b></p><p>　　隨機(jī)過程(Stochastic Process)是一連串隨機(jī)事件動態(tài)關(guān)系的定量描述。隨機(jī)過程論與其他數(shù)學(xué)分支如位勢

4、論、微分方程、力學(xué)及復(fù)變函數(shù)論等有密切的聯(lián)系，是在自然科學(xué)、工程科學(xué)及社會科學(xué)各領(lǐng)域研究隨機(jī)現(xiàn)象的重要工具。隨機(jī)過程論目前已得到廣泛的應(yīng)用，在諸如天氣預(yù)報、統(tǒng)計物理、天體物理、運籌決策、經(jīng)濟(jì)數(shù)學(xué)、安全科學(xué)、人口理論、可靠性及計算機(jī)科學(xué)等很多領(lǐng)域都要經(jīng)常用到隨機(jī)過程的理論來建立數(shù)學(xué)模型。</p><p>　　一般來說，把一組隨機(jī)變量定義為隨機(jī)過程。在研究隨機(jī)過程時，人們透過表面的偶然性描述出必然的內(nèi)在規(guī)律并以概率的

5、形式來描述這些規(guī)律，從偶然中悟出必然正是這一學(xué)科的魅力所在。</p><p>　　隨機(jī)過程整個學(xué)科的理論基礎(chǔ)是由柯爾莫哥洛夫和杜布奠定的。這一學(xué)科最早源于對物理學(xué)的研究，如吉布斯、玻爾茲曼、龐加萊等人對統(tǒng)計力學(xué)的研究，及后來愛因斯坦、維納、萊維等人對布朗運動的開創(chuàng)性工作。1907年前后，馬爾可夫研究了一系列有特定相依性的隨機(jī)變量，后人稱之為馬爾可夫鏈。1923年維納給出布朗運動的數(shù)學(xué)定義，直到今日這一過程仍是重要

6、的研究課題。隨機(jī)過程一般理論的研究通常認(rèn)為開始于20世紀(jì)30年代。1931年，柯爾莫哥洛夫發(fā)表了《概率論的解析方法》，1934年A·辛飲發(fā)表了《平穩(wěn)過程的相關(guān)理論》，這兩篇著作奠定了馬爾可夫過程與平穩(wěn)過程的理論基礎(chǔ)。1953年，杜布出版了名著《隨機(jī)過程論》，系統(tǒng)且嚴(yán)格地敘述了隨機(jī)過程基本理論。</p><p><b>　　隨機(jī)過程的定義</b></p><p&g

7、t;　　隨機(jī)過程的有兩個等價的定義：</p><p>　　定義一：設(shè)E是一隨機(jī)實驗,樣本空間為Ω={ω}，參數(shù)T∈(-∞,+∞),如果對每個ω∈Ω,總有一個確定的時間函數(shù)X(ω,t)與之對應(yīng),這樣對于所有的ω∈Ω,就得到一族時間t的函數(shù),我們稱此時間t的函數(shù)族為隨機(jī)過程,而族中每一個函數(shù)稱為這個隨機(jī)過程的樣本函數(shù)。</p><p>　　定義二：設(shè)E是一隨機(jī)實驗，樣本空間為Ω={ω}，參數(shù)T

8、∈(-∞,+∞),如果對任意t∈T ，有一定義在Ω上的隨機(jī)變量X(ω,t)與之對應(yīng),則稱{X(ω,t),t∈T}為隨機(jī)過程，簡記為{X(t),t∈T}或{X(t)},也可記為X(t)。</p><p><b>　　研究方法</b></p><p>　　研究隨機(jī)過程的方法多種多樣，主要可以分為兩大類：一類是概率方法，其中用到軌道性質(zhì)、停時和隨機(jī)微分方程等；另一類是分析的

9、方法，其中用到測度論、微分方程、半群理論、函數(shù)堆和希爾伯特空間等。實際研究中常常兩種方法并用。另外組合方法和代數(shù)方法在某些特殊隨機(jī)過程的研究中也有一定作用。研究的主要內(nèi)容有：多指標(biāo)隨機(jī)過程、無窮質(zhì)點與馬爾可夫過程、概率與位勢及各種特殊過程的專題討論等。中國學(xué)者在平穩(wěn)過程、馬爾科夫過程、鞅論、極限定理、隨機(jī)微分方程等方面做出了較好的工作。</p><p>　　一個實際的隨機(jī)過程是任意一個受概率支配的過程，例子有：①

10、看做是受孟德爾遺傳學(xué)支配的群體的發(fā)展；②受分子碰撞影響的微觀質(zhì)點的布朗運動，或者是宏觀空間的星體運動；③賭場中一系列的賭博；④公路一指定點汽車的通行。 　　在每一種情形，一個隨機(jī)系統(tǒng)在演化，這就是說它的狀態(tài)隨著時間而改變，于是，在時間t的狀態(tài)具有偶然性，它是一個隨機(jī)變量x(t)，參數(shù)t的集通常是一個區(qū)間(連續(xù)參數(shù)的隨機(jī)過程)或一個整數(shù)集合(離散參數(shù)的隨機(jī)過程)。然而，有些作者只把隨機(jī)過程這個術(shù)語用于連續(xù)參數(shù)的情形。</p>

11、<p>　　如果系統(tǒng)的狀態(tài)用一個數(shù)來表示，x(t)就是數(shù)值的，在其他情形，x(t)可以是向量值或者更為復(fù)雜。在本條的討論中，通常限于數(shù)值的情形。當(dāng)狀態(tài)變化時，它的值確定一個時間的函數(shù)——樣本函數(shù)，支配過程的概率規(guī)律確定賦予樣本函數(shù)的各種可能性質(zhì)的概率。</p><p>　　數(shù)學(xué)上的隨機(jī)過程是由實際隨機(jī)過程概念引起的一種數(shù)學(xué)結(jié)構(gòu)。人們研究這種過程，是因為它是實際隨機(jī)過程的數(shù)學(xué)模型，或者是因為它的內(nèi)在數(shù)學(xué)

12、意義以及它在概率論領(lǐng)域之外的應(yīng)用。數(shù)學(xué)上的隨機(jī)過程可以簡單的定義為一組隨機(jī)變量，即指定一參數(shù)集，對于其中每一參數(shù)點t指定一個隨機(jī)變量x(t)。如果回憶起隨機(jī)變量自身就是一個函數(shù)，以ω表示隨機(jī)變量x(t)的定義域中的一點，并以x(t，ω)表示隨機(jī)變量在ω的值，則隨機(jī)過程就由剛才定義的點偶(t，ω)的函數(shù)以及概率的分配完全確定。如果固定t，這個二元函數(shù)就定義一個ω的函數(shù)，即以x(t)表示的隨機(jī)變量。如果固定ω，這個二元函數(shù)就定義一個t的函數(shù)

13、，這是過程的樣本函數(shù)。</p><p>　　一個隨機(jī)過程的概率分配通常是由指定它的隨機(jī)變量的聯(lián)合分布來給定的，這些聯(lián)合分布以及由它們誘導(dǎo)出來的概率可以解釋為樣本函數(shù)的性質(zhì)的概率。例如，如果to是一個參數(shù)值，樣本函數(shù)在to取正值的概率是隨機(jī)變量x(to)有正值的概率。在這個水平上的基本定理：任意指定的自身相容的聯(lián)合概率分布對應(yīng)一隨機(jī)過程。</p><p><b>　　分類</

14、b></p><p>　　按狀態(tài)和時間是可列集還是連續(xù)集分類：</p><p>　　連續(xù)型隨機(jī)過程:T是連續(xù)集,且t∈T,X(t)是連續(xù)型隨機(jī)變量,則稱過程{X(t),t?T}為連續(xù)型隨機(jī)過程。</p><p>　　離散型隨機(jī)過程:T是連續(xù)集，且t∈T,X(t)是離散型隨機(jī)變量，則稱過程{X(t),t∈T}為離散型隨機(jī)過程。</p><p&

15、gt;　　連續(xù)型隨機(jī)序列:T是可列集,且t∈T,X(t)是連續(xù)型隨機(jī)變量，則稱過程{X(t),t∈T}為連續(xù)型隨機(jī)序列。</p><p>　　離散型隨機(jī)序列:T是可列集, 且t∈T, X(t)為離散型隨機(jī)變量,則稱過程{X(t),t∈T}為離散型隨機(jī)序列。通常T取為T ={0,1,2…}或T ={0, ± 1，±2…},此時隨機(jī)序列常記成{Xn,n=0,1,…}或{Xn,n≥0}。</p

16、><p><b>　　按分布特性分類：</b></p><p>　　依照過程在不同時刻狀態(tài)的統(tǒng)計依賴關(guān)系分類。例如：獨立增量過程，馬爾可夫過程，平穩(wěn)過程等。</p><p><b>　　隨機(jī)過程的概率分布</b></p><p><b>　　N維分布函數(shù)</b></p>

17、<p>　　設(shè){X(t),t∈T}是隨機(jī)過程，對于任意整數(shù)n≥1及T中任意n個不同的參數(shù)t1,t2，…，tn，稱隨機(jī)向量（X(t1),X(t2),…,X(tn)）的分布函數(shù)</p><p>　　為隨機(jī)過程{X(t),t∈T}的n維分布函數(shù).</p><p>　　變化n及t1,t2，…，tn所得到的有限維分布函數(shù)的全體</p><p>　　稱為{X(t)

18、,t∈T}的有限維分布函數(shù)族。</p><p>　　當(dāng)n=1時,得到一維分布函數(shù)F(x,t)=P{X(t)≤x},</p><p>　　一維分布函數(shù)的全體{F(x,t), t∈T}稱為一維分布函數(shù)族.</p><p><b>　　隨機(jī)過程的數(shù)字特征</b></p><p>　　隨機(jī)過程的分布函數(shù)族能完整地刻畫隨機(jī)過程的統(tǒng)

19、計特征，但是在人們的生活中，根據(jù)觀察往往只能得到隨機(jī)過程的部分資料，用它來確定有限維分布函數(shù)是困難的甚至不可能的，因而像引入隨機(jī)變量的數(shù)字特征那樣，有必要引入隨機(jī)過程的基本數(shù)字特征。</p><p>　　隨機(jī)過程的數(shù)字特征包括均值函數(shù)、均方值函數(shù)、方差函數(shù)、協(xié)方差函數(shù)、自相關(guān)函數(shù)。</p><p>　　從理論角度來看，僅僅研究均值函數(shù)和自相關(guān)函數(shù)當(dāng)然是代替不了對整個隨機(jī)過程的研究，但是由于

20、它們確實刻畫了隨機(jī)過程的主要統(tǒng)計特性，而且遠(yuǎn)較有限維分布函數(shù)族易于觀察和實際計算，因而對于應(yīng)用課題而言，它們常常能夠起重要作用。</p><p><b>　　二維隨機(jī)過程</b></p><p><b>　　定義</b></p><p>　　X(t)、Y(t)為定義在同一樣本空間Ω和同一參數(shù)集T上的隨機(jī)過程，對于任意t∈T

21、，若(X(t),Y(t))是二維隨機(jī)變量，則稱{(X(t),Y(t)),t∈T}為二維隨機(jī)過程。</p><p>　　有限維分布函數(shù)和獨立性</p><p>　　{(X(t),Y(t)),t∈T}為二維隨機(jī)過程,對于任意的正整數(shù)n和m，以及任意的t1,t2,…,tn；t1, t2,…,tm∈T ，稱n+m元函數(shù).</p><p>　　F(x1,x2,…,xn；y1,

22、y2,…,ym；t1,t2,…,tn；t1,t2,…,tm) =P{X(t1)x1,…, X(tn) xn；Y(t1) y1,…,Y(tm) ym}</p><p>　　為{(X(t),Y(t)),t∈T}的n+m維分布函數(shù)，類似的可定義有限維分布函數(shù)族.</p><p><b>　　平穩(wěn)過程</b></p><p><b>

23、;　　概述</b></p><p>　　統(tǒng)計特性不隨時間的推移而變化的隨機(jī)過程。例如，一臺穩(wěn)定工作的紡紗機(jī)紡出的紗的直徑大小，受各種隨機(jī)因素影響，在某一標(biāo)準(zhǔn)值周圍波動，在任意若干時刻處，直徑之間的統(tǒng)計依賴關(guān)系，僅與這些時刻之間的相對位置有關(guān)，而與其絕對位置無關(guān)，因而直徑的變化過程可以看作一個平穩(wěn)過程。具有近似于這種性質(zhì)的隨機(jī)過程，在實際中是大量存在的。</p><p>　　在數(shù)

24、學(xué)中，平穩(wěn)過程（Stationary random process）或者嚴(yán)格平穩(wěn)過程（Strictly-sense stationary,SSS）是在固定時間和位置的概率分布與所有時間和位置的概率分布相同的隨機(jī)過程。這樣，數(shù)學(xué)期望和方差這些參數(shù)也不隨時間和位置變化。</p><p>　　例如，白噪聲（AWGN）就是平穩(wěn)過程，鐃鈸的敲擊聲是非平穩(wěn)的。盡管鐃鈸的敲擊聲基本上是白噪聲，但是這個噪聲隨著時間變化：在敲擊前

25、是安靜的，在敲擊后聲音逐漸減弱。</p><p>　　在時間序列分析中穩(wěn)態(tài)作為一個工具使用，在這里原始數(shù)據(jù)經(jīng)常轉(zhuǎn)換為平穩(wěn)態(tài)，例如經(jīng)濟(jì)學(xué)數(shù)據(jù)經(jīng)常隨著季節(jié)或者價格水平變化。如果這些過程是平穩(wěn)過程與一個或者多個呈現(xiàn)一定趨勢的過程的線性組合，那么這些過程就可以表述為趨勢平穩(wěn)。將這些數(shù)據(jù)進(jìn)行轉(zhuǎn)換保留平穩(wěn)數(shù)據(jù)用于分析的過程稱為解趨勢（de-trending）。</p><p>　　采樣空間也是離散的離

26、散時間平穩(wěn)過程稱為Bernoulli scheme，離散采樣空間中每個隨機(jī)變量可能取得 N'個可能值中的任意一個。當(dāng) N = 2 的時候，這個過程叫做伯努利過程。</p><p><b>　　理論發(fā)展</b></p><p>　　平穩(wěn)過程的基本理論是在20世紀(jì)30～40年代建立和發(fā)展起來的，并已相當(dāng)完善。其后的研究主要是向某些特殊類型以及多維平穩(wěn)過程、平穩(wěn)廣義

27、過程和齊次隨機(jī)場等方面發(fā)展。平穩(wěn)過程理論在無線電技術(shù)和自動控制等領(lǐng)域有著廣泛的應(yīng)用，并且是諸如時間序列分析、信號分析、濾波、預(yù)測理論以及控制理論等應(yīng)用學(xué)科的重要工具。</p><p><b>　　寬平穩(wěn)過程的譜分解</b></p><p>　　將傅里葉分析方法應(yīng)用于寬平穩(wěn)過程，可以把過程表成有不相關(guān)隨機(jī)振幅的簡諧振動的疊加，這就產(chǎn)生了過程按頻率的譜分解，它是寬平穩(wěn)過程

28、理論的一個基本結(jié)果。</p><p>　　寬平穩(wěn)過程的協(xié)方差函數(shù)是非負(fù)定的，即對任意t1,t2,…tn∈T,任意復(fù)數(shù)z1,z2,…zn,都有。根據(jù)這一性質(zhì),對于離散指標(biāo)，Г(t)和過程本身分別有如下的譜分解式。</p><p>　　對于連續(xù)指標(biāo)，如果還假設(shè)過程為均方連續(xù)的，即對任意（它的一個等價條件是Г(t)為連續(xù)函數(shù)），則有譜分解式。上面的F(λ)是區(qū)間【-，】或(-∞,∞)上的有界非降

29、函數(shù),并可取為右連續(xù)的，稱為過程X的譜分布函數(shù)。</p><p>　　對η的積分是隨機(jī)積分中一種常見的對正交增量過程的積分。如果 F(λ)絕對連續(xù)，則稱它的導(dǎo)函數(shù)?(λ)＝F┡(λ)為過程X的譜密度(或功率譜密度)。最重要的特例是有理譜密度，具有有理譜密度的平穩(wěn)過程可以看成白噪聲（即具有常值譜密度的平穩(wěn)過程）輸入一個有限階非時變線性系統(tǒng)所得的輸出。這一特性使得它們在實際應(yīng)用中占有重要的地位。</p>

30、<p>　　從平穩(wěn)過程的譜分解可以推出一些重要的結(jié)論。例如均方大數(shù)律。</p><p><b>　　參考文獻(xiàn)</b></p><p>　　[1]林元烈.應(yīng)用隨機(jī)過程[M],北京：清華大學(xué)出版社，2002</p><p>　　[2]朱春浩.簡明概率論學(xué)術(shù)史綱要[D],湖北武漢：武漢船舶職業(yè)技術(shù)學(xué)院公共課部，2010</p>