• 數據分析方法有哪些

    時間:2024-08-18 17:22:47 賽賽 科普知識 我要投稿

    常用數據分析方法有哪些

      對于每個科研工作者而言,對實驗數據進行處理是在開始論文寫作之前十分常見的工作之一。但是,常見的數據分析方法有哪些呢?下面,小編為大家分享常用數據分析方法有哪些,希望對大家有所幫助!

      列聯表分析

      用于分析離散變量或定型變量之間是否存在相關。

      對于二維表,可進行卡方檢驗,對于三維表,可作Mentel-Hanszel分層分析。

      列聯表分析還包括配對計數資料的卡方檢驗、行列均為順序變量的相關檢驗。

      相關分析

      研究現象之間是否存在某種依存關系,對具體有依存關系的現象探討相關方向及相關程度。

      1、單相關: 兩個因素之間的相關關系叫單相關,即研究時只涉及一個自變量和一個因變量;

      2、復相關 :三個或三個以上因素的相關關系叫復相關,即研究時涉及兩個或兩個以上的自變量和因變量相關;

      3、偏相關:在某一現象與多種現象相關的場合,當假定其他變量不變時,其中兩個變量之間的相關關系稱為偏相關。

      方差分析

      使用條件:各樣本須是相互獨立的隨機樣本;各樣本來自正態分布總體;各總體方差相等。

      分類

      1、單因素方差分析:一項試驗只有一個影響因素,或者存在多個影響因素時,只分析一個因素與響應變量的關系

      2、多因素有交互方差分析:一頊實驗有多個影響因素,分析多個影響因素與響應變量的關系,同時考慮多個影響因素之間的關系

      3、多因素無交互方差分析:分析多個影響因素與響應變量的關系,但是影響因素之間沒有影響關系或忽略影響關系

      4、協方差分祈:傳統的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機因素,使之影響了分祈結果的準確度。協方差分析主要是在排除了協變量的影響后再對修正后的主效應進行方差分析,是將線性回歸與方差分析結合起來的一種分析方法。

      描述統計

      描述性統計是指運用制表和分類,圖形以及計筠概括性數據來描述數據的集中趨勢、離散趨勢、偏度、峰度。

      1、缺失值填充:常用方法:剔除法、均值法、最小鄰居法、比率回歸法、決策樹法。

      2、正態性檢驗:很多統計方法都要求數值服從或近似服從正態分布,所以之前需要進行正態性檢驗。常用方法:非參數檢驗的K-量檢驗、P-P圖、Q-Q圖、W檢驗、動差法。

      假設檢驗

      1、參數檢驗

      參數檢驗是在已知總體分布的條件下(一股要求總體服從正態分布)對一些主要的參數(如均值、百分數、方差、相關系數等)進行的檢驗 。

      1)U驗 使用條件:當樣本含量n較大時,樣本值符合正態分布

      2)T檢驗 使用條件:當樣本含量n較小時,樣本值符合正態分布

      A單樣本t檢驗:推斷該樣本來自的總體均數μ與已知的某一總體均數μ0 (常為理論值或標準值)有無差別;

      B 配對樣本t檢驗:當總體均數未知時,且兩個樣本可以配對,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似;

      C 兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用。

      2、非參數檢驗

      非參數檢驗則不考慮總體分布是否已知,常常也不是針對總體參數,而是針對總體的某些一股性假設(如總體分布的位罝是否相同,總體分布是否正態)進行檢驗。

      適用情況:順序類型的數據資料,這類數據的分布形態一般是未知的。

      A 雖然是連續數據,但總體分布形態未知或者非正態;

      B 體分布雖然正態,數據也是連續類型,但樣本容量極小,如10以下;

      主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、游程檢驗、K-量檢驗等。

      信度分析

      檢査測量的可信度,例如調查問卷的真實性。

      分類:

      1、外在信度:不同時間測量時量表的一致性程度,常用方法重測信度

      2、內在信度;每個量表是否測量到單一的概念,同時組成兩表的內在體項一致性如何,常用方法分半信度。

      回歸分析

      分類:

      1、一元線性回歸分析:只有一個自變量X與因變量Y有關,X與Y都必須是連續型變量,因變量y或其殘差必須服從正態分布。

      2、多元線性回歸分析

      使用條件:分析多個自變量與因變量Y的關系,X與Y都必須是連續型變量,因變量y或其殘差必須服從正態分布 。

      1)變呈篩選方式:選擇最優回歸方程的變里篩選法包括全橫型法(CP法)、逐步回歸法,向前引入法和向后剔除法

      2)橫型診斷方法:

      A 殘差檢驗: 觀測值與估計值的差值要艱從正態分布

      B 強影響點判斷:尋找方式一般分為標準誤差法、Mahalanobis距離法

      C 共線性診斷:

      ·診斷方式:容忍度、方差擴大因子法(又稱膨脹系數VIF)、特征根判定法、條件指針CI、方差比例

      ·處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

      Logistic回歸分析

      線性回歸模型要求因變量是連續的正態分布變里,且自變量和因變量呈線性關系,而Logistic回歸模型對因變量的分布沒有要求,一般用于因變量是離散時的情況

      分類:

      Logistic回歸模型有條件與非條件之分,條件Logistic回歸模型和非條件Logistic回歸模型的區別在于參數的估計是否用到了條件概率。

      4、其他回歸方法 非線性回歸、有序回歸、Probit回歸、加權回歸等

      聚類分析

      樣本個體或指標變量按其具有的特性進行分類,尋找合理的度量事物相似性的統計量。

      1、性質分類:

      Q型聚類分析:對樣本進行分類處理,又稱樣本聚類分祈 使用距離系數作為統計量衡量相似度,如歐式距離、極端距離、絕對距離等

      R型聚類分析:對指標進行分類處理,又稱指標聚類分析 使用相似系數作為統計量衡量相似度,相關系數、列聯系數等

      2、方法分類:

      1)系統聚類法: 適用于小樣本的樣本聚類或指標聚類,一般用系統聚類法來聚類指標,又稱分層聚類

      2)逐步聚類法 :適用于大樣本的樣本聚類

      3)其他聚類法 :兩步聚類、K均值聚類等

      判別分析

      1、判別分析:根據已掌握的一批分類明確的樣品建立判別函數,使產生錯判的事例最少,進而對給定的一個新樣品,判斷它來自哪個總體

      2、與聚類分析區別

      1)聚類分析可以對樣本逬行分類,也可以對指標進行分類;而判別分析只能對樣本

      2)聚類分析事先不知道事物的類別,也不知道分幾類;而判別分析必須事先知道事物的類別,也知道分幾類

      3)聚類分析不需要分類的歷史資料,而直接對樣本進行分類;而判別分析需要分類歷史資料去建立判別函數,然后才能對樣本進行分類

      3、進行分類 :

      1)Fisher判別分析法 :

      以距離為判別準則來分類,即樣本與哪個類的距離最短就分到哪一類, 適用于兩類判別;

      以概率為判別準則來分類,即樣本屬于哪一類的概率最大就分到哪一類,適用于

      適用于多類判別。

      2)BAYES判別分析法 :

      BAYES判別分析法比FISHER判別分析法更加完善和先進,它不僅能解決多類判別分析,而且分析時考慮了數據的分布狀態,所以一般較多使用;

      主成分分析

      將彼此梠關的一組指標變適轉化為彼此獨立的一組新的指標變量,并用其中較少的幾個新指標變量就能綜合反應原多個指標變量中所包含的主要信息 。

      因子分析

      一種旨在尋找隱藏在多變量數據中、無法直接觀察到卻影響或支配可測變量的潛在因子、并估計潛在因子對可測變量的影響程度以及潛在因子之間的相關性的一種多元統計分析方法

      與主成分分析比較:

      相同:都能夠起到済理多個原始變量內在結構關系的作用

      不同:主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量間的關系,是比主成分分析更深入的一種多元統計方法

      用途:

      1)減少分析變量個數

      2)通過對變量間相關關系探測,將原始變量進行分類

      時間序列分析

      動態數據處理的統計方法,研究隨機數據序列所遵從的統計規律,以用于解決實際問題;時間序列通常由4種要素組成:趨勢、季節變動、循環波動和不規則波動。

      主要方法:移動平均濾波與指數平滑法、ARIMA橫型、量ARIMA橫型、ARIMAX模型、向呈自回歸橫型、ARCH族模型

      生存分析

      用來研究生存時間的分布規律以及生存時間和相關因索之間關系的一種統計分析方法

      1、包含內容:

      1)描述生存過程,即研究生存時間的分布規律

      2)比較生存過程,即研究兩組或多組生存時間的分布規律,并進行比較

      3)分析危險因素,即研究危險因素對生存過程的影響

      4)建立數學模型,即將生存時間與相關危險因素的依存關系用一個數學式子表示出來。

      2、方法:

      1)統計描述:包括求生存時間的分位數、中數生存期、平均數、生存函數的估計、判斷生存時間的圖示法,不對所分析的數據作出任何統計推斷結論

      2)非參數檢驗:檢驗分組變量各水平所對應的生存曲線是否一致,對生存時間的分布沒有要求,并且檢驗危險因素對生存時間的影響。

      A 乘積極限法(PL法)

      B 壽命表法(LT法)

      3)半參數橫型回歸分析:在特定的假設之下,建立生存時間隨多個危險因素變化的回歸方程,這種方法的代表是Cox比例風險回歸分析法

      4)參數模型回歸分析:已知生存時間服從特定的參數橫型時,擬合相應的參數模型,更準確地分析確定變量之間的變化規律

      典型相關分析

      相關分析一般分析兩個變里之間的關系,而典型相關分析是分析兩組變里(如3個學術能力指標與5個在校成績表現指標)之間相關性的一種統計分析方法。

      典型相關分析的基本思想和主成分分析的基本思想相似,它將一組變量與另一組變量之間單變量的多重線性相關性研究轉化為對少數幾對綜合變量之間的簡單線性相關性的研究,并且這少數幾對變量所包含的線性相關性的信息幾乎覆蓋了原變量組所包含的全部相應信息。

      R0C分析

      R0C曲線是根據一系列不同的二分類方式(分界值或決定閾).以真陽性率(靈敏度)為縱坐標,假陽性率(1-特異度)為橫坐標繪制的曲線用途:

      1、R0C曲線能很容易地査出任意界限值時的對疾病的識別能力用途 ;

      2、選擇最佳的診斷界限值。R0C曲線越靠近左上角,試驗的準確性就越高;

      3、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用R0C曲線下面積反映診斷系統的準確性。

      其他分析方法

      多重響應分析、距離分祈、項目分祈、對應分祈、決策樹分析、神經網絡、系統方程、蒙特卡洛模擬等。

      怎樣選擇數據分析方法

      一、質量改進統計方法選擇的基本導向

      從工業革命的傳統過程考察,大量的統計方法和技術伴隨機器工業和科學實驗的進步發展起來。像美國貝爾實驗室的工程師休哈特提出的統計質量控制方法、道奇和羅米格首創的計數標準型抽樣檢驗方法、費歇爾的正交實驗設計、皮爾遜的相關分析和費希爾的回歸分析等,都是在工農業生產和科學實驗的數據基礎上發展起來的,也有一些方法來源于醫學和生物統計學的研究和物理化學實驗的數據分析活動中,比如卡方檢驗、蒙特卡洛隨機模擬等。這些方法不是來自單純的演繹邏輯意義上的推導過程,而是從工農業生產和科學實驗的實踐中發展起來的,雖然受制于獲取數據和手工計算能力的約束,但方法論的創新還是極大地推動了質量統計技術的進步和實際應用的發展。

      目前,在質量改進活動中使用統計方法已經相當普及,許多改進項目甚至開始獨立設計統計模型方法及相應的檢驗工具,統計學作為質量改進的基礎方法論得到了廣泛的發展和應用。促進這些方法走向實踐的主要原因是什么?

     。ㄒ唬⿺祿䦟。

      所謂數據導向,即“有什么數據,選擇什么方法”,從質量過程生成的統計數據出發,選擇和設計相應的統計方法,有時也根據這些數據設計一些QC課題或者其他質量改進項目。這種導向的特點是有什么數據,就做什么改進,而不是從質量現狀或質量改進的關鍵技術、關鍵環節、成本、安全及交貨期等出發。例如,國內某著名乳品企業采用先進的乳制品生產、消毒、存儲和包裝設備,每日自動產生大量的過程統計數據和質量檢驗數據,加上營銷部門提供的銷售數據和電子商務網站形成的客戶訂購、投訴和評價數據,構成了復雜的數據系統,實際上已經成為企業大數據系統的雛形。但是,該企業始終沒有設計出適應企業自身需求的數據分析系統,也無法使這些數據在系統的質量改進和控制中起到積極的作用,浪費了大量的數據資源和改進管理的機會。

     。ǘ┠P蛯。

      模型導向是指為實證某個新設計或新發現的統計模型而進行的質量改進過程,這些統計模型的成功應用有些可以獲得良好的改進效果,有些則無法適應真正的改進目標。從改革開放30多年中質量管理技術的進步過程來看,我們一直在追趕發達國家的管理手段和技術方法,從20世紀80年代的全面質量管理、90年代的質量標準化管理到2000年代后的六西格瑪管理和卓越績效管理,似乎都體現了方法論上的盲目性,只顧追趕別人的腳步,不知道是否適合自身的發展。

      從微觀角度審視,一些企業的質量管理技術人員,在質量方法的選擇上追求模型的“高大上”,簡單參考和引進國外的先進數學模型,用眼花繚亂的數學公式代替了扎扎實實的現場調查和改進過程,把質量管理活動變成了新統計模型的實驗室。

     。ㄈ┕ぞ邔。

      統計軟件是質量統計的重要工具,從SPC的應用過程可以看到,休哈特博士設計的均值極差控制圖就是典型的工具導向的一個應用。由于當時的計算能力和工具不足,因此在作業現場計算方差比較困難,所以休哈特博士采用了計算更為簡易的極差來替代方差,用以表征質量過程的波動性。

      專業的統計軟件是質量改進方法的重要推動力量,一些世界知名廠商也陸續推出面向質量管理的專用模塊和程序,這些軟件包括SAS、SPSS、STATISTICA

      、Minitab、Matlab等。進入新世紀以來,大數據逐漸成為統計軟件工具必須面對的重要對象,數據挖掘(Data Mining)和商業智能(Business Intelligence)等方法成為統計軟件的主流方法,同時這些方法也被大量應用到質量管理活動中。于是,以統計軟件工具為導向的一大批質量管理成果開始出現在各種場合,比如六西格瑪黑帶項目、可靠性項目、多變量統計過程控制(MSPC)、實驗設計(Design of Experiment)等。

      與模型導向一樣,工具導向的質量改進也是被動的,無法真正面向質量生產的過程,即便是成功的數據分析也只能是統計模型和軟件的新例證,而不能成為質量改進的新成果。

     。ㄋ模┌咐龑。

      案例導向的質量改進過程,來自商學院工商管理碩士(MBA)案例教學實踐中,來自企業、院校和研究所的MBA似乎更喜歡來自成功案例方法的質量改進過程。但商業模式和管理經驗并不總是可重復和可再現的,質量改進也是如此,商業案例只是對成功管理活動的總結和提煉,而不是輸出管理規則和盈利模式。因此,基于成功的商學院案例或者六西格瑪成功案例實施的質量改進方法進程中,有很大一部分是無法完成改進目標和任務的。

     。ㄎ澹┤蝿諏。

      所謂的任務導向是目前很多企業采用的一種中規中矩的質量統計方法,就是根據企業生產計劃和調度要求,提出某項生產或管理任務,從完成任務的目的考慮,采用常規的統計方法或者技術來完成任務,甘特圖的使用就是任務導向的一個典型例子。

      企業在進行績效考核的時候,一般多采用多變量線性模型進行綜合評價,用來合成多項指標的考核分值,這類統計方法已經成為主流的績效評價方法,從卓越績效模式的評價到中小企業的員工績效考核,大多采用此法,這就是任務導向的方法選擇。這些方法是無法進行真正的質量改進的,只是一種較優的質量統計方法選擇。

     。﹩栴}導向。

      質量統計方法的基本功能是描述、解釋和探索,是基于過程或結果的統計數據而進行的有目的的質量改進活動,用以解決企業經營管理過程中出現的各種問題。因此,問題導向的質量統計方法主要是指以質量管理活動中出現的問題為核心改進目標,從問題的現狀調查、研判、因果關系判別以及對策、實驗和檢驗等基本目標出發,量身定制或者重新創建新的數據管理或質量改進統計方法,做到因地制宜、對癥下藥,達到追本溯源、藥到病除的效果,這才是真正的應用統計價值所在,也是質量統計方法追求的科學、合理和高效的真正動力。

      現實中,一些QC項目和六西格瑪項目,就是為了做項目而刻意尋找項目,而不是面向企業生產經營和管理實踐活動本身,他們根據比較好的一些質量特性,逆向設計統計方法,模擬和推斷出可能的數據改進方法和計算模型,從而達到項目要求或評獎要求,實際上放棄了統計方法對于質量改進的真正貢獻,也放棄了科學改進的真正目的,違背了質量改進的最初目的和終極價值。

      二、問題導向的質量改進統計方法選擇

      問題導向的質量改進過程中,要一切從問題的現狀出發,擬定合理目標,設計跟進數據集,選擇合適的統計方法,帶著問題逐步深入才能得到滿意的改進效果。

      問題導向的質量改進一般應遵循三個基本原則,一是厘定問題,單一目標;二是自頂向下,逐步求精;三是優選方法,單入單出。在這個原則下,質量改進的過程可以分為以下步驟:

     。ㄒ唬┨岢鰡栴}。

      和一般的改進過程一樣,面向問題的改進過程主要是對于質量問題的定義和選擇,這些問題不是上級決定的,也不是財務目標中挑出來的,而應該來自質量經營和管理的實踐中出現的質量問題和可能造成不良的機會。因此質量改進的動因本身就具有補償性質量的能力,如果不出現問題,質量管理的重點則應放在質量保證能力建設和預防性質量的提升方面。

     。ǘ┟枋鰡栴}并抽象成統計模型。

      精確定義質量生產和使用過程中出現的問題,并力圖把這個問題抽象成為統計模型。比如對于推土機首次故障時間的確認,就可以根據統計建模的經驗和方法,考慮通過構建指數模型來計算一批推土機銷售以后首次故障時間的期望均值,并以此通過假設檢驗來設定首次故障時間,并最終實現質量的全面提升。

     。ㄈ┇@得過程和結果的數據。

      統計模型方法依賴大量數據和檢驗,因此模型方法所需要的數據必須和問題產生的過程保持一致,也就是說,必須回到問題發生的現場去收集整理數據并獲得數據口徑、背景和計算方法的要求。這些數據可以客觀地描述、解釋和探索質量過程中的細節,可以由此回溯和推斷問題出現的可能性、因果性以及相關性,真正地做到“讓數據說話”、“讓模型作證”和“讓結果指向”。

     。ㄋ模┓治鼋:万炞C。

      根據得到的數據和所選的統計方法創建統計模型,對問題進行深入的分析和解剖,得到解決問題的基本方向和思路,并設計出解決問題的路徑和方法,對這些方法進行實地實驗和驗證,力求得出解決問題的全局性對策。

     。ㄎ澹┓椒ㄟx擇的導向性。

      有些問題的出現和解決,似乎有定數,比如因果圖就經常被用來解決質量改進中的可能性關聯問題。有些研究者更愿意采用復雜的數理統計模型來完成該改進任務,但我們的建議是選擇最適合的方法,而不是最先進或者最豪華的方法。面向問題是質量改進的第一動力,因此統計方法的選擇只有依照這個原則來進行,才有可能真正起到質量改進的作用,也從而實現質量提升的最終目標。

      三、統計數據的來源和統計方法的適應性

     。ㄒ唬⿺祿䜩碓。

      傳統的企業統計數據來源于三個方面,即企業統計臺賬、生產記錄和檢驗記錄,這些數據是工業生產過程的人工記錄,需要對質量生產過程進行人工干預才可以獲得,有些數據因此產生了較大的誤差和偏移,以至于很多統計方法無法接近真實過程。

      目前,我國已進入工業化后期,國際先進的制造技術和設備被大量引進,其中包括具備強大數據生產能力的數控設備、網控設備和電子自動檢測裝置等,這些先進的電子設備可以大量測定、檢驗和記錄數據,生成連續性、大規模和高精度的同步數據集,此即企業大數據的雛形。在一些先進的制造企業,技術人員已經可以直接從設備上導出大量的數據用以完成SPC、MSA、DOE等經典統計模型的擬合和研判,可以實現真正的大數據同步質量分析、檢驗和預警目標。

      因此,當前企業主要的數據來源有四個方面,一是企業管理數據,包括企業管理統計臺賬、績效考據數據、經營管理數據、投資和財務數據、營銷數據等;二是企業生產過程數據,包括來自電子設備和網絡設備中自動記錄和篩選的數據;三是質量檢驗和驗收的數據;四是來自供應鏈和客戶調查的數據。這些數據大部分是連續生產的,主要是定量數據,也包含一些定性數據,這些數據構成企業經營管理活動的新資源。

     。ǘ┙y計方法選擇的基本原則。

      問題導向的統計方法選擇一般以數據為基礎,有的方法要求的數據量比較少,因而容易在實踐中使用,比如SPC、DOE等,而有的統計方法則要求更多的數據量和數據質量,比如時間序列和可靠性統計分析方法等。因此,選擇統計方法時,應考慮所需要的數據在多個方面的特征和要求。

      一是數據的易得性,要能夠很容易和低成本地采集數據,對于網控設備來說,還應考慮網絡聯通問題;二是數據的統計口徑、測量設備和測定方法要保持一致,這樣的數據才具備基本的分析基礎和分析能力;三是大數據的連續性采集能力,一些現場數據的采集必須滿足連續性的要求,才可以輔助實施和分析,采用管理學意義上的價值,比如統計過程控制和抽樣檢驗的數據等;四是保持數據采集的可重復性、可復現性和可控制性,大量統計數據的誤差只有通過較為嚴格的方差分析和參數檢驗、分布模擬可能付諸建模分析和質量改進,因此要保證數據的采集技術不會帶來較大的誤差影響。

    【數據分析方法有哪些】相關文章:

    常用數據的分析方法有哪些01-22

    銷售數據的分析方法07-25

    數據整理分析方法10-22

    配件庫存分析數據的方法09-17

    醫學數據分析方法10-24

    傳統數據分析方法09-20

    庫存數據分析方法06-07

    多維數據分析方法09-20

    數據分析常用方法(熱)07-25

    黄频国产免费高清视频_富二代精品短视频在线_免费一级无码婬片aa_精品9E精品视频在线观看