Analisis regresi merupakan sebuah alat statistika yang digunakan untuk melihat hubungan antara variabel respons dengan satu atau lebih variabel prediktor. Analisis regresi pertama kali dikemukakan oleh seorang antropolog dan ahli meteorologi terkenal di Inggris yaitu Sir Francis Galton (1822-1911). Dalam model regresi terdiri atas dua variabel yaitu variabel independent (variabel bebas) disebut juga variabel prediktor yang biasanya dinotasikan dengan variabel ๐ฅ, dan variabel dependent (variabel tak bebas) disebut juga variabel respons yang biasanya dinotasikan dengan variabel ๐ฆ. Variabel ๐ฅ dan ๐ฆ tersebut merupakan dua variabel yang saling berkorelasi. Misalkan terdapat data berpasangan (๐ฅ๐ , ๐ฆ๐) untuk n pengamatan, maka hubungan antara variabel ๐ฅ๐ dan variabel ๐ฆ๐ dapat dinyatakan sebagai berikut: ๐ฆ๐ = ๐(๐ฅ๐ ) + ๐๐ ; ๐ = 1,2, โฆ , ๐ (2.1) dengan ๐ฆ๐ adalah respons ke-i, ๐(๐ฅ๐) adalah fungsi regresi atau kurva regresi, serta ๐๐ adalah sisaan yang diasumsikan independent dengan nilai tengah nol dan variansi ฯ 2 . Regresi parametrik merupakan metode yang digunakan untuk mengetahui pola hubungan antara variabel respons dan prediktor apabila bentuk kurva regresinya diketahuiย Model regresi dengan variabel prediktor lebih dari satu (๐ฅ1, ๐ฅ2, ๐ฅ3, โฆ , ๐ฅ๐) secara umum dapat dituliskan sebagai berikut: ๐ฆ๐ = ๐ฝ0 + ๐ฝ1๐ฅ๐1 + ๐ฝ2๐ฅ๐2 + ๐ฝ3๐ฅ๐3 + โฏ + ๐ฝ๐๐ฅ๐๐ + ๐๐ ; ๐ = 1,2,3, โฆ , ๐ (2.2) dengan ๐ฝ0, ๐ฝ1, ๐ฝ2, ๐ฝ3, โฆ , ๐ฝ๐ adalah koefisien regresi. Model dapat pula disajikan dalam bentuk matriks yang dituliskan pada persamaan sebagai berikut: [ ๐ฆ1 ๐ฆ2 โฎ ๐ฆ๐ ] = [ 1 1 โฎ 1 ๐ฅ11 ๐ฅ21 โฎ ๐ฅ๐1 ๐ฅ12 ๐ฅ22 โฎ ๐ฅ๐2 โฆ โฆ โฑ โฆ ๐ฅ1๐ ๐ฅ2๐ โฎ ๐ฅ๐๐] [ ๐ฝ0 ๐ฝ1 โฎ ๐ฝ๐ ] + [ ๐1 ๐2 โฎ ๐๐ ] atau ๐ = ๐๐ท + ๐บ (2.3) dengan ๐ = [ ๐ฆ1 ๐ฆ2 โฎ ๐ฆ๐ ], ๐ = [ 1 1 โฎ 1 ๐ฅ11 ๐ฅ21 โฎ ๐ฅ๐1 ๐ฅ12 ๐ฅ22 โฎ ๐ฅ๐2 โฆ โฆ โฑ โฆ ๐ฅ1๐ ๐ฅ2๐ โฎ ๐ฅ๐๐], ๐ท = [ ๐ฝ0 ๐ฝ1 โฎ ๐ฝ๐ ], dan ๐บ = [ ๐1 ๐2 โฎ ๐๐ ] (2.4) dengan ๐ adalah vektor kolom untuk variabel respons berukuran ๐ ร 1, ๐ฅ adalah matriks konstanta berukuran ๐ ร ๐, ๐ท adalah vektor parameter berukuran ๐ ร 1, dan ๐บ adalah vektor peubah acak normal bebas dengan nilai harapan ๐ธ{๐บ} = 0 dan matrik ragam ๐ 2 {๐บ} = ๐ 2 yang berukuran ๐ ร 1