Анализ данных в линейной регрессионной модели / тер вер.doc

Курсовая работа « Анализ данных в линейной регрессионной модели» по «теории вероятности и математической статистике»

Выполнил : студент Экт-25

Писанко Дмитрий

2001, МИЭТ

План.

1)Данные.

2)Теоретическая часть.

3)Практическая часть.

4)Сравнение результатов

Статистическое описание и выборочные характеристики двумерного случайного вектора.

Пусть (x_i,y_i), i = 1,2,......,n ,- выборка объема n из наблюдений случайного двумерного вектора (X,Y). Предварительное представление о двумерной генеральной совокупности можно получить, изображая элементы выборки точками на плоскости с выбранной декартовой прямоугольной системой координат. Это представление выборки называется диаграммой рассеивания.

Построить диаграмму рассеяния нанести на нее уравнения регресси Y на X

y=β^*₀ +β^*₁x и X на Y x=β^*′₀ +β^*′₁y.

Сначала вычислим суммы

∑x_i , ∑y_i ,∑x²_i ,∑y²_i , ∑x_iy_i ,∑ (x_i+y_i)²

Для контроля правильности вычислений используется тождество

∑ (x_i+y_i)²= ∑x²_i + 2 ∑x_iy_i + ∑y²_i

Выборочные средние находятся по формулам

x^*=α^*_1,0=(1/n) ∑x_i , y^*=α^*_0,1=(1/n) ∑y_{i .} (1)

Затем вычисляются суммы квадратов отклонений от среднего и произведений отклонений от средних :

Q_x=∑(x_i - x^*)²=∑x²_i - (∑x)²_i/n , (2)

Q_y=∑(y_i - y^*)²=∑y²_i - (∑y)²_i/n , (3)

Q_xy=∑(x_i - x^*)(y_i - y^*)=∑x_iy_i - (∑x _i)(∑y_i )/n , (4)

Отсюда

D^*_x= (1/n) Q_x , D^*_y= (1/n) Q_y ,

R=(μ^*_1,1)/ (D^*_x D^*_y)^1/2= (Q_xy)/( Q_x Q_y)^1/2 (5)

Выборочная линейная регрессия Y на X по выборке (x_i , y_i ), i= 1,......, n определяется уравнением

y=β^*₀ +β^*₁x= y^* + r (D^*_x / D^*_y ) (x - x^*)

Коэффициенты β^*₀ и β^*₁ называются выборочными коэффициентами регрессии. Они вычисляются по формулам

β₁^*=[n ∑ x_iy_i - (∑x _i)(∑y_i )]/(n ∑x²_i - (∑x_i)² ) = Q_xy / Q_x (6)

β₀^* = y^*- β₁^*x^* (7)

Аналогично определяется выборочная линейная регрессия X на Y :

x=β^*′₀ +β^*′₁y = x^* + r (D^*_x / D^*_y ) (y - y^*)

β₁^*′=[n ∑ x_iy_i - (∑x _i)(∑y_i )]/(n ∑y²_i - (∑y_i)² ) = Q_xy / Q_y (8)

β₀^*′= x^*- β^*′₁y^* (9)

Для контроля правильности расчетов используют соотношение

(β₁^*β₁^*′)^1/2= r (10)

Прямые

y=β^*₀ +β^*₁x , x=β^*′₀ +β^*′₁y

Пересекаются в точке с координатами (x^*, y^* )

Функция y=β^*₀ +β^*₁x

Определяет выборочную (эмпирическую ) регрессию Y на x. Последняя является оценкой предполагаемой (теоретической) регрессии по результатам наблюдений. Разности между наблюдаемыми значениями переменной Y при x=x_i , i=1,2,....,n, и расчетными значениями ŷ_i=β^*₀ +β^*₁x называются остатками и обозначаются e_i :

e_i = y_i - ŷ _i, i = 1,2,......,n . Все остатки приведены в таблице 1. (11)

Качество аппроксимации результатов наблюдений (x_i,y_i), i = 1,2,......,n , выборочной регрессии определяется величиной остаточной дисперсии , вычисляемой по формуле

S²=∑ e²_i /(n-2)=1/(n-2) ∑[ y_i - (β^*₀ +β^*₁x_i)]²=Q_e/(n-2) (12)

Величина Q_e определяемая выражением

Q_e = ∑ e²_i=∑ (y_i - ŷ _i) (13)

Называется остаточной суммой квадратов.

В практических вычислениях остаточную сумму квадратов получают из тождества

∑ (y_i - y^*_i)² = ∑ (ŷ_i - y^*_i )² + ∑ (y_i - ŷ_i) ² (14)

Которое записывается в виде

Q_y = Q_r + Q_e , где

Q_y= ∑ (y_i - y^*_i)²= ∑ (y²_i - n*y^*_i) ,

Q_r =∑ (ŷ_i - y^*_i )²=β^*₁ Q_xy=β^2*₁ Q_x= Q²_xy/ Q_x (15)

Величина Q_r называется суммой квадратов, обусловленной регрессией регрессией.

Полезной характеристокой линейной регрессии является коэффициент детерминации R² , вычисляемый по формуле

R²= Q_r / Q_y =1 - (Q_e / Q_y) (16)

Коэффициент детерминации R² равен той доле разброса результатов наблюдений (x_i,y_i), i = 1,2,......,n , относительно горизонтальной прямой y=y^* , которая объсняется выборочной регрессией . Величина R= + (R²)^1/2 является оценкой коэффициента корреляции между результатами наблюдений y_i и вычисленными значениями ŷ_i , предсказываемыми регрессией , т.е.

R= p^*_yŷ= r_yŷ

В случае линейной регрессии Y на x (одной независимой переменной x) между коэффициентом R и выборочным коэффициентом корреляции r_xy имеется следующее соотношение :

r_xy = ( знак β^*₁ ) R .

Однофакторный дисперсионный анализ.

Пусть результаты наблюдений составляют l независимых выборок ( групп ), полученных из l нормально распределенных генеральных совокупностей, которые имеют, вообще говоря, различные средние m₁ , m₂ , ..... , m_l и равные дисперсии σ². Проверяется гипотеза о равенстве средних H₀ m₁= m₂ = ..... =m_l. На практике такая задача возникает при исследованиии влияния, которое оказывает изменение некоторого фактора на измеряемую величину. Например, если измерения проводятся на l различных приборах, то можно исследовать влияние фактора «прибор» на результаты измерений. В данном случае на синтересует вопрос, имеют ли различные приборы одну и ту же систематическую ошибку ( гипотеза H₀ ) . При l=2 для проверки гипотезы H₀ используется известные критерии значимости. Если l>2, то для проверки гипотезы о равенстве l средних применяют однофакторный дисперсионный анализ, суть которого состоит в следующем.

Пусть x_ik обозначает i-й элемент k-й выборки , i = 1,2,......,n , k = 1,2,......,n , x^*_k-выборочное среднее k-й выборки, т.е.

x^*_k=(1/n_k) ∑ x_ik = (1/n) x ._.k ,

k^*- общее выборочное среднее, т.е.

x^*=∑∑ x_ik = (1/n) x . . ,

где n - общее число наблюдений, n= ∑ n_k

Общая сумма квадратов отклонений наблюдений от общего среднего x^* может быть предтавлена так :

∑∑ ( x_ik - x^*)²=∑ n_k ( x^*_k - x^*)²+∑∑ ( x_ik - x^*_k)² (17)

Это основное тождество дисперсионного анализа. Запишем его в виде

Q=Q₁+Q₂ (18)

Где Q- общая сумма квадратов отклонений наблюдений от общего среднего, Q₁ - сумма квадратов отклонений выборочных средних x^*_k от общего среднего x^* (между группами), Q₂-сумма квадратов отклонений наблюдений от выборочных средних групп (внутри групп).