Регрессионный анализ в моделировании систем. Исследование посещаемости WEB сайта

	Загрузить архив:
	Файл: 025-0015.zip (124kb [zip], Скачиваний: 110) скачать

Кафедра математической статистики и эконометрики

Дополнительнаяработа

По курсу:

“Математическая статистика”

По теме:

“Регрессионный анализ моделировании систем”

“Исследование посещаемости WEB сайта”

Группа: ДИ 202

Студент: Шеломанов Р.Б.

Руководитель: Шевченко К.К.

Москва 1999

Содержание

TOC "з;2;З1;1" Теоретическая часть работы...................................................................... PAGEREF _Toc451067926 h 3

Основные задачи корреляционно-регрессионного анализа................... PAGEREF _Toc451067927 h 3

Корреляция случайных величин............................................................. PAGEREF _Toc451067928 h 4

Линейная регрессия................................................................................. PAGEREF _Toc451067929 h 5

Оценка существенности связи, принятие решения на основе уравнения регрессии.       PAGEREF _Toc451067930 h 10

Практическая часть работы...................................................................... PAGEREF _Toc451067931 h 11

1. Описание объекта............................................................................... PAGEREF _Toc451067932 h 11

2. Факторы формирующие  моделируемое явление.............................. PAGEREF _Toc451067933 h 12

3. Анализ матрицы коэффициентов парных корреляций...................... PAGEREF _Toc451067934 h 13

4. Построение уравнения регрессии...................................................... PAGEREF _Toc451067935 h 13

5. Смысл модели.................................................................................... PAGEREF _Toc451067936 h 15

Литература................................................................................................. PAGEREF _Toc451067937 h 16

Теоретическая часть работы

Основные задачи корреляционно-регрессионного анализа

Все явления и процессы, характеризующие социально-экономическое развитие и составляющие единую систему национальных счетов, тесно взаимосвязаны и взаимозависимы между собой.

В статистике показатели, характеризующие эти явления, могут быть связаны либо корреляционной зависимостью, либо быть независимыми Корреляционная зависимость является частным случаем стохастиче­ской зависимости, при которой изменение значений факторных признаков (х ₁ х₂ ..., х_n ) влечет за собой изменение среднего значения результативно­го признака.

Корреляционная зависимость исследуется с помощью методов корре­ляционного и регрессионного анализов.

Корреляционный анализ изучает взаимосвязи показателей и позволяет решить следующие задачи.

1. Оценка тесноты связи между показателями с помощью парных, ча­стных и множественных коэффициентов корреляции

2. Оценка уравнения регрессии.

Основной предпосылкой применения корреляционного анализа явля­ется необходимость подчинения совокупности значений всех факторных (х₁ х₂ .... х_n) и результативного (У) признаков r-мерному нормальному закону распределения или близость к нему. Если объем исследуемой сово­купности достаточно большой ( n > 50), то нормальность распределения может быть подтверждена на основе расчета и анализа критериев Пирсо­на,Боярского, Колмогорова, чисел Вастергарда и т. д. Если n < 50, то закон распределения исходных данных определяется на базепостроения и визуального анализа поля корреляции. При этом если в рас­положении точек имеет место линейная тенденция, то можно предполо­жить, что совокупность исходных данных  подчиняется нормальному распределению.

Целью регрессионного анализа является оценка функциональной за­висимости условного среднего значения результативного признака (У) от факторных (х₁. Х₂..., х_n).

Основной предпосылкой регрессионного анализа является то, что толь­ко результативный признак (У) подчиняется нормальному закону распре­деления, а факторные признаки х₁. Х₂..., х_nмогут иметь произвольный закон распределения. В анализе динамических рядов в качестве фактор­ного признака выступает время t При этом в регрессионном анализе зара­нее подразумевается наличие причинно-следственных связей между ре­зультативным (У) и факторными х₁. Х₂..., х_n признаками.

Уравнение регрессии, или статистическая модель связи социально-эко­номических явлений, выражаемая функцией Y=f(х₁. Х₂..., х_n) является достаточно адекватным реальному моделируемому явлению или процессу в случае соблюдения следующих требований их построе­ния.

1. Совокупность исследуемых исходных данных должна быть одно­родной и математически описываться непрерывными функциями.

2. Возможность описания моделируемого явления одним или несколь­кими уравнениями причинно-следственных связей.

3. Все факторные признаки должны иметь количественное (цифровое) выражение.

4. Наличие достаточно большого объема исследуемой выборочной со­вокупности.

5. Причинно-следственные связи между явлениямии процессами сле­дует описывать линейной или приводимой к линейной формой зависимо­сти.

6. Отсутствие количественных ограничений на параметры модели свя­зи.

7. Постоянство территориальной и временной структуры изучаемой совокупности.

Соблюдение данных требований позволяет исследователю построить статистическую модель связи, наилучшим образом аппроксимирующую моделируемые социально-экономические явления и процессы.

Корреляция случайных величин

Прямое токование терминакорреляция—  стохастическая,вероятная, возможная связь между двумя  (парная)илинесколькими  (множественная) случайными величинами.

Для числовой оценки возможной связи между двумя случайнымивеличинами: Y(со среднимM_y и среднеквадратичнымотклонениемS_y) и —X (со средним M_xи среднеквадратичнымотклонением  S_x)   принято использовать так называемыйкоэффициент корреляции

R_xy=.

Этот коэффициент может принимать значенияот -1 до +1—в зависимости от тесноты связи между данными случайными величинами.

Если коэффициент корреляцииравен нулю, то X и Y называют некоррелированными.Считать их независимыми обычно нет оснований —оказывается,что  существуюттакие,как  правило —нелинейныесвязивеличин, при  которыхR_xy = 0, хотя величины зависят друг от друга. Обратное всегда верно —есливеличины независимы, то R_xy = 0.Но, если  модуль R_xy = 1, то есть все основания предполагать наличие линейной связи междуY и X. Именно поэтому часто говорят о линейной корреляции прииспользовании такого способа оценки связи между СВ.

В отдельных случаях приходится решать  вопрососвязях нескольких (более 2) случайных величин или вопросомножественной корреляции.

Пусть X, Y и Z - случайные величины, по наблюдениям над которымимы установили их средние M_x, M_y,Mz и среднеквадратичные отклонения S_x, S_y, S_z.

Тогда можно найти парные коэффициенты корреляции R_xy, R_xz, R_yz по приведенной выше формуле. Но этого явно недостаточно - ведь мынакаждом из трех этапов попросту забывали о наличии третьей случайнойвеличины! Поэтому вслучаяхмножественногокорреляционногоанализа иногда требуется отыскивать т. н. частные коэффициенты корреляции —например,оценка виляния Zна связь между X и  Y производится с помощью коэффициента

R_xy.z=                                                       

И, наконец, можно поставить вопрос — а какова связь между данной СВ и совокупностью остальных? Ответ на такие вопросы дают коэффициенты множественной корреляции   R_x.yz, R_y.zx, R_z.xy,формулы для вычисления которых построены по тем же принципам—учету связи одной из величин со всемиостальными в совокупности.

На сложности вычислений всех описанных  показателейкорреляционных связей можно не обращать особого внимания -  программыдляих  расчета достаточно просты и имеются в готовом видевомногихППП  современных компьютеров.Например программное обеспечение «Олимп» с помощью которого производится ряд расчетов в этой работе.

Линейная регрессия

В тех случаях, когда из природы процессов в модели илииз  данных наблюдений над ней следует вывод о нормальном законе распределениядвух СВ - Y и X, из которых одна является независимой, т. е. Yявляетсяфункцией X, то возникает соблазн определить  такуюзависимость“формульно”, аналитически.

В случае успеха нам будет намного  прощевестимоделирование. Конечно, наиболее заманчивой является перспектива линейной  зависимости типа Y = a + b·X .

Подобная задача носитназваниезадачи регрессионного анализа и предполагает следующий способ решения.

Выдвигается следующая гипотеза:

H₀: случайная величина Y прификсированном значениивеличины Xраспределена нормальнос математическим ожиданием

M_y = a + b·X   и дисперсией D_y, не зависящей от X.         

При наличии результатов наблюдений над парами X_i и Y_i предварительно вычисляются средние значения M_y и M_x, а затемпроизводится оценка коэффициента b в виде

b =   = R_xy                                             

что следует из определения коэффициента корреляции.После этого вычисляется оценка дляaв виде {2 - 16}

и производится проверка значимости полученных результатов. Таким образом,регрессионный анализ является мощным, хотяи  далеко не всегдадопустимым расширением корреляционного анализа, решая  всёту же задачу оценки связей в сложной системе.

Теперь более подробно рассмотрим множественную или многофакторную регрессию. Нас интересует только линейная модель вида: Y=A₀+A1X1+A₂X₂+…..A_kX_k.

Изучение связи между тремя и более связанными между собой признаками носит название множественной (многофакторной) регрессии. Приисследовании зависимостей методами множественной регрессии задача формулируется так же, как и при использовании парной регрессии, т. е. требуется определить аналитическое выражение связи между результатив­ным признаком (У) и факторными признаками (х₁ х₂, х₃ ..., х_n) найти функ­цию: Y=f(х₁. Х₂..., х_n)

Построение моделей множественной регрессии включает несколько этапов:

• выбор формы связи (уравнения регрессии):

• отбор факторных признаков:

• обеспечение достаточного объема совокупности для получения не­смещенных оценок.

Рассмотрим подробнее каждый из них.

Выбор формы связи затрудняется тем, что, используя математический аппарат, теоретически зависимость между признаками может быть выражена большим числом различных функций.

Выбор типа уравнения осложнен тем, что для любой формы зависимости выбирается целый ряд уравнений, которые в определенной степени будут описывать эти связи. Некоторые предпосылки для выбора опреде­ленного уравнения регрессии получают на основе анализа предшествую­щих аналогичных исследований или на базе анализа подобных работ в смежных отраслях знаний. Поскольку уравнение регрессии строится глав­ным образом для объяснения и количественного выражения взаимосвя­зей, оно должно хорошо отражать сложившиеся между исследуемыми факторами фактические связи,

Наиболее приемлемым способом определения вида исходного уравнения регрессии является метод перебора различных уравнений.

Сущность данного метода заключается в том, что большое число уравнений (моделей) регрессии, отобранных для описания связей какого-либо социально-экономического явления или процесса, реализуется на ЭВМ с помощью специально разработанного алгоритма перебора с последующей статистической проверкой, главным образом на основе t-крнтерия Стьюдeнта и F-критерия Фишера.Способ перебора является достаточно трудоемким и связан с большим объемом вычислительных работ.Практика построения многофакторных моделей взаимосвязи показы­вает, что все реально существующие зависимости между социально-эко­номическими явлениями можно описать, используя пять типов моделей:

_1. линейная: Y=A₀+A₁X₁+….A_kX_k

_2. степенная

3. показательная

4. параболическая

5. гиперболическая

Основное значение имеют линейные модели в силу простоты и логичности их экономической интерпретации. Нелинейные формы зависимо­сти приводятся к линейным путем линеаризации.

Важным этапом построения уже выбранного уравнения множествен­ной регрессии являются отбор и последующее включение факторных при­знаков. Сложность формирования уравнения множественной регрессии заклю­чается в том, что почти все факторные признаки находятся в зависимости один от другого. Проблема размерности модели связи, т. е. определение оптимального числа факторных признаков, является одной из основных проблем построе­ния множественного уравнения регрессии. С одной стороны, чем больше факторных признаков включено в уравнение, тем оно лучше описывает явление. Однако модель размерностью 100 и более факторных признаков сложно реализуема и требует больших затрат машинного времени. Сокращение размерности модели за счет исключения второстепенных, эконо­мически и статистически несущественных факторов способствует простоте и качеству ее реализации. В то же время построение модели регрессии малой размерности может привести к тому, что такая модель будет недос­таточно адекватна исследуемым явлениям и процессам. Проблема отбора факторных признаков для построения моделей взаи­мосвязи может быть решена на основе эвристических или многомерных статистических методов анализа.

Метод экспертных оценок как эвристический метод анализа основ­ных макроэкономических показателей, формирующих единую междуна- , родную систему расчетов, основан на интуитивно-логических предпосыл­ках, содержательно-качественном анализе. Анализ экспертной информации проводится на базе расчета и анализа непараметрических показателей связи: ранговых коэффициентов корреляции Спирмена, Кендалла и конкордации .

Наиболее приемлемым способом отбора факторных признаков являет­ся шаговая регрессия (шаговый регрессионный анализ). Сущность мето­да шаговой регрессии заключается в последовательном включении фак­торов в уравнение регрессии и последующей проверке их значимости. Факторы поочередно вводятся в уравнение так называемым "прямым ме­тодом". При проверке значимости введенного фактора определяется, на­сколько уменьшается сумма квадратов остатков и увеличивается величина множественного коэффициента корреляции . одновременно используется и обратный метод, т.е. , исключение факторов, ставших незначимы­ми на основе t-критерия Стьюдента. Фактор является незначимым, если его включение в уравнение регрессии только изменяет значение коэффи­циентов регрессии, не уменьшая суммы квадратов остатков и не увеличивая их значения. Если при включении в модель соответствующего факторного признака величина множественного коэффициента корреляции увеличивается, а коэффициент регрессии не изменяется (или меняется несу­щественно), то данный признак существен и его включение в уравнение регрессии необходимо.

Если же при включении в модель факторного признака коэффициенты регрессии меняют не только величину, но и знаки, а множественный

коэффициент корреляции не возрастает, то данный факторный признак при­знается нецелесообразным для включения в модель связи.

Сложность и взаимное переплетение отдельных факторов, обусловли­вающих исследуемое экономическое явление (процесс), могут проявлять­ся в так называемой мультиколлинеарности. Под

мультиколлинеарностью понимается тесная зависимость между факторными признаками, включенными в модель.

Наличие мультиколлинеарности между признаками приводит к:

• искажению величины параметров модели, которые имеют тенденцию к завышению;

• изменению смысла экономической интерпретации коэффициентов рег­рессии;

. слабой обусловленности системы нормальных уравнений;

. осложнению процесса определения наиболее существенных фактор­ных признаков.

Одним из индикаторов определения наличия мультиколлинеарности между признаками является превышение парным коэффициентом корре­ляции величины 0,8 .

Устранение мультиколлинеарности может реализовываться через ис­ключение из корреляционной модели одного или нескольких линейно-свя­занных факторных признаков или преобразование исходных факторных признаков в новые, укрупненные факторы.

Вопрос о том, какой из факторов следует отбросить, решается на осно­вании качественного и логического анализов изучаемого явления.

Качество уравнения регрессии зависит от степени достоверности и надежности исходных данных и объема совокупности. Исследователь дол­жен стремиться к увеличению числа наблюдений, так как большой объем наблюдений является одной из предпосылок построения адекватных ста­тистических моделей.

Аналитическая форма выражения связи результативного признака и ряда факторных называется многофакторным (множественным) уравне­нием регрессии, или моделью связи.

Уравнение линейной множественной регрессии имеет вид:

Y=A₀+A₁X₁+….A_kX_k

КоэффициентыА_n вычисляются при помощи систем нормальных уравнений. Например система нормальных уравнений для вычисления коэффициентов регрессии для уравнения линейной  регрессии с двумя факторными признаками:

где A_n=a_n

Общий вид нормальных уравнений для расчета коэффициентоврегрессии:

Оценка существенности связи, принятие решения на основе уравнения регрессии.

Проверка адекватности моделей, построенных на основе уравнений регрессии, начинается с проверки значимости каждого коэффициента регрессии.

Значимость коэффициентов регрессии осуществляется с помощью

t-критерия Стьюдента:

- дисперсия коэффициента регрессии.

Параметр модели признается статистически значимым, еслиt_p>t_кр

Наиболее сложным в этом выражении является определение диспер­сии, которая может быть рассчитана двояким способом.

Наиболее простой способ, выработанный методикой экспериментиро­вания, заключается в том, что величина дисперсии коэффициента регрес­сии может быть приближенно определена по выражению:

- дисперсия результативного признака:

k - число факторных признаков в уравнении.

Наиболее сложным этапом, завершающим регрессионный анализ, яв­ляется интерпретация уравнения, т. е. перевод его с языка статистики и математики на язык экономиста.

Интерпретация моделей регрессии осуществляется методами той от­расли знаний, к которой относятся исследуемые явления. Но всякая ин­терпретация начинается со статистической оценки уравнения регрессии в целом и оценки значимости входящих в модель факторных признаков, т. е. с выяснения, как они влияют на величину результативного признака. Чем больше величина коэффициента регрессии, тем значительнее влия­ние данного признака на моделируемый. Особое значение при этом имеет знак перед коэффициентом регрессии. Знаки коэффициентов регрессии говорят о характере влияния на результативный признак. Если факторный признак имеет знак плюс, то с увеличением данного фактора результатив­ный признак возрастает; если факторный признак со знаком минус, то с его увеличением результативный признак уменьшается. Интерпретация этих знаков полностью определяется социально-экономическим содержанием моделируемого (результативного) признака. Если его величина изменяется в сторону увеличения, то плюсовые знаки факторных признаков имеют положительное влияние. При изменении результативного призна-л-1 в сторону снижения положительное значение имеют минусовые знаки факторных признаков. Если экономическая теория подсказывает, что факторный признак должен иметь положительное значение, а он со знаком минус, то необходимо проверить расчеты параметров уравнения регрессии. Такое явление чаще всего бывает в силу допущенных ошибок при решении. Однако следует иметь в виду, что при анализе совокупного влия­ния факторов, при наличии взаимосвязей между ними характер их влия­ния может меняться. Для того чтобы быть уверенным, что факторный признак изменил знак влияния, необходима тщательная проверка решения данной модели, так как часто знаки могут меняться в силу допустимых ошибок при сборе или обработке информации.

При адекватности уравнения регрессии исследуемому процессу воз­можны следующие варианты.

1. Построенная модель на основе ее проверки по F-критерию Фишера в целом адекватна, и все коэффициенты регрессии значимы. Такая модель может быть использована для принятия решений к осуществлению про­гнозов.

2. Модель по F-критерию Фишера адекватна, но часть коэффициентов регрессии незначима. В этом случае модель пригодна для принятия неко­торых решений, но не для производства прогнозов.

3. Модель по F-критерию Фишера адекватна, но все коэффициенты рег­рессии незначимы. Поэтому модель полностью считается неадекватной. на ее основе не принимаются решения и не осуществляются прогнозы.

Практическая часть работы

1. Описание объекта

          В нашем случае объектом исследования является совокупность наблюдений за посещаемостью WEB сайта Комитета по делам семъи и молодежи Правительства г. Москвы . Тематика сайта – это предоставление социально незащищенным слоям населения: молодежи, студентам информации о трудоустройстве в Москве. Информация ежедневно обновляется, приблизительно 200новых вакансий в день. Также на сайте содержится информация о текущих программах правительства г. Москвы направленных на поддержку указанных выше категорий населения. Моделируемым показателем является N- количество человек в день посетивших сайт.

2. Факторы формирующиемоделируемое явление

Отборфакторов для модели осуществляется в два этапа. На первом  идет анализ, по результатам которого исследователь делает вывод о необходимости рассмотрения тех или иных явлений в качестве переменных, определяющих закономерности развития исследуемого процесса, на втором – состав предварительно отобранных факторов уточняется непосредственно по результатам статистического анализа.  

Полученные данные с помощью программы наблюдения за компьютерной сетью (Net Medic, Net lab) являются не совсем точными, но довольно близки к реальным и по этому будем считать, что они дают представление о характере процесса. (получение более точных данных было для автора невозможно в связи с недостаточной технической базой) Из совокупности этих факторов я отобрал следующие :

Зависимый фактор:

N- количество человек в день посетивших сайт.

Для модели в абсолютных показателях

Независимые факторы:

P - Загруженность внутренней сети (чел/день)

S– Cкорость обмена данными в сети Кбит/сек

V– Кол-во вакансий на текущий день

B– Количество «Баннеров» – рекламных ссылок на исследуемый сайт.

Данные представлены в таблице 1.

Таблица 1

№ Объекта наблюдения	N Кол-во человек в день	P Загруженность внутренней сети (чел/ден)	S Скорость обмена данными в сети Кбит/сек	V Кол-во вакансий на текущий день.	B Кол-во баннеров
1	11	651	2627	165	4
2	18	1046	3045	400	4
3	19	944	2554	312	5
4	11	1084	4089	341	4
5	15	1260	6417	496	7
6	10	1212	4845	264	8
7	12	254	923	78	1
8	14	1795	9602	599	13
9	9	2851	12542	622	12
10	15	1156	6718	461	9

3. Анализ матрицы коэффициентов парных корреляций

Таблица 2

№ фактора	N	P	S	V	B
N	1.00	-0.22	-0.06	0.44	0.12
P	-0.22	1.00	0.91	0.68	0.74
S	-0.06	0.91	1.00	0.86	0.91
V	0.44	0.68	0.86	1.00	0.85
B	0.12	0.74	0.91	0.85	1.00

          Из таблицы 2 находим тесно коррелирующие факторы. Налицо мультиколлениарность факторов P и S( 0.91 ). Оставим только один фактор P . И действительно если скорость в сети высокая то она может без значительных задержек во времени обработать значительное кол-во запросов от пользователей, значит чем больше скорость в сети тем больше в ней пользователей. Тем загруженее сеть.

4. Построение уравнения регрессии

Используя программное обеспечение «ОЛИМП» (которое в свою очередь использует для расчетов указанные выше принципыи формулы чем значительно облегчает нам жизнь), найдем искомое уравнение множественной регрессии, исключив из расчетов, как указывалось выше, факторы S – скорость сети (чел/день )

Путем перебора возможных комбинаций оставшихся факторных признаков получим следующую модель:

Функция N = +12.567-0.005*P+0.018*V

Оценки коэффициентов линейной регрессии

№	Значение	Дисперсия	Среднеквадратическое отклонение	Значение tрасч
1	12.57	2.54	1.59	7.88
2	-0.01	0	0	-3.60
3	0.02	0	0	4.07

Кpитические значения t-pаспpеделения

пpи 8 степенях свободы

имеют следующие значения:

        веpоятность      t-значение

         0.900         1.400

         0.950         1.863

         0.990         2.887

В нашей модели |t_расч |> t_критичу всех коэффициентов регрессии значит можно утверждать, что модель является адекватной моделируемому явлению, т.е. гипотеза о значимости уравнения не отвергается, о чем говорят также данные выдаваемые компьютером:

Характеристики остатков

     Среднее значение...................………….. -0.000

     Оценка дисперсии...................………….   3.6

     Оценкаприведенной дисперсии......….   4.95

     Средний модуль остатков...........………  1.391

     Относительная ошибка аппроксимации.  9.898

     Критерий Дарбина-Уотсона...........…….  1.536

     Коэффициент детерминации...........……  0.690

     F - значение ( n1 =   3, n2 =   8).……….    143

      Гипотеза о значимости уравнения не отвергается с вероятностью0.950

5. Смысл модели

При увеличении количества вакансий в день, количествопосетивших сайт людей будет увеличиваться . Это означает что в настоящий момент сайт не полностью удовлетворяет запросы пользователей, что необходимо увеличить количество вакансий, но в связи со сложившимся в экономике России положением это представляется проблематичным.

          При увеличении загруженности внутренней сети в которой расположен сервер содержащий исследуемый сайт количество людей посетивших сайт будет уменьшатся из-за снижения скорости доступа к нему а также из-за возможных перегрузках в узлах сети, в связи с чем сервер содержащий сайт может не отвечать на запросы пользователей. Также с перегрузкой связаны различные сбои в работе системы, что отрицательно сказывается на работе сайта. Коэффициент детерминации улинейной модели - 0.69. Это означает , что факторы , вошедшие в модель объясняют изменение количества посетивших сайт людей на 69%. Следовательно значения полученные с помощью линейной модели близки к фактическим.

Литература

«Теория статистики» учебник под редакцией проф. Р.А.Шмойловой   Издательство «Финансы и статистика» 1996 г.