Доверительные интервалы для дисперсии остатков. Построение доверительного интервала для математического ожидания генеральной совокупности. Доверительные интервалы: теория и задачи

Здесь среднее считается известным фиксированным числом, а дисперсиявыступает в роли неизвестного параметра. Положим

Так как --, тоимеет стандартное нормальное распределение. Тем самым, функцияимеет-распределение сстепенями свободы, никаким образом не зависящее от неизвестного параметра. Обозначая черезквантили этого распределения и фиксируя некоторые, такие, что, приходим к неравенству

которое выполнено с вероятностью . Откуда получаем-доверительный интервал для:

Доверительный интервал для дисперсии при неизвестном среднем

Заметим, что функция определена таким образом, что при заданной выборке ее значения зависят лишь от параметра. Что касается распределения случайной величины, то по теореме Фишера (см.8.3) оно является -распределением сстепенями свободы и, следовательно, не зависит от неизвестных параметров. Фиксируя, такие, что, и рассуждая как в (47), приходим к следующему -доверительному интервалу для:

который, используя обозначение (30), можно переписать так

Доверительный интервал для среднего при неизвестной дисперсии

Как и в предыдущем пункте, оба параметра исчитаются неизвестными, при этомявляется мешающим параметром. По теореме Фишера

и

независимы и имеют распределения и-распределение сстепенью свободы соответственно. Следовательно, отношение

имеет распределение Стьюдента с степенью свободы. Выберем функциюравной правой части (48):

где -- выборочная дисперсия, определенная формулой (30). Функция не зависит явно от мешающего параметра. Обозначая черезквантиль распределения Стьюдента сстепенью свободы, получим, что неравенство

выполнено с вероятностью . Отсюда получаем-доверительный интервал для:

Так как распределение Стьюдента симметрично, то по Предложению 3.3

Поэтому доверительный интервал можно записать в виде

Таким образом, выборочное среднее является серединой этого интервала.

Пример 8.2

Обратимся к Примеру 6.4.Предположим , что каждая из выборокивзята изнормального распределения снеизвестными параметрами --исоответственно. (О том, на основании чего можно сделать такое допущение, мы поговорим позже в9.5.)

Наша цель -- найти доверительные интервалы для и, теоретических значений содержания углерода и прочности на разрыв стали GS50. Напомним, что объем каждой из выборок. Зафиксируем доверительную вероятность, близкую к единице, скажем. По таблице распределения Стьюдента на стр.определим приближенно, что. Вспоминая значенияи, найденные в Примере6.5на стр., вычисляем

и, пользуясь формулой (49), получаем -доверительный интервал для процентногосодержания углерода

и -доверительный интервал для значенияпрочности на разрыв

Лабораторная работа №12. Основы теории оценивания

Статистик имеет дело с данными, подверженными случайной изменчивости. Их поведение характеризуется некоторым законом распределения вероятностей. Такой закон, как правило, содержит неизвестные величины, которые принято считать параметрами закона. В силу случайной изменчивости наблюдаемых данных, нельзя, основываясь на них, указать совершенно точное значение параметров. Приходится довольствоваться лишь приближенными значениями. Итак, математический статистик работает с такими величинами: - случайной величиной, которую он никогда не наблюдает, но которую считает "душой" изучаемых им данных, причиной, их породившей. Эта величина определяется некоторыми параметрами; - изучаемыми данными, которые получены, как реализация случайной величины. Например, случайной величиной является точное время. Её реализациями - показания часов, доступных для статистика. Задача статистика - по показаниям n часов t 1 ,...,t n максимально точно установить время. Кроме того он обязан охарактеризовать точность установленного значения. Он выполняет оценивание искомой величины в виде t = t 0 + ξ(a,σ), где t 0 - истинное время в момент исследования, ξ(a,σ) - случайная величина, характеризующая отклонение от истинного значения, t 0 , a, σ - параметры, величина ξ характеризуется законом распределения, вероятностями того, что она принимает различные значения. Оцениванием в статистике называют правило вычисления приближенного значения параметра на основе наблюдаемых данных. Оценка - это приближенное значение параметра, найденное по наблюдаемым данным. При построении оценок для практического применения, к оценкам предъявляются три основных требования:

точность, то есть близость к истинному значению параметра, в примере ξ(a,σ) должно быть мало;

несмещенность, то есть требование, чтобы математическое ожидание оценки было равно истинному значению параметра, в примере ξ(a,σ) должно быть в среднем равно нулю;

состоятельность, то есть требование, чтобы при увеличении числа наблюдений оценка сходилась по вероятности к истинному значению параметра. В примере при большом числе часов n значение ξ(a,σ) должно стремиться к нулю с вероятностью, стремящейся к единице.

Наилучших во всех отношениях оценок не бывает. Например, среднее арифметическое, широко распространенная оценка среднего значения случайной величины, обладает свойством оптимальности для нормально распределенных данных. Однако оно приводит к ошибкам, если среди данных есть выбросы, то есть резко выделяющиеся значения. Такие выбросы в экономике порождены грубыми ошибками в измерениях или опечатками, при которых может исчезнуть точка между рублями и копейками и зарплата возрастёт в сотню раз. Рассмотрим случайный процесс, связанный с историей нанесения на карту Великой Британии уточнённых границ её владений, разбросанных по всем частям света. Известно, что любая точка на Земле характеризуется двумя координатами - широтой и долготой. Сегодня любой школьник слышал о спутниковых приборах, задающих любую точку на Земле с точностью до метра. Однако в те времена даже подобный прибор не помог бы морякам, так как он не обнаружил бы на небе ни одного "опорного" спутника. Широта определялась непосредственно по высоте светил над горизонтом с помощью прибора "секстан", аналогичного современному теодолиту (подзорная труба плюс измеритель угла). Долгота представляет собой угол поворота земного шара, при котором совмещаются местный меридиан и выбранный за условный нуль гринвичский. Земля делает оборот в 360° почти за сутки, то есть за час она поворачивается на 15°, за 4 минуты - на 1°. Для определения долготы надо точно знать местное и гринвичское время. Если штурман говорит капитану: "Местный полдень, Сэр", а капитан знает время в этот момент в Гринвиче, то разность времени, делённая на 4 минуты, и определяет долготу местности в градусах. Сегодня всё было бы просто - позвонить в Гринвич и узнать их время. Но тогда радио ещё не было придумано. Если бы на корабле были кварцевые часы, которые уходят на долю минуты за год, проблемы тоже бы не было, но существовавшие тогда лучшие хронометры не обеспечивали необходимой для измерения долготы точности. Они за несколько месяцев плавания уходили от точного времени на десятки минут. И когда в 1831 году в кругосветное плавание для составления карт отправлялся корабль "Бигль", капитан корабля Фиц Рой, человек просвещенный и ученый, взял с собой 24(!) морских хронометра. Каждый хронометр показывал своё "гринвичское время". В данном исследовании случайная величина - момент, когда штурман определял точное местное время по какому-нибудь небесному светилу. "Душа" измеряемой случайной величины - истинное время в Гринвиче в этот момент. Такую величину обозначим ξ. Значение этой величины никогда не известно. Наблюдаемые значения случайной величины, это показания (разные) хронометров. Каждый из них несколько ошибался, но в целом они следовали за общей "душой", накладывая на неё свою случайную погрешность. Оценка случайной величины - это то гринвичское время, которое предполагал по наблюдаемым данным капитан. Пусть случайные величины x i , i = 1,...,n, являются реализациями одной случайной величины ξ, то есть имеют одинаковое распределение (одну "душу"), причём для любого i среднее значение показаний равно одному и тому же числу: Е(x i) = Е(ξ). Смысл этого утверждения таков: все часы не могут дружно отставать или спешить из-за конструктивных неполадок. В среднем, равновероятно, что они спешат или отстают. Кроме того, пусть они независимы. Другими словами, у них нет чего-то общего в группах. Так, матрос, записывающий показания часов, мог их регистрировать в одной последовательности. Тогда последние показания регистрировались бы на минуту позже первых. Или несколько часов могли висеть в тёплом месте и от нагрева дружно спешить. Предположение, что такого явления нет, соответствует условию независимости показаний в разных испытаниях. Самая простая задача оценивания - это определение вероятности некоторого события, например, того, что реальная (не обязательно правильная) монета выпадет гербом вверх. Определить вероятность события почти никогда нельзя непосредственно. Универсального метода, который позволял бы для произвольного события указать его вероятность, не существует. Можно оценить вероятность события А, если допустимо проводить независимые повторные испытания в ходе которых это событие наступает с постоянной вероятностью. Пусть в каждом из п испытаний вероятность р = Р(А) события А остается неизменной и результат каждого испытания независим от остальных. Обозначим через m случайное число тех испытаний из общего числа n, в которых произошло событие А. Говорят, что m - число "успехов" в n испытаниях Бернулли. Согласно статистическому определению вероятности, при большом n относительная частота m/n события А приближенно равна вероятности события наступления события А, то есть m/n ~ р, где р = Р(А). Докажем, что это следует из аксиоматики Колмогорова. В математическом анализе используется строгое понятие предела последовательности: при достаточно большом номере члена последовательности, его значение может быть сделано сколь угодно близким к предельному значению. Такое определение не соответствует реальной жизни, где крайне редко происходят совершенно невероятные события. Например, из первичного хаотического бульона возникает бактерия, способная воспроизводить себя. Или рыба создаёт нечто, которое сначала миллионы лет ей не надо (но развивается), а затем становится крылом. Или затапливается целый город (или страна). В теории вероятностей понятие предела толкуется в смысле, отличном от того, который вкладывается в него в математическом анализе. Определение теории вероятностей ближе к жизни. Оно не запрещает того, что в какой-то момент в последовательности будет число, резко отличающееся от других. Последовательность случайных величин u n сходится по вероятности к р, если для любого числа ε > 0 вероятность того, что модуль разности |u n - р| при n → ∞ меньше, чем ε, стремится к единице:

В теории вероятностей никакое событие не является достоверным, но событие: |u n - р| ≤ ε практически достоверно при достаточно больших n. Докажем неравенство Чебышева. Пусть ξ - случайная величина, имеющая математическое ожидание Е(ξ) = а и дисперсию D(ξ) = σ², ε - положительное число. Тогда вероятность события, состоящего в том, что центрированная (Е(ξ) - а) и нормированная случайная величина превышает ε менее, чем ε -2:

Действительно, σ² = Е(ξ - а)². При вычислении среднего в правой части, выделим две области значений ξ. Для тех ξ, у которых |ξ - а| < εσ, сумма (или интеграл) соответствующих произведений неотрицателен. Для тех ξ, у которых |ξ - а| > εσ, сумма (или интеграл):

Любопытный частный случай: σ = 0. При этом ясно, что |ξ - а| = 0, то есть ξ = а. Докажем теорему Чебышева. Пусть х 1 ,...,х n - независимые одинаково распределенные случайные величины, имеющие математическое ожидание и дисперсию. То есть каждый x i суть реализация случайной величины ξ, причём Е(ξ) = Е(x i) = а, D(ξ) = D(x i) = σ². Тогда для любого ε > 0:

Доказательство. Дисперсия среднего арифметического:

Рассмотрим случайную величину η n , представляющую собой среднее арифметическое n наблюдений. Её среднее и дисперсия . Наблюдаемыми реализациями η n являются . В соответствии с неравенством Чебышева для случайной величины η n , вероятность её отклонения от среднего значения на величину, большую чем стремится к нулю:

Вероятность противоположного события стремится при больших n к 1: P(|η n - a|) → 1. Значит, последовательность случайных величин n сходится по вероятности к a. Вернемся к измерению времени на "Бигле". Показание каждого хронометра x i , i = 1,...,n - это измерение, независимое от других приборов. Подразумевается, что конструкция хронометра такова, что его работе отсутствует систематическая ошибка. Это значит, что одни экземпляры хронометров могут "уходить вперёд", другие "отставать", но эти ошибки случайные, связанные с изготовлением данного образца. Математически это означает, что среднее время - истинное. Качество конструкции и технологии изготовления хронометров характеризуется тем, насколько однородна по точности хода вся продукция в целом. Математически это выражается разбросом показаний отдельных приборов, т.е. дисперсией случайных величин x i . Дисперсия среднего в n = 24 раз меньше, чем дисперсия отдельного хронометра. Поэтому "среднее время", определённое по 24 хронометрам в среднем ближе к истинному времени почти в 5 раз, чем время любого отдельного хронометра.

Пусть случайная величина распределена по нормальному закону, для которого дисперсия D неизвестна. Делается выборка объема n . Из нее определяется исправленная выборочная дисперсия s 2 . Случайная величина

распределена по закону 2 c n -1 степенями свободы. По заданной надежности можно найти сколько угодно границ 1 2 и 2 2 интервалов, таких, что

Найдем 1 2 и 2 2 из следующих условий:

P(2 1 2) = (1 -)/ 2(**)

P(2 2 2) = (1 -)/ 2(***)

Очевидно, что при выполнении двух последних условий справедливо равенство (*).

В таблицах для случайной величины 2 обычно дается решение уравнения

Из такой таблицы по заданной величине q и по числу степеней свободы n - 1 можно определить значение q 2 . Таким образом, сразу находится значение 2 2 в формуле (***).

Для определения 1 2 преобразуем (**):

P(2 1 2) = 1 - (1 -)/ 2 = (1 +)/ 2

Полученное равенство позволяет определить по таблице значение 1 2 .

Теперь, когда найдены значения 1 2 и 2 2 , представим равенство (*) в виде

Последнее равенство перепишем в такой форме, чтобы были определены границы доверительного интервала для неизвестной величины D:

Отсюда легко получить формулу, по которой находится доверительный интервал для стандартного отклонения:

Задача. Будем считать, что шум в кабинах вертолетов одного и того же типа при работающих в определенном режиме двигателях -- случайная величина, распределенная по нормальному закону. Было случайным образом выбрано 20 вертолетов, и произведены замеры уровня шума (в децибелах) в каждом из них. Исправленная выборочная дисперсия измерений оказалась равной 22,5. Найти доверительный интервал, накрывающий неизвестное стандартное отклонение величины шума в кабинах вертолетов данного типа с надежностью 98%.

Решение. По числу степеней свободы, равному 19, и по вероятности (1 - 0,98)/2 = 0,01 находим из таблицы распределения 2 величину 2 2 = 36,2. Аналогичным образом при вероятности (1 + 0,98)/2 = 0,99 получаем 1 2 = 7,63. Используя формулу (****), получаем искомый доверительный интервал: (3,44; 7,49).

Построим доверительный интервал для оценки дисперсии случайной величины, распределенной по нормальному закону, в MS EXCEL .

Построение доверительного интервала для оценки приведено в статье . Процедура построения доверительного интервала для оценки имеет много общего с процедурой для оценки среднего , поэтому в этой статье она изложена менее подробно, чем в указанной статье.

Формулировка задачи. Предположим, что из генеральной совокупности имеющей с неизвестным средним значением μ и неизвестной дисперсией σ 2 взята выборка размера n. Необходимо на основании этой выборки оценить дисперсию распределения и построить доверительный интервал .

Примечание : Построение относительно нечувствительно к отклонению генеральной совокупности от . А вот при построении доверительного интервала для оценки требование нормальности является строгим.

СОВЕТ : Для построения Доверительного интервала нам потребуется знание следующих понятий:

В качестве точечной оценкой дисперсии распределения, из которого взята выборка , используют Дисперсию выборки s 2 .

Также, перед процедурой проверки гипотезы , исследователь устанавливает требуемый – это допустимая для данной задачи ошибка первого рода , т.е. вероятность отклонить нулевую гипотезу , когда она верна (уровень значимости обозначают буквой α (альфа) и чаще всего выбирают равным 0,1; 0,05 или 0,01)

В статье про ХИ2-распределение показано, что y=(n-1)s 2 /σ 2 , имеет ХИ2-распределение с n-1 степенью свободы.

Воспользуемся этим свойством и построим двухсторонний доверительный интервал для оценки дисперсии .

В статистике существует два вида оценок: точечные и интервальные. Точечная оценка представляет собой отдельную выборочную статистику, которая используется для оценки параметра генеральной совокупности. Например, выборочное среднее - это точечная оценка математического ожидания генеральной совокупности, а выборочная дисперсия S 2 - точечная оценка дисперсии генеральной совокупности σ 2 . было показано, что выборочное среднее является несмещенной оценкой математического ожидания генеральной совокупности. Выборочное среднее называется несмещенным, поскольку среднее значение всех выборочных средних (при одном и том же объеме выборки n ) равно математическому ожиданию генеральной совокупности.

Для того чтобы выборочная дисперсия S 2 стала несмещенной оценкой дисперсии генеральной совокупности σ 2 , знаменатель выборочной дисперсии следует положить равным n – 1 , а не n . Иначе говоря, дисперсия генеральной совокупности является средним значением всевозможных выборочных дисперсий.

При оценке параметров генеральной совокупности следует иметь в виду, что выборочные статистики, такие как , зависят от конкретных выборок. Чтобы учесть этот факт, для получения интервальной оценки математического ожидания генеральной совокупности анализируют распределение выборочных средних (подробнее см. ). Построенный интервал характеризуется определенным доверительным уровнем, который представляет собой вероятность того, что истинный параметр генеральной совокупности оценен правильно. Аналогичные доверительные интервалы можно применять для оценки доли признака р и основной распределенной массы генеральной совокупности.

Скачать заметку в формате или , примеры в формате

Построение доверительного интервала для математического ожидания генеральной совокупности при известном стандартном отклонении

Построение доверительного интервала для доли признака в генеральной совокупности

В этом разделе понятие доверительного интервала распространяется на категорийные данные. Это позволяет оценить долю признака в генеральной совокупности р с помощью выборочной доли р S = Х/ n . Как указывалось , если величины n р и n (1 – р) превышают число 5, биномиальное распределение можно аппроксимировать нормальным. Следовательно, для оценки доли признака в генеральной совокупности р можно построить интервал, доверительный уровень которого равен (1 – α)х100% .

где p S - выборочная доля признака, равная Х/ n , т.е. количеству успехов, деленному на объем выборки, р - доля признака в генеральной совокупности, Z - критическое значение стандартизованного нормального распределения, n - объем выборки.

Пример 3. Предположим, что из информационной системы извлечена выборка, состоящая из 100 накладных, заполненных в течение последнего месяца. Допустим, что 10 из этих накладных составлены с ошибками. Таким образом, р = 10/100 = 0,1. Доверительному уровню 95% соответствует критическое значение Z = 1,96.

Таким образом, вероятность того, что от 4,12% до 15,88% накладных содержат ошибки, равна 95%.

Для заданного объема выборки доверительный интервал, содержащий долю признака в генеральной совокупности, кажется более широким, чем для непрерывной случайной величины. Это объясняется тем, что измерения непрерывной случайной величины содержат больше информации, чем измерения категорийных данных. Иначе говоря, категорийные данные, принимающие лишь два значения, содержат недостаточно информации для оценки параметров их распределения.

В ычисление оценок, извлеченных из конечной генеральной совокупности

Оценка математического ожидания. Поправочный коэффициент для конечной генеральной совокупности (fpc ) использовался для уменьшения стандартной ошибки в раз. При вычислении доверительных интервалов для оценок параметров генеральной совокупности поправочный коэффициент применяется в ситуациях, когда выборки извлекаются без возвращения. Таким образом, доверительный интервал для математического ожидания, имеющий доверительный уровень, равный (1 – α)х100% , вычисляется по формуле:

Пример 4. Чтобы проиллюстрировать применение поправочного коэффициента для конечной генеральной совокупности, вернемся к задаче о вычислении доверительного интервала для средней суммы накладных, рассмотренной выше в примере 3. Предположим, что за месяц в компании выписываются 5000 накладных, причем X̅ =110,27долл., S = 28,95 долл., N = 5000, n = 100, α = 0,05, t 99 = 1,9842. По формуле (6) получаем:

Оценка доли признака. При выборе без возвращения доверительный интервал для доли признака, имеющий доверительный уровень, равный (1 – α)х100% , вычисляется по формуле:

Доверительные интервалы и этические проблемы

При выборочном исследовании генеральной совокупности и формулировании статистических выводов часто возникают этические проблемы. Основная из них - как согласуются доверительные интервалы и точечные оценки выборочных статистик. Публикация точечных оценок без указания соответствующих доверительных интервалов (как правило, имеющих 95%-ный доверительный уровень) и объема выборки, на основе которых они получены, может породить недоразумения. Это может создать у пользователя впечатление, что точечная оценка - именно то, что ему необходимо, чтобы предсказать свойства всей генеральной совокупности. Таким образом, необходимо понимать, что в любых исследованиях во главу угла должны быть поставлены не точечные, а интервальные оценки. Кроме того, особое внимание следует уделять правильному выбору объемов выборки.

Чаще всего объектами статистических манипуляций становятся результаты социологических опросов населения по тем или иным политическим проблемам. При этом результаты опроса выносят на первые страницы газет, а ошибку выборочного исследования и методологию статистического анализа печатают где-нибудь в середине. Чтобы доказать обоснованность полученных точечных оценок, необходимо указывать объем выборки, на основе которой они получены, границы доверительного интервала и его уровень значимости.

Следующая заметка

Используются материалы книги Левин и др. Статистика для менеджеров. – М.: Вильямс, 2004. – с. 448–462

Центральная предельная теорема утверждает, что при достаточно большом объеме выборок выборочное распределение средних можно аппроксимировать нормальным распределением. Это свойство не зависит от вида распределения генеральной совокупности.