Относительная ошибка коэффициент вариации

Коэффициент
вариации,
или изменчивости, годового
стока служит мерой оценки колебания
годовых величин стока относительно его
нормы и численно равен относительному
среднему
квадратическому отклонению
.
Он служит также
для сравнения отдельных статистических
рядов, например годовых
величин стока разных рек, в отношении
их изменчивости
или рассеяния точек на кривой.

При
наличии длительных наблюдений Указаниями
СН 371-67 предусматриваются
два метода определения

в зависимости от
изменчивости годового стока.

Если
изменчивость годового стока невелика
и характеризуется коэффициентом вариации

,
рекомендуется следующая
формула

(3.1)

где
ki
– модульный
коэффициент стока каждого года; n
– число лет
наблюдений (число членов статистического
ряда).

При
n<30
формула (3.1) используется в виде

(3.1′)

Формула
(3.1) представляет собой выражение второго
момента
площади кривой распределения относительно
центральной ординаты,
а метод определения
и


по
формулам (3.1 ) и
(3.6) называется методом моментов.

Относительная
средняя квадратическая ошибка коэффициента
вариации, вычисленная по этим формулам,
равна

(3.2)

Формула
(4.2) предложена Е. Г. Блохиновым и
рекомендована Указаниями СН 371-67.

Для
нормального распределения параметра
или близкого к нему более обоснованной
формулой определения

является:

(3.3)

Значения

в зависимости
от п и


вычисленные по формулам (3.2) и (3.3),
приводятся в таблицах 3.1 и 3.2.

Таблица
3.1

Относительные
средние квадратические ошибки (%)
коэффициента вариации, вычисленные по
формуле (3.2)

Число
лет наблюдений n

10

20

30

40

50

60

70

80

90

100

0,20

23

16

13

11

10

9,3

8,6

8,1

7,6

7,2

0,30

23

17

14

12

10

9,6

8,8

8,3

7,8

7,4

0,40

24

17

14

12

11

9,8

9,1

8,5

8,0

7,6

Примечание.
При
промежуточных значениях Cv
и
п

определяется
по
интерполяции.

Таблица
3.2

Относительные
средние квадратические ошибки (%)
коэффициента вариации, вычисленные по
формуле (3.3)

n

0,20

0,40

0,60

0,80

1,00

10

23,2

25 7

29,4

33,7

38,6

20

16,5

18,2

20,7

23,9

27,4

30

13,4

14,8

16,9

19,5

22,3

50

10,4

11,5

13,1

15,1

17,3

100

7,4

8,2

9,3

10,7

12,3

Из
этих таблиц видно, что для определения

<0,50
с точ-ностью ±10% необходимо иметь ряд
наблюдений продолжительностью 50—60
лет, а вычисления по формулам (3.2) и (3.3)
дают малую разницу, которая практически
не сказывается на конечных результатах
расчетов.

При
большой изменчивости годового стока
(>0,50),
что характерно для рек засушливых
районов, коэффициент вариации определяется
методом наибольшего правдоподобия. По
этому методу значение Cv
устанавливается
в зависимости от параметра ,
который представляет собой среднее
значение логарифмов модульных
коэффициентов lg
k
и вычисляется по равенству

(3.4)

Имея
значение ,
по таблице 3.3 легко установить величину
Cv.
Относительная
средняя квадратическая ошибка Cv,
установленного
с помощью параметра ,
приближенно
равна

(3.5)

Более
точные значения
,
вычисленные
методом наибольшего
правдоподобия, приводятся в таблице
3.4.

Значения
коэффициентов вариации, определенные
методом моментов
и методом наибольшего правдоподобия
при Сv
>0,5,
различаются
не более чем на 2–3% (таблица 3.4). В то же
время метод
наибольшего правдоподобия отличается
сложностью и громоздкостью
вычислений. Поэтому можно считать, что
метод наибольшего
правдоподобия для определения Cv
не
имеет преимущества перед методом
моментов и при массовых расчетах Cv
лучше пользоваться последним, т.е.
формулой (3.1),
который
оправдал себя при многочисленном
практическом применении.

Коэффициенты
вариации, установленные по формуле
(4.1)
и по
табл. 3.4 с помощью параметра ,
принимаются
в качестве расчетных,
когда их средняя квадратическая ошибка,
вычисленная
по формуле (3.2), не превышает следующие
пределы:

Интервалы
значений Cv
0,2—0,3
0,4—0,8 больше 0,8

Допустимая средняя

квадратическая
ошибка, %
20 10 5

Таблица
3.3

Относительная
средняя квадратическая ошибка (%)
коэффициента изменчивости

Cv

Число
лет
наблюдений п

10

20

30

40

50

60

70

80

90

100

0 50

21,5

15,2

12,4

10,8

9,6

8,8

8,1

7,6

7,2

6,8

0,75

20,5

14,5

11,8

10,3

9,2

8,4

7,7

7,2

6,9

6,5

1,00

19,4

13,7

11,2

9,7

8,7

7,9

7,3

6,8

6,5.

6,1

1,25

18,2

12,8

10,5

9,1

8,1

7,5

6,9

6,4

6,1

5,8

1,50

16,9

12,0

9,8

8,5

7,6

6,9

6,4

6,0

5,7

5,4

1,75

15,8

11,2

9,1

7,9

7,0

6,4

6,0

5,6

5,3

5,0

2,00

14,6

10,4

8,4

7,3

6,6

6,0

5,5

5,2

4,9

4,6

Примечание.
При промежуточных значениях
Cv
и п средняя
квадра. тическая
ошибка определяется по интерполяции.

Таблица
3.4

Средние
значения Cv,
определенные
методами моментов и наибольшего
правдоподобия

Истинное
значение Cv

Объем
выборки
и

Значение
Cv

по методу
моментов

по
методу наибольшего
правдоподобия

0,25

0,50

1,00

25

50

25

50

25

50

0,25

0,24

0,49

0,50

0,97

0,98

0,25

0,25

0,49

0,50

0,99

1,00

Максимальные
ошибки Cv
значительно
превышают среднее квадратическос
значение. Они возможны тогда, когда в
короткий
ряд наблюдений, по которому определяются
Cv
, входит очень многоводный
или маловодный год, повторяемость
которого значительно
реже чем один раз в п
лет.
Однако вероятность больших
ошибок Cv,
в два-три раза превышающих ее среднюю
квадратическую
величину, очень мала.

Коэффициент
асимметрии
Cs
характеризует
несимметричность ряда
величин стока относительно его среднего
значения.
Это менее устойчивый параметр кривой
распределения
или обеспеченности и для надежного его
определения требуется
ряд наблюдений над стоком более 100—150
лет. По
имеющимся рядам наблюдений можно
установить лишь приближенное
значение коэффициента асимметрии. Для
этой цели используется формула третьего
момента

(3.6)

Относительная
средняя квадратическая ошибка Cs
зависит от
коэффициента вариации Сv
и числа лет наблюдений п.
Ее значение
при Cs
= 2Cv
с учетом
асимметричного распределения годовых
величин стока может быть определена по
формуле С. Н. Крицкого и М. Ф. Менкеля.
Так
при обычных значениях CV=0,20—0,40
средняя квадратичная ошибка

при
n=20—30
составляет около 14—16% от значения
коэффициента, а при n
= 50 уменьшается до 10—12%. Относительная
среднеквадратичная ошибка определения
коэффициента Cs
вычисляется
по формуле

(3.7)

Величины
этих ошибок коэффициентов Cv
и
Cs,
определенных
по формулам (3.2-3.3) и (3.7), даны в таблицах
3.2–3.3 и 3.6.

Для
наиболее распространенных величин
годового стока рек лесной и лесостепной
зон Cv=0,20÷0,50.
Средняя ошибка его опре­деления при
n=20-30
лет находится в пределах 15,5-19,5%.

Для
надежного подсчета коэффициента Сs
необходимо иметь, длительный ряд
(порядка
100
и
более), что практически бывает крайне
редко. Коэффициент обладaeт
более значительной устойчивостью во
времени и для надежного его подсчета
достаточен более короткий ряд наблюдении.
Поэтому обычно величину Сs
принимают
кратно значению Сv
 т.е.

Сs=а
Сv (3.8)

Таблица
3.5

Относительные
средние квадратические ошибки определения
коэффициента асимметрии
в % приСs
=2Cv

п

Коэффициент
вариации
Cv

0,10

0,20

0,40

126

0,80

1,00

10

399

216

140

126

126

134

20

281

153

99

85

89

95

30

234

125

80

72

74

78

40

199

108

70

63

64

67

50

178

96

63

56

57

60

100

125

69

44

39

41

42

Величина
а для
различных гидрологических характеристик
принимается различной. Так, для
биноминальной асимметричной кривой
пределом этой величины могут быть от
а=2 до
;Кмин
– отношение
наинизшего расхода к среднему данного
ряда). Для среднегодового стока равенство
коэффициентов CS=Cv

справедливо
только при малых величинах Cv.
При больших
величинах
Cv
следует
применять
,
что дает, как правило, величинуCS>2CV.
Для других
гидрологических величин соотношение
между Cv
и CS,
будет указано ниже.

При
наличии ряда наблюдений порядка 20 и
более построение кривой обеспеченности
выполняется с помощью таблицы
вспомогательных величин, образец которой
приведен в таблице. 3.6.

В
графе 12 подсчитывается обеспеченность
точек (модульных коэффициентов)
эмпирической кривой р
% определяется
по формуле

(3.9)

где
m
– порядковый номер члена ряда при
расположении их в убывающем порядке; n
– число членов в ряду.

Таблица
3.6

Вспомогательные
величины для построения кривой
обеспеченности

№

пп

Год

Q

м3/сек

в убывающ ем
порядке

(k
-1)

(k
-1)2

(k
-1)3

р, %

+

­

+

­

годы

Q,
м3/сек

1

2

3

4

5

6

7

8

9

10

11

12

1

1894

1938

2

1895

1941

…

…

…

1941

Сумма

На
график (рис. 3.1) наносят точки ряда
наблюдений (полые кружки) и получают
кривую обеспеченности. Пользуясь табл.
3.6.можно построить на этом же графике
теоретическую кривую обеспеченности.
Для этого из графы 5 надо получить
величину откуда
можно получить

Для
контроля правильности подсчета сумма
модульных коэффициентов должна
удовлетворять равенству
,
а
в графах 7, 8 .Используя
сумму ,
из графы 9 можно получить значение
значение Cv
по
формуле (3.1-3.1′). В первом приближении
применяем CS=2CV.

Для
получения теоретических точек кривой
обеспеченности следует пользоваться
таблицей Фостера – Рыбкина, в которой
приведены отклонения ординат кривой
обеспеченности от середины Ф
при Хср
= 1 и Cv=1
(см. табл. 3.9).

Пользуясь
табл. 3.7, можно подсчитать значения
модульных коэффициентов по формуле

(3.10)

Затем
по формуле (4.5) определить значения
расходов разной обеспеченности:

(3.11)

р,
%

0,1

1

5

10

25

50

75

80

90

95

97

99

99,9

Сs=0,57

Фр

Фр
Cv

kp
= Фр
Cv+1

Qp
= Q0
kp

kp

Qp
= Q0
kp

Результаты заносятся
в табл. 3.7.

Таблица 3.7

Полученные
значения Qр
– наносят
на график, приведенный на рис. 3.1 (на
рисунке значения Qр.
обозначены сплошными кружками). Если
проведенная по этим кружкам кривая
обеспеченности (пунктирная) не совпадает
с кривой, построенной по наблюденным
данным, то это обозначает, что принятое
значение Cs
для построения
теоретической кривой не соответствует
значению Cs
соответствующего
фактическим данным. Это значение
необходимо изменять до
тех
пор, пока теоретическая кривая не
совпадет с кривой натурных наблюдений.

Биноминальная
кривая обеспеченности хорошо согласуется
с натурными данными. Однако она имеет
ряд недостатков, одним из которых
является то, что при соотношении Cs
< 2 Cv
встречающемся на практике при расчетах
годового стока рек засушливых районов,
ординаты кривой обеспеченности в нижней
части имеют отрицательные значения.
Для исключения этого недостатка С. Н.
Крицкий и М. Ф. Менкель предложили новые
кривые обеспеченности [35]. По этим кривым
при любом соотношении Cs
и Cv
нулевая
ордината получается только при
обеспеченности в 100%. При CS=2CV
 кривая
обеспеченности совпадает с биномальной
ассиметричной кривой.
Ассиметричные
кривые на
клетчатке вероятности спрямляются не
полностью и имеют выпуклость тем большую
, чем больше коэффициент асимметрии.
При положительной асимметрии выпуклость
обращена вниз, при отрицательной –
вверх.

Характеристика
связи между обеспеченностью и
повторяемостью расходов приведена в
табл. 3.8.

Применение
методов теории вероятности и математической
статистики
в решении гидрологических задач получило
широкое распространение как у нас, так
и за границей. Однако следует отметить
несовершенство
и условность этих методов. Кривые
обеспеченности, построенные теоретическим
путем, необходимо каждый раз анализировать
и проверять, используя фактические
наблюдения.

Рис.
3.1. Кривая обеспеченности средних годовых
расходов на клетчатке вероятности

Дальнейшее
развитие гидрологии должно идти по пути
все большего
развития генетических методов. Под ними
следует подразумевать
исследование закономерностей развития
гидрологических явлений и процессов
на основе обобщения данных наблюдений
и их физического анализа.

Таблица
3.8

Характеристики
лет
разной
обеспеченности

Обеспечен­ность,
%

Повторяется
1
раз в n
лет

Характеристика
года

0,1

1000

Катастрофически
многоводный

1

100

Очень многоводный

5

20

Многоводный

10

10

Средней
многоводности

25

4

Средней
многоводности

50

2

Медианный

75

4

Средней
маловодности

90

10

Средней
маловодности

95

20

Маловодный

97

33

Маловодный

99

100

Очень маловодный

99,9

1000

Катастрофически
маловодный

Таблица 3.9

Отклонение
ординат биноминальной асимметрической
кривой обеспеченности от середины (от
1,0) при Cv=1

CS

Обеспеченность
р %

CS

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

0,00

3,72

3,09

2,33

1,88

1,64

1,28

0,84

0,67

0,52

0,25

0,00

-0,25

-0,52

-0,67

-0,84

-1,28

-1,64

-1,88

-2,33

-3,09

0,00

0,05

3,83

3,16

2,36

1,90

1,65

1,28

0,84

0,66

0,52

0,24

-0,01

-0,26

-0,52

-0,68

-0,84

-1,28

-1,62

-1,86

-2,29

-3,02

0,05

0,10

3,94

3,23

2,40

1,92

1,67

1,29

0,84

0,66

0,51

0,24

-0,02

-0,27

-0,53

-0,68

-0,85

-1,27

-1,61

-1,81

-2,25

-2,95

0,10

0,15

4,05

3,31

2,44

194

1,68

1,30

0,84

0,66

0,50

0,23

-0,02

-0,28

-0,54

-0,68

-0,85

-1,26

-1,60

-1,82

-2,22

-2,88

0,15

0,20

4,16

3,38

2,47

1,96

1,70

1,30

0,83

0,65

050

0,22

-0,03

-0,28

-0,55

-0,69

-0,85

-1,26

-1,58

-1,79

-2,18

-2,81

0,20

0,25

4,27

3,45

2,50

1,98

1,71

1,30

0,82

0,64

0,49

0,21

-0,04

-0,29

-0,56

-0,70

-0,85

-1,25

-1,56

-1,77

-2,14

-2,74

0,25

0,30

4,38

3,52

2,54

2,00

1,72

1,31

0,82

0,64

0,48

0,20

-0,05

-0,30

-0,56

-0,70

-0,85

-1,24

-1,55

-1,75

-2,10

-2,67

0,30

0,35

4,50

3,59

2,58

2,02

1,73

1,32

0,82

0,64

0,48

0,20

-0,06

-0,30

0,56

-0,70

-0,85

-1,24

-1,53

-1,72

-2,06

-2,60

0,35

0,40

4,61

3,66

2,61

2,04

1,75

1,32

0,82

0,63

0,47

0,19

-0,07

-0,31

-0,57

-0,71

-0,85

-1,23

-1,52

-1,70

-2,03

-2,54

0,40

0,45

4,72

3,74

2,64

2,06

1,76

1,32

0,82

0,62

0,46

0,18

-0,08

-0,32

-0,58

-0,71

-0,85

-1,22

-1,51

-1,68

-2,00

-2,47

0,45

0,50

4,83

3,81

2,68

2,08

1,77

1,32

0,81

0,62

0,46

0,17

-0,08

-0,33

-0,58

-0,71

-0,85

-1,22

-1,49

-1,66

-1,99

-2,40

0,50

0,55

4,94

3,88

2,72

2,10

1,78

1,32

0,80

0,62

0,45

0,16

-0,09

-0,34

-0,58

-0,72

-0,85

-1,21

-1,47

-1,64

-1,92

-2,32

0,55

0,60

5,05

3,96

2,75

2,12

1,80

1,33

0,80

0,61

0,44

0,16

-0,10

-0,34

-0,59

0,72

-0,85

-1,20

-1,45

-1,61

-1,88

-2,27

0,60

0,65

5,16

4,03

2,78

2,14

1,81

1,33

0,80

0,60

0,44

0,15

-0,11

-0,35

-0,60

-0,72

-0,85

-1,44

1,19-

1,59

-1,84

-2,20

0,65

0,70

5,28

4,10

2,82

2,15

1,82

1,33

0,79

0,59

0,43

0,14

-0,12

-0,36

-0,60

-0,72

-0,85

-1,18

-1,42

-1,57

-1,81

-2,14

0,70

0,75

5,39

4,17

2,86

2,16

1,83

1,34

0,78

0,58

0,42

0,13

-0,12

-0,36

-0,60

-0,72

-0,86

-1,18

-1,40

-1,54

-1,78

-2,08

0,75

0,80

5,50

4,24

2,89

2,18

1,84

1,34

0,78

0,58

0,41

0,12

-0,13

-0,37

-0,60

-0,73

-0,86

-1,17

-1,38

-1,52

-1,74

-2,02

0,80

0,85

5,62

4,31

2,92

2,20

1,85

1,34

0,78

0,58

0,40

0,12

-0,14

-0,38

-0,60

-0,73

-0,86

-1,16

-1,35

-,49

-1,70

-1,96

0,85

0,90

5,73

4,38

2,96

2,22

1,86

1,34

0,77

0,57

0,40

0,11

-0,15

-0,38

-0,61

-0,73

-0,85

-1,15

-1,35

-1,47

-1,66

-1,90

0,90

0,95

5,84

4,46

2,99

2,24

1,87

1,34

0,76

0,56

0,39

0,10

-0,16

-0,38

-0,62

-0,73

-0,85

-1,14

-1,34

-1,44

-1,62

-1,84

0,95

1,00

5,96

4,53

3,02

2,25

1,88

1,34

0,76

0,55

0,38

0,09

-0,16

-0,39

-0,62

-0,73

-0,85

-1,13

-1,32

-1,42

-1,59

-1,79

1,00

1,05

6,07

4,60

3,06

2,26

1,88

1,84

0,75

0,54

0,37

0,08

-0,17

-0,40

-0,62

-0,74

-0,85

-1,12

-1,30

-1,40

-1,56

-1,74

1,05

1,10

6,18

4,67

3,09

2,28

1,89

1,34

0,74

0,54

0,36

0,07

-0,18

-0,41

-0,62

-0,74

-0,85

-1,10

-1,28

-1,38

-1,52

-1,68

1,10

1,15

6,30

4,74

3,12

2,30

1,90

1,34

0,74

0,53

0,36

0,06

-0,18

-0,42

-0,62

-0,74

-0,84

-1,09

-1,26

-1,36

-1,48

-1,63

1,15

1,20

6,41

4,81

3,15

2,31

1,91

1,34

0,73

0,52

0,35

0,05

-0,19

-0,42

-0,63

-0,74

-0,84

-1,08

-1,24

-1,33

-1,45

-1,58

1,20

1,25

6,52

4,88

3,18

2,32

1,92

1,34

0,72

0,52

0,34

0,04

-0,20

-0,42

-0,63

-0,74

-0,84

-1,07

-1,22

-1,30

-1,42

-1,53

1,25

1,30

6,64

4,95

3,21

2,34

1,92

1,34

0,72

0,51

0,33

0,04

-0,21

-0,43

-0,63

-0,74

-0,84

-1,06

-1,20

-1,28

-1,38

-1,48

1,30

1,35

6,76

5,02

3,24

2,36

1,93

1,34

0,72

0,50

0,32

0,03

-0,22

-0,44

-0,64

-0,74

-0,84

-1,05

-1,18

-1,26

-1,35

-1,44

1,35

1,40

6,87

5,09

3,27

2,37

1,94

1,34

0,71

0,49

0,31

0,02

-0,22

-0,44

-0,64

-0,73

-0,83

-1,04

-1,17

-1,23

-1,32

-1,39

1,40

1,45

6,98

5,16

3,30

2,38

1,94

1,34

0,70

0,48

0,30

0,01

-0,23

-0,44

-0,64

-0,73

-0,82

-1,03

-1,15

-1,21

-1,29

-1,35

1,45

1,50

7,09

5,23

3,33

2,39

1,95

1,33

0,69

0,47

0,30

0,00

-0,24

-0,45

-0,64

-0,73

-0,82

-1,02

-1,13

-1,19

-1,26

-1,31

1,50

1,60

7,31

5,37

3,39

2,42

1,96

1,33

0,68

1,46

0,28

-0,02

-0,25

-0,46

-0,64

-0,73

-0,81

-0,99

-1,10

-1,14

-1,20

-1,24

1,60

Окончание
3.9

CS

Обеспеченность
р %

CS

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

1,70

7,54

5,50

3,44

2,44

1,97

1,32

0,66

0,44

0,26

-0,03

-0,27

-0,47

-0,64

-0,72

-0,81

-0,97

-1,06

-1,10

-1,14

-1,17

1,70

1,80

7,76

5,64

3,50

2,46

1,98

1,32

0,64

0,42

0,24

-0,05

-0,28

-0,48

-0,64

-0,72

-0,80

-0,94

-1,02

-1,06

-1,09

-1,11

1,80

1,90

7,98

5,77

3,55

2,49

1,99

1,31

0,63

0,40

0,22

-0,07

-0,29

-0,48

-0,64

-0,72

-0,79

-0,92

-0,98

-1,01

-1,04

-1,05

1,90

2,0

8,21

5,91

3,60

2,51

2,00

1,30

0,61

0,39

0,20

-0,08

-0,31

-0,49

-0,64

-0,71

-0,78

-0,90

-,095

-0,97

-0,99

-1,00

2,0

2,10

—

6,06

3,65

2,53

2,00

1,29

0,60

0,38

0,19

-0,01

-0,32

-0,49

-0,64

-0,70

-0,77

-0,87

-0,92

-0,94

-0,95

-0,95

2,10

2,20

—

6,20

3,70

2,55

2,01

1,28

0,58

0,37

017

-0,11

-0,33

-0,49

-0,63

-0,69

-0,75

-0,85

-0,89

-0,90

-0,90

-0,91

2,20

2,30

—

6,34

3,75

2,56

2,01

1,27

0,56

0,35

0,15

-0,12

-0,34

-0,49

-0,62

-0,68

-0,73

-0,82

-0,85

-0,86

-0,87

-0,87

2,30

2,40

—

6,47

3,79

2,57

2,01

1,25

0,54

0,33

0,13

-0,14

-0,35

-0,50

-0,62

-0,66

-0,72

-0,79

-0,82

-0,83

-0,83

-0,83

2,40

2,50

—

6,60

3,83

2,58

2,01

1,24

0,53

0,32

0,12

-0,15

-0,36

-0,50

-0,61

-0,65

-0,70

-0,77

-0,79

-0,80

-0,80

-0,80

2,50

2,60

—

6,73

3,87

2,59

2,01

1,23

0,51

0,30

0,10

-0,17

-0,37

-0,50

-0,60

-0,64

-0,68

-0,74

-0,76

-0,76

-0,77

-0,77

2,60

2,70

—

6,86

3,91

2,60

2,01

1,21

0,49

0,28

0,08

-0,18

-0,38

-0,50

-0,60

-0,63

-0,67

-0,72

-0,73

-0,74

-0,74

-0,74

2,70

2,80

—

6,99

3,95

2,61

2,02

1,20

0,47

0,27

0,06

-0,20

-0,38

-0,50

-0,59

-0,62

-0,65

-0,70

-0,71

-0,71

-0,71

-0,71

2,80

2,90

—

7,12

3,99

2,62

2,02

1,19

0,45

0,26

0,04

-0,21

-0,39

-0,50

-0,58

-0,61

-0,64

-0,67

-0,68

-0,69

-0,69

-0,69

2,90

3,00

—

7,25

4,02

2,63

2,02

1,18

0,42

0,25

0,03

-0,23

-0,40

-0,50

-0,57

-0,61

-0,62

-0,65

-0,66

-0,66

-0,67

-0,67

3,00

3,10

—

7,23

4,09

2,66

1,97

1,11

0,37

0,17

0,010

-0,23

-0,40

-0,51

-0,58

-0,60

-0,62

-0641

-0,645

-0,646

-0,646

-0,646

3,10

3,20

—

7,35

4,11

2,66

1,96

1,09

0,35

0,15

-0,0006

-0,25

-0,41

-0,51

-0,57

-0,59

-0,61

-0,621

-0,625

-0,625

-0,625

-0,625

3,20

3,30

—

7,44

4,15

2,66

1,95

1,08

0,33

0,13

-0,022

-0,26

-0,41

-0,50

-0,56

-0,58

-0,59

-0,605

-0,606

-0,606

-0,606

-0,606

3,30

3,40

—

7,54

4,18

2,66

1,94

1,06

0,31

0,11

-0,036

-0,27

-0,41

-0,50

-0,55

-0,57

-0,58

-0,586

-0,587

-0,589

-0,589

-0,589

3,40

3,50

—

7,64

4,21

2,66

1,93

1,04

0,29

0,085

-0,049

-0,28

-0,41

-0,50

-0,54

-0,55

-0,56

-0,57

-0,571

-0,571

-0,571

-0,571

3,50

3,60

—

7,72

4,24

2,65

1,93

1,03

0,28

0,064

-0,072

-0,28

-0,42

-0,49

-0,54

-0,54

-0,55

-0,555

-0,556

-0,566

-0,556

0,552

3,60

3,70

—

7,86

4,26

2,66

1,91

1,01

0,26

0,048

-0,084

-0,29

-0,42

-0,48

-0,52

-0,53

-0,54

-0,541

-0,541

-0,541

-0541

-0,541

3,70

3,80

—

7,97

4,29

2,65

1,90

1,00

0,24

0,032

-0,095

-0,30

-0,42

-0,48

-0,51

-0,52

-0,52

-0,526

-0,526

-0,526

-0,526

-0,526

3,80

3,90

—

8,08

4,32

2,65

1,90

0,98

0,23

0,020

-0,11

-0,30

-0,41

-0,47

-0,50

-0,51

-0,51

-0,513

-0,513

-0,513

-0,513

-0,513

3,90

4,00

—

8,17

4,34

2,65

1,90

0,96

0,21

0,010

-0,12

-0,31

-0,41

-0,46

-0,49

-0,49

-0,50

-0,50

-0,50

-0,50

-0,50

-0,50

4,00

4,10

—

8,29

4,36

2,65

1,89

0,95

0,20

0,000

-0,13

-0,31

-0,41

-0,46

-0,48

-0,484

-0,486

-0,487

-0,487

-0,487

-0,487

-0,487

4,10

4,20

—

8,38

4,39

2,64

1,88

0,93

0,19

0,010

-0,13

-0,31

-0,41

-0,45

-0,47

-0,473

-0,476

-0,476

-0,476

-0,476

-0,476

-0,476

4,20

4,30

—

8,49

4,40

2,64

1,87

0,92

0,17

0,021

-0,14

-0,32

-0,40

-0,44

-0,46

-0,462

-0,465

-0,465

-0,465

-0,465

-0,465

-0,465

4,30

4,40

—

8,60

4,42

2,63

1,86

0,91

0,15

0,032

-0,15

-0,32

-0,40

-0,44

-0,451

-0,454

-0,455

-0,455

-0,455

-0,455

-0,455

-0,455

4,40

4,50

—

8,69

4,44

2,62

1,85

0,89

0,14

0,042

-0,16

-0,32

-0,40

-0,43

-0,441

-0,444

-0,445

-0,445

-0,445

-0,445

-0,445

-0,445

4,50

4,60

—

8,79

4,46

2,62

1,84

0,87

0,13

0,052

-0,17

-0,32

-0,40

-0,42

-0,432

-0,434

-0,435

-0,435

-0,435

-0,435

-0,435

-0,435

4,60

4,70

—

8,89

4,49

2,61

1,83

0,85

0,11

0,064

-0,18

-0,32

-0,40

-0,42

-0,424

-0,425

-0,426

-0,426

-0,426

-0,426

-0,426

-0,426

4,70

4,80

—

8,96

4,50

2,60

1,81

0,82

0,10

0,075

-0,19

-0,32

-0,39

-0,41

-0,416

-0,416

-0,416

-0,416

-0,416

-0,416

-0,416

-0,416

4,80

4,90

—

9,04

4,51

2,60

1,80

0,80

0,084

0,087

-0,19

-0,33

-0,386

-0,401

-0,407

-0,408

-0,409

-0,409

-0,409

-0,409

-0,409

-0,409

4,90

5,00

—

9,12

4,54

2,60

1,78

0,78

0,068

0,099

-0,20

-0,33

-0,380

-0,395

-0,399

-0,400

-0,400

-0,400

-0,400

-0,400

-0,400

-0,400

5,00

5,10

—

9,20

4,57

2,60

1,76

0,76

0,051

0,11

-0,21

-0,33

-0,376

-0,388

-0,391

-0,392

-0,392

-0,392

-0,392

-0,392

-0,392

-0,392

5,10

5,20

—

9,27

4,59

2,60

1,74

0,73

0,035

0,12

-0,21

-0,33

-0,370

-0,382

-0,384

-0,385

-0,385

-0,385

-0,385

-0,385

-0,385

-0,385

5,20

Таблица 3.10

Ординаты
биноминальной асимметрической кривой
обеспеченности kp
при CS
=2Cv

Cv

Обеспеченность
р %

Cv

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

0,05

1,197

1,162

1,120

1,096

1,084

1,064

1,042

1,033

1,026

1,012

0,999

0,986

0,974

0,966

0,958

0,936

0,920

0,908

0,888

0,852

0,05

0,06

1,241

1,197

1,145

1,116

1,101

1,077

1,050

1,039

1,031

1,014

0,999

0,983

0,968

0,959

0,949

0,924

0,904

0,890

0,867

0,825

0,06

0,07

1,285

1,232

1,171

1,135

1,118

1,090

1,058

1,046

1,036

1,016

0,998

0,980

0,962

0,952

0,941

0,911

0,889

0,873

0,846

0,779

0,07

0,08

1,328

1,268

1,196

1,155

1,136

1,104

1,067

1,052

1,040

1,018

0,998

0,978

0,956

0,945

0,932

0,899

0,873

0,856

0,824

0,772

0,08

0,09

1,372

1,303

1,221

1,176

1,153

1,117

1,074

1,058

1,045

1,020

0,997

0,975

0,951

0,938

0,924

0,886

0,858

0,838

0,803

0,746

0,09

0,10

1,416

1,338

1,247

1,196

1,170

1,130

1,083

1,065

1,050

1,022

0,997

0,972

0,945

0,931

0,915

0,874

0,842

0,821

0,782

0,719

0,10

0,11

1,467

1,377

1,274

1,217

1,188

1,143

1,091

1,071

1,054

1,024

0,996

0,969

0,939

0,924

0,906

0,862

0,827

0,805

0,763

0,696

0,11

0,12

1,517

1,417

1,302

1,238

1,206

1,157

1,090

1,077

1,059

1,025

0,995

0,965

0,933

0,916

0,898

0,850

0,813

0,789

0,744

0,674

0,12

0,13

1,568

1,456

1,330

1,260

1,224

1,170

1,107

1,083

1,063

1,027

0,994

0,962

0,927

0,909

0,890

0,838

0,798

0,783

0,726

0,651

0,13

0,14

1,618

1,496

1,357

1,281

1,242

1,184

1,115

1,089

1,068

1,028

0,993

0,958

0,921

0,902

0,881

0,826

0,784

0,757

0,707

0,628

0,14

0,15

1,669

1,535

1,384

1,302

1,260

1,197

1,124

1,096

1,072

1,030

0,992

0,955

0,916

0,894

0,872

0,814

0,769

0,740

0,688

0,606

0,15

0,16

1,720

1,574

1,412

1,323

1,278

1,210

1,132

1,101

1,076

1,032

0,990

0,952

0,910

0,887

0,864

0,802

0,754

0,724

0,669

0,583

0,16

0,17

1,770

1,614

1,440

1,344

1,296

1,224

1,140

1,108

1,081

1,033

0,989

0,948

0,904

0,880

0,856

0,790

0,740

0,708

0,650

0,560

0,17

0,18

1,821

1,653

1,467

1,366

1,314

1,237

1,148

1,114

1,085

1,035

0,988

0,945

0,898

0,873

0,847

0,778

0,725

0,692

0,632

0,537

0,18

0,19

1,871

1,693

1,494

1,387

1,332

1,251

1,156

1,120

1,090

1,036

0,987

0,941

0,892

0,865

0,838

0,766

0,711

0,676

0,613

0,515

0,19

0,20

1,922

1,732

1,522

1,408

1,350

1,264

1,164

1,126

1,094

1,038

0,986

0,938

0,886

0,858

0,830

0,754

0,696

0,660

0,594

0,492

0,20

0,21

1,981

1,778

1,552

1,431

1,369

1,278

1,172

1,132

1,098

1,039

0,984

0,934

0,880

0,851

0,822

0,743

0,683

0,646

0,578

0,475

0,21

0,22

2,041

1,823

1,582

1,454

1,388

1,291

1,179

1,137

1,102

1,040

0,983

0,930

0,873

0,843

0,813

0,731

0,670

0,631

0,562

1,457

0,22

0,23

2,100

1,869

1,613

1,476

1,407

1,304

1,187

1,142

1,105

1,041

0,981

0,926

0,867

0,836

0,804

0,720

0,657

0,617

0,547

0,440

0,23

0,24

2,159

1,914

1,643

1,499

1,426

1,318

1,194

1,149

1,109

1,042

0,980

0,922

0,861

0828

0,796

0,708

0,644

0,603

0,531

0,423

0,24

0,25

2,218

1,960

1,674

1,522

1,445

1,332

1,202

1,154

1,113

1,043

0,978

0,918

0,854

0,821

0,788

0,697

0,630

0,588

0,515

0,406

0,25

0,26

2,278

2,006

1,704

1,545

1,464

1,345

1,210

1,160

1,117

1,044

0,976

0,914

0,848

0,814

0,779

0,686

0,617

0,574

0,499

0,388

0,26

0,27

2,337

2,051

1,734

1,568

1,483

1,358

1,217

1,166

1,121

1,045

0,975

0,910

0,842

0,806

0,770

0,674

0,604

0,560

0,483

0,371

0,27

0,28

2,396

2,097

1,764

1,590

1,502

1,372

1,225

1,172

1,124

1,046

0,973

0,906

0,836

0,799

0,762

0,663

0,591

0,546

0,468

0,354

0,28

0,29

2,456

2,142

1,795

1,613

1,521

1,386

1,232

1,177

1,128

1,047

0,972

0,902

0,829

0,791

0,754

0,651

0,578

0,531

0,452

0,336

0,29

0,30

2,515

2,188

1,825

1,636

1,540

1,399

1,240

1,183

1,132

1,048

0,970

0,898

0,823

0,784

0,745

0,640

0,564

0,517

0,436

0,319

0,30

0,31

2,584

2,239

1,858

1,660

1,560

1,413

1,247

1,188

1,135

1,048

0,968

0,893

0,817

0,776

0,736

0,629

0,553

0,504

0,423

0,306

0,31

0,32

2,662

2,290

1,891

1,683

1,579

1,426

1,254

1,193

1,138

1,048

0,966

0,889

0,810

0,769

0,727

0,618

0,542

0,492

0,410

0,294

0,32

0,33

2,721

2,340

1,924

1,707

1,599

1,440

1,262

1,198

1,142

1,048

0,963

0,884

0,804

0,761

0,718

0,608

0,530

0,480

0,396

0,281

0,33

0,34

2,789

2,391

1,957

1,730

1,618

1,454

1,269

1,203

1,145

1,048

0,961

0,880

0,798

0,754

0,709

0,597

0,518

0,467

0,383

0,268

0,34

0,35

2,858

2,442

1,990

1,754

1,638

1,468

1,276

1,208

1,148

1,048

0,959

0,875

0,792

0,746

0,700

0,586

0,506

0,454

0,370

0,256

0,35

0,36

2,926

2,493

2,024

1,778

1,658

1,481

1,283

1,212

1,151

1,048

0,957

0,870

0,785

0,738

0,692

0,575

0,495

0,442

0,357

0,243

0,36

Продолжение
табл.3.10

Cv

Обеспеченность
р %

Cv

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

0,37

2,994

2,544

2,057

1,801

1,677

1,495

1,290

1,217

1,154

1,048

0,955

0,866

0,779

0,731

0,683

0,564

0,483

0,430

0,344

0,230

0,37

0,38

30,063

2,594

2,090

1,825

1,697

1,509

1,298

1,222

1,158

1,048

0,952

0,861

0,773

0,723

0,674

0,554

0,471

0,417

0,330

0,217

0,38

0,39

3,132

2,645

2,123

1,848

1,716

1,522

1,305

1,227

1,161

1,048

0,950

0,857

0,769

0,716

0,665

0,543

0,460

0,404

0,317

0,205

0,39

0,40

3,200

2,696

2,156

1,872

1,736

1,536

1,312

1,232

1,164

1,048

0,948

0,852

0,766

0,708

0,656

0,533

0,448

0,392

0,304

0,192

0,40

0,41

3,278

2,753

2,192

1,897

1,756

1,549

1,319

1,236

1,167

1,048

0,945

0,847

0,753

0,701

0,648

0,522

0,437

0,382

0,294

0,184

0,41

0,42

3,356

2,810

2,227

1,923

1,776

1,563

1,325

1,241

1,169

1,047

0,942

0,842

0,746

0,693

0,640

0,513

0,427

0,371

0,284

0,175

0,42

0,43

3,433

2,867

2,262

1,948

1,797

1,576

1,332

1,246

1,172

1,047

0,939

0,837

0,739

0,686

0,631

0,503

0,416

0,361

0,275

0,166

0,43

0,44

3,511

2,924

2,298

1,974

1,817

1,590

1,338

1,250

1,174

1,046

0,936

0,832

0,732

0,678

0,623

0,494

0,406

0,350

0,265

0,158

0,44

0,45

3,589

2,981

2,334

1,999

1,837

1,603

1,345

1,254

1,177

1,046

0,933

0,828

0,726

0,671

0,615

0,484

0,395

0,340

0,255

0,150

0,45

0,46

3,667

3,038

2,369

2,024

1,857

1,616

1,352

1,259

1,180

1,046

0,930

0,823

0,719

0,664

0,607

0,474

0,384

0,330

0,245

0,141

0,46

0,47

3,745

3,095

2,404

2,050

1,877

1,630

1,358

1,264

1,182

1,045

0,927

0,818

0,712

0,656

0,599

0,465

0,374

0,319

0,236

0,132

0,47

0,48

3,822

3,152

2,440

2,075

1,898

1,643

1,365

1,268

1,185

1,045

0,924

0,813

0,705

0,649

0,590

0,455

0,363

0,309

0,226

0,126

0,48

0,49

3,900

3,209

2,476

2,101

1,918

1,657

1,371

1,272

1,187

1,044

0,921

0,808

0,698

0,641

0,582

0,446

0,353

0,298

0,216

0,116

0,49

0,50

3,978

3,226

2,511

2,126

1,938

1,670

1,378

1,277

1,190

1,044

0,918

0,803

0,691

0,634

0,574

0,436

0,342

0,288

0,206

0,107

0,50

0,51

4,065

3,328

2,549

2,152

1,959

1,683

1,384

1,280

1,192

1,043

0,915

0,798

0,684

0,626

0,566

0,428

0,333

0,279

0,198

0,102

0,51

0,52

4,152

3,390

2,587

2,178

1,980

1,697

1,390

1,284

1,191

1,041

0,912

0,792

0,677

0,618

0,558

0,419

0,325

0,271

0,191

0,096

0,52

0,53

4,238

3,452

2,625

2,204

2,000

1,710

1,396

1,288

1,196

1,040

0,908

0,786

0,670

0,611

0,551

0,411

0,316

0,262

0,0183

0,090

0,53

0,54

4,325

3,514

2,663

2,230

2,0021

1,724

1,402

1,291

1,198

1,038

0,905

0,781

0,663

0,603

0,543

0,402

0,308

0,254

0,176

0,085

0,54

0,55

4,412

3,576

2,700

2,256

2,042

1,737

1,408

1,294

1,200

1,037

0,902

0,776

0,656

0,595

0,535

0,394

0,299

0,245

0,168

0,080

0,55

0,56

4,499

3,638

2,738

2,282

2,063

1,750

1,414

1,298

1,202

1,036

0,899

0,770

0,650

0,587

0,527

0,386

0,290

0,236

0,160

0,074

0,56

0,57

4,586

3,700

2,776

2,308

2,084

1,764

1,420

1,302

1,204

1,034

0,896

0,765

0,643

0,579

0,519

0,377

0,282

0,228

0,153

0,068

0,57

0,58

4,672

3,762

2,814

2,334

2,104

1,777

1,426

1,305

1,206

1,033

0,892

0,759

0,636

0,572

0,512

0,369

0,273

0,219

0,145

0,063

0,58

0,59

4,759

3,824

2,852

2,360

2,125

1,791

1,432

1,308

1,208

1,031

0,889

0,754

0,629

0,564

0,504

0,360

0,265

0,211

0,0138

0,058

0,59

0,60

4,846

3,886

2,890

2,386

2,146

1,804

1,438

1,312

1,210

1,030

0,886

0,748

0,622

0,556

0,496

0,352

0,256

0,202

0,130

0,052

0,60

0,61

4,942

3,954

2,930

2,413

2,167

1,817

1,444

1,315

1,211

1,028

0,882

0,742

0,615

0,549

0,488

0,344

0,248

0,196

0,125

0,050

0,61

0,62

5,039

4,021

2,970

2,441

2,188

1,831

1,450

1,318

1,211

1,027

0,878

0,737

0,608

0,543

0,481

0,336

0,241

0,189

0,119

0,047

0,62

0,63

5,135

4,089

3,010

2,468

2,210

1,844

1,456

1,321

1,212

10,25

0,874

0,731

0,601

0,536

0,473

0,328

0,234

0,183

0,114

0,044

0,63

0,64

5,231

4,157

3,050

2,495

2,231

1,858

1,462

1,324

1,213

1,024

0,870

0,726

0,594

0,529

0,465

0,320

0,226

0,177

0,108

0,042

0,64

0,65

5,328

4,224

3,090

2,522

2,252

1,871

1,468

1,328

1,214

1,022

0,866

0,720

0,587

0,522

0,458

0,312

0,218

0,170

0,103

0,040

0,65

0,66

5,424

4,292

3,129

2,550

2,273

1,884

1,473

1,331

1,214

1,020

0,862

0,714

0,580

0,516

0,450

0,304

0,211

0,164

0,098

0,037

0,66

0,67

5,520

4,360

3,169

2,577

2,294

1,898

1,479

1,334

1,215

1,019

0,858

0,709

0,573

0,509

0,442

0,296

0,204

0,158

0,092

0,034

0,67

0,68

5,616

4,428

30,209

2,604

2,316

1,911

1,485

1,337

1,216

1,017

0,854

0,703

0,566

0,502

0,434

0,288

0,196

0,152

0,087

0,032

0,68

0,69

5,713

4,495

3,249

2,632

2,337

1,925

1,491

1,339

1,216

1,016

0,850

0,698

0,559

0,496

0,427

0,280

0,188

0,145

0,081

0,030

0,69

0,70

5,809

4,563

3,289

2,659

2,358

1,938

1,497

1,343

1,217

1,014

0,846

0,692

0,552

0,489

0,419

0,272

0,181

0,139

0,076

0,027

0,70

0,71

5,913

4,636

3,331

2,687

2,379

1,951

1,502

1,346

1,218

1,011

0,841

0,686

0,546

0,482

0,412

0,266

0,175

0,134

0,072

0,025

0,71

Продолжение
табл.3.10

Cv

Обеспеченность
р %

Cv

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

0,72

6,017

4,710

3,374

2,714

2,400

1,963

1,506

1,348

1,218

1,008

0,837

0,680

0,539

0,474

0,406

0,259

0,168

0,129

0,069

0,023

0,72

0,73

6,121

4,783

3,416

2,742

2,421

1,976

1,511

1,350

1,219

1,005

0,832

0,674

0,533

0,467

0,399

0,253

0,163

0,124

0,065

0,021

0,73

0,74

6,225

4,856

3,458

2,770

2,442

1,988

1,516

1,353

1,220

1,002

0,828

0,668

0,526

0,460

0,392

0,246

0,157

0,119

0,062

0,019

0,74

0,75

6,328

4,930

3,500

2,798

2,463

2,001

1,520

1,356

1,220

0,999

0,823

0,662

0,520

0,452

0,386

0,240

0,150

0,113

0,058

0,018

0,75

0,76

6,432

5,003

3,543

2,825

2,484

2,014

1,525

1,358

1,221

0,996

0,818

0,656

0,514

0,445

0,379

0,234

0,144

0,108

0,054

0,016

0,76

0,77

6,536

5,076

3,585

2,853

2,505

2,026

1,530

1,360

1,222

0,993

0,814

0,650

0,507

0,438

0,372

0,227

0,138

0,103

0,051

0,014

0,77

0,78

6,640

5,149

3,627

2,881

2,526

2,039

1,535

1,363

1,223

0,990

0,809

0,644

0,501

0,431

0,365

0,221

0,132

0,098

0,047

0,012

0,78

0,79

6,744

5,223

3,670

2,908

2,547

2,051

1,539

1,366

1,223

0,987

0,805

0,638

0,494

0,423

0,359

0,214

0,126

0,093

0,044

0,010

0,79

0,80

6,848

5,296

3,712

2,936

2,568

2,064

1,544

1,368

1,224

0,984

0,800

0,632

0,488

0,416

0,352

0,208

0,120

0,088

0,040

0,008

0,80

0,81

6,962

5,374

3,756

2,964

2,589

2,076

1,547

1,369

1,223

0,981

0,795

0,626

0,482

0,410

0,345

0,203

0,116

0,084

0,038

0,007

0,81

0,82

7,075

5,452

3,800

2,992

2,611

2,089

1,550

1,370

1,222

0,978

0,790

0,619

0,475

0,403

0,338

0,197

0,112

0,080

0,036

0,007

0,82

0,83

0,189

5,530

3,843

3,019

2,632

2,101

1,554

1,371

1,222

0,975

0,784

0,613

0,469

0,397

0,330

0,192

0,109

0,075

0,034

0,006

0,83

0,84

7,302

5,608

3,887

2,047

2,654

2,114

1,557

1,372

1,221

0,972

0,779

0,606

0,462

0,390

0,323

0,186

0,105

0,071

0,032

0,006

0,84

0,85

7,416

5,686

3,931

3,075

2,675

2,126

1,546

1,373

1,220

0,970

0,774

0,600

0,456

0,384

0,316

0,181

0,0101

0,067

0,030

0,005

0,85

0,86

7,530

5,764

3,975

3,103

2,696

2,138

1,563

1,374

1,219

0,967

0,769

0,594

0,450

0,378

0,309

0,176

0,097

0,063

0,027

0,004

0,86

0,87

7,643

5,542

4,019

3,131

2,718

2,151

1,566

1,375

1,218

0,964

0,764

0,587

0,443

0,371

0,302

0,170

0,093

0,058

0,025

0,004

0,87

0,88

7,757

5,920

4,062

3,158

2,739

2,163

1,570

1,376

1,218

0,961

0,758

0,581

0,437

0,365

0,294

0,165

0,090

0,054

0,023

0,003

0,88

0,89

7,870

5,998

4,106

3,186

2,761

2,176

1,573

1,377

1,217

0,958

0,753

0,574

0,430

0,358

0,287

0,0,159

0,086

0,050

0,021

0,003

0,89

0,90

7,984

6,076

4,150

3,214

2,782

2,188

1,576

1,378

1,216

0,955

0,748

0,568

0,424

0,352

0,280

0,154

0,082

0,046

0,019

0,002

0,90

0,91

8,107

6,159

4,196

3,243

2,803

2,200

1,579

1,379

1,215

0,951

0,742

0,562

0,417

0,346

0,274

0,149

0,079

0,044

0,018

0,002

0,91

0,92

8,229

6,242

4,241

3,273

2,825

2,211

1,583

1,380

1,214

0,947

0,737

0,557

0,411

0,339

0,269

0,144

0,076

0,043

0,017

0,002

0,92

0,93

8,352

6,326

4,286

3,302

2,846

2,222

1,586

1,380

1,212

0,943

0,732

0,551

0,404

0,333

0,263

0,139

0,073

0,041

0,016

0,002

0,93

0,94

8,474

6,409

4,332

3,331

2,868

2,234

1,590

1,381

1,211

0,939

0,726

0,545

0,397

0,326

0,257

0,134

0,070

0,040

0,015

0,002

0,94

0,95

8,597

6,492

4,378

3,360

2,889

2,246

1,593

1,382

1,210

0,936

0,720

0,540

0,390

0,320

0,252

0,129

0,066

0,038

0,014

0,001

0,95

0,96

8,720

6,575

4,423

3,390

2,910

2,257

1,596

1,383

1,209

0,932

0,715

0,534

0,384

0,314

0,246

0,125

0,063

0,036

0,014

0,001

0,96

0,97

8,842

6,658

7,468

3,419

2,932

2,268

1,600

1,384

1,208

0,928

0,710

0,528

0,377

0,307

0,240

0,120

0,060

0,035

0,013

0,001

0,97

0,98

8,965

6,742

4,514

3,448

2,953

2,280

1,603

1,384

1,206

0,924

0,704

0,522

0,370

0,301

0,234

0,115

0,057

0,033

0,012

0,001

0,98

0,99

9,087

6,825

4,560

3,478

2,975

2,292

1,607

1,385

1,205

0,920

0,698

0,517

0,364

0,294

0,229

0,110

0,054

0,032

0,011

0,001

0,99

1,00

9,210

6,908

4,605

3,507

2,996

2,303

1,610

1,386

1,204

0,916

0,693

0,511

0,357

0,288

0,223

0,105

0,051

0,030

0,010

0,001

1,00

1,05

7,329

4,828

3,654

3,108

2,352

1,618

1,388

1,190

0,893

0,666

0,480

0,328

0,264

0,190

0,090

0,040

0,023

0,0074

0,000

1,05

1,10

7,750

5,050

3,800

3,220

2,400

1,625

1,380

1,175

0,870

0,640

0,450

0,300

0,241

0,175

0,074

0,030

0,016

0,0047

0,000

1,10

1,15

8,200

5,290

3,960

3,310

2,450

1,628

1,370

1,160

0,850

0,610

0,420

0,275

0,217

0,152

0,062

0,023

0,012

0,0031

0,000

1,15

1,20

8,650

5,530

4,120

3,400

2,500

1,630

1,350

1,145

0,830

0,580

0,390

0,250

0,198

0,130

0,049

0,016

0,008

0,0015

0,000

1,20

1,25

9,125

5,775

4,270

3,500

2,535

1,626

1340

1,128

0,805

0,550

0,362

0,226

0,170

0,112

0,040

0,012

0,0059

0,0010

0,000

1,25

1,30

9,600

6,020

4,420

3,600

2,570

1,621

1,330

1,110

0,780

0,520

0,334

0,203

0,146

0,094

0,030

0,0086

0,0038

0,0005

0,000

1,30

Окончание
табл. 3.10

Cv

Обеспеченность
р %

Cv

0,01

0,1

1

3

5

10

20

25

30

40

50

60

70

75

80

90

95

97

99

99,9

1,35

10,10

6,285

4,565

3,700

2,605

1,616

1,320

1,095

0,752

0,490

0,308

0,179

0,126

0,080

0,023

0,0063

0,0025

0,0002

0,000

1,35

1,40

10,60

6,550

4,710

3,800

2,640

1,610

1,310

1,080

0,725

0,460

0,283

0,155

0,106

0,065

0,016

0,0040

0,0012

0,000

0,000

1,40

1,45

11,12

6,815

4,845

3,880

2,670

1,600

1,295

1,060

0,698

0,432

0,258

0,138

0,092

0,056

0,012

0,0030

0,0006

0,000

0,000

1,45

1,50

11,65

7,080

4,980

3,960

2,700

590

1,280

1,040

0,670

0,405

0,234

0,120

0,077

0,046

0,009

0,0020

0,000

0,000

0,000

1,50

1,55

12,20

7,330

5,115

4,045

2,725

1,575

1,260

1,015

0,638

0,378

0,212

0,105

0,066

0,038

0,007

0,001

0,000

0,000

0,000

1,55

1,60

12,75

7,580

5,250

4,130

2,750

1,560

1,240

0990

0,605

0,350

0,190

0,090

0,056

0,030

0,005

0,000

0,000

0,000

0,000

1,60

1,65

13,28

7,840

5,385

4,215

2,775

1,545

1,210

0964

0,575

0,325

0,170

0,078

0,048

0,024

0,0035

0,000

0,000

0,000

0,000

1,65

1,70

13,80

8,100

5,520

4,300

2,800

1,530

1,180

0938

0,545

0,300

0,150

0,067

0,039

0,019

0,002

0,000

0,000

0,000

0,000

1,70

1,75

14,35

8,360

5,650

4,385

2,825

1,512

1,148

0,904

0,518

0,275

0,134

0,058

0,033

0,016

0,0012

0,000

0,000

0,000

0,000

1,75

1,80

14,90

8,620

5,780

4,470

8,850

1,495

1,115

0,870

0,490

0,250

0,117

0,048

0,027

0,012

0,0005

0,000

0,000

0,000

0,000

1,80

1,85

15,52

8,885

5,905

4,540

8,875

1,478

1,088

0,845

0,462

0,231

0,104

0,040

0,022

0,0094

0,0002

0,000

0,000

0,000

0,000

1,85

1,90

16,15

9,150

6,030

4,620

8,900

1,460

1,060

0,820

0,435

0,212

0,090

0,033

0,017

0,0068

0,000

0,000

0,000

0,000

0,000

1,90

1,95

16,75

9,415

6,165

4,705

8,915

1,441

1,040

0,791

0,408

0,194

0,080

0,028

0,014

0,0053

0,000

0,000

0,000

0,000

0,000

1,95

2,00

17,35

9,680

6,300

4,790

8,930

1,422

1,020

0,762

0,380

0,175

0,070

0,022

0,011

0,0038

0,000

0,000

0,000

0,000

0,000

2,00

2,05

17,98

9,940

6,425

7,870

2,940

1,404

1,000

0,740

0,360

0,158

0,062

0,018

0,009

0,000

0,000

0,000

0,000

0,000

0,000

2,05

2,10

18,60

10,200

6,550

4,950

2,950

1,385

0,979

0,719

0,340

0,140

0,053

0,014

0,007

0,000

0,000

0,000

0,000

0,000

0,000

2,10

2,15

19,25

10,465

6,665

5,025

2,975

1,362

0,954

0,690

0,318

0,124

0,045

0,012

0,0054

0,000

0,000

0,000

0,000

0,000

0,000

2,15

2,20

19,90

10,730

6,780

5,100

3,000

1,340

0,930

0,660

0,295

0,108

0,037

0,009

0,0038

0,000

0,000

0,000

0,000

0,000

0,000

2,20

2,25

20,55

11,00

6,900

5,165

3,000

1,318

0,905

0,635

0,278

0,095

0,032

0,0072

0,0029

0,000

0,000

0,000

0,000

0,000

0,000

2,25

2,30

21,20

11,28

7,020

5,230

3,000

1,295

0,880

0,610

0,260

0,082

0,027

0,0055

0,0020

0,000

0,000

0,000

0,000

0,000

0,000

2,30

2,35

21,85

11,54

7,135

5,290

2,990

1,286

0,850

0,582

0,240

0,071

0,023

0,0043

0,0015

0,000

0,000

0,000

0,000

0,000

0,000

2,35

2,40

22,50

11,80

7,250

5,350

2,980

1,240

0,820

0,555

0,220

0,060

0,019

0,0031

0,0010

0,000

0,000

0,000

0,000

0,000

0,000

2,40

2,45

23,15

12,08

7,375

5,400

2,965

1,205

0,786

0,528

0,200

0,055

0,016

0,0026

0,0006

0,000

0,000

0,000

0,000

0,000

0,000

2,45

2,50

23,80

12,36

7,500

5,450

2,950

1,170

0,752

0,500

0,180

0,050

0,012

0,0020

0,0002

0,000

0,000

0,000

0,000

0,000

0,000

2,50

2,55

24,45

12,64

7,625

5,485

2,925

1,130

0,716

0,475

0,165

0,040

0,010

0,0015

0,0001

0,000

0,000

0,000

0,000

0,000

0,000

2,55

2,60

25,10

12,92

7,750

5,520

2,900

1,090

0,680

0,450

0,150

0,040

0,008

0,0010

0,000

0,000

0,000

0,000

0,000

0,000

0,000

2,60

Пример 3.1.

Определить
расходы воды р. Енисея у г. Енисейска
заданных обеспеченностей:
р = 5, 10, 25, 50, 75, 95, 97 и 99%. Для
решения поставленной задачи необходимо:

  1. вычислить
    параметры кривой обеспеченности Q0,
    Cv
    и
    Cs;

  2. построить кривые
    обеспеченности — эмпирическую и
    теоретическую;

  1. по
    принятой теоретической кривой
    обеспеченности вычислить расходы воды
    заданной обеспеченности.

Продолжительность
наблюдений над стоком Енисея у г.
Енисейска 60
лет — с 1903 по 1966 г. за исключением 1906,
1922, 1923 и 1924 гг., когда имелись
перерывы в наблюдениях. Вычисления Qo,
Cv
и
Cs
сводятся в стандартную
таблицу (табл. 3.11);
Cv
и
Са
вычисляются
методом моментов.

В
графе 1 таблицы выписывается порядковый
номер, который используется
в формуле при определении эмпирической
обеспеченности, в графах
2 — 3 — годы и средние годовые расходы
или модули в хронологическом порядке.
В графе 4 годовые расходы расположены
в убывающем порядке от наибольшего,
который имеет первый номер убывающего
ряда, до наименьшего с
порядковым номером 60.

Затем
определяются
,
модульные коэффициенты расходов
убывающего ряда(гр. 5) и значения (k
-1), (k -1)2,
(k -1)3 (гр. 6 —
9). Вычисления выполняются с точностьюk – два знака после
запятой,

(k
-1)2, (k -1)3– четыре знака после запятой.

Контроль
вычислений
(числу членов ряда);.Погрешности
за счет округления k
при
вычислении его с помощью логарифмической
линейки обычно не велики, и если невязка
не превышает 0,2—0,4, то она разбрасывается
в ряд k.
Грубые
ошибки вычисления k
и
(k—1)2
скажутся на
точности Cv
и
кривой обеспеченности, и поэтому значения
k
должны
быть исправлены.

Значения
Cv
и
Ся
вычисляются по алгебраическим суммам

и
.

Таблица
3.11.

Подсчет коэффициента
вариации и асимметрии годового стока
р. Енисея

у г. Енисейска

F=
1420 000 км2

№

пп

Год

Q

м3/сек

Q,
м3/сек

в убывающем
порядке

k

(k
-1)

(k
-1)2

(k-1)3

р, %

+

­

+

­

1

2

3

4

5

6

7

8

9

10

11

1

1903

6560

10200

1,34

0,34

0,1156

0,0393

1,64

2

1904

8100

9350

1,22

0,22

0,0484

0,0106

3,28

3

1905

7350

9260

1,21

0,21

0,0441

0,0093

4,92

…

56

1962

6680

6610

0,86

0,14

0,0196

0,0027

91,8

57

1963

6950

6660

0,86

0,14

0,0196

0,0027

93,5

58

1964

6400

6420

0,84

0,16

0,0256

0,0041

95,1

59

1965

7360

6400

0,84

0,16

0,0256

0,0041

96,9

60

1966

8480

6180

0,81

0,19

0,0361

0,0069

98,5

Сумма

59,96

0

0,6944

0,0458

Q0=7640
м3/сек

;
%

;
%

Параметры кривой
обеспеченности годового стока р. Енисея
у г. Енисейска, вычисленные по 60-летнему
ряду наблюдений, и их средние квадратические
ошибки , Q0= 7640 м3/сек,%,Cv
= 0,11,%,Сs=0,57,%.

Ошибки определения
Q0
и Cv
незначительны, и вычисленные значения
Qo
и Си могут быть приняты
для дальнейших расчетов. Ошибка Cs
при n
= 60 годам получилась
большой. Поэтому расчетную кривую
обеспеченности выби­раем из двух
теоретических кривых, построенных при
Cs
вычисленном и Cs
= 2 Cv.
Кривые обеспеченности построим для
расходов.

Сначала
строим эмпирическую кривую обеспеченности.
Для этого пользуемся графами 5 и 11 табл.
3.11.
Построение выполняем на специальной
клетчатке (см. рис. 3.1).
Затем вычисляем ординаты теоретических
кривых обеспеченности. Так как Cv
=0,11, то для построения теоретических
кривых обеспеченности пользуемся
таблицами биномиальной кривой (приложение
6 и 7). Вычисления ординат кривой при Cs
= 0,57 сводятся в табл. 3.12.
Значения ФР
выписываем из строчки
приложения 6, соответствующей Cs=0,57.
Значения kp
и Qp.

При
CS=2CV
пользуемся таблицей ординат кривой
обеспеченности (приложение 7), где
приводятся значения kp,
соответствующие Cv
(значения kp
выписываем из строки
Cv
= 0,11). По вычисленным QP
построены две теоретические кривые
обеспеченности, совмещенные с эмпирической
кривой (рис. 1).

Сопоставление
совмещенных кривых позволяет сделать
вывод, что теоретическая кривая
обеспеченности, построенная при Cs=0,57,
лучше соответствует эмпирической кривой
(наблюденным точкам) во всем диапазоне
и поэтому она принимается в качестве
расчетной (табл. 3.13).

Таблица
3.12.

Вычисление
ординат кривой обеспеченности годовых
расходов воды р. Енисея у г. Енисейска

N= 60,Q0= 7640 м3/сек,Cv
= 0,11

р,
%

0,1

1

5

10

25

50

75

80

90

95

97

99

99,9

Сs=0,57

Фр

3,92

2,73

1,79

1,32

0,62

-0,1

-0,72

-1,85

-1,2

-1,46

-1,63

-1,9

-2,3

Фр
Cv

0,43

0,3

0,2

0,14

0,07

-0,01

-0,08

-0,09

-0,13

-0,16

-0,18

-0,21

-0,25

kp
= Фр Cv+1

1,43

1,3

1,2

1,14

1,07

0,99

0,92

0,91

0,87

0,84

0,82

0,79

0,75

Qp
= Q0
kp

10900

9940

9140

8640

8170

7560

7020

6950

6630

6420

6250

6020

5720

Сs
= 2 Cv

kp

1,37

1,27

1,19

1,14

1,07

1,0

0,92

0,91

0,86

0,83

0,80

0,76

0,70

Qp
= Q0
kp

10530

9700

9090

8700

8170

7640

7020

6950

6560

6340

6100

5800

5340

Таблица
3.13.

Годовые расходы
воды р. Енисея у г. Енисейска заданных
обеспеченностей

Qo
= 7640 м3/сек,
и Cv
= 0,11, Cs=0,57.

Обеспеченность
р,%

5

10

50

75

90

95

97

99

Qp
м3/сек

9140

8640

7560

7020

6630

6420

6250

6020

Рис.3.1.
Кривые обеспеченности средних годовых
расходов воды р. Енисея у г. Енисейска,
n
=60, Q0=7640
м*/сек, Cv
= 0,11, Cs=0,57.

Пример
3.2.

Определить
параметры кривой обеспеченностей
и значения годового стока разной
обеспеченности р. Илека (F=
11 000 км2)
р=5, 10, 25, 50, 75, 95, 97 и 99%.

Для решения
поставленной задачи необходимо:

  1. вычислить
    параметры кривой обеспеченности Q0,
    Cv
    и
    Cs;

  2. построить кривые
    обеспеченности – эмпирическую и
    теоретическую;

  1. по
    принятой теоретической кривой
    обеспеченности вычислить расходы воды
    заданной обеспеченности.

Cv
и
Са
вычисляются
методом моментов.

№

Год

Мср, л/сек
с 1 км2

1

1940

0,72

2

1941

3,39

3

1942

5,19

4

1944

0,43

5

1946

4,04

6

1947

1,23

7

1948

3,75

8

1949

2,54

9

1950

0,70

10

1951

0,68

11

1952

2,74

12

1953

0,95

13

1954

1,25

14

1955

0,78

15

1956

1,16

16

1957

3,74

17

1958

1,64

18

1959

1,50

19

1960

1,79

20

1961

0,82

21

1962

1,06
Источник

    По способу выражения (вычисления) ошибки принято делить на абсолютные (например, средняя квадратичная ошибка) и относительные (например, коэффициент вариации). [c.15]

    Ввиду сравнительной трудоем1КОсти вычисления критериев Пирсона, Колмогорова [77] и др. [176] чаще используются приближенные оценки. На близость эмпирического распределения к нормальному указывает уже малость коэффициента вариации. Считается [51], что при о)<7з реализуется закон Гаусса, а при ш 0,5 1,0 более приемлемым станов1ится логарифмически нормальное распределение [80]. [c.91]

    Вычисление результатов анализа и его погрешности в случае, когда коэффициент вариации неизвестен [c.174]

    Нормированное отклонение р в уравнении (90) принимают исходя из объема выборки Пв, используемой для вычисления среднего квадратического отклонения 5 (коэффициента вариации V) и уровня значимости 1—Р, гарантирующего справедливость заданной относительной ошибки к с вероятностью Р. Табулированные значения /р, (или 1-р- ) здесь не приводятся, так как они имеются в многочисленной литературе по математической статистике. [c.119]

    Вычисление результатов анализа и его погрешности при известном коэффициенте вариации [c.172]

    Результат вычисления всегда округляется в большую сторону. Следует также помнить, что коэффициент 2 в формуле ставится только в том случае, если число параллельных определений при расчете коэффициента вариации, необходимого для вычисления квадратичного отклонения 5, было не менее 20. В противном случае вместо коэффициента 2 [c.175]

    В программе 60 предусмотрено вычисление относительной (бСг = АС,/Сг) и абсолютной случайных составляющих (АС,) погрешности определения содержаний на основе данных об относительных погрешностях (относительных стандартных отклонениях или коэффициентах вариации, доверительных интервалах с заданной надежностью) всех исходных параметров [д, [c.94]

    Очевидно, если цифры, приведенные авторами, сами по себе являются средними значениями нескольких результатов, отклонения этих цифр будут меньше, чем в случае индивидуальных результатов. Эту стандартную ошибку среднего можно получить делением величины отклонения индивидуальных результатов на корень квадратный из числа результатов, использованных при вычислении среднего значения. Ниже приводятся некоторые опубликованные данные, характеризующие ошибки количественных хроматографических методов. Так, в работе [7] указан коэффициент вариации 6—6,8%, а в работе [8] — коэффициент вариации 7,7%, рассчитанный из стандартной ошибки среднего значения тройного опробования. Коэффициент вариации, установленный по данным работ [9] и [10], равен [c.10]

    Градуировочные графики для определения ряда элементов оказались линейными в пределах 3—4-х порядков величины концентрации. Коэффициент вариации результатов количественных определений 4%. Относительные пределы обнаружения (вычисленные по критерию 2оф) для Ы, Са, Сг, Ре, N1, составили 10 %, для РЬ, 2п, Сд, Ьа—10- %, для В, 11—10-5%. Даже с учетом некоторого занижения приведенных данных (критерий 2<Тф не дает величины предела надежного обнаружения см. гл. 1) очевидно, что описанный источник характеризуется очень хорошими относительными пределами обнаружения элементов. По-видимому, это объясняется высокой эффективностью ввода анализируемого раствора (в виде тщательно осушенного аэрозоля) в источник, относительно большим временем пребывания частиц элементов в плазменной струе вследствие малой скорости потока аргона, а также особенностью организации самой струи и благоприятной температурой рабочего участка плазмы ( 5800° К). [c.169]

    Коэффициент k в формуле (81) зависит от численной величины Up в формуле (8а). В частности, для заданного k = A при анализе кремния отношение Стш/сх для марганца (dx = 0,49) найдено равным 2, для меди (Ух = 0,15)—0,6. Если величина холостого опыта значительна, что особенно характерно для распространенных элементов (Si, Al, Mg, Са, Na, Fe) (область III, рис. 7), вычисление предела обнаружения в тех же условиях следует проводить по уравнению (9а) (стр. 25). Очевидно, что в общем случае предел обнаружения элемента не является постоянной величиной и его следует уточнять в каждом конкретном варианте применения метода с помощью постановки холостого опыта, причем следует определять как среднюю величину холостого опыта, так и его дисперсию (коэффициент вариации Ух). [c.236]

    Как видно из соотношений (5.5.9.10), коэффициент вариации V для всех четырех методов введения поправки линейно зависит от а и т). На практике величина т] обычно близка к единице. В спектрографическом анализе для оптимального случая величина а изменяется от 0,01 до 0,02. Ради простоты в дальнейшем вычисления будут проведены для т] = 1 и а = 0,01. [c.126]

    При обработке данных каждого межлабораторного эксперимента вычисляли (или использовали вычисленные) значения концентрации элемента (С), средней для серии анализов, и выборочной средне-квадратической погрешности (5), характеризующей эту же серию. Затем соответствующие точки наносили на графики в координатах 1 5 —1 С, иногда, дополнительно, в координатах lg У — 1 С, где V — коэффициент вариации. [c.192]

    Результаты вычисления величин коэффициентов вариации по данным измерений относительной прочности пород для разных слоев на шахте № 8 в соответствии с методами математической статистики (Митропольский, 1961) явились следуюш,ими для. слоя Рг = 26,0%, для слоя Рз/Рг = 30,7%, для слоя Рз = 20,6%. [c.65]

    Результаты вычисления коэффициентов вариации показывают, что, как требуют основные положения по испытанию прочности горных пород на одноосное сжатие, выработанные группой прочности Международного бюро по механике горных пород в г. Праге в марте 1961 г., наименьшее количество образцов для проведения таких испытаний должно быть (Протодьяконов, 1961) для слоя Рг — 7, для слоя Рз/Рг — 10, для слоя Рз — 4. [c.65]

    Наиболее часто по формулам математической статистики производится оценка неоднородности результатов технологических и других видов испытаний материалов и изделий. Наряду со средним значением вычисляются среднее квадратическое отклонение, коэффициент вариации и другие показатели разброса. Обязательное определение этих показателей оговорено в некоторых стандартах и технических условиях на материалы или методы испытаний. Однако вычисление указанных величин еще не означает применения методов математической статистики, хотя во многих случаях является необходимым элементом последующего анализа результатов со статистических позиций. [c.65]

    После оценки ископаемого содержания определяемого элемента по аналитическому графику найденная концентрация умножалась на 10, поскольку каждая проба предварительно разбавлялась в десять раз кварцевым порошком. Случайная ошибка применяемой методики (воспроизводимость), выраженная средней квадратичной ошибкой (коэффициент вариации), оценивалась путем многократного (25) определения группы эле.ментов в исследуемом образце [333]. Вычисления показали, что квадратичная ошибка однократного определения составляет (%) для никеля — 8,5, ванадия — 9,4, молибдена — 14,0, свинца — 9,6, железа — 2,0, хрома — 2,0, марганца — 14,0, меди — 14,0. [c.132]

    Для вычисления вариации в распределениях диаметра капель по величине их поверхности и веса обычный коэффициент вариации должен быть видоизменен следующим образом  [c.93]

    Вычислен ряд статистических характеристик распределений средние различных типов, коэффициенты вариации, относительные размахи распределений. [c.98]

    Формула (185) может быть использована для введения поправки к вычисленному значению коэффициента вариации зарегистрированного распределения. [c.111]

    При вычислении коэффициентов вариации для данных, полученных по электропроводности, V достигает 35—74%. Это показывает, что для получения точности анализа до 10% необходимо составлять средние пробы (особенно для гипсовых горизонтов) из большого количества проб (до 100—200), что практически трудно осуществить. В таких случаях рационально пользоваться предложенным нашей лабораторией способом средних образцов из десяти скважин. [c.150]

    Результаты вычислений представлены в таблице. Следует отметить, что теоретические значения коэффициента вариации не учитывают флуктуаций отложений, поэтому они ниже фактических. Однако это не должно сказываться на общих закономерностях процесса, вытекающих из расчетных данных. [c.54]

    Сравниваются величины ориентировочно выбранного (назначенного) и вычисленного коэффициентов вариации глубин проникновения коррозии, т.е. тЗ и. При этом, если тЗ > тЗ, то значит, что он был выбран правильно и дальнейший расчет произведен верно. В случае, если тЗ < тЗ, необходимо уточнить число проведенных измерений N и при необходимости выполнить дополнительные. [c.207]

    Чувствительность метода для тетрахлорида кремния и трихлорсилана <лр и навеске 10 г) 3—4-10- % для двуокиси кремиия и кварца (при навеске 1 г) 3—4-10 % для кремния (при навеске 0,5 г) 6—8 10- %. Коэффициент вариации — 37%. Чувствительность и коэффициент вариации определяли по данным, полученным в результате многочисленных анализов применяемых реактивов (холостых опытов). При вычислении применяется известный критерий Кайзера  [c.86]

    Числовые показатели измеряемого свойства выражаются обобщенными сводными характеристиками, такими, как средняя арифметическая, модальная величина, коэффициент неровноты, коэффициент вариации и др. Вычисление указанных характеристик производится с помощью методов математической статистики. Образцы перед испытание.м подвергают вылежке при стандартном климате (относительной влажности 1 = 65 2% и температуре 7 =20 2°С в соответствии с ГОСТ 10681—63), в этих же атмосферных условиях производят и испытания. [c.13]

    При исследовании однородности распределения дисперсных фаз применен (Метод оценки эффективности смешения, состоящий в определении поля рассеивания одного из компонентов (индикатора) в объеме смеси по данным микроструктурного анализа путем подсчета числа кинетических единиц этого компонента и вычисления коэффициента вариации Кп или коэффициента равномерности смешения Рп [240]  [c.128]

    Коэффициент запаса по материалу должен отражать вариацию химсостава наплавленного металла угловых швов и быть близким к значению для стыковых швов, вне зависимости от методов контроля швов. Для стыковых швов в СНиП этот коэффициент входит через у для основного металла при вычислении Значение у по табл. 2 [299] находится в пределах 1,025… 1,15. Целесообразно для наплавляемого металла угловых швов -иметь этот коэффициент 1,1 при переходе от нижних нормативных значений прочности к минимально возможным значениям. [c.292]

    В частности, учет туннельных поправок вблизи вершины барьера, где они наиболее существенны, в рамках одномерной модели, использующей понятие одномерного потенциала и игнорирующей взаимодействие между координатой реакции и другими степенями свободы, как это делается в приближении метода переходного состояния, не является обоснованным. Конкретные вычисления показывают [1611], что вариация эффективного потенциала для координаты реакции в пределах указанной неопределенности приводит к большому изменению коэффициента прохождения, учитывающему туннельные поправки. [c.276]

    Рассмотрены ошибки методов абсолютной калибровки, внутреннего стандарта, стандартпой добавки и внутренней нормализации. По абсолютным значениям параметров пиков и взятых для анализа количеств пробы и стандарта хроматограммы разделены па три уровня условий измерения неблагоприятный, средний и благоприятный. Калибровочные коэффициенты определяли в соответствующих условиях. Расчетные формулы для определения коэффициентов вариации были выведены, исходя из теории ошибок. Некоторые результаты вычислений приведены в табл. 4.7. Следует отметить, что рассчитанные и экспериментально определенные значения погрешностей хорошо согласуются. [c.140]

    Исследование правильности определения легирующих примесей в кремнии проводили при плотности потока излучения q 1-10 вт1см-ш диаметре пятна фокусировки 100 мкм. В качестве образцов использовали выпускаемые промышленностью подложки монокристаллического кремния с известным удельным сопротивлением, по значению которого установили исходную концентрацию легирующих примесей, согласно кривым Ирвина [11. Полученное содержание примесей сурьмы и бора, найденное из 3—10 параллельных определений, хорошо согласуется с расчетным. Коэффициент вариации в образце составляет 8—17%. Среднее значение коэффициента относительной чувствительности, вычисленного по результатам определения примесей в 5 образцах в интервале концентраций от 3 10 до 1-10 ат.%, равно 0,94 и в пределах доверительного интервала, рассчитанного с 95 %-ной надежностью, можно считать равным 1. [c.183]

    Математическая обработка результатов полевого опыта состоит в вычислении средней урожайности каждого варианта из показаний по всем повторностям, вычислении прибавок урожая (в килограммах на делянку или в процентах к кон-тролю) и в пересчетах поделяночных данных на I га. Статистическая обработка результатов опыта, вычисление достоверн(>сти различий между средними урожаями по вариантам, коэффициентов вариации, точности опыта и других показателей ведется по методикам, описанным в специальных руководствах. [c.270]

    Вычисление средней квадратичной оигибки и коэффициента вариации. Оценка по данным текущих определений. Использование данных о размахе. Применение формул (8) и (9) для вычислений 5 (или а) иногда затруднено вследствие громоздкости расчетов. В таких случаях лучше пользоваться алгебраически равноценным выражением [c.23]

    Из вышеприведенного сравнения суммарного содержания (X) катионов Ма , Са и вычисленного по уравнению (5), с их фактическим содержанием в исходных растворах (в 252 случаях) и сравнение суммарного содержания (Х ) катионов Na , Са и Mg находимого катио-питпым методом, со значением, вычисленным по уравнению (8), также Б 252 случаях говорит об удовлетворительной точности выведенных уравнений. Средняя квадратичная погрешность суммарного содержания вышеназванных катионов X, вычисленного по уравнению (5), составляет = 0.539, по уравнению (6) — = 0.535 коэффициенты вариации уравнений (5) и (6) И =74.28, а средняя квадратичная погрешность численных значений Х вычисленных по уравнению (7), = 0.497, по уравнению (8) = 0.464 коэффициенты вариации уравнений (7) и (8) 70.89. [c.141]

    При вычислении коэффициентов системы уравнений в вариациях, т. е. производных д<р11дх , необходимо иметь в виду, что эти производные изменяются вдоль всей траектории и характеризуются значениями х (/) н Ыо, . (/), соответствующими оптимальной траектории процесса. [c.326]

    Вычисления особенно просты в том случае, если изменения каждой из переменных можно произвести независимо. Величины вариаций по каждой из переменных могут быть разными. Рационально выбирать их так, чтобы изменение функции у в результате вариации было для всех переменных примерно одинаковым. Фактически удобнее произвести несколько большее число опытов, что позволяет определить величину коэффициентов при попарных произведениях переменных Х1Х2, Х2Х3, . Эти произведения, отсутствующие в уравнении (IV.34), учитывают нелинейное влияние переменных. Если это влияние мало, то предположение о возможности замены функции у в окрестности исследуемой точки плоскостью (IV. 34) споа- [c.112]

    Детальные расчеты влияния химического состава, микроструктуры пылевого аэрозоля на спектральные коэффициенты аэрозольного поглощения и рассеяния, а также на индикатрисы рассеяния были выполнены в работах И. И. Москаленко, В. Ф. Терзи и др. [41, 43—45]. При этом было исследовано влияние величины мнимой части показателя преломления на поглощение и рассеяние излучения и выполнены вычисления коэффициентов поглощения, рассеяния и индикатрисы рассеяния в спектральной области 0,3— 50 мкм для почвенно-эрозионного аэрозоля, характерного для различных эродирующих мест, в условиях пылевого выноса сахарского аэрозоля над океаном, для твердой фракции аэрозоля над промышленно развитыми районами (Манчестер, Англия Тель-Авив, Израиль). Было обнаружено, что вариации коэффициента обратного рассеяния с изменением мнимой части показателя [c.101]

    При таком расчете нельзя, конечно, получить ни вполне определенной совокупности силовых коэффициентов, ни вполне точного совпадения вычисленных частот с экспериментальными. Вариация совох упности силовых коэффициентов в каких-то определенных для каждого коэффициента пределах дает вариацию совокупности вычисленных частот, нричем для некоторых частот совпадение с экспериментом ухудшается, но зато для [c.347]

    Представляется целесообразным в тех случаях, когда соли МрХ,/0, и МрХ 0 изоструктурны, на первых этапах расчета их спектров (или анионов ХпОда и Х 0 ) принимать одинаковые значения силовых коэффициентов, а менее значительную раздельную вариацию этих коэффициентов проводить лишь на заключительной стадии расчета для достижения лучшего соответствия наблюдаемых и вычисленных частот. Если кристаллы изоформульных солей МрХ»,0, и МрХ».0 изоструктурны, то нередко наблюдается образование соответствующих твердых растворов в широком интервале составов, иногда во всем интервале Мр (Х 0 — Х 0 ). Если при этом распределение атомов X и X» в решетке носит статистический или достаточно близкий к статистическому характер, спектры твердых растворов, вероятно, можно рассматривать как суперпозицию спектров анионов Х Хп-жО с х = = 0,1,2, м (точнее — кристаллов МрХжХп ., 0,д), а количество анионов (решеток) разных сортов определяется при этом соотношением концентраций атомов X и X». Таким образом, как и в случае изотоп-замещенных молекул, можно использовать при ])асчете данные по частично замещенным производным, что существенно увеличивает число вводимых в рассмотрение экспериментальных частот и повышает надежность результатов расчета. [c.40]

    В нашей лаборатории микрокомпьютер был запрограммирован для обработки данных роста и вычисления величин % -а Т2. Значения к.в., которые также вычисляются на компьютере, оказались чрезвычайно полезными, особенно для обнаружения грубых ошибок, возникающих как за счет повторения ошибок, так и в случае, если исследователь забыл включить аэрацию после отбора пробы. Компьютер играет ту же роль при проведении ростового эксперимента, что и рабочий график на полулогарифмической бумаге, который строится параллельно с проведением эксперимента. Ошибка в коэффициенте регрессии имеет такие же свойства, как и Пуассонов УЛ/ при оценке ошибки счета. Она свидетельствует о внутренней точности измерения, но не определяет внешние источники вариации. [c.507]

Источник

Очень наивный способ оценки модели — рассматривать значение R-Squared. Предположим, что если я получу 95% R-Squared, этого будет достаточно? В этом блоге давайте попробуем понять способы оценки вашей регрессионной модели.

Метрики оценки;

  1. Среднее / Медиана прогноза
  2. Стандартное отклонение прогноза
  3. Диапазон предсказания
  4. Коэффициент детерминации (R2)
  5. Относительное стандартное отклонение / коэффициент вариации (RSD)
  6. Относительная квадратная ошибка (RSE)
  7. Средняя абсолютная ошибка (MAE)
  8. Относительная абсолютная ошибка (RAE)
  9. Среднеквадратичная ошибка (MSE)
  10. Среднеквадратичная ошибка прогноза (RMSE / RMSEP)
  11. Нормализованная среднеквадратическая ошибка (Норма RMSEP)
  12. Относительная среднеквадратическая ошибка (RRMSEP)

Давайте рассмотрим пример прогнозирования концентрации активных фармацевтических ингредиентов (API) в таблетке. Используя единицы поглощения из NIR-спектроскопии, мы прогнозируем уровень API в таблетке. Концентрация API в таблетке может составлять 0,0, 0,1, 0,3, 0,5, 1,0, 1,5, 2,0, 2,5, 3,0. Мы применяем PLS (частичный наименьший квадрат) и SVR (регрессор вектора поддержки) для прогнозирования уровня API.

ПРИМЕЧАНИЕ: метрики можно использовать для сравнения нескольких моделей или одной модели с разными моделями.

Среднее / Медиана прогноза

Мы можем понять смещение прогнозов между двумя моделями, используя среднее арифметическое предсказанных значений.

Например, среднее значение прогнозируемых значений 0,5 API рассчитывается путем деления суммы прогнозируемых значений для 0,5 API на общее количество выборок, имеющих 0,5 API.

np.mean(predictedArray)

На рисунке 1 мы можем понять, как PLS и SVR работали относительно среднего. SVR предсказал API 0.0 намного лучше, чем PLS, тогда как PLS предсказал API 3.0 лучше, чем SVR. Мы можем выбирать модели исходя из интересов уровня API.

Недостаток: на среднее значение влияют выбросы. Используйте «Медиана», если у вас есть выбросы в прогнозируемых значениях

Стандартное отклонение прогноза

Стандартное отклонение (SD) — это мера степени вариации или разброса набора значений. Низкое стандартное отклонение указывает на то, что значения имеют тенденцию быть близкими к среднему (также называемому ожидаемым значением) набора. Напротив, высокое стандартное отклонение указывает на то, что значения разбросаны в более широком диапазоне. Стандартное отклонение предсказанных значений помогает понять разброс значений в различных моделях.

np.std(predictedArray)

На рисунке 2 разброс предсказанных значений меньше в SVR по сравнению с PLS. Таким образом, SVR работает лучше, если мы учитываем показатели SD.

Диапазон предсказания

Диапазон прогноза — это максимальное и минимальное значение в прогнозируемых значениях. Равный диапазон помогает нам понять разницу между моделями.

Коэффициент детерминации (R2)

R-квадрат (R2) — это статистическая мера, которая представляет собой долю дисперсии для зависимой переменной, которая объясняется независимой переменной или переменными в регрессионной модели. В то время как корреляция объясняет силу взаимосвязи между независимой и зависимой переменной, R-квадрат объясняет, в какой степени дисперсия одной переменной объясняет дисперсию второй переменной. Таким образом, если R2 модели составляет 0,50, то примерно половина наблюдаемой вариации может быть объяснена входными данными модели.

from sklearn.metrics import r2_score
r2_score(Actual, Predicted)

Недостаток: R2 не учитывает переоснащение. Подробнее.

Относительное стандартное отклонение (RSD) / коэффициент вариации (CV)

Есть пословица, что яблоки не следует сравнивать с апельсинами или, другими словами, не сравнивать два предмета или группу предметов, которые практически не сравниваются. Но недостаток сопоставимости можно преодолеть, если эти два предмета или группы каким-то образом стандартизировать или привести к одной и той же шкале. Например, при сравнении дисперсий двух групп, которые в целом сильно различаются, таких как дисперсия в размере синего тунца и синего кита, коэффициент вариации (CV) является методом выбора: CV просто представляет собой дисперсию каждая группа стандартизирована по среднему значению группы

Коэффициент вариации (CV), также известный как относительное стандартное отклонение (RSD), является стандартизированной мерой дисперсии распределения вероятностей или частотного распределения. Это помогает нам понять, как распределяются данные в двух разных тестах.

Стандартное отклонение — наиболее распространенная мера изменчивости для одного набора данных. Но зачем нам еще один показатель, например коэффициент вариации? Что ж, сравнивать стандартные отклонения двух разных наборов данных бессмысленно, а сравнивать коэффициенты вариации — нет.

from scipy.stats import variation
variation(data)

Например, если мы рассмотрим два разных данных;

Данные 1: Среднее1 = 120000: SD1 = 2000

Данные 2: Среднее2 = 900000: SD2 = 10000

Давайте рассчитаем CV для обоих наборов данных

CV1 = SD1 / Среднее1 = 1,6%

CV2 = SD2 / Среднее2 = 1,1%

Мы можем заключить, что данные 1 более распространены, чем данные 2.

Относительная квадратная ошибка (RSE)

Относительная квадратная ошибка (RSE) относится к тому, что было бы, если бы использовался простой предиктор. В частности, этот простой предсказатель представляет собой просто среднее значение фактических значений. Таким образом, относительная ошибка в квадрате берет общую ошибку в квадрате и нормализует ее путем деления на общую ошибку в квадрате простого предсказателя. Его можно сравнивать между моделями, ошибки которых измеряются в разных единицах.

Математически относительная квадратная ошибка Ei отдельной модели i вычисляется по формуле:

где P (ij) — это значение, предсказанное отдельной моделью i для записи j (из n записей); Tj — это целевое значение для записи j, а Tbar задается формулой:

Для идеального соответствия числитель равен 0 и Ei = 0. Таким образом, индекс Ei находится в диапазоне от 0 до бесконечности, где 0 соответствует идеалу.

Средняя абсолютная ошибка (MAE)

В статистике средняя абсолютная ошибка (MAE) — это мера ошибок между парными наблюдениями, выражающими одно и то же явление. Примеры Y по сравнению с X включают сравнения прогнозируемого и наблюдаемого, последующего времени и начального времени, а также один метод измерения по сравнению с альтернативным методом измерения. Он имеет ту же единицу, что и исходные данные, и его можно сравнивать только между моделями, ошибки которых измеряются в тех же единицах. Обычно он по величине похож на RMSE, но немного меньше. MAE рассчитывается как:

from sklearn.metrics import mean_absolute_error
mean_absolute_error(actual, predicted)

Таким образом, это среднее арифметическое абсолютных ошибок, где yi — прогноз, а xi — фактическое значение. Обратите внимание, что альтернативные составы могут включать относительные частоты в качестве весовых коэффициентов. Средняя абсолютная ошибка использует ту же шкалу, что и измеряемые данные. Это известно как мера точности, зависящая от масштаба, и поэтому не может использоваться для сравнения серий с использованием разных шкал.

Примечание. Как видите, все статистические данные сравнивают истинные значения со своими оценками, но делают это немного по-другому. Все они говорят вам, насколько далеко ваши оценочные значения от истинного значения. Иногда используются квадратные корни, а иногда и абсолютные значения — это связано с тем, что при использовании квадратных корней экстремальные значения имеют большее влияние на результат (см. Зачем возводить разницу в квадрат вместо того, чтобы брать абсолютное значение в стандартном отклонении? Или в Mathoverflow. »).

В MAE и RMSE вы просто смотрите на «среднюю разницу» между этими двумя значениями. Таким образом, вы интерпретируете их в сравнении со шкалой вашей переменной (т.е. MSE в 1 балл представляет собой разницу в 1 балл между прогнозируемым и фактическим).

В RAE и Relative RSE эти различия делятся на изменение фактических значений, поэтому они имеют шкалу от 0 до 1, и если вы умножите это значение на 100, вы получите сходство по шкале от 0 до 100 (т. е. в процентах). .

Значения ∑ (MeanofActual — фактический) ² или ∑ | MeanofActual — фактический | сказать вам, насколько фактическое значение отличается от своего среднего значения — чтобы вы могли понять, насколько фактическое значение отличается от самого себя (сравните с дисперсией). Из-за этого меры названы относительными — они дают вам результаты, относящиеся к фактическому масштабу.

Относительная абсолютная ошибка (RAE)

Относительная абсолютная ошибка (RAE) — это способ измерения производительности прогнозной модели. RAE не следует путать с относительной погрешностью, которая является общей мерой точности или точности для таких инструментов, как часы, линейки или весы. Он выражается в виде отношения, сравнивающего среднюю ошибку (невязку) с ошибками, произведенными тривиальной или наивной моделью. Хорошая модель прогнозирования даст коэффициент, близкий к нулю; Плохая модель (хуже, чем наивная модель) даст отношение больше единицы.

Он очень похож на относительную квадратичную ошибку в том смысле, что он также относится к простому предиктору, который представляет собой просто среднее значение фактических значений. Однако в этом случае ошибка — это просто полная абсолютная ошибка, а не общая ошибка в квадрате. Таким образом, относительная абсолютная ошибка берет полную абсолютную ошибку и нормализует ее путем деления на полную абсолютную ошибку простого предсказателя.

Математически относительная абсолютная ошибка Ei отдельной модели i оценивается по уравнению:

где P (ij) — это значение, предсказанное отдельной моделью i для записи j (из n записей); Tj — это целевое значение для записи j, а Tbar задается формулой:

Для идеального соответствия числитель равен 0 и Ei = 0. Таким образом, индекс Ei находится в диапазоне от 0 до бесконечности, где 0 соответствует идеалу.

Среднеквадратичная ошибка (MSE)

Среднеквадратичная ошибка (MSE) или среднеквадратическое отклонение (MSD) оценщика (процедуры оценки ненаблюдаемой величины) измеряет среднее квадратов ошибок, то есть среднеквадратичную разницу между оцененными значениями и фактическими значениями. ценить. MSE — это функция риска, соответствующая ожидаемому значению квадрата потери ошибок. Тот факт, что MSE почти всегда строго положительна (а не равна нулю), объясняется случайностью или тем, что оценщик не учитывает информацию, которая могла бы дать более точную оценку.

MSE оценивает качество предсказателя (т. Е. Функция, отображающая произвольные входные данные в выборку значений некоторой случайной переменной) или оценщика (т. Е. Математическая функция, отображающая выборку данных в оценку параметра совокупности из которого берутся данные). Определение MSE различается в зависимости от того, описывается ли предсказатель или оценщик.

MSE — это мера качества оценки — она ​​всегда неотрицательна, а значения, близкие к нулю, лучше.

from sklearn.metrics import mean_squared_error
mean_squared_error(actual, predicted)

Давайте проанализируем, что на самом деле означает это уравнение.

  • В математике символ, который выглядит как странный E, называется суммированием (греческая сигма). Это сумма последовательности чисел от i = 1 до n. Представим это как массив точек, в котором мы перебираем все точки, от первой (i = 1) до последней (i = n).
  • Для каждой точки мы берем координату y точки и координату y’. Мы вычитаем значение координаты y из значения координаты y и вычисляем квадрат результата.
  • Третья часть — взять сумму всех значений (y-y ’) ² и разделить ее на n, что даст среднее значение.

Наша цель — минимизировать это среднее, чтобы получить лучшую линию, проходящую через все точки. «Для дополнительной информации».

Среднеквадратичная ошибка прогноза (RMSE / RMSEP)

В статистическом моделировании и, в частности, регрессионном анализе, обычным способом измерения качества соответствия модели является RMSE (также называемое среднеквадратичным отклонением), определяемое выражением

from sklearn.metrics import mean_squared_error
mse = mean_squared_error(actual, predicted)
rmse = sqrt(mse)

где yi — i-е наблюдение y, а ŷ — прогнозируемое значение y для данной модели. Если предсказанные ответы очень близки к истинным ответам, RMSE будет небольшим. Если предсказанные и истинные ответы существенно различаются — по крайней мере, для некоторых наблюдений — RMSE будет большим. Нулевое значение указывает на полное соответствие данным. Поскольку RMSE измеряется в той же шкале, с теми же единицами измерения, что и y, можно ожидать, что 68% значений y будут в пределах 1 RMSE — при условии, что данные распределены нормально.

ПРИМЕЧАНИЕ: RMSE касается отклонений от истинного значения, тогда как S касается отклонений от среднего.

Таким образом, вычисление MSE помогает сравнивать разные модели, основанные на одних и тех же наблюдениях y. Но что, если

  1. кто-то хочет сравнить соответствие модели для разных переменных отклика?
  2. переменная ответа y изменяется в некоторых моделях, например стандартизированный или преобразованный в sqrt или логарифм?
  3. И влияет ли разделение данных на обучающий и тестовый набор данных (после модификации) и вычисление RMSE на основе тестовых данных на точки 1. и 2.?

Первые два пункта являются типичными проблемами при сравнении эффективности экологических индикаторов, а последний, так называемый подход с использованием набора проверки, довольно распространен в статистике и машинном обучении. Одним из способов преодоления этих препятствий является вычисление нормализованного RMSE.

Нормализованная среднеквадратическая ошибка (Норма RMSEP)

Нормализация RMSE облегчает сравнение наборов данных или моделей с разными масштабами. Однако в литературе вы найдете различные методы нормализации RMSE:

Вы можете нормализовать

Если переменные отклика имеют несколько экстремальных значений, выбор межквартильного диапазона является хорошим вариантом, поскольку он менее чувствителен к выбросам.

RMSEP / стандартное отклонение называется относительной среднеквадратичной ошибкой (RRMSEP).

1 / RRMSEP также является показателем. Значение больше 2 считается хорошим.

Существуют также такие термины, как стандартная ошибка прогноза (SEP) и отношение стандартной ошибки прогноза к стандартному отклонению (RPD), которые в основном используются в хемометрике.

Я надеюсь, что этот блог помог вам понять различные метрики для оценки вашей регрессионной модели. Я использовал несколько источников, чтобы понять и написать эту статью. Спасибо за уделенное время.

Использованная литература:

Https://www.gepsoft.com/
https://www.investopedia.com/
https://en.wikipedia.org/wiki
https://scikit-learn.org/
https://www.saedsayad.com/
https://www.marinedatascience.co/blog/2019/01/07/ normalizing-the-rmse /

Источник

  • Относительная ошибка колориметрического метода
  • Относительная ошибка как считать
  • Относительная ошибка как найти
  • Относительная ошибка измерения температуры
  • Относительная ошибка измерения скорости