Математическая статистика - Варден Б.Л.
Скачать (прямая ссылка):
Рис. 26. Трапециоидальное приближение кривой эффекта.
1 Если р(/„) = 0 и р(1ш) = 1, то, по определению средней смертельной дозы, формула (3) будет точной. — Прим. перев.
§ 53. Метод площадей Берэнса и Кербера
261
L ~ L — \ [(Ро + Pi) (h — h) + (Pi + Рг) (h — h) + ...+
+ <Рп+Р„)(1п+1-Ш (4)
Если сумму в правой части (4) расположить в порядке возрастания р0, plt. . ., рп, рш и учесть, что р0 = 0 и = 1, то получим
~ 2' У" — ^ ^ ^ + ^2 (гз — ^i) + • • • +
+ Рп (1п+1 ^/l-l)]* (^)
Это выражение является исходным для эмпирического определения L по методу площадей.
Некоторое количество подопытных животных подвергают действию доз lv Z2,..., 1п и наблюдают частоты смертельных исходов Ai, Л2,. . ., А„, соответствующие этим дозам. При этом количества животных для всех доз не обязательно должны быть одинаковыми. Нужно лишь, чтобы дозы возрастали достаточно малыми скачками [это обеспечит- близость интеграла (3) и суммы
(5)] и чтобы для концевых доз 1у и 1п частоты были близки соответственно нулю и единице {это, практически, обеспечит уверенность, что для наименьшей дозы 10 смертность почти равна нулю, а для наибольшей дозы 1п+1 = 1Ш смертность почти равна единице).
Следовательно, ряд доз должен достаточно далеко простираться в обе стороны. По большей части требуют, чтобы первая частота А, равнялась нулю, а псследняя А„ равнялась единице, однако наблюдения можно считать удовлетворительными также и в том случае, когда, например, частоты Aj и Л2 — обе близки к нулю. Зная весь набор частот и руководствуясь чутьем и опытом, экспериментатор может судить, будет лир0 почти нулем, а рп+1 — почти единицей.
Приближенное значение для L получают из формулы (5) заменой вероятностей ръ .. .,рп соответствующими частотами:
М = ^ Уп I ln+i) — ‘2~ [^i — h) + К (h — ^i) + ¦ ¦ +
+ (g)
На практике средняя смертельная доза вычисляется именно по этой формуле.
Количества животных, подвергающихся действию различных доз, не обязательно должны быть одинаковыми. Точность формулы
(6) даже повысится, если эти количества для средних доз будут больше соответствующих количеств для доз на концах ряда. Излишнее употребление сильных доз, при которых почти все животные умирают, и слабых доз, при которых смертность
262 Гл. X. Обработка результатов биологических испытаний
почти не наблюдается, является расточительством времени и опытного материала; на это указывал в свое время Гаддум1.
Величина М зависит от случая; ее среднее значение равно L. В силу (6), М представляет собой сумму одного постоянного и п независимых случайных слагаемых. Так как постоянное слагаемое не оказывает влияния на дисперсию всей суммы, то, согласно (15) § 3, дисперсия М имеет вид
°м = + • • ¦ + СТ1>
где, например, crj — дисперсия члена —\ (12 — 10)/2'-
0-2 — Pit1 — Pi) П___7 \2
1 4Д?! '2 °‘ '
Таким образом,
< = (7)
Но рк неизвестны, поэтому, согласно известному правилу (§ 5, конец), рк заменяют частотами hk, а числа Nk в знаменателях — величинами Nk — 1. В результате получают приближенное значение для дисперсии
«2 __ V ‘^к) П 7 \2 Ю\
м ~ ifc,\ (ft+i — k~i)' ('
Среднее значение равно и для больших количеств животных slf не очень отличается от сг^. Следовательно, величина sM позволяет судить о точности оценки М.
Пример 36. Исследуя влияние доз солянокислого гельземицинана смертность кроликов, Чен, Андерсон и Роббинс2 наблюдали следующие частоты смертельных исходов (каждая доза применялась к 'десяти кроликам):
Дозы 6 7 8 9 10 11 12 13
Частоты смертельных
исходов 0 0,1 0,3 0,6 0,8 0,5 0,8 1,0
При вычислениях по формуле (6) воспользуемся трехзначными десятичными логарифмами3:
1г — lg 6 = 0,778 и т. д.
Данные, указанные в таблице, позволяют надеяться, что при наименьшей дозе (примерно равной 10 = lg 5) смертность практически равна нулю,
1 G a d d u m J. П., Med. Res. Council Rep. on Biol. Standards, 3 (1933),
27.
2 Quarterly Journal Pharmacol., 11 (1938), 84.
3 Применение логарифмов не является обязательным, так как все формулы этого параграфа остаются справедливыми и для самих доз (а не только для их логарифмов). — Прим. перев.
§ 54. Методы, предполагающие нормальность кривой эффекта 263
а при наибольшей дозе (примерно равной ln+i = lg 15) смертность практически равна единице. Впрочем, выбор l0 nln+i совершенно безразличен, так как в нашем случае = 0 и hn = 1, поэтому в формулах (6) и (8) члены, содержащие 10 и ln+i, исчезают.
