| B´ | = 1050 |
| T´ | = 869 |
| G´ | = 7189 |
| y´ | = 174 |
| k | = 6 |
| n | = 6 |
Pokud chybí více než jedno pozorování, může se použít stejný vzorec. Postup je takový, že se hrubě odhadnou všechny chybějící hodnoty kromě jedné, a ta se vypočte podle uvedeného vzorce ze všech ostatních hodnot, včetně těch hrubě odhadnutých. Vypočtená hodnota se vezme za pozorovanou a pokračuje se stejným postupem pro všechny další chybějící hodnoty. Po vypočtení všech chybějících hodnot tímto postupem se provede cyklus znovu od začátku, přičemž se místo hrubých odhadů použijí posledně vypočtené hodnoty pro všechny chybějící odpovědi. To vše se opakuje několikrát, až se získají ve dvou po sobě následujících cyklech stejné hodnoty. Konvergence tohoto postupu je obvykle rychlá.
Pokud je počet nahrazovaných hodnot relativně malý v porovnání s celkovým rozsahem zkoušky (řekněme menší než 5 %), je použitá aproximace chybějících hodnot a redukce stupňů volnosti o počet chybějících hodnot obvykle uspokojivá. Nicméně výsledky by se měly interpretovat velmi opatrně, obzvláště pokud chybějící hodnoty v některém ošetření nebo bloku převažují. Pak by měl biometr uvážit, zda nepůsobily v průběhu zkoušky nějaké další nežádoucí vlivy. Nahrazení chybějících hodnot ve zkoušce bez jejího opakování je vždy choulostivé.
- Úplné znáhodnění
Při úplném znáhodnění se za odhad chybějící hodnoty bere aritmetický průměr všech ostatních odpovědí daného ošetření.
- Plán náhodných bloků
Chybějící hodnota (y´) se vypočte podle vzorce:
kde B´ je součet odpovědí v bloku obsahujícím příslušné chybějící pozorování, T´ součet odpovědí při příslušném ošetření a G´ součet všech odpovědí ve zkoušce.
Jako příklad nechť chybí odpověď u1 v prvém bloku zkoušky antibiotik (příklad 3.2.8.2).
Místo hodnoty 174 = u1 v tabulce odpovědí se získá podle vzorce (3.2.6-1) odhad 173. Hodnocení zkoušky bude stejné jako v příkladu 3.2.8.2, ale počet stupňů volnosti pro reziduální chybu bude roven 24 a pro celkový součet čtverců 34.
- Latinské čtverce
Chybějící hodnota (y´) se nahradí podle vzorce:
kde B´ a C´ jsou součty odpovědí v řádce a sloupci s chybějícím pozorováním. V tomto případě je k = n. Když v příkladu 3.2.8.3 chybí hodnota 165 v sedmém sloupci a v šestém řádku, dostane se její odhad 169 podle vzorce (3.2.6-2) z hodnot:
B´ = 1582 C´ = 1663 T´ = 1355 G´ = 15956 k = 9 Stupně volnosti reziduální chyby budou redukovány na 55 a celkového součtu čtverců na 79.
- Dvoudávková křížová zkouška
Když se chybějící pozorování vyskytne v dvoudávkové křížové zkoušce, je důležité konzultovat situaci se statistikem, protože vyhodnocení závisí na konkrétní kombinaci ošetření.
- 3.2.7 Částečně vyvážená zkouška
Liší-li se předpokládaná účinnost testovaného přípravku výrazně od skutečné účinnosti, může se stát, že nejvyšší dávka poskytuje již jen nejvyšší možnou odpověď, nebo naopak, že odpověď na nejnižší dávkuje minimální možná. Tyto odpovědi neleží v lineární části regresní křivky, testy validity indikují odchylku od linearity nebo nerovnoběžnost ve vztahu standardu a testovaného přípravku.
V daném případě se může odpověď na nejnižší nebo nejvyšší dávku ze zkoušky vyloučit. Ze zbývajících dat se vypočte provizorní odhad relativní účinnosti. Tento odhad účinnosti umožňuje vhodnější volbu dávek standardu a zkoušeného přípravku v nové zkoušce.
Logaritmus relativní účinnosti se získá ze vzorce:
který je velmi podobný vzorci 3.2.5-3, pouze jedna polovina rozdílu logaritmů sousedních dávek se odčítá při vypuštění nejnižší dávky nebo přičítá při vypuštění dávky nejvyšší.
Průměrné odpovědi yU a yS se získají stejně jako v úplně vyvážené zkoušce (rovnice 3.2.5-1), ale vzhledem k plánu zkoušky je nutné poněkud modifikovat výpočet sklonu (b).
Ve vícenásobné zkoušce, původně se dvěma dávkami pro každý přípravek, se dají vypočítat všechny lineární kontrasty, (LS...LZ) s výjimkou kontrastu LU. (Při vyloučení jedné z dávek u1 nebo u2 není možné vypočíst kontrast LU).
Sklon se získá vypočtením průměru L a vydělením In:
Ve zkoušce pouze jednoho přípravku je:
Ve vícenásobných třídávkových zkouškách se získá LU z tabulky 3.2.3-I a všechny ostatní lineární kontrasty z tabulky 3.2.3-II. Vzorec pro výpočet sklonu je:
Při testování pouze jediného přípravku se vzorec redukuje na:
- 3.2.8 Příklady
Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.
Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.
Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.
Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.
Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.
Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.
Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná
- Stanovení účinnosti kortikotropinu podkožním podáním krysám
Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Standard S Přípravek U Přípravek Z s1 s2 u1 u2 z1 z2 300 289 310 230 250 236 310 221 290 210 268 213 330 267 360 280 273 283 290 236 341 261 240 269 364 250 321 241 307 251 328 231 370 290 270 294 390 229 303 223 317 223 360 269 334 254 312 250 342 233 295 216 320 216 306 259 315 235 265 265 průměr 332,0 248,4 323,9 244,0 282,2 250,0 rozptyl (vari) 1026,7 483,8 725,0 718,7 854,6 784,7 ln rozptylu 6,9341 6,1817 6,5862 6,5774 6,7506 6,6653 Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.
Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:
- a = 0,366
- q = -3,26
- m = 1,47
Dále se vypočte hodnota V:
a odtud H= -3,26 + (1,47. 2,60) = 0,56.
Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).
Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Pořadí Seřazené odpovědi
yiKoeficient ai
(tab. 3.1.1-I)Součin
aiyi1 290 -0,574 -166,46 2 300 -0,329 -98,70 3 306 -0,214 -65,48 4 310 -0,122 -37,82 5 328 -0,040 -13,12 6 330 +0,040 13,20 7 342 +0,122 41,72 8 360 +0,214 77,04 9 364 +0,329 119,76 10 390 +0,574 223,86
Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) s1 s2 u1 u2 z1 z2 94,00 63,63 78,60 78,28 82,90 81,96 9240,00 4354,40 6524,90 6468,00 7991,60 7062,00 v 0,956 0,930 0,947 0,947 0,893 0,95 1 V 2,60 2,09 2,39 2,39 1,59 2,48 H 0,56 -0,19 0,25 0,25 -0,92 0,39 Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:
Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.
Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:
Bartlettův test neprokázal ani nehomogennost rozptylů.
Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:
Pro k = 6 a f = 9 vyjde:
Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.
Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Standard Přípravek Přípravek Součet nízká dávka S1 = 3320 U1 = 3239 Z1 = 2822 vysoká dávka S2 = 2484 U2 = 2440 Z2 = 2500 přípravek celkem S = 5804 U = 5679 Z = 5322 lineární kontrast LS = -836 LU= -799 LZ = -322 Tab. 3.2.8.1-V Analýza rozptylu
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Zdroj variability Stupně volnosti Součet čtverců Průměrný čtverec F P přípravky 2 6256,6 3128,3 regrese 1 63 830,8 63 830,8 83,4 < 0,01 nerovnoběžnost 2 8218,2 4109,1 5,4 < 0,01 ošetření 5 78 305,7 reziduální chyba 54 41 340,9 765,6 součet 59 119 646,6 Korekční člen K:
Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.
Reziduální chyba = Celkový - Ošetření = 41 340,90
- Validita zkoušky
Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f1 = 1 a f2 = 54.
Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:
kde s2 = reziduální rozptyl, tj. 765,6, a LP je lineární kontrast testovaného přípravku P.
Pro přípravek P = U:
Pro přípravek P = Z:
Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f1 =2 a f2= 54 (f1 = počet testovaných přípravků).
Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).
Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Zdroj variability Stupně volnosti Součet čtverců Průměrný čtverec F P přípravky 1 390,6 390,6 regrese 1 66 830,60 66 830,6 90,5 < 0,01 nerovnoběžnost 1 34,2 34,2 0,05 > 0,05 ošetření 3 67 255,5 reziduální chyba 36 26 587,3 738,5 součet 39 93 842,8 - Korekční člen K:
Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.
- Výpočet účinnosti a jejích mezí spolehlivosti
Po vyloučení přípravku Z se vypočte pouze jedna účinnost.
Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.
Protože přípravek byl deklarován jako 1 jednotka na miligram,
Účinnost získáme odlogaritmováním MU, je tedy MU = 1,11 jednotek na miligram.
Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.
Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování
- Stanovení účinnosti antibiotik na Petriho miskách
Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti AU = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku . Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.
Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Standard Přípravek Součet v bloku miska s1 s2 s3 u1 u2 u3 1 176 205 235 174 202 232 R1 = 1224 2 178 208 238 175 206 234 R2 = 1239 3 178 207 237 177 203 236 R3 = 1238 4 175 205 235 173 201 232 R4 = 1221 5 176 206 235 174 204 231 R5 = 1226 6 174 204 236 170 202 229 R6 = 1215 průměr 176,2 205,8 236,0 173,8 203,0 232,3 rozptyl 2,6 2,2 1,6 5,4 3,2 5,9 Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Standard Přípravek Součet nízká dávka S1 = 1057 U1 = 1043 střední dávka S2 = 1235 U2 = 1218 vysoká dávka S3 = 1416 U3 = 1394 přípravek celkem S = 3708 U = 3655 Σy = 7363 lineární kontrast LS = 359 LU = 351 ΣL = 710 kvadratický kontrast QS = 3 QU= 1 ΣQ = 4 Tab. 3.2.8.2-III Analýza rozptylu
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Zdroj variability Stupně volnosti Součet čtverců Průměrný čtverec F P přípravky 1 78,03 78,03 regrese 1 21 004,17 21 004,17 18 737 < 0,01 nerovnoběžnost 1 2,67 2,67 2,4 > 0,05 kvadratická regerese 1 0,22 0,22 0,2 > 0,05 odchylka kvadratických členů 1 0,06 0,06 0,05 > 0,05 5 21 085,14 ošetření 5 75,80 15,16 13,5 < 0,01 bloky (misky) 25 28,03 1,121 reziduální chyba 35 21 188,97 součet
Korekční člen K:
Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Reziduální = Celkový - Ošetření - Bloky = 28,03
Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s2, což by vedlo k širším mezím spolehlivosti.
- Validita zkoušky
Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.
- Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek byl 2,0, takže:
Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.
Logaritmus relativní účinnosti přípravku je tedy:
Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:
Logaritmy mezí spolehlivosti se vypočtou jako:
Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.
Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:
C = 1,000227
Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.
Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování
- Zkouška antibiotik na pravoúhlé plotně
Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků a , AU= 2000 a AZ= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.
Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Sloupce Řádky 1 2 3 4 5 6 7 8 9 1 u1 z1 u2 s2 z2 z3 u3 s1 s3 2 s2 u3 u1 z3 s1 u2 s3 z1 z2 3 s1 s2 u3 u1 z1 z2 z3 s3 u2 4 z2 s3 s1 z1 u3 u1 u2 s2 z3 5 z3 z2 s2 s1 u2 s3 z1 u3 u1 6 u2 z3 s3 z2 s2 u3 s1 u1 z1 7 z1 u2 z2 u3 s3 s1 u1 z3 s2 8 s3 s1 z3 u2 u1 z1 s2 z2 u3 9 u3 u1 z1 s3 z3 s2 z2 u2 s1 Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Sloupce Řádky 1 2 3 4 5 6 7 8 9 řádkové součty 1 164 171 194 206 211 237 237 172 224 R1 = 1816 2 188 224 178 236 180 210 237 180 210 R2 = 1843 3 168 203 230 175 175 209 236 238 207 R3 = 1841 4 182 214 162 175 227 171 194 201 225 R4 = 1751 5 220 186 192 169 205 230 169 237 167 R5 = 1775 6 183 217 223 200 195 228 165 171 165 R6 = 1747 7 163 195 203 229 230 175 179 233 196 R7 = 1803 8 218 163 228 200 167 175 207 199 233 R8 = 1790 9 218 163 162 216 233 194 204 199 166 R9 = 1755 sloupcové C1 = C2 = C3 = C4= C5 = C6 = C7 = C8 = C9 = součty 1704 1736 1772 1806 1823 1829 1828 1830 1793 Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Standard Přípravek Přípravek s1 s2 s3 u1 u2 u3 z1 z2 z3 průměr 168,9 198,0 225,6 170,6 198,6 229,2 170,6 200,4 229,4 ošetření rozptyl 34,61 43,00 77,03 34,03 67,78 36,94 39,03 105,78 54,28 (vari) ln (vari) 3,5442 3,7612 4,3442 3,5272 4,2162 3,6094 3,6643 4,6613 3,9942 Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:
To se pro k = 9, f = 8 redukuje na:
Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.3-IV Součty odpovědí a kontrasty
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Standard S Přípravek U Přípravek z Součet nízká dávka S1 = 1520 U1 = 1535 Z1 = 1535 střední dávka S2 = 1782 U2 = 1787 Z2 = 1804 vysoká dávka S3 = 2030 U3 = 2063 Z3 = 2065 přípravek celkem S = 5332 U = 5385 Z = 5404 Σy = 16 121 lineární kontrast LS = 510 LU = 528 LZ = 530 ΣL = 1568 kvadratický kontrast QS = -14 QU = 24 QZ = -8 ΣQ = 2 Tab. 3.2.8.3-V Analýza rozptylu
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Zdroj variability Stupně volnosti Součet čtverců Průměrný čtverec F P přípravky 2 103,14 51,57 lineární regrese 1 45 530,07 45 530,07 2921 < 0,01 nerovnoběžnost 2 13,49 6,75 0,43 > 0,05 kvadratická regerese 1 0,02 0,02 0,00 > 0,05 odchylka kvadratických členů 2 15,46 7,73 0,50 > 0,05 ošetření (celkem) 8 45 662,17 řádky 8 1229,06 153,63 9,86 < 0,01 sloupce 8 1837,95 229,74 14,74 < 0,01 reziduální chyba 56 872,77 15,585 celkem 80 49 601,95 Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77
Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.
- Validita zkoušky
Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.
- Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.
Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Odhad účinnosti, získaný odlogaritmováním MU, je tedy 2096 jednotek na mililitr.
Logaritmy mezí spolehlivosti se vypočtou jako:
Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.
Užitím stejného postupu pro přípravek se dostane:
Odhad účinnosti je 2664 jednotek na mililitr.
Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.
Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.
- Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.
- Stanovení účinnosti kortikotropinu podkožním podáním krysám
Příklad 3.2.8.4 Dvoudávková křížová zkouška
- Stanovení účinnosti insulinu na králících podkožním podáním
Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (AU= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.
Tab. 3.2.8.4-I Uspořádání ošetření
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Skupina králíků 1 2 3 4 den I s1 s2 u1 u2 den II u2 u1 s2 s1 Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h Skupina 1 Skupina 2 Skupina 3 Skupina 4 s1 u2 ∑ s2 u1 ∑ u1 s2 ∑ u2 s1 ∑ 112 104 216 65 72 137 105 91 196 118 144 262 126 112 238 116 160 276 83 67 150 119 149 268 62 58 120 73 72 145 125 67 192 42 51 93 86 63 149 47 93 140 56 45 101 64 107 171 52 53 105 88 113 201 92 84 176 93 117 210 110 113 223 63 71 134 101 56 157 73 128 201 116 91 207 50 65 115 66 55 121 39 87 126 101 68 169 55 100 155 91 68 159 31 71 102 průměr 95,6 82,8 69,6 93,3 89,9 66,6 72,4 106,8 rozptyl 709,7 627,9 525,1 1012,5 479,6 230,6 1214,3 1215,1 Hartleyovým testem nebyla nalezena významná neshoda rozptylů.
Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.
Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.
Tab. 3.2.8.4-III Součty odpovědí a kontrasty
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h Tab. 3.2.8.4-III Součty odpovědí a kontrasty Standard S Přípravek U Součet Den I nízká dávka S1I = 765 U1I = 719 vysoká dávka S2I = 557 U2I = 579 součet S1 = 1322 U1 = 1298 D1 = 2620 Den II nízká dávka S1II = 854 U1II = 746 vysoká dávka S2II = 533 U2II = 662 součet S1 = 1387 U1 = 1408 DII = 2795 Přípravky celkem S = 2709 U = 2706 ∑y = 5415 Lineární kontrasty den I LSI = -208 LUI = -140 LI = -348 den II LSII = -321 LUII = -84 LII = -405 celkem LS = -529 LU = -224 ∑L = -753 Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.
Díky opakování v každé skupině obsahuje analýza tři "interakce":
- dny x přípravky, dny x regrese, dny x rovnoběžnost.
Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.
Tab. 3.2.8.4-IV Analýza rozptylu
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h Tab. 3.2.8.4-III Součty odpovědí a kontrasty Tab. 3.2.8.4-IV Analýza rozptylu Zdroj variability Stupně volnosti Součet čtverců Průměrný čtverec F P nerovnoběžnost 1 1453,5 1453,5 1,06 > 0,05 dny x přípravky 1 31,6 31,6 0,02 > 0,05 dny x regrese 1 50,8 50,8 0,04 > 0,05 reziduální chyba mezi králíky 28 38 258,8 1366,4 bloky (králíci) 31 39 794,7 1283,7 přípravky 1 0,1 0,1 0,00 > 0,05 regrese 1 8859,5 8859,5 64,5 < 0,01 dny 1 478,5 478,5 3,48 > 0,05 dny x nerovnoběžnost 1 446,3 446,3 3,25 > 0,05 reziduální chyba"uvnitř"králíků 28 3844,1 137,3 součet 63 53 423,2 Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.
V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.
kde Bi je celková odpověď králíka z tabulky 3.2.8.4-II.
kde DI a DII jsou celkové odpovědi pro každý den.
Reziduální chyba mezi králíky = Bloky - Nerovnoběžnost - (Dny x Přípravky) - (Dny x Regrese) = 38 258,81.
Reziduální chyba "uvnitř" králíků = Celkem - Bloky - Dny - Přípravky - Regrese - (Dny x Nerovnoběžnost) = 3 844,06.
- Validita zkoušky
Analýza potvrzuje, že data splňují podmínky nutné pro použití zkoušky: