Platné znění

Český lékopis 1997

vyhlášené znění

Ve vyvážených zkouškách se může přihodit, že v souvislosti s ošetřením dojde ke ztrátě jedné nebo více odpovědí, například tak, že některá zvířata uhynou. Úplná statistická analýza je pak mnohem složitější. Nicméně pokud je prokazatelné, že výskyt chybějící hodnoty nijak nesouvisí s přidělením pokusných jednotek do jednotlivých skupin, může být zachována jednoduchost vyhodnocení vyváženého plánu experimentu tak, že se nahradí chybějící hodnota hodnotou vypočtenou na základě ostatních pozorovaných hodnot. Ztráta informace se pak vezme v úvahu zmenšením počtu stupňů volnosti celkového a reziduálního součtu čtverců o jeden a použitím vzorce pro výpočet chybějící hodnoty.

Pokud chybí více než jedno pozorování, může se použít stejný vzorec. Postup je takový, že se hrubě odhadnou všechny chybějící hodnoty kromě jedné, a ta se vypočte podle uvedeného vzorce ze všech ostatních hodnot, včetně těch hrubě odhadnutých. Vypočtená hodnota se vezme za pozorovanou a pokračuje se stejným postupem pro všechny další chybějící hodnoty. Po vypočtení všech chybějících hodnot tímto postupem se provede cyklus znovu od začátku, přičemž se místo hrubých odhadů použijí posledně vypočtené hodnoty pro všechny chybějící odpovědi. To vše se opakuje několikrát, až se získají ve dvou po sobě následujících cyklech stejné hodnoty. Konvergence tohoto postupu je obvykle rychlá.

Pokud je počet nahrazovaných hodnot relativně malý v porovnání s celkovým rozsahem zkoušky (řekněme menší než 5 %), je použitá aproximace chybějících hodnot a redukce stupňů volnosti o počet chybějících hodnot obvykle uspokojivá. Nicméně výsledky by se měly interpretovat velmi opatrně, obzvláště pokud chybějící hodnoty v některém ošetření nebo bloku převažují. Pak by měl biometr uvážit, zda nepůsobily v průběhu zkoušky nějaké další nežádoucí vlivy. Nahrazení chybějících hodnot ve zkoušce bez jejího opakování je vždy choulostivé.

  1. Úplné znáhodnění

    Při úplném znáhodnění se za odhad chybějící hodnoty bere aritmetický průměr všech ostatních odpovědí daného ošetření.

  1. Plán náhodných bloků

    Chybějící hodnota (y´) se vypočte podle vzorce:

    kde B´ je součet odpovědí v bloku obsahujícím příslušné chybějící pozorování, T´ součet odpovědí při příslušném ošetření a G´ součet všech odpovědí ve zkoušce.

    Jako příklad nechť chybí odpověď u1 v prvém bloku zkoušky antibiotik (příklad 3.2.8.2).

    B´= 1050
    T´= 869
    G´= 7189
    y´= 174
    k= 6
    n= 6

    Místo hodnoty 174 = u1 v tabulce odpovědí se získá podle vzorce (3.2.6-1) odhad 173. Hodnocení zkoušky bude stejné jako v příkladu 3.2.8.2, ale počet stupňů volnosti pro reziduální chybu bude roven 24 a pro celkový součet čtverců 34.

  1. Latinské čtverce

    Chybějící hodnota (y´) se nahradí podle vzorce:

    kde B´ a C´ jsou součty odpovědí v řádce a sloupci s chybějícím pozorováním. V tomto případě je k = n. Když v příkladu 3.2.8.3 chybí hodnota 165 v sedmém sloupci a v šestém řádku, dostane se její odhad 169 podle vzorce (3.2.6-2) z hodnot:

    B´= 1582
    C´= 1663
    T´= 1355
    G´= 15956
    k= 9

    Stupně volnosti reziduální chyby budou redukovány na 55 a celkového součtu čtverců na 79.

  1. Dvoudávková křížová zkouška

    Když se chybějící pozorování vyskytne v dvoudávkové křížové zkoušce, je důležité konzultovat situaci se statistikem, protože vyhodnocení závisí na konkrétní kombinaci ošetření.

  1. 3.2.7 Částečně vyvážená zkouška

    Liší-li se předpokládaná účinnost testovaného přípravku výrazně od skutečné účinnosti, může se stát, že nejvyšší dávka poskytuje již jen nejvyšší možnou odpověď, nebo naopak, že odpověď na nejnižší dávkuje minimální možná. Tyto odpovědi neleží v lineární části regresní křivky, testy validity indikují odchylku od linearity nebo nerovnoběžnost ve vztahu standardu a testovaného přípravku.

    V daném případě se může odpověď na nejnižší nebo nejvyšší dávku ze zkoušky vyloučit. Ze zbývajících dat se vypočte provizorní odhad relativní účinnosti. Tento odhad účinnosti umožňuje vhodnější volbu dávek standardu a zkoušeného přípravku v nové zkoušce.

    Logaritmus relativní účinnosti se získá ze vzorce:

    který je velmi podobný vzorci 3.2.5-3, pouze jedna polovina rozdílu logaritmů sousedních dávek se odčítá při vypuštění nejnižší dávky nebo přičítá při vypuštění dávky nejvyšší.

    Průměrné odpovědi yU a yS se získají stejně jako v úplně vyvážené zkoušce (rovnice 3.2.5-1), ale vzhledem k plánu zkoušky je nutné poněkud modifikovat výpočet sklonu (b).

    Ve vícenásobné zkoušce, původně se dvěma dávkami pro každý přípravek, se dají vypočítat všechny lineární kontrasty, (LS...LZ) s výjimkou kontrastu LU. (Při vyloučení jedné z dávek u1 nebo u2 není možné vypočíst kontrast LU).

    Sklon se získá vypočtením průměru L a vydělením In:

    Ve zkoušce pouze jednoho přípravku je:

    Ve vícenásobných třídávkových zkouškách se získá LU z tabulky 3.2.3-I a všechny ostatní lineární kontrasty z tabulky 3.2.3-II. Vzorec pro výpočet sklonu je:

    Při testování pouze jediného přípravku se vzorec redukuje na:

  1. 3.2.8 Příklady

    Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.

    Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.

    Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.

    Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.

    Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.

    Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.

    Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná

    1. Stanovení účinnosti kortikotropinu podkožním podáním krysám

      Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin
      Standard SPřípravek UPřípravek Z
      s1s2u1u2z1z2
      300289310230250236
      310221290210268213
      330267360280273283
      290236341261240269
      364250321241307251
      328231370290270294
      390229303223317223
      360269334254312250
      342233295216320216
      306259315235265265
      průměr332,0248,4323,9244,0282,2250,0
      rozptyl (vari)1026,7483,8725,0718,7854,6784,7
      ln rozptylu6,93416,18176,58626,57746,75066,6653

      Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.

      Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:

      1. a = 0,366
      2. q = -3,26
      3. m = 1,47

      Dále se vypočte hodnota V:

      a odtud H= -3,26 + (1,47. 2,60) = 0,56.

      Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).

      Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)
      PořadíSeřazené odpovědi
      yi      		Koeficient ai
      (tab. 3.1.1-I)      		Součin
      aiyi
      1290-0,574-166,46
      2300-0,329-98,70
      3306-0,214-65,48
      4310-0,122-37,82
      5328-0,040-13,12
      6330+0,04013,20
      7342+0,12241,72
      8360+0,21477,04
      9364+0,329119,76
      10390+0,574223,86

      Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)
      s1s2u1u2z1z2
      94,0063,6378,6078,2882,9081,96
      9240,004354,406524,906468,007991,607062,00
      v0,9560,9300,9470,9470,893
      0,95
      1
      V2,602,092,392,391,592,48
      H0,56-0,190,250,25-0,920,39

      Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:

      Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.

      Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:

      Bartlettův test neprokázal ani nehomogennost rozptylů.

      Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:

      Pro k = 6 a f = 9 vyjde:

      Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.

      Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)
      Standard Přípravek Přípravek Součet
      nízká dávkaS1 = 3320U1 = 3239Z1 = 2822
      vysoká dávkaS2 = 2484U2 = 2440Z2 = 2500
      přípravek celkemS = 5804U = 5679Z = 5322
      lineární kontrastLS = -836LU= -799LZ = -322

      Tab. 3.2.8.1-V Analýza rozptylu

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu
      Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
      přípravky26256,63128,3
      regrese163 830,863 830,883,4< 0,01
      nerovnoběžnost28218,24109,15,4< 0,01
      ošetření578 305,7
      reziduální chyba5441 340,9765,6
      součet59119 646,6

      Korekční člen K:

      Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.

      Reziduální chyba = Celkový - Ošetření = 41 340,90

    1. Validita zkoušky

      Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f1 = 1 a f2 = 54.

      Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:

      kde s2 = reziduální rozptyl, tj. 765,6, a LP je lineární kontrast testovaného přípravku P.

      Pro přípravek P = U:

      Pro přípravek P = Z:

      Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f1 =2 a f2= 54 (f1 = počet testovaných přípravků).

      Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).

      Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z
      Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
      přípravky1390,6390,6
      regrese166 830,6066 830,690,5< 0,01
      nerovnoběžnost134,234,20,05> 0,05
      ošetření367 255,5
      reziduální chyba3626 587,3738,5
      součet3993 842,8
      1. Korekční člen K:

      Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.

    1. Výpočet účinnosti a jejích mezí spolehlivosti

    Po vyloučení přípravku Z se vypočte pouze jedna účinnost.

    Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.

    Protože přípravek byl deklarován jako 1 jednotka na miligram,

    Účinnost získáme odlogaritmováním MU, je tedy MU = 1,11 jednotek na miligram.

    Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.

    Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování

    1. Stanovení účinnosti antibiotik na Petriho miskách

      Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti AU = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku . Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.

      Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)
      Standard Přípravek Součet v bloku
      miskas1s2s3u1u2u3
      1176205235174202232R1 = 1224
      2178208238175206234R2 = 1239
      3178207237177203236R3 = 1238
      4175205235173201232R4 = 1221
      5176206235174204231R5 = 1226
      6174204236170202229R6 = 1215
      průměr176,2205,8236,0173,8203,0232,3
      rozptyl2,62,21,65,43,25,9

      Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)
      Standard Přípravek Součet
      nízká dávkaS1 = 1057U1 = 1043
      střední dávkaS2 = 1235U2 = 1218
      vysoká dávkaS3 = 1416U3 = 1394
      přípravek celkemS = 3708U = 3655Σy = 7363
      lineární kontrastLS = 359LU = 351ΣL = 710
      kvadratický kontrastQS = 3QU= 1ΣQ = 4

      Tab. 3.2.8.2-III Analýza rozptylu

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu
      Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
      přípravky178,0378,03
      regrese121 004,1721 004,1718 737< 0,01
      nerovnoběžnost12,672,672,4> 0,05
      kvadratická regerese10,220,220,2> 0,05
      odchylka kvadratických členů10,060,060,05> 0,05
      521 085,14
      ošetření575,8015,1613,5< 0,01
      bloky (misky)2528,031,121
      reziduální chyba3521 188,97
      součet

    Korekční člen K:

    Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.

    Reziduální = Celkový - Ošetření - Bloky = 28,03

    Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s2, což by vedlo k širším mezím spolehlivosti.

    1. Validita zkoušky

      Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.

    1. Výpočet účinnosti a mezí spolehlivosti

    Podíl sousedních dávek byl 2,0, takže:

    Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.

    Logaritmus relativní účinnosti přípravku je tedy:

    Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:

    Logaritmy mezí spolehlivosti se vypočtou jako:

    Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.

    Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:

    C = 1,000227

    Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.

    Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování

    1. Zkouška antibiotik na pravoúhlé plotně

      Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků a , AU= 2000 a AZ= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.

      Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)
      Sloupce
      Řádky123456789
      1u1z1u2s2z2z3u3s1s3
      2s2u3u1z3s1u2s3z1z2
      3s1s2u3u1z1z2z3s3u2
      4z2s3s1z1u3u1u2s2z3
      5z3z2s2s1u2s3z1u3u1
      6u2z3s3z2s2u3s1u1z1
      7z1u2z2u3s3s1u1z3s2
      8s3s1z3u2u1z1s2z2u3
      9u3u1z1s3z3s2z2u2s1

      Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)
      Sloupce
      Řádky123456789řádkové součty
      1164171194206211237237172224R1 = 1816
      2188224178236180210237180210R2 = 1843
      3168203230175175209236238207R3 = 1841
      4182214162175227171194201225R4 = 1751
      5220186192169205230169237167R5 = 1775
      6183217223200195228165171165R6 = 1747
      7163195203229230175179233196R7 = 1803
      8218163228200167175207199233R8 = 1790
      9218163162216233194204199166R9 = 1755
      sloupcovéC1 =C2 =C3 =C4=C5 =C6 =C7 =C8 =C9 =
      součty170417361772180618231829182818301793

      Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky
      Standard Přípravek Přípravek
      s1s2s3u1u2u3z1z2z3
      průměr168,9198,0225,6170,6198,6229,2170,6200,4229,4
      ošetření
      rozptyl34,6143,0077,0334,0367,7836,9439,03105,7854,28
      (vari)
      ln (vari)3,54423,76124,34423,52724,21623,60943,66434,66133,9942

      Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:

      To se pro k = 9, f = 8 redukuje na:

      Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.

      Tab. 3.2.8.3-IV Součty odpovědí a kontrasty

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty
      Standard SPřípravek UPřípravek zSoučet
      nízká dávkaS1 = 1520U1 = 1535Z1 = 1535
      střední dávkaS2 = 1782U2 = 1787Z2 = 1804
      vysoká dávkaS3 = 2030U3 = 2063Z3 = 2065
      přípravek celkemS = 5332U = 5385Z = 5404Σy = 16 121
      lineární kontrastLS = 510LU = 528LZ = 530ΣL = 1568
      kvadratický kontrastQS = -14QU = 24QZ = -8ΣQ = 2

      Tab. 3.2.8.3-V Analýza rozptylu

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu
      Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
      přípravky2103,1451,57
      lineární regrese145 530,0745 530,072921< 0,01
      nerovnoběžnost213,496,750,43> 0,05
      kvadratická regerese10,020,020,00> 0,05
      odchylka kvadratických členů215,467,730,50> 0,05
      ošetření (celkem)845 662,17
      řádky81229,06153,639,86< 0,01
      sloupce81837,95229,7414,74< 0,01
      reziduální chyba56872,7715,585
      celkem8049 601,95

      Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.

      Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77

      Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.

    1. Validita zkoušky

      Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.

    1. Výpočet účinnosti a mezí spolehlivosti

      Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.

      Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu

      Odhad účinnosti, získaný odlogaritmováním MU, je tedy 2096 jednotek na mililitr.

      Logaritmy mezí spolehlivosti se vypočtou jako:

      Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.

      Užitím stejného postupu pro přípravek se dostane:

      Odhad účinnosti je 2664 jednotek na mililitr.

      Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.

      Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.

    2. Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.

    Příklad 3.2.8.4 Dvoudávková křížová zkouška

    1. Stanovení účinnosti insulinu na králících podkožním podáním

      Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (AU= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.

      Tab. 3.2.8.4-I Uspořádání ošetření

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření
      Skupina králíků
      1234
      den Is1s2u1u2
      den IIu2u1s2s1

      Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h
      Skupina 1Skupina 2Skupina 3Skupina 4
      s1u2∑s2u1∑u1s2∑u2s1∑
      112104216657213710591196118144262
      1261122381161602768367150119149268
      6258120737214512567192425193
      86631494793140564510164107171
      525310588113201928417693117210
      11011322363711341015615773128201
      11691207506511566551213987126
      101681695510015591681593171102
      průměr95,682,869,693,389,966,672,4106,8
      rozptyl709,7627,9525,11012,5479,6230,61214,31215,1

      Hartleyovým testem nebyla nalezena významná neshoda rozptylů.

      Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.

      Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.

      Tab. 3.2.8.4-III Součty odpovědí a kontrasty

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h Tab. 3.2.8.4-III Součty odpovědí a kontrasty
      Standard SPřípravek USoučet
      Den I
      nízká dávkaS1I = 765U1I = 719
      vysoká dávkaS2I = 557U2I = 579
      součetS1 = 1322U1 = 1298D1 = 2620
      Den II
      nízká dávkaS1II = 854U1II = 746
      vysoká dávkaS2II = 533U2II = 662
      součetS1 = 1387U1 = 1408DII = 2795
      Přípravky celkemS = 2709U = 2706∑y = 5415
      Lineární kontrasty
      den ILSI = -208LUI = -140LI = -348
      den IILSII = -321LUII = -84LII = -405
      celkemLS = -529LU = -224∑L = -753

      Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.

      Díky opakování v každé skupině obsahuje analýza tři "interakce":

      1. dny x přípravky, dny x regrese, dny x rovnoběžnost.

      Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.

      Tab. 3.2.8.4-IV Analýza rozptylu

      Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10) Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10) Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I) Tab. 3.2.8.1-V Analýza rozptylu Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10) Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II) Tab. 3.2.8.2-III Analýza rozptylu Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec) Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10) Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky Tab. 3.2.8.3-IV Součty odpovědí a kontrasty Tab. 3.2.8.3-V Analýza rozptylu Tab. 3.2.8.4-I Uspořádání ošetření Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h Tab. 3.2.8.4-III Součty odpovědí a kontrasty Tab. 3.2.8.4-IV Analýza rozptylu
      Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
      nerovnoběžnost11453,51453,51,06> 0,05
      dny x přípravky131,631,60,02> 0,05
      dny x regrese150,850,80,04> 0,05
      reziduální chyba mezi králíky2838 258,81366,4
      bloky (králíci)3139 794,71283,7
      přípravky10,10,10,00> 0,05
      regrese18859,58859,564,5< 0,01
      dny1478,5478,53,48> 0,05
      dny x nerovnoběžnost1446,3446,33,25> 0,05
      reziduální chyba"uvnitř"králíků283844,1137,3
      součet6353 423,2

      Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.

      V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.