Rで統計学を学ぶ(4)

a <- rnorm(500)*10+50
b <- rnorm(500)*10+50
plot(a,b)
points(50, 50, cex=50, col="blue")
for (i in 1:100) {
	xa <- sample(a, 30)
	xb <- sample(b, 30)
        if (abs(cor(xa, xb)) > 0.30) break
}
xx <- lm(xb ~ xa)
plot(xa, xb)
abline(xx, col="blue")

そのような疑いや批判には、(前の章で学んだように)『標本抽出が無作為抽出であること』(都合の良いデータを集めたわけではない)、そして(本章で学ぶように)『母集団に全く相関がないとしたら、抽出した標本からこのような結果が得られる可能性が非常に小さいということ』(多数のデータを集めても同じような結果が得られる確率が高い)を示さなければなりません。そして、 統計的仮説検定は確率に基づき、後者の主張を行うための方法です。(前者の「無作為抽出」は、統計による分析の大前提です)

• 帰無仮説：提案する手法が従来の手法と「差がない」、 提案する手法は「効果がない」という仮説---本来主張したいこととは逆の仮説。 この仮説が棄却されることを目標として仮説検定を行う。
  具体的には、母平均μ=0 (母平均は0である), 母相関係数 ρ=0 (相関がない), 母平均の差μ₁ - μ₂= 0 (差がない)というような仮説
• 対立仮説: 帰無仮説が棄却されたときに採択される仮説--- 帰無仮説とは逆の仮説であり、実験などで示したい・主張したいことを表したもの
  具体的には、母平均μ≠0 (母平均は0でない), 母相関係数 ρ≠0 (相関がある), 母平均の差μ₁ - μ₂≠ 0 (差がある)というような仮説

• 片側検定：対立仮説が、母平均μ > 0 (もしくはμ < 0 )、 、母相関係数　ρ > 0 (もしくはρ < 0 )、、母平均の差μ₁ > μ₂ (もしくはμ₁ < μ₂ )、の場合
• 両側検定：対立仮説が、母平均μ≠0、母相関係数ρ≠0 、母平均の差　μ₁ - μ₂≠ 0の場合
  要するに、両側検定では、例えば母平均μ≠0を調べるには、母平均μ > 0 と μ < 0 の両方を調べなければならない

帰無仮説が正しいとしたとき、検定統計量が、ほぼ起こり得ない値(それほど極端な値)であれば、帰無仮説を棄却する(つまり、本来の主張を表す対立仮説が採択される)。そうでなければ(確率的に十分起こりうるような値であれば、帰無仮説を採択する(この場合は、本来主張したかった対立仮説が棄却されてしまう)。

• 検定統計量：統計的仮説検定のために用いられる標本統計量のこと。代表的な検定統計量の例: t, χ²、F
• 検定統計量の実現値：実際のデータ（手に入った標本）を基に計算してえられる具体的な値のこと

• 採択域: 棄却域以外の部分---「帰無仮説が採択される領域」
• 臨界値: 棄却域と採択域の境目の値

正規分布を帰無分布とした時の棄却域

検定結果は5% (または1%)水準で有意である
または 「p < .05 (または p < .01 )で有意差が見られた 」 と記述する。

　　 標本平均の分布も正規分布
　　 標本平均の平均は [ア] 、分散は [イ ]　（問題：ア、イに当てはまる記号を書け---課題4-2)

指導法データ <- c(13,14,7,12,10,6,8,15,4,14,9,6,10,12,5,12,8,8,12,15)

1. 帰無仮説と対立仮説をたてる: 帰無仮説は「無作為抽出した標本と考えて良い」、つまりμ=12
   対立仮説は「無作為抽出した標本ではない」、つまりμ≠12
2. 検定統計量の選択: 標本データを標準化した値(Zで表す)
3. 有意水準の決定: 両側検定で、有意水準 5%、つまりα=0.05
4. 検定統計量の実現値の計算:

   > z <- (mean(指導法データ) - 12) / sqrt(10/length(指導法データ))		# 標準化
   > z
   [1] -2.828427
   

5. 帰無仮説の棄却か採択かの決定: 帰無仮説によればこの標本は正規分布に従う。そこでqnorm関数で棄却の臨界値を求める、 もしくはpnorm関数でp値を求める
   • 下側確率：標準正規分布に従う確率変数Zを例にとると、Zがある値α以下となる確率 Prob(Z ≦ α)
   • 上側確率：標準正規分布に従う確率変数Zを例にとると、Zがある値αより大きくなる確率 Prob(Z > α)

   > qnorm(0.025)			# 下側確率0.05/2 = 0.025となるzの値を求める
   [1] -1.959964
   # 下側確率であるから、この値よりもZ値が小さければ棄却される
   > qnorm(0.975)			# 上側確率 1 - 0.05/2 = 0.975となるzの値を求める
   [1] 1.959964
   # 上側確率であるから、この値よりもZ値が大きければ棄却される
   

   この結果、棄却域は Z < -1.959964 または Z > 1.959964となるので、Zの値は棄却域に入る。 よって、結論「有意水準5%において、指導法データは心理学テスト(という母集団)から無作為抽出した標本とはいえない」。
   なお、関数pnormを用いて、直接p値を求めることもできる:

   > pnorm(-2.828427)				# 下側確率
   [1] 0.002338868
   # 下側確率とすれば、p値は0.0023という小さな値(< 0.05)
   > pnorm(2.828427, lower.tail=FALSE)		# 上側確率
   [1] 0.002338868
   > 2*pnorm(-2.828427)		# 両側検定なので2倍する
   [1] 0.004677737 
   # 両側検定であるから2倍したp値は0.0047という小さな値(< 0.05)
   

• t分布：統計学でよく利用される、正規分布の形に似た左右対称・山形の確率分布
• 自由度(df)：t分布の形状を決める
  

1. 帰無仮説と対立仮説をたてる: 帰無仮説は「無作為抽出した標本と考えて良い」、つまりμ=12
   対立仮説は「無作為抽出した標本ではない」、つまりμ≠12
2. 検定統計量の選択: 標本の不偏分散の平方根を用い、 を検定統計量とする
3. 有意水準の決定: 両側検定で、有意水準 5%、つまりα=0.05
4. 検定統計量の実現値の計算:

   > t <- (mean(指導法データ) - 12) / sqrt(var(指導法データ)/length(指導法データ))
   > t				#  検定統計量
   [1]  -2.616648
   

5. 帰無仮説の棄却か採択かの決定: 帰無仮説によればこの検定統計量は自由度df=n-1=19のt分布に従う

   > qt(0.025,19)			# df=19、下側確率0.05/2 = 0.025となるtの値を求める
   [1] -2.093024
   # 下側確率であるから、この値よりもt値が小さければ棄却される
   > qt(0.975,19)			# df=19、上側確率 1 - 0.05/2 = 0.975となるtの値を求める
   [1] 2.093024
   # 上側確率であるから、この値よりもt値が大きければ棄却される
   

   この結果、棄却域は t < -2.093024 または t > 2.093024となるので、tの値は棄却域に入る。
   関数 pt を用いて、直接p値を求めることもできる:

   > pt(-2.616648,19)				# 下側確率
   [1] 0.00848546
   # 下側確率とすれば、p値は0.0085 という小さな値(< 0.05)
   > pt(2.616648,19, lower.tail=FALSE)		# 上側確率
   [1] 0.00848546
   > 2*pt(-2.616648,19)		# 両側検定なので2倍する
   [1] 0.01697092
   # 両側検定であるから２倍したp値は0.017という小さな値(< 0.05)
   

   よって、結論「有意水準5%において、指導法データは心理学テスト(という母集団)から無作為抽出した標本とはいえない」。

統計テスト1 <- c(6,10,6,10,5,3,5,9,3,3,11,6,11,9,7,5,8,7,7,9)
統計テスト2 <- c(10,13,8,15,8,6,9,10,7,3,18,14,18,11,12,5,7,12,7,7)

1. 帰無仮説と対立仮説をたてる: 帰無仮説はρ = 0、つまり母相関=0
   対立仮説は「ρ≠ 0」、、つまり母相関≠0
2. 検定統計量の選択:
3. 有意水準の決定: 両側検定で、有意水準 5%、つまりα=0.05
4. 検定統計量の実現値の計算:

   > 標本相関 <- cor(統計テスト1,統計テスト2)
   > 標本相関 
   [1] 0.749659     # 強い相関
   > サンプルサイズ <- length(統計テスト1)
   > t分子 <- 標本相関*sqrt(サンプルサイズ-2)
   > t分母 <- sqrt(1-標本相関^2)
   > t統計量 <- t分子/t分母
   > t統計量				#  検定統計量
   [1] 4.805707
   

5. 帰無仮説の棄却か採択かの決定: 帰無仮説によればこの検定統計量は自由度df=n-2=18のt分布に従う

   > qt(0.025,18)			# df=18、下側確率0.05/2 = 0.025となるtの値を求める
   [1] -2.100922
   # 下側確率であるから、この値よりもt値が小さければ棄却される
   > qt(0.975,18)			# df=18、上側確率 1 - 0.05/2 = 0.975となるtの値を求める
   [1] 2.100922
   # 上側確率であるから、この値よりもt値が大きければ棄却される
   

   この結果、棄却域は t < -2.100922または t > 2.100922となるので、tの値は棄却域に入る。 よって結論「統計学テスト1と統計学テスト2は有意水準5％において強い相関(相関係数0.75)がある」。
   関数 pt を用いて、直接p値を求めることもできる:

   > pt(4.805707,18, lower.tail=FALSE)		# 上側確率
   [1] 7.08114e-05
   > 2*pt(4.805707,18,lower.tail=FALSE)		# 両側検定なので2倍する
   [1] 0.0001416228
   # 両側検定であるから２倍したp値は0.00014という小さな値(< 0.05)
   

• 独立性の検定：２つの質的変数間の連関の有意性を調べる検定
  
• 期待度数：2つの変数の間に連関がない(独立である)という帰無仮説のもとで、帰無仮説が正しければ（連関がなければ）これくらいの度数をとるだろうと期待される度数
  クロス集計表におけるセルの期待度数 = (セルが属する行の周辺度数 ×セルが属する列の周辺度数)÷総度数
• χ²(カイ2乗)という確率分布を利用するため、カイ自乗(2乗)検定ともいう。
• 独立性の検定における検定統計量の式
  O₁～O_kは観測度数、E₁～E_kは期待度数
• カイ二乗分布:

数学 <- c("嫌い","嫌い","好き","好き","嫌い","嫌い","嫌い","嫌い","嫌い","好き","好き",
	"嫌い","好き","嫌い","嫌い","好き","嫌い","嫌い","嫌い","嫌い")
統計学 <- c("好き","好き","好き","好き","嫌い","嫌い","嫌い","嫌い","嫌い","嫌い","好き",
	"好き","好き","嫌い","好き","嫌い","嫌い","嫌い","嫌い","嫌い")

次のステップで行う:

1. 帰無仮説と対立仮説をたてる: 帰無仮説H₀は、「数学と統計学の2つの変数は独立(連関なし)」
   対立仮説H₁は「「数学と統計学の2つの変数は独立(連関なし)」
2. 検定統計量の選択:
3. 有意水準の決定: 5%とする(片側検定---カイ二乗検定は棄却域が一つしかない)
4. 検定統計量の実現値の計算:

   > 期待度数イチイチ <-12*14/20
   > 期待度数ニイチ <- 12*6/20
   > 期待度数イチニ <- 8*14/20
   > 期待度数ニニ <- 8*6/20
   > 期待度数 <- c(期待度数イチイチ,期待度数ニイチ,期待度数イチニ,期待度数ニニ)
   > 観測度数 <- c(10,2,4,4)
   > カイ二乗要素 <- (観測度数 - 期待度数)^2/期待度数
   > カイ二乗 <- sum(カイ二乗要素)		#  検定統計量
   > カイ二乗
   [1] 2.539683
   

5. 帰無仮説の棄却か採択かの決定: 帰無仮説によればこの検定統計量は自由度df=1のχ²分布に従う

   > qchisq(0.95,1) 		# 自由度1のカイ二乗分布で確率0.95となるχ2の値を求める
   [1] 3.841459
   # これが棄却域を定める---この値よりもχ2値が小さければ棄却される
   > qchisq(0.05,1,lower.tail=FALSE)		# df=1、確率 0.05となるχ2の値を求める
   [1] 3.841459
   # 上側確率であるから、この値よりもχ2値が大きければ棄却される
   

   この結果、棄却域は χ²> 3.84 となるので、この例題におけるχ²の値は棄却域に入っていない、つまり帰無仮説は棄却されず、採択される。 よって結論「有意水準5%において、数学と統計学の2つの変数は独立ではない(連関がない)」。
   関数 pchisq を用いて、直接p値を求めることもできる:

   > pchisq(2.539683, 1, lower.tail=FALSE)		# 自由度1のカイ二乗分布の上側確率
   [1] 0.1110171
   # p値が有意水準0.05よりも大きいので、帰無仮説は棄却されない
   

> 履修A <- matrix(c(16,12,4,8),2,2)
> rownames(履修A) <- c("文系","理系")
> colnames(履修A) <- c("履修した","履修しない")
> 履修A						# 合計40名
     履修した 履修しない
文系       16          4
理系       12          8
> chisq.test(履修A,correct=F)

        Pearson's Chi-squared test

data:  履修A 
X-squared = 1.9048, df = 1, p-value = 0.1675		# p値は 0.17

> 履修B <- matrix(c(160,120,40,80),2,2)
> rownames(履修B) <- c("文系","理系")
> colnames(履修B) <- c("履修した","履修しない")
> 履修B						# 履修Aに比べて10倍, 合計400名
     履修した 履修しない
文系      160         40
理系      120         80
> chisq.test(履修B,correct=F)

        Pearson's Chi-squared test

data:  履修B 
X-squared = 19.0476, df = 1, p-value = 1.275e-05	# p値は 0.0000128