S
˜)V˙ŒnO\Ƨł†L˘!7K˘!+n˘!O
˘!A^Œ˘9ƒ’;˘)ƒ^§O†L˘n˜<º"
O˘·’uŒ˘§)£ªOO"cˇ~·^«{†
“Ø*Œ?1|8!fio!£ª'§K|^V˙˜{K
9O{§Ø•⁄˜X (=Œ)⁄X) " 3{p¥§V˙
ŒnOˇ~·†L˘;˘‹˜)O†L˘%X§1"@o§†
L˘;˘)oI˘SV˙ŒnOQ”{§T§O†L˘!
*†L˘!*†L˘97K˘%§˘SJł7V˙ŒnO˜:"
O˘¨'·†L˘¥˜Œ˘'" X¨'·x†L˘¥‘
z1˜Œ˘{§O˘K·˜3(‰5„˜Œ˘{"’X§˘
I^V˙£" qX Robert Lucas ⁄ª§*†L˘¥¯ˇ\U˜
†LXJłNı#"5‘§V˙ŒnOø§¿U¡O†
L˘ I§ˇ§†L˘z+Jł7'",§†L˘¥+Ø
V˙O˘Iƒƒ§¥O†L˘A^ı"c§ØnO†L
˘a,˘I?\?Œ˘O˘p?§" ƒ;˘KU
ˇLøA^O†L˘! *†L˘9*†L˘˘Seß—V˙Œ
nO˜:"
>8k§†L˘7K˘;˘)Jł7V˙Œn
O£¶§l†L˘ØV˙ŒnO¥›Vg{Jł)”
A^Y~"‰¡fikV˙ŒnOƧy‹"’§
›uV˙ŒnO˜g†L˘)”" ª8·ykÆ
?"AO/§•j&1>8¿XV˙O¡§·†L˘
7K˘˜)¥‰"›|⁄'"
·U˘ˇ˘SN>§)V˙nOn'"V˙
8c£ª¯yZŒ˘{§kˇu˘)—/n)O"e"X
V˙£§˘)ˆ{n)”X$^yO{ØŒ'()
”"' 10 §¥1 1-5 ·V˙'§1 6-9 ·On'§·
o("1·V˙ŒnO§3‘†V˙ŒnO·†L˘˜
'¶10V˙˜£§YSN—mC‰˜:¶1n\
1
2
¯C9V˙'¶1o?†L˘7K˘¥~^›l9ºY
V˙'¶1˚0¯9ı¯CV˙'"ıŒ¢y'9ı
¯C§ˇd§˜ı¯CV˙'kˇu\&?†LXؘ5¶1
8·˜n§0'beDO˜n¶10'
be‰Cn˜'¶1l&?ºŒO{–9dº
ŒO‘OK¶1˚?ºŒbuflK¶·('"=
”Xl˜Vgp?C'SN§ØV˙ŒnO›Vg9g
JłNı†L˘)”"
3ˇ—˘\n)V˙ŒnO˜Vg›g§rz
O˘’Vg†L˘)”"—/n)SN§ƒdckc¨'˘S˜
:"e?Lcp?¨'§kV˙O˘˜:K—"^Ø
>Qª“§ØıŒ›‰ny†"fl¢§Œny†kˇu˘S¿'
n)›("AO/§ØukulflO†L˘n˜˘§ø†;
y†E{k›/¿´",§ª«§øª«k
ˇu˘)n)V˙ŒnO¥’˜'Vg‰g"
Nı?ø˘·1g>V˙ŒnOg" ؆L˘7K˘;
˘)§Æ¯gOg“~›"l‘§øƒ˘)3
nE,‚¥§†L*Œd¯5†LX‰†LL§)§¿ø
LXk&E*Œ^uدX‰¯L§?1" Ø˘)5‘§
~k7sm)V˙ŒnOŒ˘g·X3†L˘7K˘+
¥–A^"ˇd§[ªyO†L˘’V˙ŒnO˜
n§}`l†L˘ØV˙O˘Vg¿'œ)”"~X§
oOVg (X^!^) 3†L˘¥k^Q”V˙ŒnO’X†L
)”·oQ”^Nı†L˘7K˘+~f‘†V˙9O˘{
XA^u†L'"ø·ƒV˙ŒnOÆ?"
·˜u•3xG˘†L˘Xc?˘‹)V˙ŒnO§˘ø
´˜:/⁄"a⁄k?Lø˘˘"a†!Ø7!%
_ˇ"f˘H†L˜ (WISE) 9†L˘L!o7·!
†P3 WISE 9†L˘a‹˘‹˜)ø˙V˙ŒnO§ƒ^
Æ"aƒd˘"
[
{IxG˘ Ernest S. Liu †L˘IS’X˘øR˙
{I†ik
8„
S
1
1! †L˘¥‰' . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1! †L˘O'˜œn . . . . . . . . . . . . . . . . . . . . . . . . . .
1n! O'3†L˘¥^ . . . . . . . . . . . . . . . . . . . . . . . . . .
1o! O'3†L˘¥A^ . . . . . . . . . . . . . . . . . . . . . . .
1˚! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
SK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1 V˙˜:
1! ¯` . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1! V˙˜Vg . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1n! 8n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1o! V˙˜: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.4.1 V˙)” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.4.2 ˜V˙{K . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1˚! OŒ{ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.5.1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.5.2 | . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
18! ^V˙ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1! d‰n (Bayes’ Theorem)
. . . . . . . . . . . . . . . . . . . . . . . .
1l! Æ5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1˚! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
SK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3
1
1
1
2
4
6
7
8
9
9
10
11
15
16
17
22
22
24
29
34
37
43
44
4
1n ¯C¯CV˙'
1! ¯C . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1! \¨'…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1n! l¯C . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1o! ºY¯C . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1˚! ¯C…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.1 l„ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.2 ºY„ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
18! Œ˘ˇ" . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1! . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1l! 'Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1˚! )⁄…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8„
47
47
51
57
61
68
69
70
83
85
94
97
1! A…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
1! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
SKn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
1o ›V˙'
117
1! . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
1! lV˙' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
4.2.1 ¸ª|' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
4.2.2 ' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
4.2.3 K' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
4.2.4 A' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
4.2.5 t' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
1n! ºYV˙' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
4.3.1 !' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
4.3.2 '' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
4.3.3 ' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
4.3.4 9›' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
4.3.5 ،' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
4.3.6 ‡'92´‡' . . . . . . . . . . . . . . . . . . . . . . . . 143
4.3.7 k' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
8„
5
4.3.8 Œ'¸' . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
4.3.9 VŒ' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
1o! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
SKo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
1˚ ı¯C9'
155
1! ¯9ØV˙' . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
5.1.1 l/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
5.1.2 ºY/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
1! >S' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
5.2.1 l/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
5.2.2 ºY/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
1n! ^' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
5.3.1 l/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
5.3.2 ºY/ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
1o! Æ5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176
1˚! C . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
18! ' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
1! ˇ" . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
1l! Ø)⁄…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
1˚! ˇ"Æ5„´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
5.9.1 Æ5)⁄…Œ . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
5.9.2 Æ5’5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
1! ^ˇ" . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
1! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
SK˚ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
18 ˜n
243
1! oN¯ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
1! ˜' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
1n! ˜' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252
1o! ˘) t-' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
1˚! F ' . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269
18! ¿'O . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272
1! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281
SK8 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282
6
8„
1 ´æ¥%4‰n
287
1! 4Œ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287
1! \´æVg75 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290
1n! g´æ9 Lp-´æ . . . . . . . . . . . . . . . . . . . . . . . . . 291
1o! V˙´æ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294
1˚! A??´æ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300
18! '´æ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306
1! ¥%4‰n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311
1l! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322
SK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324
1l ºŒO
327
1! oN'. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327
1! 4q,O . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330
1n! 4q,O (MLE) C5 . . . . . . . . . . . . . . . . . . . . . . 335
1o! {2´{ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342
8.4.1 O{ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342
8.4.2 2´O{ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 345
1˚! 2´O{ (GMM) C5 . . . . . . . . . . . . . . . . . . . . . 348
18! OK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352
1! ‘ˆO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355
1l! Cramer-Rao e. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361
1˚! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368
SKl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369
1˚ bu
375
1! bu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375
1! Neyman-Pearsonn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381
1n! Waldu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385
1o! .KFƒfu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388
1˚! q,’u . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391
18! Ԡ5~f . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393
9.6.1 Bernoulli 'ebu . . . . . . . . . . . . . . . . . . . . . . . 394
9.6.2 'ebu . . . . . . . . . . . . . . . . . . . . . . . . . . 396
1! ( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398
SK˚ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400
8„
1 (
7
403
1! o( . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 403
1! 5O†L˘˜ . . . . . . . . . . . . . . . . . . . . . . . . . . . 405
SK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407
º'z
407
8
8„