වන ප්රයෝජනවත් හෝ භයානක?

මම කොස්මා ෂාලිසි (විශේෂයෙන් දෙවන දේශනයේ 2.1.1 වගන්තිය ) විසින් කරන ලද සමහර දේශන සටහන් මග හැරී ගිය අතර, ඔබට සම්පූර්ණයෙන්ම රේඛීය ආකෘතියක් තිබියදීත් ඔබට ඉතා අඩු ලබා ගත හැකි බව මතක් විය .$R^2$

Shalizi ආදර්ශය අභාග්ය: ඔබ ආදර්ශ හිතන්න $Y = aX + \epsilon$ කොහේද, $a$ නම් වේ. එවිට $\newcommand{\Var}{\mathrm{Var}}\Var[Y] = a^2 \Var[x] + \Var[\epsilon]$ සහ පැහැදිලි කරන ලද විචල්‍යතාවයේ ප්‍රමාණය $a^2 \Var[X]$ , එබැවින් $R^2 = \frac{a^2 \Var[x]}{a^2 \Var[X] + \Var[\epsilon]}$ . මෙය 0 $\Var[X] \rightarrow 0$ ලෙසත් 1 to $\Var[X] \rightarrow \infty$ .

අනෙක් අතට, ඔබේ ආකෘතිය සැලකිය යුතු ලෙස රේඛීය නොවන විට පවා ඔබට ඉහළ R ^ 2 ලබා ගත හැකිය $R^2$. (ඕනෑම කෙනෙකුට හොඳ ආදර්ශයක් තිබේද?)

මේ වන විට වේ $R^2$ ප්රයෝජනවත් සංඛ්යා ලේඛන, සහ එය නොසලකා හැරිය යුතුය විට?

පළමු ප්රශ්නය විසඳීම සඳහා , ආකෘතිය සලකා බලන්න

$$Y = X + \sin(X) + \varepsilon$$

මධ්‍ය ශුන්‍ය හා සීමිත විචල්‍යතාවයේ iid සමඟ . පරාසය (ස්ථාවර හෝ අහඹු ලෙස සිතනු ලැබේ) වැඩි වන විට, දක්වා යයි. එසේ වුවද, හි විචලනය කුඩා නම් (1 හෝ ඊට අඩු), දත්ත “සැලකිය යුතු ලෙස රේඛීය නොවන” වේ. බිම් කොටස් වල, .X ආර් 2 ε v වන r ( ε ) = $\varepsilon$$X$$R^2$$\varepsilon$$var(\varepsilon)=1$

අහඹු ලෙස, කුඩා ලබා ගැනීමට පහසු ක්‍රමයක් නම් ස්වාධීන විචල්‍යයන් පටු පරාසයකට කපා දැමීමයි. සෑම දත්තයක් මත පදනම් වූ සම්පූර්ණ ප්‍රතිගාමීත්වය ඉහළ එක් එක් පරාසය තුළ ඇති ප්‍රතිගාමීත්වය ( හරියටම එකම ආකෘතියක් භාවිතා කිරීම ) අඩු ඇත. මෙම තත්වය ගැන සිතා බැලීම තොරතුරුාත්මක ව්‍යායාමයක් වන අතර දෙවන ප්‍රශ්නය සඳහා හොඳ සූදානමකි.ආර් 2 ආර් $R^2$$R^2$$R^2$

පහත දැක්වෙන බිම් කොටස් දෙකම එකම දත්ත භාවිතා කරයි. මෙම පූර්ණ අවගමනය සඳහා 0,86 වේ. මෙම (පළල 1/2 -5/2 සිට 5/2 දක්වා) එම පෙති සඳහා .16, .18, .07, .14, .08, .17, .20, .12, .01 වේ , .00, වමේ සිට දකුණට කියවීම. ඕනෑම දෙයක් නම්, පෙති කපන ලද තත්වයට ගැලපීම් වඩා හොඳ වන්නේ වෙනම රේඛා 10 ඒවායේ පටු පරාසයන් තුළ ඇති දත්ත වලට වඩා සමීපව අනුකූල විය හැකි බැවිනි. නමුත් ෙම් සියලු පෙති සඳහා දුර සම්පූර්ණ මට්ටමට වඩා බෙහෙවින් අඩු ය , එකක්වත් , එම සබඳතාව ශක්තිමත් බව, එම ෙර්ඛීය ඇත්තෙන්ම හෝ ඕනෑම දත්ත අංගයක් (පරාසය හැර ප්රතිගමනයට සඳහා භාවිතා) වෙනස් කර ඇත.$R^2$$R^2$$R^2$$R^2$$X$

(එක් මෙම යසිකා පටිපාටිය බෙදාහැරීම වෙනස් බව ය වස්තුව . සැබෑ බව, නමුත් එය එසේ වුවත් පොදු භාවිතය වඩාත් සමග අනුරූප ස්ථාවර බලපෑම් ආදර්ශණය හා වෙනවාද යන්න හෙළි පිළිබඳව අප කියන්නේ සසම්භාවී-බලපෑම් තත්වයේ හි විචලනය . විශේෂයෙන්, එහි ස්වාභාවික පරාසයේ කුඩා කාල පරාසයක් තුළ වෙනස් වීමට සීමා වූ විට , සාමාන්‍යයෙන් පහත වැටෙනු ඇත.)$X$$R^2$$R^2$$X$$X$$R^2$

හි ඇති මූලික ගැටළුව නම්, එය බොහෝ දේ මත රඳා පවතී (බහුවිධ ප්‍රතිගාමීතාවයකින් සකස් කළ විට පවා), නමුත් බොහෝ විට ස්වාධීන විචල්‍යයන්ගේ විචලනය සහ අවශේෂවල විචලනය මත ය. ආකෘති අනුක්‍රමයක් සංසන්දනය කිරීම සඳහා සාමාන්‍යයෙන් එය “රේඛීයතාව” හෝ “සම්බන්ධතාවයේ ශක්තිය” හෝ “යෝග්‍යතාවයේ යහපත්කම” ගැන කිසිවක් අපට නොකියයි .$R^2$

බොහෝ විට ඔබට ට වඩා හොඳ සංඛ්‍යාලේඛනයක් සොයාගත හැකිය . ආකෘති තෝරා ගැනීම සඳහා ඔබට AIC සහ BIC වෙත බැලිය හැකිය; ආකෘතියක ප්‍රමාණවත් බව ප්‍රකාශ කිරීම සඳහා, අවශේෂවල විචලනය දෙස බලන්න. $R^2$

මෙය අවසාන වශයෙන් දෙවන ප්‍රශ්නයට අපව ගෙන එයි . ට යම් ප්‍රයෝජනයක් තිබිය හැකි එක් තත්වයක් නම්, ස්වාධීන විචල්‍යයන් සම්මත අගයන්ට සකසා ඇති විට, ඒවායේ විචල්‍යතාවයේ බලපෑම පාලනය කිරීමයි. එවිට යනු අවශේෂයන්ගේ විචල්‍යතාව සඳහා ප්‍රොක්සියකි. 1 - ආර් $R^2$$1 - R^2$

ඔබේ උදාහරණය අදාළ වන්නේ විචල්ය මාදිලියේ තිබිය යුතු විට පමණි . යමෙකු සුපුරුදු අවම වර්ග ඇස්තමේන්තු භාවිතා කරන විට එය නිසැකවම අදාළ නොවේ. මෙම, සටහන් බලන්න අපි තක්සේරු නම් වූ ඔබේ ආදර්ශය අවම කොටු විසින්, අපි ලබා ගන්න:$\newcommand{\Var}{\mathrm{Var}}X$ $a$

කොහේදs 2 X =

$$\hat{a}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{\frac{1}{N}\sum_{i=1}^{N}X_{i}^{2}}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{s_{X}^{2}+\overline{X}^{2}}$$ යනුXසහ ¯ X =1හි (නියැදි)$s_{X}^2=\frac{1}{N}\sum_{i=1}^{N}(X_{i}-\overline{X})^{2}$$X$වන (නියැදිය) අදහස් වන්නේ$\overline{X}=\frac{1}{N}\sum_{i=1}^{N}X_{i}$$X$

$$\hat{a}^{2}\Var[X]=\hat{a}^{2}s_{X}^{2}=\frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}\left(\frac{s_{X}^{2}}{s_{X}^{2}+\overline{X}^{2}}\right)^2$$

දැන් දෙවන පදය සෑම විටම ට වඩා අඩුය ( සීමාවේ 1 ට සමාන වේ ) එබැවින් X විචල්යයෙන් R 2 සඳහා වන දායකත්වය සඳහා අපට ඉහළ සීමාවක් ලැබේ :$1$$1$$R^2$$X$

$$\hat{a}^{2}\Var[X]\leq \frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}$$

( 1) හැරමෙන්ම, අප සැබවින්ම දකිනු ඇතආර්2→0ලෙසගේ 2 X →අනන්තය දක්වා යන අවස්ථාව(මෙම numerator ශුන්ය යයි නිසා, නමුත් හරය යනවාVවනr[ε]>0). මීට අමතරව,පද දෙක කෙතරම් ඉක්මණින් අපසරනය වේද යන්න මත පදනම්වඅපටR20සිට1දක්වා යමක් බවට පරිවර්තනයවිය හැකිය. දැන් ඉහත පදය සාමාන්‍යයෙන් වඩා වේගයෙන් වෙනස් වේ$\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2\to\infty$$R^2\to 0$$s_{X}^{2}\to\infty$$\Var[\epsilon]>0$$R^2$$0$$1$ නම් X නම් මන්දගාමී ආදර්ශ විය යුතුය, සහ එක්ස් ආදර්ශ විය යුතු නැහැ. අවස්ථා දෙකේදීම R 2 නිවැරදි දිශාවට ගමන් කරයි.$s_{X}^2$$X$$X$$R^2$

ඕනෑම සීමිත දත්ත කට්ටලයක් සඳහා (එනම් සැබෑ එකක්) සියලු දෝෂ හරියටම ශුන්‍ය නොවන්නේ නම් අපට කිසි විටෙකත් නොහැකි බව සලකන්න . මෙය මූලික වශයෙන් පෙන්නුම් කරන්නේ R 2 යනු නිරපේක්ෂ මිනුමකට වඩා සාපේක්ෂ මිනුමක් බවයි. මක්නිසාද යත් R 2 ඇත්ත වශයෙන්ම 1 ට සමාන නොවේ නම් , අපට සෑම විටම වඩා හොඳ ගැළපෙන ආකෘතියක් සොයාගත හැකිය. මෙය බොහෝ විට R 2 හි "භයානක" අංගය විය හැකි බැවින් එය 0 සහ 1 අතර පරිමාණයකින් පරිමාණය කර ඇති නිසා අපට එය නිරපේක්ෂ අර්ථයකින් අර්ථ නිරූපණය කළ හැකි බව පෙනේ.$R^2=1$$R^2$$R^2$$1$$R^2$$0$$1$

ඔබ ආකෘතියට විචල්‍යයන් එක් කරන විට කෙතරම් ඉක්මනින් පහත වැටේ දැයි බැලීම වඩාත් ප්‍රයෝජනවත් වේ . අවසාන වශයෙන්, නමුත් අවම වශයෙන්, විචල්‍ය තේරීමේදී එය කිසි විටෙකත් නොසලකා හැරිය යුතු නොවේ, ආර් 2 විචල්‍ය තේරීම සඳහා ප්‍රමාණවත් සංඛ්‍යාලේඛනයක් වන බැවින් - දත්තවල ඇති විචල්‍ය වරණය පිළිබඳ සියලු තොරතුරු එහි අඩංගු වේ. අවශ්‍ය එකම දෙය නම් “දෝෂ ගැලපීම” ට අනුරූප වන R 2 හි පහත වැටීම තෝරා ගැනීමයි - එය සාමාන්‍යයෙන් නියැදි ප්‍රමාණය හා විචල්‍ය ගණන මත රඳා පවතී.$R^2$$R^2$$R^2$

භයානක වන විට මට උදාහරණයක් එකතු කළ හැකි නම් . මීට වසර ගණනාවකට පෙර මම ජෛවමිතික දත්ත කිහිපයක් මත වැඩ කරමින් සිටි අතර තරුණ හා මෝඩයෙකු වීම නිසා මම පියවරෙන් පියවර කාර්යයන් උපයෝගී කරගනිමින් ගොඩනගා ඇති මගේ විසිතුරු ප්‍රතිගාමීතාවයන් සඳහා සංඛ්‍යානමය වශයෙන් වැදගත් R 2 අගයන් කිහිපයක් සොයාගත් විට මම සතුටට පත් වීමි. විශාල අන්තර්ජාතික ප්‍රේක්ෂක පිරිසකට මා ඉදිරිපත් කිරීමෙන් පසුව ආපසු හැරී බැලීමෙන් පසුව මට වැටහී ගියේ දත්තවල දැවැන්ත විචල්‍යතාවය සැලකිල්ලට ගෙන - ජනගහනයට සාපේක්ෂව නියැදියෙහි ඇති විය හැකි දුර්වල නිරූපණය සමඟ සංයෝජනය වී ඇති විට, 0.02 හි R 2 මුළුමනින්ම අර්ථ විරහිත බවය එය "සංඛ්‍යානමය වශයෙන් වැදගත්" නම් ...$R^2$$R^2$$R^2$

සංඛ්‍යාලේඛන සමඟ වැඩ කරන අය දත්ත තේරුම් ගත යුතුය!

ඔබට තනි පුරෝකථනයක් ඇති විට හරියටම Y හි විචල්‍යතාවයේ අනුපාතය ලෙස අර්ථ දැක්විය හැකි අතර එය X සමඟ රේඛීය සම්බන්ධතාවයෙන් පැහැදිලි කළ හැකිය . ආර් 2 හි වටිනාකම දෙස බලන විට මෙම අර්ථ නිරූපණය මතකයේ තබා ගත යුතුය .$R^{2}$$Y$$X$$R^2$

රේඛීය නොවන සම්බන්ධතාවයකින් ඔබට විශාල ලබා ගත හැක්කේ සම්බන්ධතාවය රේඛීයයට ආසන්න වූ විට පමණි. උදාහරණයක් ලෙස, සිතමු Y = ඉ X + ε එහිදී X ~ යූ n මම ඊ o r මීටර ( 2 , 3 ) හා ε ~ N ( 0 , 1 ) . ඔබ ගණනය කරන්නේ නම්$R^2$$Y = e^{X} + \varepsilon$$X \sim {\rm Uniform}(2,3)$$\varepsilon \sim N(0,1)$

$$R^{2} = {\rm cor}(X, e^{X} + \varepsilon)^{2}$$

$.914$$e^{X}$$(2,3)$

$R^2$$R^2$$R^2$

$\bar{R}^2 = 1 - (1-R^2)\frac{n-1}{n-p-1}$$n$$p$

1. $R^2$$y=x^2$$[0,1]$$R^2$$[0, 1]$$R^2$

2. $R^2$$Y= x + \epsilon$$R^2$$R^2$

3. $R^2$$R^2$