ROC එදිරිව නිරවද්‍යතාව සහ නැවත කැඳවීමේ වක්‍ර


174

ඔවුන් අතර ඇති විධිමත් වෙනස්කම් මට වැටහී ඇත, මට දැන ගැනීමට අවශ්‍ය වන්නේ එකක් එදිරිව එදිරිව භාවිතා කිරීම වඩාත් අදාළ වන විටය.

  • දී ඇති වර්ගීකරණ / හඳුනාගැනීමේ පද්ධතියක ක්‍රියාකාරිත්වය පිළිබඳව ඔවුන් සැමවිටම අනුපූරක අවබෝධයක් ලබා දෙනවාද?
  • ඒ දෙකම කඩදාසියකින් ලබා දීම සාධාරණ වන්නේ කවදාද? එකක් වෙනුවට?
  • වර්ගීකරණ පද්ධතියක් සඳහා ROC සහ නිරවද්‍ය මතක් කිරීම් යන දෙකටම අදාළ අංශ ග්‍රහණය කර ගන්නා විකල්ප (සමහර විට වඩා නවීන) විස්තර කරුවන් සිටීද?

ද්විමය සහ බහු පංති (උදා: එක්-එදිරිව-සියල්ල) සඳහා වන තර්ක ගැන මම උනන්දු වෙමි.


8
මෙම පත්‍රය සන්දර්භය තුළ දිස්විය යුතුය: biostat.wisc.edu/~page/rocpr.pdf

3
මගේ නිබන්ධනය මෙහි සඳහන් කිරීම සඳහා මම මෙය "ප්ලග්" සඳහා භාවිතා කළ හැකිය ... ලයිට්නර් (2012) දී මම F- හි හාර්මොනික් මධ්යන්ය ලෙස "F- මනින ලද සාමාන්‍ය නිරවද්යතාව" (FAP) මෙට්රික් (පිටුව 65 බලන්න ) යෝජනා කළෙමි. මිනුම් සහ සාමාන්‍ය නිරවද්‍යතාවය. එනම්, ශ්‍රේණිගත ඇගයීම් මෙට්‍රික් සමඟ සංයුක්ත ඇගයීමේ මෙට්‍රික් එකක එකතුවකි. නිබන්ධනයේ දී, මා පෙන්වූයේ පුහුණු කට්ටලයේ FAP අගය උපරිම කිරීම වෙනත් ආකාරයකින් අසීමිත තොරතුරු ලබා ගැනීමේ කාර්යයක් සීමා කිරීම සඳහා හොඳම කප්පාදුව හඳුනා ගැනීමට භාවිතා කළ හැකි බවයි (ජෛව නිර්මාණාත්මක ලකුණු 100 ක් භාවිතා කිරීම!).
fnl

1
අසමතුලිත දත්ත කට්ටලයක් පිළිබඳ AUC-ROC සහ PR වක්‍රය පිළිබඳ තවත් හොඳ සාකච්ඡාවක් මෙන්න . එය ඩිසිම්චා පැවසූ දෙයට සමාන නිගමනයකි. ඔබ දුර්ලභ අවස්ථාව ගැන වැඩි සැලකිල්ලක් දක්වන විට, ඔබ PR භාවිතා කළ යුතුය.
YC

Answers:


229

මෙහි ඇති ප්‍රධාන වෙනස නම්, මූලික සම්භාවිතාව කුමක් වුවත් ROC වක්‍රය එක හා සමාන වනු ඇත, නමුත් ඉඳිකටුවක් සහිත පිදුරු වර්ගයේ ගැටළු හෝ “ධනාත්මක” පන්තිය negative ණාත්මකව වඩා රසවත් වන ගැටළු සඳහා PR වක්‍රය ප්‍රායෝගිකව වඩාත් ප්‍රයෝජනවත් වේ. පන්තිය.

මෙය පෙන්වීමට, පළමුව නිරවද්‍යතාව, මතක් කිරීම සහ නිශ්චිතභාවය නිර්වචනය කිරීම සඳහා ඉතා හොඳ ක්‍රමයකින් පටන් ගනිමු. ඔබට “ධනාත්මක” පංතියක් 1 ලෙසත්, “negative ණ” පංතියක් 0 ලෙසත් උපකල්පනය කරන්න. the යනු සත්‍ය පන්තියේ ලේබලය පිළිබඳ ඔබේ තක්සේරුවයි . ඉන්පසු: සටහන් කළ යුතු ප්‍රධාන කරුණ නම් සංවේදීතාව / නැවත කැඳවීම සහ නිශ්චිතතාව , ROC වක්‍රය සෑදෙන, සම්භාවිතා සත්‍ය පන්තියේ ලේබලය මත කොන්දේසි සහිත වේ . එබැවින් යනු කුමක් වුවත් ඒවා සමාන වේ. නිරවද්‍යතාවය යනු සම්භාවිතාව මත ය Yවයි^වයි පී(Y=1)පී(Y=1)

නිරවද්යතාව=පී(වයි=1|වයි^=1)සිහිපත් කරන්න=සංවේදීතාව=පී(වයි^=1|වයි=1)නිශ්චිතතාව=පී(වයි^=0|වයි=0)
පී(වයි=1)පංති ලේබලය පිළිබඳ ඔබේ තක්සේරුව සහ විවිධ වර්ගීකරණ සහිත විවිධ ජනගහනයක ඔබේ වර්ගීකරණයක් උත්සාහ කළහොත් වෙනස් වේ . කෙසේ වෙතත්, ඔබ දන්නා පසුබිම් සම්භාවිතාවක් ඇති එක් ජනගහනයක් ගැන පමණක් සැලකිලිමත් වන්නේ නම් සහ “ධනාත්මක” පන්තිය “negative ණ” පන්තියට වඩා රසවත් නම් එය ප්‍රායෝගිකව වඩාත් ප්‍රයෝජනවත් වනු ඇත. (IIRC නිරවද්‍යතාවය ලේඛන නැවත ලබා ගැනීමේ ක්ෂේත්‍රය තුළ ජනප්‍රියයි, මෙහි තත්වය මෙයයි.) මෙයට හේතුව එය "මගේ වර්ගීකරුවා පවසන පරිදි මෙය සැබෑ පහරක් බවට පත්වීමේ සම්භාවිතාව කුමක්ද?"පී(වයි=1)

සිත්ගන්නා කරුණ නම්, බේස්ගේ ප්‍රමේයයෙන් ඔබට එකවර නිශ්චිතතාව ඉතා ඉහළ හා නිරවද්‍යතාවයෙන් අඩු විය හැකි අවස්ථා සකස් කළ හැකිය. ඔබ කළ යුතුව ඇත්තේ බිංදුවට ඉතා ආසන්න යැයි උපකල්පනය කිරීම පමණි. ප්‍රායෝගිකව මම ඩීඑන්ඒ අනුක්‍රමික පිදුරු මඩුවල ඉඳිකටු සෙවීමේදී මෙම කාර්ය සාධන ලක්ෂණය සහිත වර්ගීකරණ කිහිපයක් සංවර්ධනය කර ඇත්තෙමි.පී(වයි=1)

IMHO පුවත්පතක් ලිවීමේදී ඔබට පිළිතුරු සැපයීමට අවශ්‍ය ප්‍රශ්නයට කුමන වක්‍රය පිළිතුරු දිය යුතුද (හෝ ඔබ නරුම නම් ඔබේ ක්‍රමයට වඩා වාසිදායක වන්නේ කුමක් ද). ඔබේ ප්‍රශ්නය නම්: " මගේ ගැටලුවේ මූලික සම්භාවිතාවන් අනුව මගේ වර්ගීකරණයේ ධනාත්මක ප්‍රති result ලය කෙතරම් අර්ථවත්ද ?", PR වක්‍රයක් භාවිතා කරන්න. ඔබේ ප්‍රශ්නය නම්, “මෙම වර්ගීකරණ යන්ත්රය විවිධාකාර වූ විවිධාකාර මූලික සම්භාවිතාවන්හිදී පොදුවේ ඉටු කිරීමට අපේක්‍ෂා කළ හැක්කේ කෙසේද ?”, ROC වක්රය සමඟ යන්න.


11
එය අපූරු පැහැදිලි කිරීමකි!
ඇමීලියෝ වස්කස්-රීනා

7
+1, නිරවද්‍යතාව, මතක් කිරීම සහ නිශ්චිතතාව පිළිබඳ සම්භාවිතා අර්ථ නිරූපණයන් පිළිබඳ විශාල අවබෝධයක්.
Zhubarb

3
මොන පිළිතුරක්ද! මට දෙවරක් ඉහළ ඡන්දය ලබා ගත හැකි යැයි සිතමි.
ලන්ඩන් කොල්ලෙක්

6
මගේ කලින් අදහස් දැක්වීමෙන් මෙය පැහැදිලි නොවූයේ නම්: නිශ්චිතතාව භාවිතා කරන ROC වක්‍ර මෙන්ම මෙම පිළිතුර වැරදිය . බලන්න, උදා: ROC විශ්ලේෂණය සඳහා හැඳින්වීමක් - මගේ පිළිතුරෙහි ලේඛනගත කර ඇති පරිදි ඒවායේ අඩුපාඩු ද ඉඟි කරයි: “බොහෝ සැබෑ ලෝක වසම්වල negative ණාත්මක අවස්ථා විශාල සංඛ්‍යාවක් ආධිපත්‍යය දරයි, එබැවින් ROC ප්‍රස්ථාරයේ වම් පස කාර්ය සාධනය බවට පත්වේ වඩාත් රසවත්. ”
fnl

3
+0.5 nfnl. පැහැදිලිවම වැරදි නොවූවත්, පිළිතුරේ ප්‍රශ්නයේ කාරණය නැති වී ඇතැයි මම සිතමි; සම්භාවිතා අර්ථ නිරූපණය ඉතා සාදරයෙන් පිළිගන්නා නමුත් මූලික ප්‍රශ්නය සම්බන්ධයෙන් එය වැදගත් වේ. ඊට අමතරව, “ මගේ ගැටලුවේ මූලික සම්භාවිතාවන් අනුව මගේ වර්ගීකරණයේ ධනාත්මක ප්‍රති result ලය කෙතරම් අර්ථවත්ද? ” යන ප්‍රශ්නය අදාළ නොවන සාමාන්‍ය යථාර්ථවාදී උදාහරණයක් මට ඉදිරිපත් කළ නොහැක . ROC-AUC හි “ පොදුවේ ” ඉදිරිදර්ශනය තරමක් අපැහැදිලි ය. (අවසාන ආකෘතිය තැනීම සඳහා මුහුණත වටිනාකමෙන්
දෙකම

31

ROC සහ PR අවකාශය අතර සම්බන්ධතාවය පැහැදිලි කරමින් ඩේවිස් සහ ගොඩ්රිච් විසින් රචිත ලිපියක නිගමන මෙන්න . ඔවුන් පළමු ප්‍රශ්න දෙකට පිළිතුරු සපයයි:

පළමුව, ඕනෑම දත්ත කට්ටලයක් සඳහා, දී ඇති ඇල්ගොරිතමයක් සඳහා ROC වක්‍රය සහ PR වක්‍රය එකම ලකුණු අඩංගු වේ. මෙම සමානතාවය, ROC අවකාශයේ වක්‍රය ආධිපත්‍යය දරන්නේ නම් සහ එය PR අවකාශයේ ආධිපත්‍යය දරන්නේ නම් පමණි. දෙවනුව, ප්‍රමේයයේ සහසම්බන්ධයක් ලෙස අපි ROC අවකාශයේ උත්තල කුහරයට PR අභ්‍යවකාශ ඇනලොග් වල පැවැත්ම පෙන්වමු. සාක්ෂාත් කරගත හැකි PR වක්‍රය තැනීමේදී ROC අවකාශයේ උත්තල කුහරය විසින් මඟ හරින ලද ලකුණු හරියටම බැහැර කරයි. එහි ප්‍රති, ලයක් වශයෙන් අපට ළඟා කරගත හැකි PR වක්‍රය කාර්යක්ෂමව ගණනය කළ හැකිය. [...] අවසාන වශයෙන්, ROC වක්‍රය යටතේ ඇති ප්‍රදේශය ප්‍රශස්තිකරණය කරන ඇල්ගොරිතමයක් PR වක්‍රය යටතේ ඇති ප්‍රදේශය ප්‍රශස්ත කිරීම සඳහා සහතික නොවන බව අපි පෙන්වමු.

වෙනත් වචන වලින් කිවහොත්, ප්‍රතිපත්තිමය වශයෙන්, ROC සහ PR ප්‍රති results ල සංසන්දනය කිරීමට සමානව ගැලපේ. නමුත් උදාහරණ 11 සහ 12 මිස් වල ප්‍රති result ලයක් ලෙස ඔවුන් පෙන්නුම් කරන්නේ රූප 11 සහ 12 හි පෙන්වා ඇති පරිදි වෙනස්කම් තරමක් දරුණු විය හැකි බවයි.

ඩේවිස් සහ ගොඩ්රිච්ගේ රූප 11 සහ 12

ප්‍රති ult ල / වක්‍රය (I) විස්තර කරන්නේ ප්‍රති 20 ල 10 න් 10 ක් ඉහළම ශ්‍රේණිගත කිරීම් දහයට අයත් වන අතර ඉතිරි පහර 10 පළමු ශ්‍රේණිගත කිරීම් 1500 අතර ඒකාකාරව පැතිරෙන බවයි. රෙසූට් (II) විස්තර කරන්නේ පළමු 500 (2000 න්) ශ්‍රේණි 20 අතරට පහර 20 ක් ඒකාකාරව පැතිරී ඇති බවයි. එබැවින් (I) වැනි “හැඩය” වඩාත් සුදුසු අවස්ථාවන්හිදී, මෙම මනාපය PR අවකාශයේ පැහැදිලිව වෙන්කර හඳුනාගත හැකි අතර ප්‍රති results ල දෙකෙහි AUC ROC එක සමාන වේ.


1
මෙම ප්‍රස්ථාර මගින් විස්තර කර ඇති තත්වය පිළිබිඹු නොකරයි (විග්‍රහ කිරීම), එමඟින් පහරක් එල්ල වූ සෑම අවස්ථාවකම ROC වක්‍රයේ පියවර පෙන්වනු ඇත (වක්‍රය I සඳහා පළමු 10 න් පසු). ROCCH උත්තල හල් සමඟ පෙනේ. පීආර් සඳහා, නිරවද්‍යතාවය පහරක් හමු වූ සෑම අවස්ථාවකම ඉහළ අගයක් ගනී, පසුව මිසිස් අතරතුර දිරාපත් වේ (0,0) සිට අනාවැකි කිසිවක් සඳහා (සීමාවට ඉහළින්) නිරවද්‍යතාවය මෙම අවස්ථාවෙහිදී 0 ලෙස අර්ථ දැක්වුවහොත් (0 / 0) - පෙන්වා ඇති පරිදි II වක්‍රය උපරිම නිරවද්‍යතාවය එක් එක් එළිපත්තෙහි නිරවද්‍යතාව නොවේ (එබැවින් මතක් කරන්න).
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

1
මෙය ඇත්ත වශයෙන්ම මා සොයාගත් කඩදාසි අනුවාදයේ පය 7 වේ. කඩදාසි ඇත්ත වශයෙන්ම ROC වක්‍රය භාවිතා කරමින් PR වක්‍රය අන්තර්ග්‍රහණය කරයි. ආධිපත්‍ය ප්‍රති result ලය රඳා පවතින්නේ නැවත කැඳවීම අස්ථිර බව යන උපකල්පනය මත වන අතර, පළමු පහර සොයා ගන්නා තෙක් එය එසේ නොවන අතර නිරවද්‍යතාවය (කඩදාසි වල අර්ථ දක්වා ඇති පරිදි) එතෙක් විධිමත් ලෙස නිර්වචනය කර නොමැත (0/0).
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

1
ඔව්, නිවැරදි අභිමතය නොමැති වීම ගැටළුවයි (ලකුණු විශාල සංඛ්‍යාවක් ඉක්මවා ගියහොත් මෙවැනි කුමන්ත්‍රණයක් සිදුවිය හැකි වුවද). කෙසේ වෙතත්, පුවත්පතේ ප්‍රති result ලය නිර්වචනය නොකළ ගැටළු නිසා ඔබ අපේක්ෂා කළ ප්‍රමාණයට වඩා අඩුවෙන් අර්ථවත් වන අතර, නැවත යථා තත්ත්වයට පත් කිරීමේ ප්‍රති result ලය ඔබ තේරුම් ගත් විට ඔබ බලාපොරොත්තු වන තරම් වැදගත් නොවේ. මම කිසි විටෙකත් PR භාවිතා නොකරමි, නමුත් සමහර විට මම ROC වෙත පරිමාණය කර හෝ ඒ හා සමානව PN භාවිතා කරමි.
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

1
පළමුවෙන්ම රූප සටහන 7 (11 එදිරිව 12) හි ප්‍රස්ථාර අදාල නොවේ - ඒවා පුහුණු පද්ධතියක් සඳහා පියවරෙන් පියවර ප්‍රස්ථාර නොවේ (ධනාත්මක උදාහරණ අඩු කිරීමේ සීමාව ඉක්මවා යන බැවින්), නමුත් විවිධ පද්ධති ගණන අනන්තය කරා ළඟා වන විට සාමාන්‍යය සීමා කිරීමට අනුරූප වේ. දෙවන නිරවද්‍යතාවය සහ නැවත කැඳවීම වෙබ් සෙවීම සඳහා සැලසුම් කර ඇති අතර සත්‍ය නිෂේධනීය සංඛ්‍යා (ප්‍රෙක් = ටීපී / පීපී සහ රෙක් = ටීපී / ආර්පී) මුළුමනින්ම ඉග්නෝර් (උපකල්පනය කර ඇත). තෙවනුව නිරවද්‍යතාව සහ මතක් කිරීමේ ප්‍රස්ථාරය ඇත්ත වශයෙන්ම නිශ්චිත ටීපී මට්ටමක් සඳහා පරස්පර නැඹුරුව (1 / පීපී) එදිරිව පරස්පර ව්‍යාප්තිය (1 / ආර්පී) පෙන්වයි (ඔබ ටීපී නිවැරදි පහරවල් වල වෙබ් සෙවුමක් නැවැත්වුවහොත්).
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

6
හරි, ඒ නිසා මගේ සියලු සැකයන් දුරු කිරීමෙන් පසුව, පා readers කයන්ට උපදෙස් දීම අවශ්‍ය යැයි මම සිතමි.
fnl

19

ඇගයීම පිළිබඳ වැරදි වැටහීමක් තිබේ. මෙයින් කොටසක් පැමිණෙන්නේ දත්ත පිළිබඳ සැබෑ උනන්දුවක් නොමැතිව දත්ත කට්ටලවල ඇල්ගොරිතම ප්‍රශස්තිකරණය කිරීමට උත්සාහ කිරීමේ යන්ත්‍ර ඉගෙනීමේ ප්‍රවේශයෙනි.

වෛද්‍යමය සන්දර්භයක් තුළ, එය සැබෑ ලෝකයේ ප්‍රති come ල ගැන ය - නිදසුනක් වශයෙන්, ඔබ මියයෑමෙන් කී දෙනෙකු බේරා ගනී ද? වෛද්‍ය සන්දර්භයක් තුළ සංවේදීතාව (TPR) භාවිතා කරනුයේ ධනාත්මක අවස්ථා කීයක් නිවැරදිව තෝරාගෙන ඇත්දැයි බැලීමටය (ව්‍යාජ සෘණ = FNR ලෙස මඟ හැරුණු අනුපාතය අවම කිරීම) සහ negative ණාත්මක අවස්ථා කීයක් නිවැරදිව දැයි බැලීමට නිශ්චිතතාව (TNR) භාවිතා කරයි. ඉවත් කරන ලදි (ව්‍යාජ ධනාත්මක ලෙස පෙනෙන අනුපාතය අවම කිරීම = FPR). සමහර රෝග මිලියනයකට එකක් පැතිර පවතී. මේ අනුව ඔබ සැමවිටම negative ණාත්මක ලෙස පුරෝකථනය කරන්නේ නම් ඔබට 0.999999 ක නිරවද්‍යතාවයක් ඇත - මෙය සාක්ෂාත් කරගනු ලබන්නේ සරල ZeroR ඉගෙන ගන්නෙකු විසින් උපරිම පන්තිය ගැන පුරෝකථනය කරයි. ඔබ රෝගවලින් තොර යැයි පුරෝකථනය කිරීම සඳහා නැවත කැඳවීම සහ නිරවද්‍යතාවය සලකා බැලුවහොත්, අපට ZeroR සඳහා මතක් කිරීම = 1 සහ නිරවද්‍යතාව = 0.999999 ඇත. ඇත්ත වශයෙන්, ඔබ ආපසු හරවා + ve සහ -ve කර පුද්ගලයෙකුට ZeroR සමඟ රෝගයක් ඇති බවට අනාවැකි කීමට උත්සාහ කළහොත් ඔබට මතක් වන්නේ = 0 සහ නිරවද්‍යතාව = undef (ඔබ ධනාත්මක පුරෝකථනයක් පවා නොකළ නිසා, නමුත් බොහෝ විට මිනිසුන් මෙහි නිරවද්‍යතාවය 0 ලෙස අර්ථ දක්වයි නඩුව). රෙකෝල් (+ ve රෙකෝල්) සහ ප්‍රතිලෝම රෙකෝල් (-ve රෙකෝල්) සහ අදාළ ටීපීආර්, එෆ්පීආර්, ටීඑන්ආර් සහ එෆ්එන්ආර් සෑම විටම අර්ථ දක්වා ඇත්තේ අප ගැටළුව විසඳන්නේ පංති දෙකක් වෙන්කර හඳුනාගත හැකි නිසා සහ අපි හිතාමතාම සපයන බැවිනි. එක් එක් උදාහරණ.

වෛද්‍ය සන්දර්භය තුළ පිළිකා අතුරුදහන් වීම අතර ඇති විශාල වෙනස සැලකිල්ලට ගන්න (යමෙකු මිය යන අතර ඔබට නඩු පවරනු ලැබේ) වෙබ් සෙවුමක කඩදාසි අතුරුදහන් වීමට එරෙහිව (අනෙක් අයගෙන් එක් අයෙක් එය වැදගත් නම් එය සඳහන් කරයි). මෙම අවස්ථා දෙකෙහිම මෙම දෝෂයන් ව්‍යාජ නිෂේධනීය ලෙස සංලක්ෂිත වේ. වෙබ් සෙවුම් නඩුවේදී අපට සත්‍ය නිෂේධනයන් විශාල ප්‍රමාණයක් ස්වයංක්‍රීයව ලැබෙනුයේ අප ප්‍රති results ල කුඩා සංඛ්‍යාවක් පමණක් පෙන්වන නිසා (උදා: 10 හෝ 100) සහ පෙන්වීම නොකිරීම ඇත්ත වශයෙන්ම negative ණාත්මක පුරෝකථනයක් ලෙස නොගත යුතුය (එය 101 විය හැකිය ), පිළිකා පරීක්ෂණ නඩුවේදී අපට සෑම පුද්ගලයෙකුටම ප්‍රති result ලයක් ඇති අතර වෙබ් සෙවුම මෙන් නොව ව්‍යාජ negative ණාත්මක මට්ටම (අනුපාතය) අපි සක්‍රියව පාලනය කරමු.

එබැවින් ROC විසින් සත්‍ය ධනාත්මක (සැබෑ සෘණවලට සමානුපාතිකයක් ලෙස ව්‍යාජ නිෂේධනවලට එදිරිව) සහ ව්‍යාජ ධනාත්මක (සැබෑ සෘණවලට සාපේක්ෂව සැබෑ නිෂේධනවල සමානුපාතිකයක්) අතර වෙළඳාම ගවේෂණය කරයි. එය සංවේදීතාව (+ ve මතක් කිරීම) සහ නිශ්චිතතාව (-ve Recall) සංසන්දනය කිරීමට සමාන වේ. ටීපීආර් එදිරිව එෆ්පීආර් වලට වඩා ටීපී එදිරිව එෆ්පී කුමන්ත්‍රණය කරන ස්ථානයට සමාන පෙනුමක් ඇති පීඑන් ප්‍රස්ථාරයක් ද ඇත - නමුත් අපි බිම් කොටසට හරවන බැවින් එකම වෙනස වන්නේ අප පරිමාණයන් මත තබන සංඛ්‍යා ය. ඒවා නියතයන් මගින් සම්බන්ධ වේ TPR = TP / RP, FPR = TP / RN, එහිදී RP = TP + FN සහ RN = FN + FP යනු දත්ත කට්ටලයේ තාත්වික ධනාත්මක සහ තාත්වික සෘණ සංඛ්‍යාව වන අතර අනෙක් අතට පක්ෂග්‍රාහී PP = TP + FP සහ PN = TN + FN යනු අපි ධනාත්මක හෝ පුරෝකථනය කරන සෘණ වාර ගණනයි. ධනාත්මක ප්‍රතිචාරයේ ව්‍යාප්තිය අපි rp = RP / N සහ rn = RN / N ලෙස හඳුන්වන බව සලකන්න. negative ණ සහ pp = PP / N සහ rp = RP / N ධනාත්මක ප්‍රතිචාර දැක්වීමේ නැඹුරුව.

අපි සංවේදීතාව සහ නිශ්චිතතාව ගණනය කරන්නේ නම් හෝ වෙළඳාම් වක්‍රය යටතේ ඇති ප්‍රදේශය දෙස බැලුවහොත් (ROC යන්තම් x- අක්ෂය ආපසු හැරවීමට සමාන වේ) අපි කුමන පන්තිය + ve සහ + ve ලෙස හුවමාරු කර ගන්නේ නම් අපට එම ප්‍රති result ලයම ලැබේ. නිරවද්‍යතාවය සහ නැවත මතක් කිරීම සඳහා මෙය සත්‍ය නොවේ (ඉහත විස්තර කර ඇති පරිදි ZeroR විසින් රෝග අනාවැකි සමඟ). මෙම අත්තනෝමතික භාවය නිරවද්‍යතාව, මතක් කිරීම සහ ඒවායේ සාමාන්‍යයන් (අංක ගණිතය, ජ්‍යාමිතික හෝ හාර්මොනික් වේවා) සහ වෙළඳ ප්‍රස්ථාරවල ප්‍රධාන iency නතාවයකි.

පද්ධතියේ පරාමිතීන් වෙනස් වන බැවින් PR, PN, ROC, LIFT සහ වෙනත් ප්‍රස්ථාර සැලසුම් කර ඇත. පුහුණුව ලත් එක් එක් පද්ධතිය සඳහා මෙම සම්භාව්‍ය කුමන්ත්‍රණ ලකුණු, බොහෝ විට එළිපත්ත වැඩි කිරීම හෝ අඩුවීම සමඟ ධනාත්මක හා negative ණාත්මක ලෙස වර්ගීකරණය කරන ලද ලක්ෂ්‍යය වෙනස් කිරීම.

සමහර විට සැලසුම් කරන ලද ලකුණු එකම ආකාරයකින් පුහුණු කරන ලද පද්ධති කට්ටලවල සාමාන්‍ය (පරාමිතීන් / සීමාවන් / ඇල්ගොරිතම වෙනස් කිරීම) විය හැකිය (නමුත් විවිධ අහඹු සංඛ්‍යා හෝ නියැදි හෝ ඇණවුම් භාවිතා කිරීම). මේවා න්‍යායාත්මක ව්‍යුහයන් වන අතර ඒවා කිසියම් ගැටළුවක් මත ඒවායේ ක්‍රියාකාරිත්වයට වඩා පද්ධතිවල සාමාන්‍ය හැසිරීම ගැන අපට කියයි. වෙළඳ ප්‍රස්ථාර ප්‍රස්ථාර මගින් විශේෂිත යෙදුමක් සඳහා (දත්ත කට්ටලය සහ ප්‍රවේශය) නිවැරදි මෙහෙයුම් ලක්ෂ්‍යයක් තෝරා ගැනීමට අපට උපකාරී වනු ඇති අතර ROC වෙත එහි නම ලැබෙන්නේ මෙහිදීය (ලබන්නාගේ මෙහෙයුම් ලක්ෂණ මගින් ලැබෙන තොරතුරු උපරිම ලෙස දැනුවත් කිරීමේ අර්ථයෙන්).

නැවත කැඳවීම හෝ ටීපීආර් හෝ ටීපී වලට එරෙහිව කුමන්ත්‍රණය කළ හැකි දේ සලකා බලමු.

TP vs FP (PN) - හරියටම ROC කුමන්ත්‍රණය මෙන් පෙනේ, විවිධ සංඛ්‍යා සමඟ

TPR vs FPR (ROC) - +/- ආපසු හරවා ඇත්නම් AUC සමඟ FPR ට එරෙහි TPR නොවෙනස්ව පවතී.

TPR vs TNR (alt ROC) - ROC හි දර්පණ රූපය TNR = 1-FPR (TN + FP = RN)

TP vs PP (LIFT) - ධනාත්මක හා negative ණාත්මක උදාහරණ සඳහා X incs (රේඛීය නොවන දිගු කිරීම)

TPR vs pp (alt LIFT) - විවිධ සංඛ්‍යා සමඟ LIFT හා සමානයි

TP vs 1 / PP - LIFT ට බෙහෙවින් සමාන ය (නමුත් රේඛීය නොවන දිගකින් ප්‍රතිලෝමව)

TPR vs 1 / PP - TP vs 1 / PP හා සමාන වේ (y- අක්ෂයේ විවිධ සංඛ්‍යා)

TP එදිරිව TP / PP - සමාන නමුත් x- අක්ෂයේ ප්‍රසාරණය සමඟ (TP = X -> TP = X * TP)

TPR vs TP / PP - සමාන පෙනුමක් ඇති නමුත් අක්ෂවල විවිධ සංඛ්‍යා ඇත

අන්තිමයා රෙකෝල් එදිරිව නිරවද්‍යතාවය!

මෙම ප්‍රස්ථාර සඳහා සටහන වෙනත් වක්‍රයන්හි ආධිපත්‍යය දරන ඕනෑම වක්‍රයක් (වඩා හොඳ හෝ අවම වශයෙන් සෑම ලක්ෂ්‍යයකම ඉහළ මට්ටමක පවතී) මෙම පරිවර්තනයන්ගෙන් පසුවද ආධිපත්‍යය දරයි. ආධිපත්‍යය යනු සෑම අවස්ථාවකම “අවම වශයෙන් ඉහළ” යන්නයි, ඉහළ වක්‍රය වක්‍රය (AUC) යටතේ “අවම වශයෙන් ඉහළ” ප්‍රදේශයක් ද ඇති බැවින් එයට වක්‍ර අතර ප්‍රදේශය ද ඇතුළත් වේ. ආපසු හැරවීම සත්‍ය නොවේ : ස්පර්ශයට වඩා වක්‍රය එකිනෙක ගැටේ නම්, ආධිපත්‍යයක් නොමැත, නමුත් එක් AUC එකක් අනෙක් ඒවාට වඩා විශාල විය හැකිය.

ROC හෝ PN ප්‍රස්ථාරයේ යම් කොටසකට විවිධ (රේඛීය නොවන) ආකාරවලින් පරාවර්තනය කිරීම සහ / හෝ විශාලනය කිරීම සියලු පරිවර්තනයන් සිදු කරයි. කෙසේ වෙතත්, වක්‍රය යටතේ ප්‍රදේශය පිළිබඳ හොඳ අර්ථකථනයක් ඇත්තේ ROC ට පමණි (ධනාත්මක අගය negative ණ අගයකට වඩා ඉහළ අගයක් ගනී - මෑන්-විට්නි යූ සංඛ්‍යාලේඛන) සහ වක්‍රයට ඉහළින් ඇති දුර (අනුමාන කරනවාට වඩා දැනුවත් තීරණයක් ගැනීමේ සම්භාවිතාව - යූඩන් ජේ සංඛ්‍යාලේඛන තොරතුරු වල ද්විමාන ස්වරූපය ලෙස).

සාමාන්‍යයෙන්, PR වෙළඳාමේ වක්‍රය භාවිතා කිරීමේ අවශ්‍යතාවයක් නොමැති අතර විස්තර අවශ්‍ය නම් ඔබට ROC වක්‍රයට විශාලනය කළ හැකිය. විකර්ණ (ටීපීආර් = එෆ්පීආර්) අවස්ථාව නිරූපණය කරන, චාන්ස් රේඛාවට ඉහළින් ඇති දුර (ඩීඒසී) තොරතුරු දැනගැනීම හෝ දැනුවත් තීරණයක සම්භාවිතාව නිරූපණය කරන අතර වක්‍රය (ඒ.යූ.සී) යටතේ ඇති ප්‍රදේශය ශ්‍රේණිගත කිරීම හෝ නිවැරදි යුගල වශයෙන් ශ්‍රේණිගත කිරීමේ සම්භාවිතාව. මෙම ප්‍රති results ල PR වක්‍රය සඳහා නොපවතින අතර, ඉහත විස්තර කර ඇති පරිදි AUC ඉහළ නැවත කැඳවීම හෝ TPR සඳහා විකෘති වේ. PR AUC විශාල වීම එසේ නොවේ ROC AUC විශාල වන අතර එමඟින් ශ්‍රේණිගත කිරීම් වැඩි වීමක් අදහස් නොකෙරේ (ශ්‍රේණිගත +/- යුගල නිවැරදිව පුරෝකථනය කිරීමේ සම්භාවිතාව - එනම්, එය + ves ට වඩා වැඩි වාර ගණනක් පුරෝකථනය කරයි) සහ වැඩි තොරතුරු ඇඟවීමක් අදහස් නොකරයි (දැනුවත් පුරෝකථනයක සම්භාවිතාව අහඹු අනුමානය - එනම්, එය පුරෝකථනයක් කරන විට එය කරන්නේ කුමක්ද යන්න කොපමණ වාරයක් දනී).

කණගාටුයි - ප්‍රස්ථාර නැත! ඉහත පරිවර්තනයන් නිදර්ශනය කිරීම සඳහා යමෙකුට ප්‍රස්ථාර එකතු කිරීමට අවශ්‍ය නම්, එය විශිෂ්ට වනු ඇත! ROC, LIFT, BIRD, Kappa, F-measure, Informedness යනාදිය පිළිබඳ මගේ ලිපිවල මා සතුව ඇත්තේ ස්වල්පයක් පමණි. නමුත් ඒවා මේ ආකාරයෙන් ඉදිරිපත් නොකෙරේ. නමුත් ROC එදිරිව LIFT එදිරිව BIRD vs RP පිළිබඳ නිදර්ශන https : //arxiv.org/pdf/1505.00401.pdf

යාවත්කාලීන කිරීම: දීර් or පිළිතුරු හෝ අදහස් දැක්වීම් වලින් සම්පූර්ණ පැහැදිලි කිරීම් ලබා දීමට උත්සාහ කිරීමෙන් වලක්වා ගැනීම සඳහා, මගේ ලිපි කිහිපයක් මෙහි දැක්වෙන්නේ නිරවද්‍යතාවයට එදිරිව සහ වෙළඳාමේ වෙළඳාම පිළිබඳ ගැටළුව "සොයා ගැනීම" ය. F1, තොරතුරු ලබා ගැනීම සහ පසුව ROC, Kappa, Significance, DeltaP, AUC යනාදිය සමඟ ඇති සබඳතා "ගවේෂණය කිරීම" යනාදිය මෙය මගේ සිසුවෙකු මීට වසර 20 කට පෙර (එන්ට්විස්ල්) ගැටී ඇති ගැටළුවක් වන අතර එතැන් සිට තවත් බොහෝ අය සොයාගෙන ඇත්තේ සැබෑ ලෝක උදාහරණයකි R / P / F / A ප්‍රවේශය මඟින් ඉගෙනුම්කරුට වැරදි මාර්ගය යැවූ බවට ආනුභවික සාක්ෂි ඇති අතර, තොරතුරු (හෝ සුදුසු අවස්ථාවල දී කප්පා හෝ සහසම්බන්ධය) ඔවුන්ට නිවැරදි මාර්ගය යවා ඇත - දැන් ක්ෂේත්‍ර දුසිම් ගණනක් හරහා. කප්පා සහ ආර්ඕසී හි වෙනත් කතුවරුන්ගේ හොඳ සහ අදාළ ලිපි ලේඛන ද තිබේ, නමුත් ඔබ කප්පාස් එදිරිව ආර්ඕසී ඒයූසී එදිරිව ආර්ඕසී හයිට් (තොරතුරු හෝ යූඩන් ' s J) මා ලැයිස්තුගත කර ඇති 2012 පත්තරවල පැහැදිලි කර ඇත (අනෙක් අයගේ වැදගත් ලිපි බොහොමයක් ඒවායේ දක්වා ඇත). 2003 බුක්මේකර් පත්‍රය පළමු වරට බහු පංති නඩුව සඳහා තොරතුරු දැනගැනීම සඳහා සූත්‍රයක් ලබා ගනී. තොරතුරු දැනගැනීම ප්‍රශස්ත කිරීම සඳහා අනුවර්තනය කරන ලද ඇඩබූස්ට් හි බහු පංතියේ අනුවාදයක් 2013 පත්‍රිකාවෙන් ලබාගෙන ඇත (නවීකරණය කරන ලද වීකා සමඟ එය සත්කාරකත්වය සපයන සහ ක්‍රියාත්මක කරන).

යොමුව

1998 එන්එල්පී පාර්සර් ඇගයීමේ දී සංඛ්‍යාලේඛන වර්තමාන භාවිතය. ජේ එන්ට්විස්ල්, ඩී.එම්.ඩබ්ලිව් පවර්ස් - භාෂා සැකසීමේ නව ක්‍රම පිළිබඳ ඒකාබද්ධ සම්මන්ත්‍රණවල ක්‍රියා පටිපාටි: 215-224 https://dl.acm.org/citation.cfm?id=1603935 උපුටා දක්වා ඇත්තේ 15

2003 බුක්මේකර්ට එදිරිව සිහිපත් කිරීම ඩීඑම්ඩබ්ලිව් පවර්ස් - සංජානන විද්‍යාව පිළිබඳ ජාත්‍යන්තර සමුළුව: 529-534 http://dspace2.flinders.edu.au/xmlui/handle/2328/27159 උපුටා දක්වා ඇත්තේ 46

2011 ඇගයීම: නිරවද්‍යතාව, නැවත කැඳවීම සහ එෆ්-මිනුම් සිට ROC දක්වා, දැනුවත්භාවය, සලකුණු කිරීම සහ සහසම්බන්ධය. ඩීඑම්ඩබ්ලිව් පවර්ස් - යන්ත්‍ර ඉගෙනීමේ තාක්ෂණය පිළිබඳ ජර්නලය 2 (1): 37-63. http://dspace2.flinders.edu.au/xmlui/handle/2328/27165 1749 වන විට උපුටා දක්වා ඇත

2012 කප්පාදුවේ ගැටලුව. ඩීඑම්ඩබ්ලිව් පවර්ස් - යුරෝපීය ඒසීඑල් හි 13 වන සමුළුවේ ක්‍රියා පටිපාටි: 345-355 https://dl.acm.org/citation.cfm?id=2380859 උපුටා දක්වා ඇත්තේ 63

2012 ROC-ConCert: ROC මත පදනම් වූ අනුකූලතාව සහ නිශ්චිතභාවය මැනීම. ඩී.එම්.ඩබ්ලිව් පවර්ස් - ඉංජිනේරු හා තාක්‍ෂණය පිළිබඳ වසන්ත සම්මේලනය (එස්-සීඊටී) 2: 238-241 http://www.academia.edu/download/31939951/201203-SCET30795-ROC-ConCert-PID1124774.pdf උපුටා දක්වා ඇත්තේ 5

2013 ADABOOK & MULTIBOOK :: අවස්ථාව නිවැරදි කිරීම සමඟ අනුවර්තී තල්ලුව. ඩීඑම්ඩබ්ලිව් පවර්ස් - පාලනය, ස්වයංක්‍රීයකරණය සහ රොබෝ විද්‍යාව පිළිබඳ තොරතුරු පිළිබඳ ICINCO ජාත්‍යන්තර සමුළුව http://www.academia.edu/download/31947210/201309-AdaBook-ICINCO-SCITE-Harvard-2upcor_poster.pdf

https://www.dropbox.com/s/artzz1l3vozb6c4/weka.jar (goes into Java Class Path)
https://www.dropbox.com/s/dqws9ixew3egraj/wekagui   (GUI start script for Unix)
https://www.dropbox.com/s/4j3fwx997kq2xcq/wekagui.bat  (GUI shortcut on Windows)

4 කින් සඳහන් කර ඇත


> "වක්‍රය යටතේ ඇති ප්‍රදේශය ශ්‍රේණිගත කිරීම හෝ නිවැරදි යුගල වශයෙන් ශ්‍රේණිගත කිරීමේ සම්භාවිතාව නිරූපණය කරයි" මම අනුමාන කරමි, එය හරියටම අප එකඟ නොවන ස්ථානයකි - ROC නිරූපණය කරන්නේ බිම් මට්ටමේ ශ්‍රේණිගත කිරීමේ ගුණාත්මකභාවය පමණි . කෙසේ වෙතත්, AUC PR යනු තනි අංකයක් වන අතර එය කුමන ශ්‍රේණිගත කිරීමකට වඩා සුදුසු දැයි වහාම මට කියයි (එනම්, ප්‍රති result ලය II ප්‍රති than ලයට වඩා මම වඩාත් සුදුසුය). AUC ROC සතුව මෙම දේපල නොමැත.
fnl

1
මා කලින් පවසා ඇති පරිදි මෙය ආධිපත්‍ය තත්වයන් යටතේ පරිමාණය කිරීමේ කාරණයක් පමණි (“වඩා විශාල” නිසා මම විස්තරාත්මකව පැහැදිලි කරන පරිදි විශාල සංඛ්‍යාවකින් ගුණ කිරීම), නමුත් ආධිපත්‍යය රහිත තත්වයන් යටතේ AUC PR නොමඟ යවන අතර AUC ROC එක එයට සුදුසු සම්භාවිතා අර්ථකථනයක් ඇත (මෑන්-විට්නි යූ හෝ ශ්‍රේණිගත කිරීම), ගිනිට අනුරූප වන තනි මෙහෙයුම් ලක්ෂ්‍ය නඩුව (හෝ ඒ හා සමානව යූඩන්ගේ ජේ හෝ තොරතුරු, පරිමාණයෙන් පසුව).
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

1
සරල බව සඳහා අපි තනි මෙහෙයුම් ලක්ෂ්‍යය (SOC) AUC ලෙස සලකන්නේ නම්, ගිනි සංගුණකය = AUC = (TP / RP + TN / RN) / 2 සහ තොරතුරු දැනගැනීම = Youden J = TP / RP + TN / RN - 1 = සංවේදීතාව + විශේෂත්වය -1 = ටී.පී.ආර්. ආර්එන් සහ ටීඑන් යන දෙකම ටීඑන් >> එෆ්පී සමඟ අනන්තයට ගියහොත් ටීඑන් / ආර්එන් -> 1 අවලංගු වන අතර තොරතුරු අවලංගු කිරීම = ඔබ උපුටා දක්වන අවස්ථා වලදී සිහිපත් කරන්න. ඒ වෙනුවට විශාල පන්තිය RP සහ TP >> FN නම් TP / RP -> 1 සහ Informedness = ප්‍රතිලෝම මතක් කිරීම. Refs බලන්න.
ඩේවිඩ් එම්.ඩබ්ලිව් පවර්ස්

1
මෙය ඩේවිඩ් පවර්ස්ගේ ඉතා ප්‍රයෝජනවත් පිළිතුරකි. නමුත් මගේ නොදැනුවත්කමට සමාව දෙන්න, 'සාමාන්‍යයෙන්, PR වෙළඳාමේ වක්‍රය භාවිතා කිරීමේ අවශ්‍යතාවයක් නොමැති අතර, විස්තර අවශ්‍ය නම් ඔබට ROC වක්‍රයට විශාලනය කළ හැකිය.', මම එය හරියටම කරන්නේ කෙසේද සහ ඔබට තවත් යමක් දිය හැකිද? ඔබ අදහස් කරන දේ පිළිබඳ විස්තර? මෙයින් අදහස් කරන්නේ මට කෙසේ හෝ දැඩි අසමතුලිත අවස්ථාවක ROC වක්රය භාවිතා කළ හැකිද? '' එෆ්.පී.ආර්. හෝ ටී.පී.ආර්. වැඩි බරක් ලබා දීමෙන් AUC ROC ලකුණු විශාල ප්‍රති result ල වෙනස්කම් ඇති කරයි. මගේ ROC සමඟ මෙය කරන්නේ කෙසේද?
ක්‍රිස්ටෝපර් ජෝන්

1
H ක්‍රිස්ටෝපර් ජෝන්. ROC වක්‍රයට විශාලනය කිරීම හෝ ROC වක්‍රය පරිමාණය කිරීම අක්ෂ වෙනස් කිරීමෙන් කළ හැකිය. සාමාන්‍යයෙන් ඔබ 0..1 වසම සහ පරාසය සැලසුම් කරයි, නමුත් සත්‍ය හා පුරෝකථනය කරන ලද ධනාත්මක ආර්පී සහ ආර්එන් වලට සාපේක්ෂව ඔබට ඉතා විශාල negative ණ පන්ති ආර්එන් එකක් තිබේ නම්, එෆ්පීආර් කුඩා වනු ඇත. උදාහරණයක් ලෙස ඔබට FPR අක්ෂය 10: 1 අනුපාතයකට 0..0.1 හෝ 1 100: 1 අනුපාතයට 0..0.01 යැයි පැවසීමට සීමා කළ හැකිය. ඒ හා සමානව TPR 1 ට ආසන්න නම් ඔබට අනුරූප අනුපාත සඳහා 0.9..1 හෝ 0.99..1 බලන්න (TPR + FNR = TNR + FPR = 1 සිට 0..0.1 හෝ 0..0.01 හි FNR)
ඩේවිඩ් මෙගාවොට් පවර්ස්

0

අර්ථ දැක්වීම

යූසීආර්සී

යූසීපීvආර්

සත්‍ය-ධනාත්මක අනුපාතය නැවත කැඳවීමට සමාන බැවින්, ඒවා වෙනස් වන්නේ නැවත කැඳවීම නිරවද්‍යතාව හෝ ව්‍යාජ-ධනාත්මක අනුපාතය සමඟ සැසඳීමේදී පමණි

යූසීපීvආර්=යූසී(ටීපීටීපී+එෆ්පී,ටීපීටීපී+එෆ්එන්)=යූසී(නිරවද්යතාව,සිහිපත් කරන්න)යූසීආර්සී=යූසී(එෆ්පීඑෆ්පී+ටීඑන්,ටීපීටීපී+එෆ්එන්)=යූසී(FPR,සිහිපත් කරන්න)

නිදර්ශනය

අවස්ථා මිලියනයක් සහිත අසමබර බහු පංති දත්ත කට්ටලයක් සලකා බලන්න . අපට වර්ගීකරණ දෙකක් ලබා දී ඇති අතර එක් පන්තියක් සඳහා ඔවුන්ගේ අනාවැකි ස්ථාවර එළිපත්තකින් නිරීක්ෂණය කරන්න:

වර්ගීකරණ A: අවස්ථා 100 ක් පුරෝකථනය කර ඇත (ධනාත්මක), ඉන් 90 ක් නිවැරදිව (සත්‍ය අවස්ථා 100 ක් සමඟ)

වර්ගීකරණ බී: අවස්ථා 2000 ක් පුරෝකථනය කර ඇත (ධනාත්මක), ඉන් 90 ක් නිවැරදිව (සත්‍ය අවස්ථා 100 ක් සමඟ)

යූසීආර්සී

වර්ගීකරණ A: 0.9 TPR, 0.00001 FPR

වර්ගීකරණ: B: 0.9 TPR, 0.00191 FPR (0.0019 හි වාසිය)

යූසීපීvආර්

වර්ගීකරණ A: 0.9 නැවත කැඳවීම, 0.9 නිරවද්‍යතාවය

වර්ගීකරණ බී: 0.9 නැවත කැඳවීම, 0.045 නිරවද්‍යතාවය (0.855 ක වාසිය)

සාකච්ඡා

ඔබට පෙනෙන පරිදි, A ට වඩා වර්ගීකරණයක් තෝරාගැනීමෙන්, ව්‍යාජ ධනාත්මක අනුපාතයේ ලාභය නිරවද්‍යතාවයෙන් ලබාගත් ලාභයට සාපේක්ෂව අඩුය.

බොරු-ධනාත්මක අනුපාතය නිසා මේ වන අනුපාතය අසත්ය ලංගමයෙන් සැබෑ සෘණ ආරෝපිත විශාල ප්රමාණයක් නිරවද්යතාව යනු ඇති ෙහයින්ද, එම අනුපාතය ද ඒ වෙනුවට බොරු ලංගමයෙන් සැබෑ ලංගමයෙන් කුඩා ප්රමාණයක් .

යූසීආර්සීයූසීපීvආර්

එබැවින් ඔබ මෙට්‍රික් තේරීම රඳා පවතින්නේ ඔබව වඩාත් කුපිත කරන දේ මතය.

යූසීපීvආර්

යූසීආර්සී

ටීඑල්; ඩී.ආර්

යූසීපීvආර්යූසීආර්සී

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.