පෝෂක ස්නායුක ජාලයක සැඟවුණු ස්ථර සහ නෝඩ් ගණන තෝරා ගන්නේ කෙසේද?


580

පෝෂක ඉදිරි ස්නායුක ජාලයක ස්ථර ගණන සහ එක් එක් ස්ථරයේ ඇති නෝඩ් ගණන තෝරා ගැනීම සඳහා සම්මත සහ පිළිගත් ක්‍රමවේදයක් තිබේද? ස්නායුක ජාල තැනීමේ ස්වයංක්‍රීය ක්‍රම ගැන මම උනන්දු වෙමි.


5
සියලු විශිෂ්ට පිළිතුරු අතර, මෙම ලිපිය ප්‍රයෝජනවත් බව මට පෙනී ගියේය dstath.users.uth.gr/papers/IJRS2009_Stathakis.pdf
Debpriya Seal

1
@DebpriyaSeal නොවන බව ප්රයෝජනවත් වුවත් ...
DarkCygnus

Answers:


502

මෙම ප්‍රශ්නයට පිළිතුරු ලැබී ඇති බව මට වැටහී ඇත, නමුත් දැනට පවතින පිළිතුර ඇත්ත වශයෙන්ම ප්‍රශ්නයේ විෂය කරුණු හා සම්බන්ධ සබැඳියකට යොමු නොවී ප්‍රශ්නයට සම්බන්ධ වේ යැයි මම නොසිතමි. විශේෂයෙන්, සබැඳිය ක්‍රමලේඛිත ජාල වින්‍යාසය සඳහා එක් තාක්‍ෂණයක් විස්තර කරයි, නමුත් එය ජාල වින්‍යාසය සඳහා “ [අ] සම්මත සහ පිළිගත් ක්‍රමයක් නොවේ .

කුඩා පැහැදිලි නීති මාලාවක් අනුගමනය කිරීමෙන් කෙනෙකුට ක්‍රමලේඛගතව කාර්යක්ෂම ජාල සැකැස්මක් සැකසිය හැකිය (එනම්, නියුරෝන ස්ථර ගණන සහ වර්ගය සහ එක් එක් ස්ථරයකින් සමන්විත නියුරෝන ගණන). මෙම ක්‍රමෝපාය අනුගමනය කිරීමෙන් මෙය ඔබට දක්ෂ ගෘහ නිර්මාණ ශිල්පයක් ලබා දෙන නමුත් බොහෝ විට එය ප්‍රශස්ත එකක් නොවේ.

නමුත් මෙම ජාලය ආරම්භ කිරීමෙන් පසු, ඔබට උපකාරක ඇල්ගොරිතම ගණනාවක් භාවිතා කරමින් පුහුණුව අතරතුර වින්‍යාසය නැවත සකස් කළ හැකිය; මෙම වැඩ වල එක් පවුලක් නිශ්චිත පුහුණු යුග ගණනාවකට පසු බර දෛශිකයේ (කුඩා) අගයන් මත පදනම්ව කප්පාදු කිරීම මගින් සිදු කරයි - වෙනත් වචන වලින් කිවහොත්, අනවශ්‍ය / අතිරික්ත නෝඩ් ඉවත් කිරීම (මේ පිළිබඳ වැඩි විස්තර පහත දැක්වේ).

එබැවින් සෑම එන්එන් එකකටම ස්ථර වර්ග තුනක් ඇත: ආදානය , සැඟවුණු සහ ප්‍රතිදානය .


එබැවින් එන්එන් ගෘහ නිර්මාණ ශිල්පය නිර්මාණය කිරීම යනු එක් එක් වර්ගයේ ස්ථර ගණන සහ මෙම එක් එක් ස්ථරයේ ඇති නෝඩ් ගණන සඳහා අගයන් ඉදිරිපත් කිරීමයි.

ආදාන ස්ථරය

සරලයි - සෑම එන්එන් එකකටම හරියටම එකක් තිබේ - මා දන්නා ව්‍යතිරේකයන් නොමැත.

මෙම ස්ථරයෙන් සමන්විත නියුරෝන ගණන සම්බන්ධයෙන්, ඔබේ පුහුණු දත්තවල හැඩය දැනගත් පසු මෙම පරාමිතිය සම්පූර්ණයෙන්ම හා අද්විතීය ලෙස තීරණය වේ. නිශ්චිතවම, එම ස්ථරයෙන් සමන්විත නියුරෝන ගණන ඔබගේ දත්තවල ඇති විශේෂාංග (තීරු) ගණනට සමාන වේ . සමහර එන්එන් වින්‍යාසයන් පක්ෂග්‍රාහී යෙදුමක් සඳහා එක් අතිරේක නෝඩයක් එක් කරයි.


නිමැවුම් ස්ථරය

ආදාන ස්ථරය මෙන්, සෑම එන්එන් එකකටම හරියටම එක් ප්‍රතිදාන ස්ථරයක් ඇත. එහි ප්‍රමාණය (නියුරෝන ගණන) තීරණය කිරීම සරල ය; එය සම්පූර්ණයෙන්ම තීරණය වන්නේ තෝරාගත් ආකෘති වින්‍යාසය මගිනි.

ඔබේ එන්එන් යන්ත්‍ර ප්‍රකාරයේදී හෝ ප්‍රතිගාමී ප්‍රකාරයේදී ක්‍රියාත්මක වේද (සංඛ්‍යාලේඛනවල ද භාවිතා වන නමුත් එයට වෙනත් අර්ථයක් පැවරීම එම්එල් සම්මුතිය ඉතා ව්‍යාකූල ය). යන්ත්‍ර ප්‍රකාරය: පන්ති ලේබලයක් ලබා දෙයි (උදා: "වාරික ගිණුම" / "මූලික ගිණුම"). ප්‍රතිගාමී ප්‍රකාරය වටිනාකමක් ලබා දෙයි (උදා: මිල).

එන්එන් ප්‍රතිගාමී කාරකයක් නම්, ප්‍රතිදාන ස්ථරයට තනි නෝඩයක් ඇත.

එන්එන් වර්ගීකරණයක් නම්, සොෆ්ට්මැක්ස් භාවිතා නොකරන්නේ නම් එයට තනි නෝඩයක් ද ඇත, එම අවස්ථාවේ දී ඔබේ ආකෘතියේ පන්ති ලේබලයකට ප්‍රතිදාන ස්තරයට එක් නෝඩයක් ඇත.

සැඟවුණු ස්ථර

එබැවින් එම රීති කිහිපය ආදාන සහ ප්‍රතිදාන ස්ථර සඳහා ස්ථර ගණන සහ ප්‍රමාණය (නියුරෝන / ස්ථරය) නියම කරයි. එය සැඟවුණු ස්ථර වලින් ඉවත් වේ.

සැඟවුණු ස්ථර කීයක් තිබේද? හොඳයි, ඔබේ දත්ත රේඛීයව වෙන් කළ හැකි නම් (ඔබ එන්එන් කේතීකරණය ආරම්භ කරන විට ඔබ බොහෝ විට දන්නා) එවිට ඔබට සැඟවුණු ස්ථර කිසිවක් අවශ්‍ය නොවේ. ඇත්ත වශයෙන්ම, ඔබේ දත්ත නිරාකරණය කිරීම සඳහා ඔබට එන්එන් එකක් අවශ්‍ය නොවේ, නමුත් එය තවමත් එම කාර්යය කරනු ඇත.

ඉන් ඔබ්බට, ඔබ බොහෝ විට දන්නා පරිදි, එන්එන් වල සැඟවුනු ස්ථර වින්‍යාසය පිළිබඳ ප්‍රශ්නයට විවරණ කන්දක් ඇත (එම විවරණයේ විශිෂ්ට සාරාංශයක් සඳහා අතිශයින්ම සවිස්තරාත්මක හා බුද්ධිමත් එන්එන් නිති අසන ප්‍රශ්න බලන්න ). සම්මුතියක් ඇති මෙම විෂය තුළ ඇති එක් ගැටළුවක් වන්නේ අතිරේක සැඟවුණු ස්ථර එකතු කිරීමේ කාර්ය සාධන වෙනසයි: දෙවන (හෝ තෙවන, ආදිය) සැඟවුණු ස්තරයක් සමඟ කාර්ය සාධනය වැඩි දියුණු වන අවස්ථා ඉතා අල්පය. ගැටළු වලින් බහුතරයක් සඳහා එක් සැඟවුණු තට්ටුවක් ප්රමාණවත්ය.

ඉතින් සැඟවුණු ස්ථරයේ (ප්‍රමාණය) ප්‍රමාණය ගැන කුමක් කිව හැකිද - නියුරෝන කීයක් තිබේද? ආනුභවිකව ව්‍යුත්පන්න කර ඇති නීති රීති කිහිපයක් ඇත, මේවායින් බහුලවම රඳා පවතින්නේ ' සැඟවුණු ස්තරයේ ප්‍රශස්ත ප්‍රමාණය සාමාන්‍යයෙන් ආදාන ප්‍රමාණය හා ප්‍රතිදාන ස්ථරවල ප්‍රමාණය අතර වේ ' යන්නයි. ජාවා හි ස්නායුක ජාල හඳුන්වාදීමේ කතුවරයා වන ජෙෆ් හීටන් තවත් කිහිපයක් ඉදිරිපත් කරයි.

සාරාංශයක් ලෙස, බොහෝ ගැටලු සඳහා, රීති දෙකක් භාවිතා කරමින් සැඟවුණු ස්ථර වින්‍යාසය සැකසීමෙන් කෙනෙකුට හොඳ කාර්ය සාධනයක් ලබා ගත හැකිය (දෙවන ප්‍රශස්තිකරණ පියවරක් නොමැතිව): (i) සැඟවුණු ස්ථර ගණන එකකට සමාන වේ; සහ (ii) එම ස්ථරයේ ඇති නියුරෝන ගණන ආදාන සහ ප්‍රතිදාන ස්ථර වල ඇති නියුරෝන වල මධ්‍යන්‍යය වේ.


ජාල වින්‍යාසය ප්‍රශස්තකරණය කිරීම

කප්පාදු කිරීමපරිගණක කාර්ය සාධනය සහ සමහර විට විභේදන කාර්ය සාධනය වැඩි දියුණු කිරීම සඳහා ජාල ප්‍රමාණය අඩු කිරීමට (ස්ථර නොව නෝඩ් අනුව) ක්‍රම සමූහයක් විස්තර කරයි. මෙම ශිල්පීය ක්‍රමවල සාරාංශය වන්නේ පුහුණුවීම් අතරතුරදී ජාලයෙන් නෝඩ් ඉවත් කිරීම, එම නෝඩ් හඳුනා ගැනීමෙන් ජාලයෙන් ඉවත් කළ හොත් එය ජාල ක්‍රියාකාරිත්වයට සැලකිය යුතු ලෙස බලපාන්නේ නැත (එනම් දත්ත විභේදනය). . කප්පාදු කිරීමේදී ඉවත් කරනු ලැබේ.) නිසැකවම, ඔබ පුහුණුව අතරතුර කප්පාදු කිරීමේ ඇල්ගොරිතමයක් භාවිතා කරන්නේ නම්, පසුව වැඩිපුර (එනම්, 'කප්පාදු කළ හැකි') නෝඩ් ඇති ජාල වින්‍යාසය සමඟ ආරම්භ කරන්න - වෙනත් වචන වලින් කිවහොත්,

පුහුණුවීම් අතරතුර ඔබේ ජාලයට කප්පාදු කිරීමේ ඇල්ගොරිතමයක් යෙදීමෙන් ඔබට ප්‍රශස්ත ජාල වින්‍යාසයකට පිවිසිය හැකිය. ඔබට එය තනි "ඉහළ" (ජාන-ඇල්ගොරිතම මත පදනම් වූ ඇල්ගොරිතම වැනි) කළ හැකිද යන්න මම නොදනිමි, නමුත් මේ වන විට මෙම පියවර දෙකේ ප්‍රශස්තිකරණය වඩාත් සුලභ බව මම දනිමි.


35
බොහෝ ගැටළු සඳහා අවශ්‍ය වන්නේ එක් සැඟවුණු තට්ටුවක් පමණක් බව ඔබ ප්‍රකාශ කරයි. සමහර විට වඩා සැඟවුණු ස්ථර සහිත එන්එන් පුහුණු කිරීම අතිශයින් දුෂ්කර බව පැවසීම වඩා හොඳය (ඔබට දැන ගැනීමට අවශ්‍ය නම්, යූෆ් ටොරොන්ටෝ හි හින්ටන්ගේ කණ්ඩායමේ ප්‍රකාශන පරීක්ෂා කරන්න, “ගැඹුරු ඉගෙනීම”) සහ ඒ නිසා සැඟවුණු දේකට වඩා අවශ්‍ය වන ගැටලු ස්තරය ස්නායුක ජාල මගින් "විසඳිය නොහැකි" ලෙස සැලකේ.
bayerj

17
ඔබ ලියන්නේ එන්එන් ප්‍රතිගාමී කාරකයක් නම්, ප්‍රතිදාන ස්ථරයට තනි නෝඩයක් ඇත. . තනි නෝඩයක් පමණක් ඇයි? මට අඛණ්ඩ ප්‍රතිදානයන් තිබිය නොහැක්කේ ඇයි?
gerrit

6
@gerrit ඔබේ ඉලක්ක ප්‍රතිදානය දෛශික වටිනාකමක් තිබේ නම් ඔබට අනිවාර්යයෙන්ම අඛණ්ඩ ප්‍රතිදානයන් ලබා ගත හැකිය. දෛශික වටිනාකමින් යුත් නිමැවුම් සඳහා සුදුසු අලාභ ශ්‍රිතයක් අර්ථ දැක්වීම එක් නිමැවුමකට වඩා ටිකක් උපක්‍රමශීලී විය හැකිය.
lmjohns3

6
මම සිතුවේ එය ඊට වඩා ප්‍රතිවිරුද්ධ බවය: එන්එන් වර්ගීකරණයක් නම්, සොෆ්ට්මැක්ස් භාවිතා නොකරන්නේ නම් එය තනි නෝඩයක් ද ඇත, එම අවස්ථාවේ දී ඔබේ ආකෘතියේ පන්ති ලේබලයකට ප්‍රතිදාන ස්ථරයට එක් නෝඩයක් ඇත.
viyps

6
අපූරු පිළිතුරට ස්තූතියි. සැඟවුනු ස්ථර 3 සිට 1 දක්වා මගේ ඒඑන්එන් අඩු කිරීමටත්, සැඟවුණු නියුරෝන නිවැරදි සංඛ්‍යාවක් සැකසීම මගින් එකම වර්ගීකරණ නිරවද්‍යතාව ලබා ගැනීමටත් මෙය මට ඉඩ ලබා දුන්නේය ... මම ආදාන සහ ප්‍රතිදානයේ සාමාන්‍ය අගය එකට භාවිතා කළෙමි. ස්තූතියි!
rayryeng

143

@ ඩග්ගේ පිළිතුර මට ප්‍රයෝජනවත් විය . අධීක්ෂණය කරන ලද ඉගෙනීමේ ගැටළු සඳහා උපකාරී වන තවත් අමතර රීතියක් තිබේ. ඔබ නියුරෝන ගණන පහතින් තබා ගන්නේ නම් සාමාන්‍යයෙන් අධික ලෙස ගැළපීම වළක්වා ගත හැකිය:

එන්h=එන්s(α*(එන්මම+එන්o))

එන්මම
එන්o
එන්s
α

lපිh

එන්s*(එන්මම+එන්o)α

ස්වයංක්‍රීය ක්‍රියා පටිපාටියක් සඳහා ඔබ ඇල්ෆා 2 කින් ආරම්භ කළ යුතුය (ඔබේ පුහුණු දත්තවල නිදහසේ අංශක මෙන් දෙගුණයක් ඔබේ ආකෘතිය මෙන්) සහ ඔබේ පුහුණු දත්ත කට්ටලයේ දෝෂය (අලාභය) වඩා සැලකිය යුතු තරම් කුඩා නම් 10 දක්වා වැඩ කරන්න. ඔබගේ පරීක්ෂණ දත්ත කට්ටලය.


9
මෙම සූත්රය ඉතා රසවත් හා ප්රයෝජනවත් වේ. මෙම සූත්‍රය සඳහා කිසියම් සඳහනක් තිබේද? එය වඩාත් ප්‍රයෝජනවත් වනු ඇත.
ප්‍රශාන්ත්

2
rasprashanth මම ඉහත සඳහන් කළ එන්එන් නිර්මාණ පා text යේ ප්‍රකාශ සහ සූත්‍ර කිහිපයක් ඒකාබද්ධ කළෙමි. නමුත් මම පෙන්වන ස්වරූපයෙන් එය පැහැදිලිවම කැඳවනු ඇතැයි මම නොසිතමි. මගේ අනුවාදය සරල උපකල්පන රාශියක් සහිත ඉතා ගොරහැඩි දළ විශ්ලේෂණයකි. ඉතින් වයි.එම්.වී.
ෙහොබ්ස්

1
පළමුවෙන්ම මට අවශ්‍ය වූයේ පෙර අදහස් දැක්වීමේ පරීක්ෂණ කට්ටලය වෙනුවට පුහුණු කට්ටලයක් ලිවීමටයි. "දත්ත සමුදායෙන් ප්‍රමාණවත් අංග (ඔබ සඳහන් කළ DOF) ඉගෙන ගැනීමට ඔබට අවම වශයෙන් බොහෝ නියුරෝන අවශ්‍ය වේ" යනුවෙන් එය කියවීමට නම් මෙම සූත්‍රය අර්ථවත් කරයි. දත්ත කට්ටලයේ විශේෂාංග ජනගහනය නියෝජනය කරන්නේ නම් සහ ආකෘතිය කෙතරම් හොඳින් සාමාන්‍යකරණය කළ හැකිද යන්න සමහර විට එය වෙනස් ප්‍රශ්නයක් (නමුත් වැදගත් එකක්).
kon psych

3
එන්h(එන්මම+එන්o)

2
@matus, සමහර විට බහු ස්ථර සඳහා තරමක් හොඳ රීතියක් වන්නේ N_h(එක් ස්ථරයකට සැඟවුණු නියුරෝන වල සාමාන්‍ය සංඛ්‍යාව) විසඳුමයි N_s = (N_i + N_o) * N_h ^ N_hidden_layers. නමුත් මම තවමත් මෙම සූත්‍රය භාවිතා නොකරමි. ඔබ වෙනත් විධිමත් කිරීමේ ප්‍රවේශයන් ක්‍රියාත්මක කිරීමට සැලසුම් නොකරන විට එය ඉතා මූලික ගැටළු (සෙල්ලම් ගැටළු) සඳහා පමණි.
හොබ්ස්

63

සිට හැඳින්වීම ජාවා සඳහා ස්නායුක ජාල (දෙවන සංස්කරණය) විසින් ජෙෆ් Heaton නිදහසේ ලබා ගත හැකි පෙරදසුනෙහි - Google පොත් සහ මීට පෙර දී කතුවරයා වෙබ් අඩවිය :

සැඟවුණු ස්ථර ගණන

සැඟවුණු ස්ථර සම්බන්ධයෙන් සැබවින්ම තීරණ දෙකක් ගත යුතුය: ස්නායුක ජාලය තුළ සැබවින්ම සැඟවුණු ස්ථර කීයක් තිබිය යුතුද සහ මෙම එක් එක් ස්ථරයේ නියුරෝන කීයක් තිබේද? ස්නායුක ජාලය සමඟ භාවිතා කිරීම සඳහා සැඟවුණු ස්ථර ගණන තීරණය කරන්නේ කෙසේදැයි අපි පළමුව විමසා බලමු.

සැඟවුනු ස්ථර දෙකක් අවශ්‍ය වන ගැටළු කලාතුරකින් හමු වේ. කෙසේ වෙතත්, සැඟවුනු ස්ථර දෙකක් සහිත ස්නායුක ජාලයන්ට ඕනෑම ආකාරයක හැඩයක් සහිත කාර්යයන් නිරූපණය කළ හැකිය. සැඟවුණු ස්ථර දෙකකට වඩා වැඩි සංඛ්‍යාවක් සහිත ස්නායුක ජාල භාවිතා කිරීමට දැනට න්‍යායාත්මක හේතුවක් නොමැත. ඇත්ත වශයෙන්ම, බොහෝ ප්‍රායෝගික ගැටළු සඳහා, සැඟවුණු ස්ථර එකකට වඩා භාවිතා කිරීමට හේතුවක් නැත. 5.1 වගුව මගින් විවිධ සැඟවුණු ස්ථර සහිත ස්නායුක ජාල ගෘහ නිර්මාණ ශිල්පයේ හැකියාවන් සාරාංශ කරයි.

වගුව 5.1: සැඟවුණු ස්ථර ගණන තීරණය කිරීම

| සැඟවුණු ස්ථර ගණන | ප්‍රති ult ලය |

 0 - රේඛීය වෙන් කළ හැකි කාර්යයන් හෝ තීරණ නියෝජනය කිරීමට පමණක් හැකියාව ඇත.

 1 - අඛණ්ඩ සිතියම්කරණයක් අඩංගු ඕනෑම ශ්‍රිතයක් දළ වශයෙන් දැක්විය හැකිය
එක් සීමිත අවකාශයක සිට තවත් ඉඩකට.

 2 - අත්තනෝමතික නිරවද්‍යතාවයට අත්තනෝමතික තීරණ සීමාවක් නිරූපණය කළ හැකිය
තාර්කික සක්‍රීය කිරීමේ කාර්යයන් සමඟ සහ ඕනෑම සුමටයක් ආසන්න වශයෙන් දැක්විය හැකිය
ඕනෑම නිරවද්‍යතාවයකට සිතියම් ගත කිරීම.

සැඟවුණු නියුරෝන ස්ථර ගණන තීරණය කිරීම ගැටලුවේ කුඩා කොටසක් පමණි. මෙම එක් එක් සැඟවුනු ස්ථර වල නියුරෝන කීයක් පවතිනු ඇත්දැයි ඔබ විසින් තීරණය කළ යුතුය. මෙම ක්රියාවලිය ඊළඟ කොටසේ ආවරණය කෙරේ.

සැඟවුණු ස්ථර වල ඇති නියුරෝන ගණන

සැඟවුණු ස්ථර වල ඇති නියුරෝන ගණන තීරණය කිරීම ඔබේ සමස්ත ස්නායුක ජාල සැකැස්ම තීරණය කිරීමේ ඉතා වැදගත් කොටසකි. මෙම ස්ථර බාහිර පරිසරය සමඟ directly ජුව මැදිහත් නොවුවද, අවසාන නිමැවුමට ඒවා විශාල බලපෑමක් ඇති කරයි. සැඟවුණු ස්ථර ගණන සහ මෙම එක් එක් සැඟවුනු ස්ථර වල නියුරෝන ගණන යන දෙකම ප්‍රවේශමෙන් සලකා බැලිය යුතුය.

සැඟවුණු ස්ථර වල නියුරෝන ඉතා අඩු ප්‍රමාණයක් භාවිතා කිරීමෙන් ප්‍රති f ල ලෙස හැඳින්වේ. සංකීර්ණ දත්ත කට්ටලයක සං als ා ප්‍රමාණවත් ලෙස හඳුනා ගැනීමට සැඟවුණු ස්ථර වල නියුරෝන අඩු ප්‍රමාණයක් ඇති විට යටි ගැසීම සිදු වේ.

සැඟවුණු ස්ථර වල නියුරෝන වැඩිපුර භාවිතා කිරීමෙන් ගැටළු කිහිපයක් ඇතිවිය හැකිය. පළමුවෙන්ම, සැඟවුනු ස්ථර වල ඇති නියුරෝන ඕනෑවට වඩා වැඩිපුර ඇතිවීමට හේතු විය හැක. ස්නායුක ජාලයට එතරම් තොරතුරු සැකසීමේ ධාරිතාවක් ඇති විට අධික ලෙස ගැළපීම සිදු වන්නේ සැඟවුනු ස්ථරවල ඇති සියලුම නියුරෝන පුහුණු කිරීමට පුහුණු කට්ටලයේ අඩංගු සීමිත තොරතුරු ප්‍රමාණවත් නොවන බැවිනි. පුහුණු දත්ත ප්‍රමාණවත් වූ විට පවා දෙවන ගැටළුවක් ඇතිවිය හැකිය. සැඟවුණු ස්ථර වල ඇති නියුරෝන අති විශාල සංඛ්‍යාවක් ජාලය පුහුණු කිරීමට ගතවන කාලය වැඩි කළ හැකිය. ස්නායුක ජාලය ප්‍රමාණවත් ලෙස පුහුණු කිරීමට නොහැකි තරමට පුහුණු කාලය වැඩි විය හැකිය. නිසැකවම, සැඟවුණු ස්ථර වල නියුරෝන ඕනෑවට වඩා හා ඉතා සුළු ප්‍රමාණයක් අතර යම් සම්මුතියක් ඇති කර ගත යුතුය.

සැඟවුණු ස්ථර වල භාවිතා කළ යුතු නිවැරදි නියුරෝන ගණන තීරණය කිරීම සඳහා රීති-නියපොතු ක්‍රම බොහොමයක් ඇත:

  • සැඟවුණු නියුරෝන ගණන ආදාන ස්ථරයේ ප්‍රමාණය සහ ප්‍රතිදාන ස්ථරයේ ප්‍රමාණය අතර විය යුතුය.
  • සැඟවුණු නියුරෝන ගණන ආදාන ස්ථරයේ ප්‍රමාණය 2/3 ක් විය යුතු අතර ප්‍රතිදාන ස්ථරයේ ප්‍රමාණයද විය යුතුය.
  • සැඟවුණු නියුරෝන ගණන ආදාන ස්ථරයේ ප්‍රමාණය මෙන් දෙගුණයකට වඩා අඩු විය යුතුය.

මෙම නීති තුන ඔබට සලකා බැලීමට ආරම්භක ස්ථානයක් සපයයි. අවසානයේදී, ඔබේ ස්නායුක ජාලය සඳහා ගෘහ නිර්මාණ ශිල්පයක් තෝරා ගැනීම අත්හදා බැලීම් හා දෝෂ වලට ලක් වේ. අත්හදා බැලීම සහ දෝෂය යන්නෙන් අදහස් කරන්නේ කුමක්ද? ඔබේ ජාලයට අහඹු ලෙස ස්ථර හා නියුරෝන සංඛ්‍යාවක් විසි කිරීම ආරම්භ කිරීමට ඔබට අවශ්‍ය නැත. එසේ කිරීම බොහෝ කාලයක් ගතවනු ඇත. 8 වන පරිච්ඡේදය, “ස්නායුක ජාලයක් කප්පාදු කිරීම” ස්නායුක ජාලයක් සඳහා ප්‍රශස්ත ව්‍යුහයක් තීරණය කිරීම සඳහා විවිධ ක්‍රම ගවේෂණය කරයි.


මම ද වැනි පහත සඳහන් ඇබිත්ත ක සිට මම researchgate.net සොයා පිළිතුර වචන කිහිපයකින් ගොඩක් යන්නයි වන:

ස්ටෙෆන් බී පීටර්සන් · ඇල්බර්ග් විශ්ව විද්‍යාලය

[...]

ජාලයට ඇති හැකියාව සුරක්ෂිත කර ගැනීම සඳහා නෝඩ් ගණන සාමාන්‍යකරණය කිරීමට හැකි තරම් අඩු මට්ටමක තබා ගත යුතුය. ඔබට විශාල නෝඩ් ප්‍රමාණයක් තිබේ නම්, ඔබේ ජාලය මතක කට්ටලයක් බවට පත්වන අතර එය පුහුණුව පරිපූර්ණත්වයට සිහිපත් කළ හැකි නමුත් පුහුණු කට්ටලයේ කොටසක් නොවූ සාම්පලවල හොඳින් ක්‍රියා නොකරයි.


ස්ටෙෆන් බී පීටර්සන්ගේ උපුටා දැක්වීමේ මූලාශ්‍රය ඔබ දැන ගන්නේද?
සෙබස්තියන් නීල්සන්

1
මට කණගාටුයි. මම එය සෙවීමට උත්සාහ කළ නමුත් මට එය සොයාගත නොහැකි විය ... ලිපිය වෙබයෙන් ඉවත් කර ඇතැයි මම සිතමි. සමහර විට ඔබට ඔහුව කෙලින්ම සම්බන්ධ කර ගත හැකිද?
jj_

පුහුණු කට්ටලයේ ප්‍රමාණය සැලකිල්ලට ගත යුතු නොවේද? මට අද්විතීය සාම්පල 300,000 ක් (කාර් මිල) සහිත වගු දත්ත කට්ටලයක් ඇත. ආදාන ස්ථරයට නෝඩ් 89 ක් ඇත. විධිමත් කිරීමක් නොමැති ජාලයක් පුහුණු කිරීම සහ එක් සැඟවුණු තට්ටුවක නෝඩ් 89 ක් පමණක් පුහුණු කිරීම, මට යුග කිහිපයකට පසු සානුව වෙත පුහුණු පාඩුව ලැබේ. RMSE සානුව ඩොලර් 8 1,800 (මෙම ප්‍රතිගාමී ගැටලුවේ තනි නිමැවුම් නෝඩය මිල වේ).
රොඩ්රිගෝ-සිල්වීර

1
මම හිතන්නේ ස්ටෙෆන් බී පීටර්සන්ගේ උපුටා දැක්වීමේ මූලාශ්‍රය මෙහි විය: researchgate.net/post/…
TripleAntigen

43

මම මේ මොහොතේ ආනුභවික අධ්‍යයනයක් කරමින් සිටිමි (අපගේ HPC පහසුකම පිළිබඳ ප්‍රොසෙසර ශතවර්ෂයේ අනුකරණ අනුමත කරමින්!). මගේ අවවාදය වනුයේ "විශාල" ජාලයක් සහ විධිමත් කිරීමක් භාවිතා කිරීමයි, ඔබ නියාමනය භාවිතා කරන්නේ නම් ජාල සැකැස්ම අඩු වැදගත්කමක් ලබා ගනී (අපට එය ග්‍රහණය කර ගැනීමට අවශ්‍ය යටින් පවතින ශ්‍රිතය නිරූපණය කිරීමට තරම් විශාල නම්), නමුත් ඔබට නියාමනය සුසර කළ යුතුය පරාමිතිය නිසියාකාරව.

ගෘහ නිර්මාණ තෝරා ගැනීමේදී ඇති වන එක් ගැටළුවක් නම්, එය ආකෘතියේ සංකීර්ණතාව අඛණ්ඩව පාලනය කිරීම වෙනුවට විවික්ත වීමයි. එබැවින් පරමාදර්ශී සංකීර්ණතාව අඩු වූ විට එය තරමක් අපැහැදිලි උපකරණයක් විය හැකිය.

කෙසේ වෙතත්, මේ සියල්ල "නොමිලේ දිවා ආහාරය නැත" ප්‍රමේයයන්ට යටත් වන අතර, බොහෝ අවස්ථාවන්හිදී නියාමනය කිරීම effective ලදායී වන අතර, ගෘහ නිර්මාණ තේරීම වඩා හොඳින් ක්‍රියාත්මක වන අවස්ථා සැමවිටම පවතිනු ඇති අතර, පවතින ගැටලුව සම්බන්ධයෙන් එය සත්‍යයක් දැයි සොයා ගැනීමට ඇති එකම ක්‍රමය ප්රවේශයන් දෙකම උත්සාහ කිරීම සහ හරස් වලංගු කිරීම.

මම ස්වයංක්‍රීය ස්නායුක ජාල සාදන්නෙකු ගොඩනඟා ගැනීමට නම්, මම රැඩ්ෆර්ඩ් නීල්ගේ හයිබ්‍රිඩ් මොන්ටේ කාලෝ (එච්එම්සී) නියැදි මත පදනම් වූ බේසියානු ප්‍රවේශය භාවිතා කර විශාල ජාලයක් භාවිතා කර තනි ජාලයක බර ප්‍රශස්ත කිරීමට වඩා බරට වඩා ඒකාබද්ධ කරමි. කෙසේ වෙතත් එය පරිගණකමය වශයෙන් මිල අධික වන අතර එය ටිකක් “කළු කලාවක්” වේ, නමුත් මහාචාර්ය නීල් ලබා ගන්නා ප්‍රති results ලවලින් පෙනී යන්නේ එය වටින බවයි!


"මම මේ මොහොතේ මේ පිළිබඳව ආනුභවික අධ්‍යයනයක් කරමින් සිටිමි" - යාවත්කාලීන කිරීමක් තිබේද?
මාටින් තෝමා

2
නැත. කනගාටුවට කරුණක් නම් විචාරකයින් පුවත්පතට අකමැති වීමයි :-(
දික්රාන් අඟහරු

14

මා දන්නා තරමින් එක් එක් ස්ථරයේ ඇති ස්ථර හා නියුරෝන ගණන ස්වයංක්‍රීයව තෝරා ගැනීමට ක්‍රමයක් නොමැත. නමුත් EANN (පරිණාමීය කෘතිම ස්නායුක ජාල, ස්ථාන විද්‍යාව පරිණාමය කිරීම සඳහා ජානමය ඇල්ගොරිතම භාවිතා කරන) වැනි ස්වයංක්‍රීයව ඒවායේ ස්ථලකය ගොඩනගා ගත හැකි ජාල තිබේ.

ප්රවේශයන් කිහිපයක් තිබේ, වඩා හොඳ හෝ අඩු නවීන ප්රති results ලබා දෙන බවක් පෙනෙන්නට තිබුනේ NEAT (Aguted Topologies හි ස්නායු පරිණාමය) ය .



7

මගේ ස්වාමිවරුන්ගේ නිබන්ධනය වන 3 වන පරිච්ඡේදයේ ස්ථාන විද්‍යාව ඉගෙනීමේ බොහෝ ක්‍රම මම ලැයිස්තුගත කර ඇත්තෙමි . විශාල කාණ්ඩ:

  • වැඩෙන ප්රවේශයන්
  • කප්පාදු ප්රවේශයන්
  • ජානමය ප්‍රවේශයන්
  • ශක්තිමත් කිරීමේ ඉගෙනීම
  • සංවර්‍ධන ස්නායුක රෙදි

6

ගෝලීය අධි-පරාමිති සෙවීම භාවිතයෙන් ස්නායුක ජාල තැනීමේ ස්වයංක්‍රීය ක්‍රම:

ආදාන සහ ප්‍රතිදාන ස්ථර ස්ථාවර ප්‍රමාණයකි.

වෙනස් විය හැකි දේ:

  • ස්ථර ගණන
  • එක් එක් ස්ථරයේ නියුරෝන ගණන
  • ස්තරයේ වර්ගය

මෙම විවික්ත ප්‍රශස්තිකරණ ගැටළුව සඳහා බහුවිධ ක්‍රම භාවිතා කළ හැකි අතර, පිරිවැය ක්‍රියාකාරිත්වය ලෙස ජාලය නියැදි දෝෂයකින් තොරය.

  • 1) තරමක් හොඳ ස්ථානයකින් ආරම්භ කිරීම සඳහා පරාමිති අවකාශය හරහා ජාල / අහඹු සෙවීම
  • 2) ක්‍රම රාශියක් ප්‍රශස්ත ගෘහ නිර්මාණ ශිල්පය සොයා ගැනීම සඳහා භාවිතා කළ හැකි . (ඔව්, එය කාලය ගතවේ).
  • 3) යම් විධිමත් කිරීමක් කරන්න, මෙයට පිළියමක්, නැවත කරන්න.

6

කණගාටුයි, මට තවම අදහසක් පළ කළ නොහැකි බැවින් කරුණාකර මා සමඟ ඉවසන්න. කෙසේ වෙතත්, මම මෙම සාකච්ඡා නූලට ගැසුවෙමි, එය මෑතකදී මා දුටු පුවත්පතක් මට මතක් කර දුන්නේය . මෙහි සහභාගී වන පිරිසට එය උනන්දුවක් දැක්විය හැකි යැයි මම සිතමි:

ඇඩනෙට්: කෘතිම ස්නායුක ජාල වල අනුවර්තී ව්‍යුහාත්මක ඉගෙනීම

කොරින්නා කෝර්ටස්, සේවියර් ගොන්සල්වෝ, විටාලි කුස්නෙට්සොව්, මෙහ්රියාර් මොහ්රි, ස්කොට් යැං; යන්ත්‍ර ඉගෙනීම පිළිබඳ 34 වන ජාත්‍යන්තර සමුළුවේ ක්‍රියා පටිපාටි, පීඑම්එල්ආර් 70: 874-883, 2017.

සාරාංශය අපි කෘතිම ස්නායුක ජාල විශ්ලේෂණය කිරීම සහ ඉගෙනීම සඳහා නව රාමුවක් ඉදිරිපත් කරමු. අපගේ ප්‍රවේශය එකවර හා අනුවර්තීව ජාලයේ ව්‍යුහය මෙන්ම එහි බරද ඉගෙන ගනී. ක්‍රමවේදය පදනම් වී ඇත්තේ ශක්තිමත් දත්ත මත පදනම් වූ න්‍යායාත්මක ඉගෙනුම් සහතිකයන් මත වන අතර එමඟින් අවසාන ජාල ගෘහ නිර්මාණ ශිල්පය ඕනෑම ගැටලුවක සංකීර්ණතාවයට අනුගත වේ.


3

අඩු පොදු නමුත් සුපිරි effective ලදායී ක්‍රමයක් යෝජනා කිරීමට මම කැමතියි .

මූලික වශයෙන්, ඔබට විභව විකල්පයන්ගෙන් කුඩා අනු කාණ්ඩයක් උත්සාහ කරන “ජානමය ඇල්ගොරිතම” නම් ඇල්ගොරිතම සමූහයක් භාවිතා කළ හැකිය (අහඹු ස්ථර ගණන සහ එක් ස්ථරයකට නෝඩ්). එමඟින් මෙම විකල්ප ජනගහනය "දෙමව්පියන්" ලෙස සලකන අතර ජීවීන් පරිණාමය වනවා සේම දෙමව්පියන්ගෙන් එකක් හෝ වැඩි ගණනක් ඒකාබද්ධ කිරීමෙන් / විකෘති කිරීමෙන් දරුවන් නිර්මාණය කරයි. හොඳම දරුවන් සහ සමහර අහඹු හරි ළමයින් සෑම පරම්පරාවකම සහ පරම්පරා ගණනාවක තබා ඇත.

Para 100 හෝ ඊට අඩු පරාමිතීන් සඳහා (ස්ථර ගණන, ස්ථර වර්ග සහ එක් ස්ථරයකට නියුරෝන ගණන තෝරා ගැනීම වැනි) සඳහා මෙම ක්‍රමය සුපිරි .ලදායී වේ. එක් එක් පරම්පරාව සඳහා විභව ජාල සැකසුම් ගණනාවක් නිර්මාණය කිරීමෙන් සහ ඉගෙනීමේ වක්‍රය තක්සේරු කළ හැකි තෙක් ඒවා අර්ධ වශයෙන් පුහුණු කිරීමෙන් එය භාවිතා කරන්න (සාමාන්‍යයෙන් බොහෝ පරාමිතීන් මත පදනම්ව කුඩා කණ්ඩායම් 100-10k). පරම්පරා කිහිපයකට පසු, ළමයින් තෝරා ගැනීම සඳහා ඔබේ වෛෂයික කාර්යය ලෙස දුම්රිය හා වලංගු කිරීම සැලකිය යුතු ලෙස වෙනස් දෝෂ අනුපාතයක් (අධික ලෙස ගැලපීම) ඇති ස්ථානය සලකා බැලීමට ඔබට අවශ්‍ය විය හැකිය. නිගමනයකට එළඹීම සඳහා අවසාන ආකෘතියක් තෝරා ගන්නා තෙක් ඔබේ දත්තවල ඉතා කුඩා උප කුලකයක් (10-20%) භාවිතා කිරීම හොඳ අදහසක් විය හැකිය. ප්‍රති network ල නිසියාකාරව සංසන්දනය කිරීම සඳහා ඔබේ ජාල ආරම්භය සඳහා තනි බීජයක් භාවිතා කරන්න.

පරම්පරා 10-50ක් හොඳ ප්‍රමාණයේ ජාලයක් සඳහා හොඳ ප්‍රති results ල ලබා දිය යුතුය.


තවත් ඉතා රසවත් ක්‍රමයක් වන්නේ බේසියානු ප්‍රශස්තිකරණය වන අතර එය සාපේක්ෂව කුඩා පරාමිතීන් සඳහා අතිශයින්ම black ලදායී කළු පෙට්ටි ප්‍රශස්තිකරණ ක්‍රමයකි. arxiv.org/pdf/1206.2944.pdf
ඩෑන් එරෙස්

1

සැඟවුණු ස්ථර ගණන සහ ඒවාට ළඟා කර ගත හැකි දේ:

0 - රේඛීය වෙන් කළ හැකි කාර්යයන් හෝ තීරණ නියෝජනය කිරීමට පමණක් හැකියාව ඇත.

1 - එක් සීමිත අවකාශයක සිට තවත් අවකාශයකට අඛණ්ඩ සිතියම් ගත කිරීමක් ඇති ඕනෑම ශ්‍රිතයක් දළ වශයෙන් දැක්විය හැකිය.

2 - තාර්කික සක්‍රිය කිරීමේ කාර්යයන් සමඟ අත්තනෝමතික නිරවද්‍යතාව සඳහා අත්තනෝමතික තීරණ සීමාවක් නිරූපණය කළ හැකි අතර ඕනෑම නිරවද්‍යතාවයකට සුමට සිතියම්ගත කිරීමක් දළ වශයෙන් කළ හැකිය.

2 ට වඩා - අතිරේක ස්ථර වලට ස්ථර ස්ථර සඳහා සංකීර්ණ නිරූපණයන් (ස්වයංක්‍රීය විශේෂාංග ඉංජිනේරු වර්ග කිරීම) ඉගෙන ගත හැකිය.


9
කරුණාකර මූලාශ්‍රය. - විචාරක
ජිම්
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.