
پروژه : مهندسي شبکه هاي عصبی توسط اتوماتاهای يادگير
( تعيين تعداد واحدهاي لايه مخفي در شبکه های عصبي چند لايه و تنظيم پارامتر مراقبت در شبکه ART )
فرمت : pdf
تعداد صفحه : 143
قیمت : مبلغ ۱۲ هزار تومان
چكيده :
در دهه اخير كارهاي زيادي در زمينه تنظيم پارامترهاي شبكه هاي عصبي انجام شده كه منجر به بهبود عملكرد آنها شده است . هدف بسياري از اين الگوريتمها و روشهاي ارائه شد ه، يافتن مقدار يك پارامتر است به طوري كه خطاي شبكه به ازاي آن حداقل شود . براي مثال ، روشهاي متعددي جهت تنظيم نرخ يادگيري و ممنتم براي الگوريتم انتشار خطا به عقب (BP ) ارائه شده است كه اكثر آنها در جهت مينيمم كردن خطاي حداقل مربعات بوده است . روشهايي نيز براي فرار از مينيمم هاي محلي براي اين الگوريتم ارائه شده است كه افزودن پارامتر ممنتم به اين الگوريتم يكي از اين راهكارها مي باشد . الگوريتم BP بعلت كارايي مطلوبش، اغلب به عنوان الگوريتم يادگيري در شبكه هاي نوروني با ساختار لايه اي، مورد استفاده قرار گرفته است برخي از بهبودهاي صورت گرفته در اين الگوريتم در ازاي افزايش شديد محاسبات بوده و بايد در استفاده آنها به شرايط مسئله توجه شود . شبكه هاي ديگري كه الگوريتمها و روشهايي براي تنظيم پارامتر آن ارائه شده است شبكه هاي ART مي باشند. الگوريتمهايي كه تاكنون براي تنظيم پارامتر مراقبت براي شبكه هاي ART ارائه شده اند براي كاربردهاي خوشه سازي 2 مي باشند. هدف اين الگوريتمها توليد يك تعداد از پيش تعيين شده از دسته 3 ها مي باشد. افزايش مقدار پارامتر مراقبت، افزايش تعداد دست ه ها و كاهش مقدار آ ن، كاهش تعداد دسته ها را موجب مي شود . در اين الگوريتمها شبكه براي مقادير مختلف پارامتر مراقبت كه از طريق يك الگوريتم هوشمند تعيين مي شود آموزش داده مي شود تا از اين طريق مقدار مناسب براي پارامتر مراقبت و در نتيجه تعداد مطلوب دست ه ها پيدا شود . بدون استفاده از اين الگوريتمها مقدار اين پارامتر مي بايست بصورت دستي مقداردهي شده و آموزش تكرار م يشد تا تعداد خوشه مطلوب حاصل شود (آزمايش و خطا). ..........
شبكه هاي عصبي پيس خور چند لايه و شبكه هاي ART از جمله شبكه هايي هستند كه در سالهاي اخير توجه زيادي به آنها شده است. در اين پايان نامه اين دو شبكه مورد بحث و بررسي قرار گرفته و الگوريتمهايي جهت بهبود عملكرد آنها ارائه م يگردد. در قسمت اول اين پايان نامه چند پيشنهاد براي بهبود الگوريتم بقاء كه تنها روش مبتني بر اتوماتاهاي يادگير براي تعيين ساختار مناسب براي شبكه هاي عصبي پس خور سه لايه مي باشد ارائه مي گردد. الگوريتمهاي اصلاح شده بقاء بر روي مسايل متنوعي از جمله مسايل parity ، شش بيتي ، parity شش بيتي نويزي شده، ارقام انگليسي، ارقام انگليسي نويزي شده، ارقام دست نويس فارسي، مساله encoding سه بيتي، مساله تقارن و مساله XOR سه بيتي آزمايش شده و نتايج آن با دو الگوريتم تعيين ساختار شبكه هاي عصبي پس خور به نامهاي S&D و Iterative مقايسه شده است. نتايج آزمايشها نشان مي دهد كه الگوريتمهاي اصلاح شده بقاء در مقايسه با الگوريتم بقاء، الگوريتم S&D و الگوريتم Iterative از كارايي بالاتري برخوردار هستند و شبكه هاي كوچكتر با نرخ تشخيص بالاتري توليد مي كنند. در قسمت دوم اين پايان نامه، الگوريتمي مبتني بر اتوماتاهاي يادگير براي تنظيم پارامتر مراقبت شبكه Fuzzy ARTMAP در كاربردهاي كلاس بندي پيشنهاد مي گردد. الگوريتم پيشنهادي از طر يق تنظيم پارامتر مراقبت، شبكه اي كوچك كه داراي نرخ تشخيص بالا مي باشد توليد مي كند. عملكرد شبكه Fuzzy ARTMAP كه در آن پارامتر مراقبت توسط اتوماتاي يادگير تنظيم مي شود مستقل از مقدار اوليه پارامتر مراقبت مي باشد. الگوريتم پيشنهادي بر روي مسائل دايره در مربع، مارپيچ هاي حلزوني و مسئله مربع در مربع آزمايش شده و نتايج بسيار مطلوبي حاصل گرديده است
فهرست مطالب:
1. مقدمه
1-1 تعيين ساختار شبكه هاي عصبي پيش خور
2-1 تنظيم پارامتر مراقبت در شبكه ART
3-1 اهداف پايان نامه
4-1 ساختار پايان نامه
2. روشهاي پيشين تعيين پارامترها و ساختار شبكه هاي عصبي
1-2 مقدمه
2-2 روشهاي مربوط به تعيين، تنظيم يا تطبيق پارامترهاي الگوريتم BP
1-2-2 الگوريتم انتشار خطا به عقب
2-2-2 قانون دلتا-بار-دلتا
3-2-2 استفاده از كنترلر فازي جهت تنظيم پارامترهاي شبكه
4-2-2 تخمين نرخ يادگيري و ممنتم بهينه
5-2-2 بدست آوردن نرخ يادگيري بهينه توسط مشتقات مرتبه بالاتر
6-2-2 روش مبتني بر اتوماتا
3-2 روشهاي تنظيم ساختار شبكه هاي عصبي پيش خور
1-3-2 روش محاسبات حساسيت
2-3-2 ايجاد شبكه هاي عصبي نوروني با هدف تعميم بهتر
3-3-2 يك الگوريتم هرس براي شبكه هاي نوروني پيش خور
4-3-2 ارائه يك روش تركيبي براي تغيير تعداد نورونهاي مخفي
5-3-2 روش مبتني بر اتوماتا
4-2 روشهاي تنظيم پارامتر مراقبت در شبكه ART
1-4-2 شبكه هاي ART
Fuzzy ART 1-1-4-2
ART 2A 2-1-4-2
ART 2A-C 3-1-4-2 كدگذاري مكمل با ART 2A
:ART 2A-E 4-1-4-2 فواصل اقليدسي در ART 2A
2-4-2 كنترل فازي ART
3-4-2 الگوريتم تطبيق فازي پارامتر مراقبت در شبكه ART
1-1-1-1 تحليل پويايي هاي ART
1-3-4-2 رابطه مابين حوض جاذب و پارامتر مراقبت
2-3-4-2 الگوريتم تطبيق فازي براي انتخاب ρ
5-2 خلاصه و نتيجه گيري
3. مروري بر اتوماتاهاي يادگير
1-3 مقدمه
2-3 تاريخچه اتوماتاهاي يادگير
3-3 اتوماتاهاي يادگير تصادفي
1-3-3 اتوماتاي تصادفي
2-3-3 محيط
4-3 الگوريتمهاي يادگيري
1-4-3 الگوريتمهاي يادگيري استاندارد
2-4-3 الگوريتمهاي يادگير با ساختار ثابت
1-2-4-3 اتوماتاي دو حالته 2,2 L
2-2-4-3 توسعه هاي اتوماتاي 2,2 L
3-2-4-3 اتوماتاي حافظه دار با دو عمل L2N
4-2-4-3 اتوماتاي كرينسكي K
5-2-4-3 اتوماتاي كرايلو K
, 6-2-4-3 اتوماتاي G2N
7-2-4-3 اتوماتاي مهاجرت اشياء
8-2-4-3 اتوماتاي u
5-3 بازيهاي اتوماتا
6-3 خلاصه و نتيجه گيري
4. الگوريتمهايي مبتني بر اتوماتاهاي يادگير براي تعيين ساختار
شبكه هاي عصبي چندلايه پيش خور
1-4 مقدمه
2-4 كاربردهاي مورد آزمايش
1-2-4 پريتي
2-2-4 ارقام انگليسي
XOR 3-2-4
Encoding 4-2-4
5-2-4 تقارن
6-2-4 مساله پريتي 4 بيتي نويزي شده
7-2-4 مساله ارقام انگليسي نويزي شده
8-2-4 ارقام فارسي دست نويس
9-2-4 حروف چيني
3-4 الگوريتم بقاء نورون
1-3-4 تشخيص نحوه عملكرد نورون روشن
2-3-4 نحوه تمايز بين نورونهاي خاموش
4-4 ارائه روشهاي نو جهت بهبود عملكرد الگوريتم بقاء نورون
1-4-4 كاهش تاثير نورونهاي خاموش
2-4-4 تعميم الگوريتم بقاء براي شبكه هاي با بيش از يك لايه مياني
3-4-4 زمان فعاليت اتوماتا
1-3-4-4 بعد از هر epoch
2-3-4-4 بعد از بي تغيير ماندن خطا(عدم كاهش خطا)
4-4-4 تفاوت در نوع اتوماتا
5-4 مقايسه ميزان محاسبات در يك EPOCH آموزشي
6-4 نتايج شبيه سازيها
1-6-4 مقايسه ميان الگوريتمهاي مبتني بر اتوماتاهاي با ساختار ثابت
1-1-6-4 مسئله ارقام انگليسي و شبكه با يك لايه مياني
2-1-6-4 مسئله ارقام انگليسي و شبكه با دو لايه مياني
3-1-6-4 مسئله ارقام انگليسي و شبكه با سه لايه مياني
2-6-4 از لحاظ قدرت تعميم
1-2-6-4 نتايج پياده سازي براي اعداد فارسي
2-2-6-4 نتايج براي مسئله اعداد نويزي شده انگليسي
3-2-6-4 نتايج براي مسئله پريتي 4 بيتي نويزي شده
3-6-4 از لحاظ ساختار شبكه
1-3-6-4 مقايسه الگوريتم در شبكه هاي با يك لايه مياني
2-3-6-4 مقايسه الگوريتم در شبكه هاي با دو لايه مياني
3-3-6-4 مقايسه الگوريتم در شبكه هاي با سه لايه مياني
4-6-4 نتايج شبيه سازيها براي مسئله حروف چيني
1-4-6-4 مقايسه الگوريتمها در شبكه هاي با يك لايه مياني
2-4-6-4 مقايسه الگوريتمها در شبكه هاي با دو لايه مياني
3-4-6-4 مقايسه الگوريتمها در شبكه هاي با سه لايه مياني
7-4 خلاصه و نتيجه گيري
5. الگوريتمي مبتني بر اتوماتاهاي يادگير براي تنظيم پارامتر مراقبت
در شبكه FUZZY ARTMAP
1-5 مقدمه
2-5 كاربردهاي مورد آزمايش
1-2-5 دايره در مربع
2-2-5 مارپيچهاي حلزوني
3-2-5 مربع در مربع
3-5 شبكه FUZZY ART
1-3-5 فرايند يادگيري
4-5 شبكه FUZZY ARTMAP
1-4-5 الگوريتم شبكه Fuzzy ARTMAP
5-5 روش پيشنهادي
6-5 نتايج شبيه سازي
1-6-5 نتايج پياده سازي براي مسئله دايره در مربع
2-6-5 نتايج پياده سازي براي مسئله مارپيچهاي حلزوني
3-6-5 نتايج پياده سازي براي مسئله مربع در مربع
7-5 خلاصه و نتيجه گيري
6. نتيجه گيري و پيشنهادات
مراجع
پيوست
پ 1) برنامه هاي مربوط به شبكه پيش خور لايه اي با الگوريتم يادگيري BP
1) تنظيم پارامترهاي برنامه هاي مربوط به شبكه پيش خور لايه اي با الگوريتم يادگيري BP
2) شيوه مقداردهي به الگوهاي ورودي آموزشي در برنامه ها- پ 1
پ 2) برنامه مربوط به شبكه ARTMAP
پ 3) واژه نامه
***************************************************************************************
در صورت تمایل
به دریافت فایل فوق در مدت 10 دقیقه ، لطفاً اینجا کلیک
کنید
***************************************************************************************
مشاوره ؛نگارش پایان نامه ؛ مقاله + شبیه سازی
در تمام مقاطع دانشگاهی پذیرفته می شود
در صورت
تمایل می توانید عنوان و جزئیات پروژه خود را در قسمت نظرات این پست
اعلام فرمایید. ضمنا می توانید اطلاعات درخواستی خود را به ایمیل یا تلگرام
نمایید
ایمیل :
com.dr@yahoo.com
درباره :
شبکه های کامپیوتری , شبکه عصبی , هوش مصنوعی , شبکه عصبی , شبكه هاي عصبي , شبکه هاي عصبی توسط اتوماتاهای يادگير ,
|