شبکه عصبی

 

سابقه تاریخی                                                            History of neural network                                             

به نظر می آید شبیه سازی های شبکه عصبی  یکی از پیشرفت های اخیر باشد . اگرچه این  موضوع پیش از ظهور  کامپیوتر ها بنیان گذاری شده  و  حداقل یک مانع بزرگ تاریخی  و  چندین دوره مختلف را پشت سر گذاشته است.

خیلی از پیشرفت های مهم با تقلید ها وشبه سازی های   ساده  و ارزان کامپیوتری  بدست آمده است. در پی یک دوره ابتدائی اشتیاق و فعالیت در این زمینه ، یک دوره ی بی میلی و بدنامی راهم پشت سر گذاشته است . در طول این دوره سرمایه گذاری و پشتیبانی حرفه ای از این موضوع در پایین ترین حد خود بود ، پیشرفت های  مهمی به نسبت تحقیقات محدود در این زمینه صورت گرفت . که بدین وسیله  پیشگامان قادر شدند تا به گسترش تکنولوژی متقاعد کننده ای بپردازند که خیلی برجسته تر از محدودیت هایی بود که توسط Minsky وPapert شناسانده  شد. Minsky وPapert ،کتابی را در سال 1969 منتشر کردند که در آن عقیده عمومی را جع به   میزان محرومیت  شبکه های عصبی را در میان محققان معین کرده بود و بدین صورت این عقیده بدون تجزیه و تحلیل های بیشتر پذیرفته شد. هم اکنون ، زمینه تحقیق شبکه های عصبی  از تجدید حیات علایق و متناطر با آن افزایش سرمایه گذاری لذت می برد .

اولین سلول عصبی مصنوعی در سال 1943 بوسیله یک neurophysiologist به نلمWarren McCulloch ویک منطق دان به نام Walter Pits ساخته شد . اما محدودیتهای تکنولوژی  در آن زمان اجازه کار بیشتر به آنها نداد.

چگونگی یادگیری مغز انسان و ساختمان یک نرون :

ناشناخته های زیادی در مورد اینکه چگونه مغز به صورت خودکار یاد می گیرد و فرآیند پردازش اطلاعات را انجام می دهد وجود دارد . مغز از توده ای از سلولهای عصبی موسوم به نرون که عناصری پردازشگر هستند تشکیل شده است .در کل نرون واحد سازنده ی سیستم عصبی در بدن می باشد که دارای قسمتهای زیر است:

1.       بدنه سلولی : عضوی است که سایر قسمتهای سلول از آن منشا گرفته و نیازهای تغذیه ای سلول را برای حفظ حیات برآورده می کند.

2.      هسته Nucleus: در بدنه سلول قرار دارد.

3.      اکسون Axon: انتقال اطلاعات از سلول عصبی به سایر سلولها را بر عهده دارد که به هزاران شاخه تقسیم می شود در انتهای هر شاخه یک ساختار به نام سیناپس وجود دارد که محل اتصال دو نرون می باشد.در کل مغز حدود 106 ارتباط سیناپسی تخمین زده شده.

4.      دندریت Dendrites: دریافت اطلاعات از سلولهای عصبی دیگر را انجام می دهد.


 Biological Neurons

 

وقتی نرون یک ورودی محرک را دریافت کند که به حد کافی در مقایسه با حد آستانه ورودی بزرگ باشد یک ولتاژ کوچک را به اکسون خود می فرستد.فرآیند آموزش با تغییر تاثیر گذاری سیناپسها انجام می شود که در نتیجه آن تاثیر یک نرون بر نرون دیگر تغییر می یابد.

برخی سیناپسها در هنگام تولد و برخی دیگر در طی یادگیری به عنوان ارتباطات جدید به وجود آمده و یا از بین می روند .بنابراین می توان اینگونه اظهار کرد که نرونها دارای قدرت تطابق هستند .که در این صورت می توانند با محیط اطراف وفق پیدا کنند و ارتباطات جدید سیناپسی را بین نرونها به وجود آورند و همچنین شدت انقال اطلاعات سیناپسی را کم و زیادکنند .هر نرون را می توان یک جزء کوچک و هر ارتباط بین دو نرون را به عنوان یک لایه تصور کرد . بعلاده هر لایه وزنی دارد که بیانگر آنست که دو نرون تا چه میزان بر یکدیگر تاثیر می گذارند بنابراین اگر وزنی زیادتر باشد دو نرون بیشتر بر هم تاثیر می گذارند و سیگنال قویتری می تواند از این لایه عبور کند و این اساس عملکرد شبکه های عصبی است.

قوانین هب:

در 1949 دونالد هب کارهای زیادی در شناخت و یادگیری انجام داد با انتشار کتاب سازماندهی رفتار، ارتباط بین روانشناسی و فیزیولوژی را بیان کرد. قدیمی ترین و مشهورترین اصول یادگیری نرونها وقوانین شبکه های عصبی توسط هب ایجاد شد از جمله:

در یکی از اصول هب برای یادگیری وزنهای سیناپس در هر گام با فعالیتهای سیناپس افزایش می یابد . اگر اکسون A به اندازه کافی برای تحریک به سلول B نزدیک باشد و متناوب و مداوم در تحریک آن شرکت داشته باشد ،رشد یا تغییرهای متابولیکی در یک یا دو سلول رخ خواهد داد به گونه ای که کارایی سلول  A در تحریک B افزایش می یابد. مسیرهای عصبی هر بار که مورد استفاده قرار گیرند تقویت می شوند.هب فرض کرد یک پروسه ی یادگیری اتصال بین دو نرون را فعال سازد چنانچه سیناپسهای بعدی و قبلی نرون در یک زمان فعال شوند .

از نرونهای انسان تا نرون مصنوعی :

با کنار گذاشتن برخی خواص حیاتی نرونها و ارتباطات درونی آنها می توان یک مدل ابتدایی از نرون را به وسیله کامپیوتر شبیه سازی کرد.

یک نرون ساده :

یک نرون مصنوعی سیستمی است با تعداد زیادی ورودی و تنها یک خروجی .نرون دارای دو مد می باشد، مد آموزش و مد عملکرد .در مد آموزش نرون یاد می گیرد که در مقابل الگوهای ورودی خاص برانگیخته شود و یا در اصطلاح آتش کند . در مد عملکرد وقتی یک الگوی ورودی شناسایی شده وارد شود خروجی متناظر با آن ارائه می شود. اگر ورودی جزء ورودیهای از پیش شناسایی شده نباشد قوانین آتش برای برانگیختگی یا عدم آن تصمیم گیری می کند.

Artificial Neurons

 قوانین برانگیختگی:

قوانین آتش یا برانگیختگی یک مفهوم مهم برای شبکه های عصبی و ایجاد انعطاف پذیری در آنها می باشد .قانون به تمام الگوهای ورودی مربوط   می شود نه تنها الگوهای آموزش داده شده. با استفاده از تکنیک فاصله همینگ به یک قانون ساده برانگیختگی اشاره می کنیم . به ترتیب زیر:

مجموعه ای از الگوهای آموزشی آماده می شود .آنهایی که باعث آتش می شوند 1 و انهایی که مانع شوند0 را دریافت می کنند. الگوهایی که در مجموعه جمع آوری شده نمی باشند باعث برانگیختگی می شوند اگر در مقایسه با الگوهای قبلی 0 و 1 عناصر مشترک بیشتری داشته باشند . اگر گره ای به وجود بیاید الگو در وضعیتی تعریف نشده باقی می ماند . به عنوان مثال یک نرون با 3 ورودی را در نظر بگیرید که در حالتی که ورودیهای X3,X2,X1 در حالت 101 یا 111 هستند خروجی 1 و در حالتی که 000 یا 001 باشند 0 را نمایش می دهد .قبل از اعمال قوانین برانگیختگی جدول صحت به صورت زیر است .

X1:

0

0

0

0

1

1

1

1

X2:

0

0

1

1

0

0

1

1

X3:

0

1

0

1

0

1

0

1

OUT:

0

0

0/1

0/1

0/1

1

0/1

1

 جدول  : جدول صحت قبل از اعمال قوانین برانگیختگی

 

به عنوان مثال در حالتی که قانون به کار گرفته شود ورودی 010 را اعمال می کنیم که با 000 در 1 عنصر با 001 در 2 عنصر با 101 در 3 عنصر و با 111 در 2 عنصر اختلاف دارد در نتیجه نزدیکترین الگو 000 می باشد که متعلق به خروجی 0 است.در حالیکه 011 دارای اختلاف فاصله مساوی از دو الگوی از قبل شناخته شده می باشد که هریک دارای خروجی متفاوت است در نتیجه خروجی به صورت تعریف نشده (0/1) باقی می ماند . با اعمال قانون به ستونها جدول صحت زیر به دست می آید.

X1:

0

0

0

0

1

1

1

1

X2:

0

0

1

1

0

0

1

1

X3:

0

1

0

1

0

1

0

1

OUT:

0

0

0

0/1

0/1

1

1

1

جدول  : جدول صحت بعد از اعمال قوانین برانگیختگی

تفاوت بین دو جدول را عمومی سازی(عمومیت بخشی یا تعمیم دهی) گویند . در نتیجه قانون برانگیختگی به نرون مفهوم شبیه سازی را رسانده وآنرا قادر به پاسخ دهی محسوس به الگوهایی که در طول آموزش با آنها برخورد نداشته می کند.

  تقسیم بندی شبکه های عصبی:

بر مبنای روش آموزش به چهار دسته تقسیم می شوند: 

1.      وزن ثابت: آموزشی در کار نیست و مقادیر وزنها به هنگام نمی شود.

کاربرد:

  • بهینه سازی اطلاعات (کاهش حجم ، تفکیک پذیری و فشرده سازی)
  • حافظه های تناظری

2.      آموزش بدون سرپرست: وزنها فقط بر اساس ورودیها اصلاح می شوند وخروجی مطلوب (معلم) وجود ندارد تا با مقایسه خروجی شبکه با آن و تعیین مقدار خطا وزنها اصلاح شود . وزنها فقط براساس اطلاعات الگوهای ورودی به هنگام می شوند.هدف استخراج مشخصه های الگوهای ورودی بر اساس استراتژی خوشه یابی و یا کلاسبندی و تشخیص شباهتها (تشکیل گروههایی با الگوی مشابه) می باشد ، بدون اینکه خروجی یا کلاسهای متناظر با الگوهای ورودی از قبل مشخص باشد.این یادگیری معمولا بر پایه شیوه ی برترین هم خوانی انجام می گیرد. شبکه بدون سرپرست وزنهای خود را بر پایه خروجی حاصل شده از ورودی تغییر می دهد تا در برخورد بعدی پاسخ مناسبی را برای این ورودی داشته باشد.در نتیجه شبکه یاد می گیرد چگونه به ورودی پاسخ بدهد. اصولا هدف این است که با تکنیک نرون غالب  ، نرونی که بیشترین تحریک آغازین را دارد برگزیده شود . بنابراین در شبکه های بدون سرپرست یافتن نرون غالب یکی از مهمترین کارها است .

3.   آموزش با سرپرست: به ازای هر دسته از الگوهای ورودی خروجیهای متناظر نیز به شبکه نشان داده می شود و تغییر وزنها تا موقعی صورت می گیرد که اختلاف خروجی   شبکه از این الگوهای آموزشی نسبت خروجی های مطلوب ( معلم) در حد خطای قابل قبولی باشد در این روشها یا از خروجی ها به وزنها ارتباط پسخور وجود دارد و یا خطا بصورت پس انتشار از لایه  خروجی به ورودی توزیع شده است و وزنها  اصلاح می شوند . هدف طرح شبکه ای است که ابتدا با استفاده از داده های آموزشی موجود،آموزش ببیند و سپس با ارائه بردار ورودی به شبکه که ممکن است شبکه آن را قبلا فرا گرفته یا نگرفته باشد کلاس آن را تشخیص دهد چنین شبکه ای به طور گسترده برای برای کارهای تشخیص الگو به کار گرفته می شود .

4.   آموزش تقویتی: کیفیت عملکرد سیستم بصورت گام به گام  نسبت به زمان بهبود می یابد الگوهای آموزشی مشخصی وجود ندارد اما با استفاده از سیگنالی به نام نقاد بیانی از خوب و یا بد بودن رفتار سیستم بدست می آید .حالتی بین یادگیری با سرپرست و بدون سرپرست .

ساختار شبکه های عصبی:

یک شبکه عصبی شامل اجزاء سازنده لایه ها و وزنها می باشد . رفتار شبکه نیز وابسته به ارتباط بین اعضاء است .در حالت کلی در شبکه های عصبی 3 نوع لایه نرونی وجود دارد :

1.      لایه ورودی input units: دریافت اطلاعات خامی که به شبکه تغذیه شده است.

2.   لایه های پنهان hidden units: عملکرد لایه های پنهان به وسیله ورودیها و وزن ارتباط بین آنها و لایه های پنهان تعیین می شود. وزنهای بین واحدهای ورودی و پنهان تعیین می کند چه وقت یک واحد پنهان باید فعال شود

3.      لایه خروجی output units: عملکرد واحد خروجی بسته به فعالیت واحد پنهان و وزن ارتباط بین واحد پنهان و خروجی میباشد.

 

مرسومترین نوع شبکه عصبی multilayer percentaion (MLP) یا درک چند لایه ای می باشد. این نوع از شبکه عصبی بعنوان شبکه ناظر (supervised network) نیز شناخته می شود. به این علت که باید ابتدا هدف و خروجی سیستم مشخص شود. هدف از این نوع شبکه ایجاد یک مدلی است که با گرفتن ورودی، خروجی را بطور صحیحی نمایش دهد با استفاده از اطلاعات پیش فرض. در نتیجه این مدل مناسبی است مخصوصا هنگامی که نتوان به طور عملی خروجی از سیستم گرفت می توان با دادن ورودی و یک سری اطلاعات پیش فرض بطور تئوری خروجی را مشخص کرد.

در سازماندهی تک لایه که در آن تمام واحدها به یک لایه اتصال دارند بیشترین مورداستفاده را دارد و پتانسیل محاسباتی بیشتری نسبت به سازماندهیهای چند لایه دارد. در شبکه های چند لایه واحدها به وسیله لایه ها شماره گذاری می شوند (به جای دنبال کردن شماره گذاری سراسری).

هر دو لایه از یک شبکه به وسیله وزنها و در واقع اتصالات با هم ارتباط می یابند. در شبکه های عصبی چند نوع اتصال و یا پیوند وزنی وجود دارد:

  • پیشرو: بیشترین پیوندها از این نوع است که در آن سیگنالها تنها در یک جهت حرکت می کنند . از ورودی به خروجی هیچ بازخوردی (حلقه) وجود ندارد. خروجی هر لایه بر همان لایه تاثیری ندارد.
  • پسخور: داده ها از گره های لایه بالا به گره های لایه پایین بازخورانده می شوند .
  • جانبی: خروجی گره های هر لایه به عنوان ورودی گره های همان لایه استفاده می شوند .

 

 

/ 5 نظر / 194 بازدید
امير

باسلام ببخشيد در دانشگاه شما شبكه عصبي را چه اساتيدي تدريس مي كنند من چندتا سوال داشتم مي خواستم از ايشان با ايميل بپرسم .

ز.س

سلام با اجازه من قسمتی از متن شما را در تحقیقم استفاده کردم با تشکر

جلیل حیدری

با سلام همه صحبت های شما در بیشتر کتابهای شبکه های عصبی امده است مثل اقای کیا . لطفا مطالب جدید بنویسید. من برای شما دانشجوی فرهیخته یک بیشنهاد دارم انکه به سایتهای مختلف رجوع کرده و سعی بر ان دارید که مقالات انگلیسی در این مورد ترجمه و در سایت خود بگذارید . با تشکر حکیم نظامی قوچان.

nastaran

salam man mozooe porozham tashkhise dast neveshteye arghame farsie shoma mitoonin komakam konin?