آموزش پایتون: مدل شبکه عصبی - نظارت شده

۰۳ مهر ۹۶ ، ۲۱:۰۹ نويسنده: بهزاد سرهادی

شکل 1: یک لایه پنهان MLP.

مدل Perceptron چند لایه

یک الگوریتم یادگیری تحت نظارت است که یک تابع $f(\cdot): R^m \rightarrow R^o$ را با تمرین در یک مجموعه دادهیاد میگیرد، آنجا که $m$ تعداد ابعاد ورودی است و o تعداد از ابعاد خروجی با توجه به مجموعه ای از ویژگی های $X = {x_1, x_2, ..., x_m}$ و یک هدف y، می توان یک تقریبنده تابع غیر خطی را برای هر دو طبقه بندی یا رگرسیون یاد گرفت. این تفاوت از رگرسیون لجستیک است، در حالی که بین ورودی و لایه خروجی، می تواند یک یا چند لایه غیر خطی وجود داشته باشد که لایه های مخفی هستند. شکل 1 یک MLP مخفی با خروجی اسکالر را نشان می دهد.

لایه سمت چپ، که به عنوان لایه ورودی شناخته می شود، شامل یک مجموعه نورون $\{x_i | x_1, x_2, ..., x_m\}$ نشان دهنده ویژگی های ورودی است. هر نورون در لایه پنهان، مقادیری از لایه قبلی را با یک جمع بندی خطی وزن $w_1x_1 + w_2x_2 + ... + w_mx_m$ ، و سپس یک تابع فعال غیر خطی $g(\cdot):R \rightarrow R$ تبدیل می کند: مانند هذلولی کارکرد قهوهای مایل به زرد لایه خروجی مقادیر از آخرین لایه پنهان را دریافت می کند و آنها را به مقادیر خروجی تبدیل می کند.

ماژول شامل ویژگی های عمومی coefs_ و intercepts_ می باشد. coefs_ یک لیست از ماتریس های وزن است، که در آن وزن ماتریس در شاخص i نشان دهنده وزن بین لایه i و لایه i + 1 است. intercepts_ یک لیست از بردارهای تعصب است، که در آن بردار در index i نشان دهنده مقادیر تعادلی اضافه شده به لایه i + 1 است.

مزایای Multi-layer Perceptron عبارتند از:

توانایی یادگیری مدل های غیر خطی
قابلیت یادگیری مدل ها در زمان واقعی (آموزش آنلاین) با استفاده از part_fit.

معایب MLP چند لایه (Perceptron) عبارتند از:

MLP با لایه های پنهان تابع، تلفات غیر محدب را دارد که در آن حداقل بیش از یک کمینه محلی وجود دارد. بنابراین مقیاس های تصادفی مختلف تصادفی می تواند به دقت اعتبار سنجی متفاوت منجر شود.
MLP نیاز به تعدیل چندین پارامتر مانند تعداد نورون های پنهان، لایه ها و تکرارها دارد.
MLP به مقیاس ویژگی حساس است.

تهیه از: بهزاد سرهادی

کلیه سرفصل های برنامه نویسی: اینجا کلیک کنید.