آشنایی جامع با اصلی ترین روش های یادگیری عمیق

4.9/5 - (29 امتیاز)

دیپ‌ لرنینگ یا یادگیری عمیق مجموعه ای از تکنیک های یادگیری ماشین است که از لایه های متعددی از پردازش لایه های خطی در جهت استخراج و تبدیل ویژگی هایی تحت نظارت و بدون نظارت استفاده می کند تا بتواند الگو ها و طبقه بندی ها را آنالیز نماید.

که این شامل لایه های سلسله مراتبی جهت پردازش اطلاعات به شیوه غیر خطی می باشد که در آن مفاهیم سطح بالا از برخی مفاهیم سطح پایین کمک می گیرند.

دیپ لرنینگ به دنبال هوش مصنوعی توسعه یافت .

یادگیری عمیق به یاری هوش مصنوعی آمده است تا بتواند به نیاز های بشر بیش از پیش پاسخ دهد.

جهت کسب مهارت در هوش مصنوعی و دیپ لرنینگ لازم است پیش از هر کاری اقدام به کسب مهارت و آموزش پایتون نمایید.

شبکه عصبی سطحی توانایی کنترل مقدار زیادی از داده های پیچیده را ندارد و این عدم توانایی در کاربرد هایی مانند گفتار طبیعی ، تصاویر و بازیابی اطلاعات و کاربرد های پردازش اطلاعات دیگر مشهود می باشد.

در این شرایط یادگیری عمیق بسیار کاربردی می باشد.

یادگیری عمیق تشخیص، طبقه بندی الگو در داده ها را برای یک ماشین با تلاش های اندک، تسهیل می نماید.

در یادگیری عمیق پردازش چند لایه ای شبیه انسان در مقایسه با معماری کم عمق ارائه می شود.

هدف اصلی یادگیری عمیق استفاده از پردازش سلسله مراتبی با کمک لایه های زیادی از معماری می باشد.

لایه های معماری نیز معمولا به صورت سلسله مراتبی مرتب می شوند.

پس از گذراندن مقدمه آموزش، ورودی یک لایه به لایه مجاور آن می رود.

یادگیری عمیق برای مدیریت داده های بزرگ از رویکرد توزیعی پیروی می کند.

در این روش فرض شده است که تولید داده ها با در نظر گرفتن عوامل، زمان و سطوح مختلف می باشد.

یادگیری عمیق نیز با توجه به زمان وقوع، مقیاس و یا طبیعت، ترتیب و پردازش داده ها در لایه های متعدد را تسهیل می نماید.

یادگیری عمیق معمولا مرتبط با شبکه عصبی مصنوعی می باشد.

در این قسمت سه نوع یادگیری عمیق مورد بررسی قرار می گیرد:

Generative
Discriminative
Hybrid Deep Learning Architectures

معماران بر پیش آموزش یک لایه به روش بدون نظارت متمرکز می باشند.

این رویکرد موجب رفع مشکل آموزش معماری های سطح پایین تر که تکیه بر لایه های پیشین دارند می شود.

هر لایه می تواند از پیش آموزش دیده باشد و سپس جهت تنظیم عمومی و یادگیری بیشتر در مدل قرار گیرد.

با انجام این کار مشکل آموزش معماری در شبکه عصبی با لایه های‌ چندگانه رفع می شود و به این صورت یادگیری عمیق ممکن می شود.

معماری شبکه عصبی توان پردازش متمایز کننده را از طریق انباشته نمودن خروجی هر لایه با داده های اصلی و یا با استفاده از ترکیب اطلاعات مختلف و در نهایت شکل دهی یادگیری عمیق را دارد.

مدل توصیفی، خروجی های شبکه عصبی را به عنوان یک توزیع شرطی‌ بر روی تمامی توالی های برچسب ممکن برای توالی ورودی داده شده در نظر گرفته است که بیشتر مواقع از طریق تابع هدف، بهینه سازی می شود.

معماری ترکیبی، ترکیب ویژگی های معماری مولد و متمایز کننده می باشد.

به صورت معمول یادگیری عمیق به شکل زیر انجام می گیرد:

شبکه ای شامل یک لایه ورودی و یک لایه پنهان با گره های ضروری ساخته و لایه های مخفی دیگر را به بالای شبکه اضافه کنید تا شبکه جدیدی تولید شود

سپس شبکه را بازیابی نمایید

اضافه نمودن لایه ها را مجدد تکرار کنید و پس از هر بار اضافه کردن شبکه را به صورت مجدد آموزش دهید.

و به این صورت پس از هر بار اضافه نمودن لایه ها، شبکه ها مجدد ارزیابی نمایید.

آشنایی با مدل های مختلف یادگیری عمیق

آشنایی با Autoencoders

اتوکد یک شبکه عصبی مصنوعی می باشد که توان یادگیری الگو های مختلف کد گذاری را دارد.

شکل ساده رمز گذار درست مثل پرسپترون مانند چند لایه ای بوده که شامل یک لایه ورودی یا یک لایه پنهان یا یک لایه خروجی می باشد.

تفاوت مهم میان چند لایه معمولی و کد گذار خودکار در تعداد نود های لایه خروجی می باشد.

در حالت رمزگذار لایه خروجی شامل همان مقدار در گره لایه ورودی می باشد.

به جای پیش بینی مقدار هدف بر اساس بردار خروجی لازم است رمز گذار خودکار ورودی های خود را پیش بینی نماید.

طرح کلی مکانیزم یادگیری به شرح زیر می باشد:

محاسبه توابع فعالسازی ارائه شده در تمامی لایه های پنهان و خروجی
یافتن انحرافات میان مقادیر محاسبه شده با ورودی ها با کمک تابع خطای مناسب
انتشار خطا ها جهت بروزرسانی وزن ها
تکرار مجدد خروجی ها تا رسیدن به نتیجه مناسب و رضایت بخش

در صورتی که گره ها در لایه های پنهان از تعداد گره لایه ورودی و خروجی کمتر باشد، به این صورت فعالیت آخرین لایه پنهان به شکل نمایش فشرده ورودی ها در نظر گرفته خواهد شد.

در صورت بیشتر بودن گره لایه پنهان نسبت به لایه ورودی، رمزگذار می تواند به شکل بالقوه عملکرد شناسایی را فراگیری کرده و به این صورت در اغلب موارد بی فایده خواهد بود.

آشنایی‌ با Deep Belief Net

شبکه باور عمیق راه برای حل مشکل کنترل نمودن توابع هدف غیر محدب و حداقل های محلی در حین استفاده از پرسپترون چند لایه معمولی می باشد.

این نوع جایگزین یادگیری عمیق است که شامل لایه های چندگانه متغیرهای پنهان با اتصال میان لایه ها می باشد.

همچنین می توان شبکه باور عمیق را به عنوان ماشین بولتزمن محدود شده دانست که در آن هر لایه پنهان زیر شبکه به صورت لایه ورودی قابل مشاهده برای لایه مجاور می باشد.

و به این صورت هر لایه شبکه به شکل مستقیم و حریصانه آموزش داده می شود.

متغیر های پنهان به عنوان متغیر های مشاهده شده جهت آموزش هر لایه از ساختار عمیق قابل استفاده می باشند.

الگوریتم آموزشی برای این شبکه باور عمیق به این صورت است:

بردار ورودی را در نظر بگیرید که به یک ماشین بولتزمن محدود شده را با کمک بردار ورودی آموزش داده و ماتریس را به دست بیاورید.

دو لایه پایینی شبکه را با استفاده از این ماتریس وزنه بردار ورودی جدید با استفاده از شبکه RBM و با کمک نمونه برداری یا فعال سازی متوسط، اقدام به تولید واحد های مخفی نمایید.

این پروسه را مجدد تکرار نمایید تا به لایه های بالایی شبکه برسید.

نحوه تنظیم دقیق شبکه باور عمیق به شبکه پرسپترون چند لایه شباهت زیادی دارد.

شبکه عصبی کانولوشنال در یادگیری عمیق

نوع دیگری از شبکه پرسپترون چند لایه، شبکه عصبی کانولوشنی می باشد.

در این نوع از شبکه عصبی، نورون های فردی به صورتی مرتب شده که به تمامی نواحی همپوشانی شده در ناحیه بینایی پاسخ دهد.

سی ان ان عمیق‌ با مدل سازی پشت یکدیگر قطعات کوچک اطلاعات و ترکیب آن به صورت عمیق تری در شبکه کار می کنند.

لایه های نهایی، تصاویر ورودی را با تمامی قالب ها و پیش بینی نهایی مثل مجموع وزنی همه آن ها می باشد.

به همین ترتیب CNN های عمیق امکان تغییر پیچیده و رفتار را مدل سازی نموده و به این صورت پیش بینی عمیقی را ارائه کنند.

در این شبکه، مکانیسم بصری موجود زنده دنبال می شود.

سلول های بینایی به نواحی کوچک میدان بینایی ( میدان دریافتی) حساسیت دارند.

چیدمان نواحی فرعی به شیوه ای است که تمامی ناحیه بصری را پوشش داده و سلول ها نیز به صورت فیلتر های محلی بر روی فضای ورودی عمل می نمایند.

برای آموزش پارامتر های هر هسته کانولوشن از الگوریتم ها استفاده می شود.

به علاوه آن که هر هسته با پارامتر های مشابهی در کل تصویر تکرار می گردد.

عملگر های کانولوشن وجود دارد که اقدام به استخراج ویژگی های منحصر به فرد ورودی می نمایند.

یک شبکه علاوه بر لایه های کانولوشنال، از لایه های واحد خطی تصحیح شده، لایه ادغام شده برای محاسبه متوسط یا حداکثر یک ویژگی در ناحیه ای از تصویر و لایه از دست دادن توابع زبانی خاص کاربردی می باشد.

کاربرد های اصلی این شبکه نیز‌ تشخیص‌ تصویر، آنالیز تصویری و پردازش طبیعی می باشد.

در سال های اخیر حوزه دید کامپیوتری شاهد پیشرفت گسترده ای بوده است.

از مهم ترین پیشرفت های این حیطه CNNs می باشد.

در حال حاضر بخش عمیقی از CNN ها، هسته پیچیده ترین کاربرد های بینایی کامپیوتری فانتزی مثل ماشین های خودگردان، تشخیص ژست، برچسب خودکار دوستان در تصاویر فیس بوک ، ویژگی های امنیتی چهره و تشخیص‌ خودکار پلاک می باشد.

آشنایی با Recurrent Neural Networks

مدل های کانولوشنی بر روی تعداد ثابتی کار کرده و اقدام به تولید بردار ثابت به عنوان خروجی و با تعداد مراحل از پیش تعریف شده نموده است.

همچنین ما در شبکه های بازگشتی امکان انجام اعمالی بر روی توالی های بردار ها در ورودی و خروجی را خواهیم داشت.

بر روی شبکه عصبی بازگشتی، اتصال میان واحد ها یک چرخه مستقیم را شکل می دهد.

ورودی و خروجی شبکه عصبی بازگشتی، بر خلاف شبکه عصبی سنتی، مستقل نبوده و با یکدیگر مرتبط می باشند.

همچنین شبکه عصبی بازگشتی در هر لایه پارامتر های استانداردی را به اشتراک می گذارند.

فرد قادر به آموزش شبکه بازگشتی به روشی می باشد که مشابه شبکه عصبی سنتی با کمک روش پس انتشار باشد.

همچنین نوع دیگر شبکه عصبی به نام شبکه بازگشتی دوسویه کاربرد های فراوانی دارد.

شبکه عصبی دوسویه علاوه بر خروجی قبلی، خروجی جدید را نیز بررسی می کند.

در شبکه عصبی بازگشتی دو سویه می توان یادگیری عمیق‌ را با معرفی لایه های پنهان چندگانه به دست آورد.

در این شبکه عمیق ظرفیت یادگیری‌ با تعداد زیادی داده، بالا تر می رود.

شبکه عصبی بازگشتی در حوزه های انتخابی مانند گفتار، پردازش تصویر و پردازش زبان طبیعی قابل استفاده می باشد.

آشنایی با یادگیری تقویتی در شبکه عصبی

یادگیری تقویتی، ترکیب برنامه نویسی پویا و یادگیری نظارت شده می باشد.

مولفه های این رویکرد از محیط، عامل، سیاست و توابع هزینه است.

در واقع عامل به عنوان کنترل کننده سیستم، سیاست تعیین کننده اقداماتی است که باید صورت گیرد و پاداش مشخص کننده هدف کلی مسأله یادگیری تقویتی می باشد.

نماینده ای که حداکثر پاداش را دریافت می نماید ، بهترین عمل برای یک دولت مشخص می باشد.

منظور از یک نماینده در اینجا یک نهاد انتزاعی، شیء یا یک موضوعی مانند اتومبیل خود مختار، ربات ها و انسان ها و حمایت مشتری و … اشاره دارد که اقداماتی انجام می دهد.

به موقعیت و حالت بودن آن شیء در محیط نیز عامل گفته می شود.

یادگیری تقویتی عمیق‌ وعده روش یادگیری کلی را دارد که قادر به یادگیری رفتار مفید با بازخورد کم را دارد.

یادگیری عمیق چه مزایایی دارد؟

یادگیری خودکار ویژگی ها در یادگیری عمیق
یادگیری چند لایه ویژگی ها در یادگیری عمیق
دقت بالا در نتایج در یادگیری عمیق
قدرت تعمیم بالا و شناسایی داده های جدید در یادگیری عمیق
پشتیبانی گسترده سخت افزاری و نرم افزاری یادگیری عمیق
پتانسیل ایجاد قابلیت ها و کاربرد های بیشتر در آینده یادگیری عمیق

کلام آخر

در این مقاله با یادگیری عمیق و مزایای آن و روش های یادگیری آن در حوزه Deep learning آشنا شدیم.

یادگیری عمیق موجب افزایش کارایی هوش مصنوعی می شود.

در صورتی که تمایل به کسب مهارت در حوزه دیپ لرنینگ دارید لازم است پیش از آن اقدام به آموزش پایتون، ماشین لرنینگ و هوش مصنوعی در وب سایت جامع و آموزشی مگاپایتون نمایید.

آموزش پایتون | صفر تا صد

چرا باید برنامه نویس شویم؟!

دانستنی های کاربردی جهت آشنایی با زبان برنامه نویسی پایتون

زبان برنامه نویسی پایتون چه کاربرد و ویژگی هایی دارد؟

چگونه به یک برنامه نویس ماهر تبدیل شویم؟

با یادگیری چه زبانی می توانید به یک برنامه نویس ماهر تحت وب تبدیل شوید؟

آشنایی با معنای اوپن سورس و مزایای آن در برنامه نویسی

زبان برنامه نویسی پایتون در دنیای امروز چه کاربردی دارد؟

یادگیری برنامه نویسی پایتون برای مبتدیان

آموزش چگونگی شروع یادگیری زبان برنامه نویسی پایتون

شروع یادگیری زبان برنامه نویسی پایتون : آشنایی با توابع پایتون

شروع یادگیری زبان برنامه نویسی ‌پایتون : عملگر های شرطی