دوره آموزش یاد گیری عمیق
TAHLILDADEH ACADEMY
آنچه که در Deep learning میآموزیم
روش یادگیری عمیق تابعی از هوش مصنوعی است که فعالیت مغز انسان را در پردازش داده
ها و ایجاد الگویی برای تصمیم گیری کاهش می دهد. یادگیری عمیق همینطور زیرمجموعه
ای از یادگیری ماشین در هوش مصنوعی است که شبکه های آن قادر به فراگیری داده های
غیرساختاری و بدون برچسب هستند؛ و بعنوان شبکه عصبی عمیق یا آموزش عصبی عمیق نیز
شناخته می شود.
از جمله مشخصات کلیدی آن می توان به موارد زیر اشاره کرد :
- یادگیری عمیق تابعی از هوش مصنوعی است که فعالیت مغز انسان را در پردازش داده ها برای مواردی چون دستیابی به objects، تشخیص گفتار، ترجمه زبان و تصمیم گیری، کاهش می دهد.
- هوش مصنوعی در یادگیری عمیق بدون دخالت انسان نیز قادر به فراگیری است و می تواند از داده هایی که ساختاربندی و برچسب گذاری نشده اند اطلاعات استخراج کند.
- روش یادگیری عمیق که حالتی از یادگیری ماشین است می تواند برای کمک به کشف کلاهبرداری و پول شویی در میان دیگر توابع مورد استفاده قرار گیرد.
عملکرد یادگیری عمیق
روش یادگیری عمیق ارتباط تنگاتنگی با حوزه دیجیتال دارد، و داده های بسیاری را از نواحی مختلف دنیا در فرم ها ارائه می دهد. این داده ها که تحت عنوان داده های عظیم شناخته می شوند از منابعی همچون شبکه های اجتماعی، موتورهای جستجو در اینترنت، پلتفرم های تجارت الکترونیک، سینماهای آنلاین و دیگر موارد بدست می آیند. این حجم عظیم از داده ها براحتی در دسترس هستند و می توانند در برنامه های Fintech از جمله محاسبه ابری مورد استفاده قرار بگیرند.
مقایسه یادگیری عمیق و یادگیری ماشین
یادگیری ماشین یکی از معروف ترین تکنیک های هوش مصنوعی است که برای پردازش داده های عظیم مورد استفاده قرار می گیرد. تکنیک یادگیری ماشین دارای یک الگوریتم خود انطباقی است که ارزیابی بهتر و الگوهای باکیفیت تری را بر اساس تجربه یا داده های جدید اضافه شده، فراهم می کند.
برای مثال، اگر یک شرکت پرداخت دیجیتالی بدنبال بررسی حساب ها برای اطمینان حاصل کردن از عدم وجود کلاهبرداری در سیستم حسابرسی باشد، می تواند ابزارهای یادگیری ماشین را بکار گیرد. الگوریتم محاسباتی ساخته شده در مدل کامپیوتری، تمامی تراکنش های انجام شده در پلتفرم دیجیتال را پردازش، و الگوهای لازم در مجموعه داده ها را پیدا می کند و هر گونه ناهنجاری که توسط الگو یافت شود را نشان می دهد.
روش یادگیری عمیق زیر مجموعه ای از یادگیری ماشین است که سلسله مراتبی از شبکه های عصبی مصنوعی را برای انجام پردازش یادگیری ماشین بکار می گیرد. شبکه های عصبی مصنوعی ، شبیه مغز انسان ساخته می شوند و دارای گره های عصبی بهم مرتبط هستند که شبیه وب بهم وصل شده اند. در حالیکه برنامه های قدیمی، تحلیل داده ها را بصورت خطی انجام می دهند، تابع سلسله مراتبی موجود در سیستم های یادگیری عمیق ، قادر به ارزیابی داده ها با رویکرد غیرخطی است.
ملاحظات موجود در زمینه یادگیری عمیق
در حالی که رویکرد قدیمی مورد استفاده برای کشف کلاهبرداری یا پولشویی، بر اساس مقدار تراکنش انجام می گیرد؛ روش غیرخطی یاد گیری عمیق مواردی همچون زمان، موقعیت جغرافیایی، آدرس IP، نوع خرده فروشی و هر گونه ویژگی دیگری که شبیه فعالیت کلاهبرداری باشد را شامل می شود.
شبکه عصبی ، ردیفی از داده های ورودی همچون مقدار تراکنش ها را مورد پردازش قرار می دهد و آن را به لایه بعدی می فرستد. دومین لایه از شبکه عصبی ، اطلاعات لایه پیشین را با در نظر گرفتن ملاحضات دیگری همچون آدرس IP کاربر، تحت پردازش قرار می دهد و نتیجه را به لایه بعدی می فرستد.
لایه بعدی، اطلاعات دومین لایه را دریافت و موارد دیگری همچون موقعیت جغرافیایی کاربر را بر روی اطلاعات اعمال کرده و الگو بهتری را ایجاد می کند. این پردازش ها در تمامی لایه های شبکه عصبی انجام می شود.
مثال برای یادگیری عمیق
با استفاده از سیستم کشف کلاهبرداری که پیشتر راجع به آن صحبت کردیم می توان مثالی از یاد گیری عمیق را ارائه داد. اگر سیستم یادگیری ماشین مدلی ارائه دهد که بر اساس مقدار دلاری که کاربر دریافت یا ارسال می کند، ایجاد شده باشد؛ روش یاد گیری عمیق می تواند شروع به کار بر روی نتایج ارائه شده توسط یادگیری ماشین کند.
هر لایه از شبکه عصبی بر روی لایه پیشین خود ساخته می شود، و داده هایی همچون خرده فروش، فرستنده، کاربر، رویدادهای شبکه اجتماعی، سقف اعتبار، آدرس IP و دیگر ویژگی ها، یکی یکی به هر لایه اضافه می شوند. الگوریتم های یاد گیری عمیق بگونه ای طراحی می شوند که نه تنها الگوهایی از تمامی تراکنش ها ایجاد کنند، بلکه سیگنال یک الگو برای امکان وجود کلاهبرداری و نیاز به بررسی آن را نیز تشخیص دهند. آخرین لایه سیگنالی را به تحلیلگر ارسال می کند و ممکن است تحلیلگر حساب کاربر را تا پایان بررسی های لازم مسدود کند.
یاد گیری عمیق در تمام صنایع و برای امور مختلف مورد استفاده قرار می گیرد. زمینه های کاربردی زیر از جمله مواردی هستند که روش یاد گیری عمیق را بکار می گیرند:
برنامه های تجاری که از سیستم تشخیص چهره استفاده می کنند، پلتفرم های منبع باز با برنامه های مصرف کننده پیشنهادی و ابزارهای پزشکی پژوهشی که امکان استفاده مجدد از داروها برای بیماری های مزمن را مورد بررسی قرار می دهند.
سرفصل های دوره Deep learning
فهرست مطالب تئوری در دوره آموزش یاد گیری عمیق
-
روش یادگیری عمیق چیست
هفته اول: مقدمه ای بر یاد گیری عمیق
- مسیر یادگیری
- شبکهی عصبی مصنوعی
- چرا به شبکهی عصبی مصنوعی نیاز داریم؟
- نورون
- توابع فعالساز
- شبکهی عصبی چگونه کار میکند؟
- شبکهی عصبی چگونه یادگیری انجام میدهد؟
- بهینهسازی
-
یادگیری عمیق و شبکه عصبی
هفته دوم: دستهبند خطی
- پرسپترون
- گرادیان کاهشی
- گرادیان کاهشی تصادفی
- تابع هزینه (تابع زیان)
- مجموع مربعات خطا
- انتروپی
- انتروپی متقابل
- همگراییKL
- تابع زیانHinge
- تنظیم سازی شبکه
- L1 , L2 & Elastic net (L1 + L2)
هفته سوم: پرسپترون چندلایه
- معماری شبکهی عصبی
- توابع فعالساز
- سیگموید
- تانژانت هایپربولیک
- واحد تصحیح کنندهی خطی (Relu)
- Leaky Relu
- Maxout
- واحد تصحیحکنندهی نمایی (ELU)
- Swish
- الگوریتم انتشار به عقب
- Boxing
- Sensitivity
- Weight updates
- حذف تصادفی DropOut
هفته چهارم: پیش پردازش داده
- پیش پردازش داده
- وزندهی اولیه
- نرمالسازی دستهای
- نرمالسازی از طریق دستههای کوچک
-
شبکهی عصبی کانولوشنال
هفته پنجم: شبکهی کانولوشنی عمیق (CNN)
- چرا به شبکهی کانولوشنی عمیق نیاز داریم
- شبکهی کانولوشنی عمیق چطور کار میکند
- اتصال خلوت
- اشتراکگذاری پارامتر
- Equivariant representations
- عملگر کانولوشن
- لایهیReLU
- لایهی Pooling
- لایهی Flattening
- لایهی کاملا متصل
- تابع زیان
- سافتمکس و انتروپی متقابل
- کمترین مربعات خطا برای دستهبندی
- بهینهسازی پارامترهای دستی
- جستجوی همهی حالتها
- جستجوی تصادفی و گرید
- جستجوی همهی حالتها
- بهینهسازی پارامتر دستی با رویگرد بیزین
- تابع زیان
- نحوهی بهروزرسانی پارمترها
- انتقال یادگیری
هفته ششم: مقدمهای بر معماریهای رایج شبکهی کانولوشنی
- AlexNet
- ZFNet
- VGGNet
- GoogleNet, (Inception)
- Residual Networks(ResNet)
- Squeeze-and-Excitation Networks
-
شبکه عصبی برگشتی
هفته هفتم: شبکهی عصبی بازگشتی
- ایدهی به وجود امدن شبکهی عصبی بازگشتی
- مشکل محو شدن گرادیان
- شبکهی عصبی بازگشتی (RNN)
- حافظهی کوتاه مدت وابستگی طولانی (LSTM)
- واحد بازگشتی گیتشده (GRU)
-
عناوین پیشرفته
هفتهی هشتم: مکانیزم توجه
- مکانیزم توجه باهاندا
- مکانیزم توجه لوانگ
هفته نهم: شبکه عصبی خودرمزگذار(Autoencoder)
- نویز زدایی با خودرمزگذار
- خودرمزگذاراسپارس
- خودرمزگذار عمیق
- خودرمزگذارContractive
- خودرمزگذارVariational
هفته دهم: شبکهی مولد رقابتی (GAN)
- مقدمهای بر شبکههای مولد رقابتی
- مدل تفکیککننده
- مدل مولد
- نحوهی کار شبکهی مولد رقابتی
- انواع شبکهی مولد رقابتی
- Deep Convolutional GANs (DCGANs)
- Conditional GANs (cGANs)
- Wasserstein GANs(WGAN)
- کاربردهای شبکهی مولد رقابتی
- پیادهسازی یک شبکهی مولد رقابتی
- نمونهای از کاربرد شبکهی مولد رقابتی
- Text to Image Generation
- Image to Image Translation
- Increasing Image Resolution
- Predicting Next Video Frame
هفته یازدهم: یادگیری تقویتی عمیق (DRL)
- مفاهیم اولیهی یادگیری تقویتی
- روشهای مبتنی بر ارزش Value-Based
- روشهای مبتنی بر سیاست Policy-Based
- یادگیری عمیق چند عاملی
فهرست مطالب کراس/ تنسورفلو / پایتورچ
-
مقدمات یاد گیری عمیق
- مقدمات
- رگرسیون خطی
- رگرسیون منطقی
- شبکهی عصبی پیشخور
-
یادگیری عمیق در سطح متوسط
- شبکهی کانولوشنی
- شبکهی باقیماندهی عمیق Deep Residual Network
- شبکهی بازگشتی عمیق Recurrent Neural Network
- شبکهی بازگشتی عمیق دوسویه Bidirectional Recurrent Neural Network
- مدلسازی زبانی Language Model (RNN-LM)
-
یادگیری عمیق در سطح پیشرفته
- شبکهی مولد رقابتی Generative Adversarial Networks
- شبکهی خودرمزگذار Variational Auto-Encoder
- انتقال سبک عصبی Neural Style Transfer
- حاشیه نویسی تصاویر Image Captioning (CNN-RNN)
-
سودمند
- مصورسازی مراحل یادگیری شبکه TensorBoard in PyTorch
فهرست مطالب عملی
-
مقدمهای بر کاربردهای یادگیری عمیق
هفته اول: مقدمهای بر کاربردهای یادگیری عمیق
- ماشینهای خودران
- تشخیص اخبار جعلی
- پردازش زبان طبیعی
- دستیار مجازی
- سرگرمی
- شناسایی بصری
- تشخیص کلاه برداری
- بهداشت و سلامت
- ترجمه ماشینی
- تولید ارقام و حروف دستنویس
- Photo Descriptions
- Demographic and Election Predictions
- Deep Dreaming
-
بینایی ماشین
هفته دوم: دستهبندی تصاویر
- شبکهی کانولوشنی عمیق
- از پیش اموزش دیده (Pre-trrain)
- انتقال یادگیری (Transfer Learning)
هفته سوم: شناسایی چهره
- یادگیری در یک مرحله (One Shot learning)
- شبکهی عصبی سیامی
- تابع زیان سهگانه
هفته چهارم: دستهبندی و محلیسازی
- شبکهی کانولوشنی عمبق
- از پیش اموزش دیده (Pre-trrain)
- انتقال یادگیری (Transfer Learning)
- دستهبندی و رگرسیون
هفته پنجم: تشحیص اشیاء (Yolo)
- تشخیص اشیاء به صورت بلادرنگ با الگوریتم YOLO
- نخوهی کارکرد الگوریتم YOLO
- تشخیص با شبکهی پیش اموزش دیده (Pre-trrain)
- تشخیص چند شی در تصویر
- یولو نسخهی کوچک Tiny YOLOv3
- ویژگیهای تصمیمگیری( Backbone Features)
-
پردازش زبان طبیعی
هفته ششم: دستهبندی متون
- تحلیل قطبیت (تحلیل قطبیت)
- تعبیهسازی واژگان
- جاسازی کلمه در بردار Word to Vec
- مدل Skip Gram & CBOW
- حافظهی کوتاه مدت وابستگی طولانی (LSTM)
هفته هفتم: مدلسازی زبانی
- مدلسازی در پردازش زبان طبیعی چیست؟
- ایجاد یک مدل زبانی
- ایجاد مدل زبانی عصبی
- تولید زبان طبیعی با OpenAI’s GPT-2
هفته هشتم: توصیف(حاشیهنویسی) تصویر
- حاشیهنویسی خودکار تصاویر با استفاده از یادگیری عمیق (CNN and LSTM)
- CNN & LSTM
- کاربرد توصیف تصاویر/ویدئو
- روشهای حل مساله
- پیاده سازی
هفته نهم: ترجمه ماشینی (En to Per)
- ترجمه ماشینی
- درک مسئله
- مقدمهی بر پیشبینی دنباله به دنباله
- پیادهسازی ترجمه ماشینی
-
مهم ترین ابزارها و کتابخانه ها در پایتون به شرح زیر هستند:
- anaconda
- spyder
- ipython
- jupyter notebook
- csv
- database
- pandas
- numpy
- scipy
- scikit-learn
- opencv
- keras
- nltk
- tensorflow
- pytorch
- tensorboard
گواهی پایان دوره
هنرجویان عزیز، مدرک آموزشگاه تحلیل داده، مدرک رسمی از سازمان فنی و حرفهای میباشد. دانشجویان پس از پایان دوره با ارائه پروژه کاربردی خود به آموزشگاه و پس از تایید استاد دوره گواهی پایان دوره خود را دریافت مینمایند.
مشاهده نمونه مدرک
Ali Alemi Matin Pour
AI, Deep Learning, Machine Learning, Data Scientist.
Experience with data mining, deep learning and machine learning, Hopes to focus more on data science in future career.
Military Service: Fulfilled
Skills
Deep Learning & Neural Network:
CNN, ResNet, VGG, SE-Net, GoogleNet and … Capsule Network, VAE, GAN, DCGAN, CycleGAN, Star-GAN RNN, LSTM, GRU, Attention Transfer Learning, Style Transfer
Machine Learning & Data Mining:
Basian Methods, HMM, CRF, Viterbi Ensemble Learning, Baging, Boosting Apriori, Reinforcement Learning Feature Conditioning, Feature Selection, LDA, PCA, Manifold Learning, t-sne
Pattern Recognition & Estimation Theory:
GMM, EM, SVM, SVR, Kernel Methods MLE, MAP, MVUE, BLUE, LSE, Wiener Filter, Kalman Filter, EKF, UKF KDE(Kernel Density Estimation), (MDL) principle
Metaheuristic Algorithms, Optimization & etc:
Genetic, PSO, Ant Colony, and other metaheuristic alorithms Symbolic Artificial Intelligence Approaches Data Structure, Algorithm Design
Natural Language Processing:
Topic Modeling(LDA), NER Word2Vec, Skip-gran, GloVe, ELMO, BERT Sentiment Analysis, BagofWords, TF-IDF, NGram, Tokenization, POS Taging
Computer Vision & Image Processing:
Morphological Analysis, Feature Descriptor CBIR, Image Captioning, Object Recognition Object Detection, U-Net Image Segmentation, YOLO, EfficientDet, SSD, Siamese NN
Languages, Library & Framework:
Python, C#.Net and (Familiar with Matlab, C++ and Sql Server) Tensorflow, Pytorch, Keras, Scikit Learn, Pandas, Numpy, Scipy Matplotlib, Seaborn, Tensorboard and Familiar with PySpark, Weka, Rapid Miner NLTK, Gensim, hazm and TextBlob OpenCV, Scikit-image and Pillow
Projects:
NLP:
Predicting Iran Khodro's shares based on stock market news analysis Aspect Term Extractoin & Aspect Based Sentiment Analysis Language Modeling & Machine Translation
Vision:
Object Classification/ Localization/ Detection/ Recognition/ Segmentation Face Recognition from images and videos Real-Time Multi-Object Tracking Automatic Image Captionin Face Sketch Synthesis Number Plate Recognition
NLP, Vision & etc:
Churn Prediction (Predicting the behavior of bank customers) Anomaly Detection Data Generation by using GANs