متقدّم · بعد الانحدار التدرّجي والتقييم

التعلّم العميق والشبكات العصبية

نسخة تجريبية هذه الدورة نسخة تجريبية. ما زالت الدروس والتمارين والترجمات قيد المراجعة وقد تتغير. أبلغنا عن أي شيء يبدو خاطئًا عبر زر الملاحظات.

تكتب الآليات قبل أن تستخدم إطار العمل: الاشتقاق بالنمط العكسي، وخوارزميات التحسين، وتسوية الدفعات، والالتفاف، والانتباه، مع التحقق منها في متصفحك بمقارنتها بالتدرّجات العددية. ثم يأتي PyTorch على جهازك، مع العادات التي تجعل التدريب قابلًا لتتبّع أعطاله. لا يعمل PyTorch داخل بيئة المتصفح المعزولة في هذا الموقع، لذا تذكر تلك الفصول بوضوح ما يجب تشغيله محليًا.

الوحدات
10
الدروس
22
المدة
~37 ساعة
المشاريع
2
ابدأ

ما ستتمكّن من فعله

  • تنفيذ الاشتقاق التلقائي بالنمط العكسي والتحقق منه عدديًا
  • تنفيذ خوارزميات التحسين والتسوية والضبط (regularisation)، وشرح آثارها
  • تشخيص التدريب الفاشل انطلاقًا من الأدلة
  • كتابة حلقات تدريب صحيحة بـPyTorch على CPU أو GPU
  • تنفيذ الالتفاف والانتباه، وشرح المحوِّلات (transformers) انطلاقًا من آليتها
  • تسليم شبكة مدرَّبة ومقيَّمة وموثَّقة

لمن هذه الدورة

من يعرفون الانحدار التدرّجي، والإفراط في التعلّم، والتقسيم إلى تدريب وتحقق واختبار، من دورة Applied Machine Learning مثلًا.

ما تحتاجه

Python وNumPy؛ والمشتقات، وضرب المصفوفات، وأساسيات الاحتمالات. تحتاج فصول PyTorch إلى تثبيت محلي يعمل على CPU. وجود GPU مفيد، لكنه ليس مطلوبًا أبدًا.

ما ستبنيه

  • مصنّف أرقام وتقرير عن الفشل
  • المشروع الختامي للشبكات العصبية

المنهج

الآلياتالاشتقاق التلقائي والشبكات وخوارزميات التحسين، بيدك. 3 وحدات · 7 دروس
  1. 1 الموتّرات والاشتقاق التلقائيابنِ المحرّك الكامن تحت كل إطار عمل.
  2. 2 الشبكات العصبية من الصفرالوحدات اللوجستية والانتشار العكسي وفحص التدرّج، كي لا يبقى في PyTorch أي غموض.
  3. 3 خوارزميات التحسين والتهيئةلماذا نادرًا ما يكفي الانحدار التدرّجي البسيط.
التدريب عمليًاالضبط وتشخيص الأعطال وPyTorch. 3 وحدات · 4 دروس
  1. 4 الضبط والتسويةالإسقاط وتسوية الدفعات، بما في ذلك اختلافهما بين التدريب والتقييم.
  2. 5 تشخيص التدريب الفاشلمنهج لحين لا تنخفض الخسارة.
  3. 6 PyTorch على جهازكإطار العمل، بعد أن عرفت ما يفعله.
البُنىالالتفاف والتسلسلات والانتباه والمحوِّلات. وحدتان · 7 دروس
  1. 7 الشبكات الالتفافيةأنماط محلية، وأوزان مشتركة.
  2. 8 التسلسلات والانتباه والمحوِّلاتمن خطوة تكرارية إلى الكتلة الموجودة داخل نماذج اللغة الحديثة.
التسليمنقل التعلّم والتقييم وتحسين النماذج والمشروع الختامي. وحدتان · 4 دروس
  1. 9 نماذج أصغرالتقليم والتقطير، بالقياس لا بالافتراض.
  2. 10 المشروع الختاميشبكة خاصة بك، على جهازك.