LLMOps برای مدل‌های زبانی بزرگ (LLM)

آیا آماده‌اید تا مهارت‌های خود را در حوزه عملیاتی‌سازی مدل‌های یادگیری ماشین به سطح جدیدی ارتقا دهید؟ با دوره پیشرفته "LLMOps برای مدل‌های زبانی بزرگ( LLM)" در مکتب‌خونه، شما عمیقاً با پیاده‌سازی و مدیریت چرخه ... بیشتر

0 دانشجو
مقدماتی

رضا محمودی

+ 1 مدرس دیگر

به‌روزرسانی: ۱۴۰۴/۰۶/۱۷

محتوای دوره
پیش‌نیاز‌ها
درباره دوره
درباره استاد

آنچه در این دوره می‌آموزید

طراحی و مدیریت زیرساخت‌های مقیاس‌پذیر

عملیاتی‌سازی و استقرار پیشرفته LLMها

پیاده‌سازی مانیتورینگ و observability جامع

بهینه‌سازی و مدیریت هزینه‌ها

محتوای دوره

6 فصل 52 جلسه 10 ساعت ویدیو
مبانی LLMOps
  مقدمه
مشاهده
"07:03
  نیازهای محاسباتی
مشاهده
"12:29
  چالش‌های منحصر به فرد LLMها در تولید
"25:51
  الزامات زیرساختی برای مدل‌های بزرگ
"14:50
  مراحل چرخه عمر LLMOps
"22:15
  شبکه
"16:22
  ملاحظات ابزارسازی برای LLMOps
"20:55
  تغییرات روش‌شناختی (Methodological Shifts )
"15:26
  تکامل اکوسیستم ابزارسازی
"15:02
  مانیتورینگ و ارزیابی
"16:25
  مقیاس: از مگابایت تا ترابایت
"11:33
زیرساخت و مدیریت داده‌ها در مقیاس بزرگ
آموزش مدل بزرگ و عملیات Fine-tuning
استقرار LLM و بهینه سازی Serving
نظارت یا مانتورینگ، مشاهده‌پذیری و نگهداری
سیستم‌ها و گردش‌های کاری پیشرفته LLMOps

پیش‌نیاز‌ها

درباره دوره

 آیا آماده‌اید تا مهارت‌های خود را در حوزه عملیاتی‌سازی مدل‌های یادگیری ماشین به سطح جدیدی ارتقا دهید؟ با دوره پیشرفته "LLMOps برای مدل‌های زبانی بزرگ( LLM)" در مکتب‌خونه، شما عمیقاً با پیاده‌سازی و مدیریت چرخه عمر عملیاتی مدل‌های زبانی بزرگ (LLM) در محیط‌های عملیاتی آشنا خواهید شد. این دوره برای متخصصانی طراحی شده است که به دنبال ساخت پایپ لاین‌های قوی، مقیاس‌پذیر و مقرون‌به‌صرفه LLMOps هستند.
 پیش‌نیاز: این دوره در سطح پیشرفته بوده و نیازمند آشنایی با مبانی MLOps است.

لازم به ذکر است این دوره توسط هوش مصنوعی تولید شده است.


 در این دوره چه چیزهایی خواهید آموخت؟


 • طراحی زیرساخت LLM: نحوه معماری زیرساخت‌های مقیاس‌پذیر برای آموزش و سرویس‌دهی مدل‌های زبانی بزرگ را خواهید آموخت، با در نظر گرفتن منابع GPU/TPU و شبکه‌بندی.
 • مدیریت آموزش توزیع‌شده: پیاده‌سازی و مدیریت فرآیندهای آموزش توزیع‌شده برای مدل‌های با میلیاردها پارامتر را با استفاده از فریم‌ورک‌هایی مانند DeepSpeed یا Megatron-LM فرا خواهید گرفت.
 • عملیات تنظیم دقیق کارآمد (Efficient Fine-tuning): عملیاتی‌سازی تکنیک‌های تنظیم دقیق پارامتر-کارآمد (PEFT) را در جریان‌های کاری MLOps یاد می‌گیرید.
 • استقرار پیشرفته LLM: نحوه استقرار مدل‌های بزرگ با استفاده از سرورهای استنتاج بهینه‌شده، کوانتیزاسیون و الگوهای سرویس‌دهی تخصصی را بررسی خواهیم کرد.
 • مانیتورینگ و مشاهده‌پذیری LLM: استراتژی‌های جامع مانیتورینگ برای عملکرد، هزینه، drift (انحراف مدل) و کیفیت خروجی LLMها را پیاده‌سازی خواهید کرد.
 • بهینه‌سازی هزینه: استراتژی‌هایی را برای مدیریت و بهینه‌سازی هزینه‌های قابل توجه مرتبط با آموزش و سرویس‌دهی مدل‌های بزرگ به کار می‌گیرید.
 • عملیات سیستم RAG: مدیریت جنبه‌های عملیاتی سیستم‌های تولید مبتنی بر بازیابی (Retrieval-Augmented Generation)، از جمله مدیریت پایگاه داده وکتور، را خواهید آموخت.
 با شرکت در این دوره، شما تکنیک‌های پیشرفته مدیریت زیرساخت، استقرار مدل، بهینه‌سازی عملکرد و نظارت اختصاصی برای مقیاس و پیچیدگی LLMها را فرا خواهید گرفت. همین امروز به جمع متخصصان LLMOps بپیوندید و آینده عملیات مدل‌های زبانی بزرگ را بسازید!

اطلاعات بیشتر

درباره استاد

رضا محمودی
5 دوره
399 دانشجو

مهندس کامپیوتر ویژن با بیش از 5 سال تجربه در  صنعت نفت و گاز و راهنمایی و رانندگی کشور   مسلط به پایتون و C++، مهارت در فریم ورک های دیپ لرنینگ و ماشین لرنینگ 

 

اطلاعات بیشتر

دیگر دوره‌های رضا محمودی

زینب صادقی
5 دوره
399 دانشجو

زینب صادقی دانشمند ارشد داده و مهندس یادگیری ماشین، متخصص در هوش مصنوعی مولد .

اطلاعات بیشتر

دیگر دوره‌های زینب صادقی