توضیحات

آشنایی با ترنسفورمرها (Transformers) برای پردازش زبان طبیعی NLP در علم داده

نام دوره : Data Science: Transformers for Natural Language Processing

+ به همراه Notebook های دوره انحصاری یودمی ایران

+ به همراه Notebook های دوره انحصاری یودمی ایران

پیش نیاز:

• پایتون را نصب کنید، رایگان است!
• محتوای سطح مبتدی و متوسط: مهارت های برنامه نویسی پایتون مناسب
• محتوای سطح خبره: درک خوب از CNN و RNN و توانایی کدنویسی در PyTorch یا Tensorflow

توضیحات:

سلام دوستان!

به Data Science: Transformers for Natural Language Processing خوش آمدید.

از زمانی که Transformers وارد صحنه شد، یادگیری عمیق یکسان نبوده است.

یادگیری ماشینی قادر به تولید متنی است که اساساً از متنی که توسط انسان ایجاد شده است قابل تشخیص نیست

ما در بسیاری از کارهای NLP، مانند ترجمه ماشینی، پاسخگویی به سؤال، مستلزم، تشخیص نهادهای نامگذاری شده و موارد دیگر، به عملکردی پیشرفته دست یافته ایم.

ما مدل‌های چند وجهی (متن و تصویر) ایجاد کرده‌ایم که می‌توانند هنر شگفت‌انگیزی را تنها با استفاده از یک پیام متنی ایجاد کنند.

ما یک مشکل قدیمی در زیست شناسی مولکولی را حل کرده ایم که به نام “پیش بینی ساختار پروتئین” شناخته می شود.

در این دوره، مهارت های بسیار کاربردی برای استفاده از ترانسفورماتورها و در صورت تمایل، تئوری دقیق در مورد نحوه کار ترانسفورماتورها را خواهید آموخت.

این با بسیاری از منابع دیگر که فقط اولی را پوشش می دهند متفاوت است.

دوره آشنایی با ترنسفورمرها (Transformers) برای پردازش زبان طبیعی NLP در علم داده به 3 بخش اصلی تقسیم می شود:

• استفاده از ترانسفورماتورها
• ترانسفورماتورهای تنظیم دقیق
• ترانسفورماتور در عمق

بخش 1: استفاده از ترنسفورمر ها

در این بخش با نحوه استفاده از ترنسفورمر که برای شما آموزش داده شده است آشنا می شوید.

انجام این کار میلیون ها دلار هزینه دارد، بنابراین چیزی نیست که بخواهید خودتان آن را امتحان کنید!

خواهیم دید که چگونه می توان از این مدل های از پیش ساخته شده برای مجموعه وسیعی از وظایف استفاده کرد، از جمله:

• طبقه بندی متن (به عنوان مثال تشخیص هرزنامه، تجزیه و تحلیل احساسات، دسته بندی اسناد)
• شناسایی موجودیت نامگذاری شده
• خلاصه سازی متن
• ترجمه ماشینی
• پرسش و پاسخ
• تولید متن (قابل باور).
• مدل سازی زبان نقاب دار (چرخش مقاله)
• طبقه بندی شات صفر

اگر شما نیاز به تجزیه و تحلیل احساسات، طبقه بندی اسناد، شناسایی موجودیت، ترجمه، خلاصه سازی، و غیره در اسناد در محل کار خود یا برای مشتریان خود دارید –

در حال حاضر قدرتمندترین مدل های پیشرفته را با تعداد بسیار کمی در اختیار دارید.

یکی از شگفت انگیزترین برنامه ها “طبقه بندی صفر شات” است که در آن مشاهده خواهید کرد که یک مدل از پیش آموزش دیده می تواند اسناد شما را حتی بدون هیچ آموزشی دسته بندی کند.

بخش 2: ترنسفورمر های تنظیم دقیق

در این بخش، نحوه بهبود عملکرد ترنسفورمر ها در مجموعه داده های سفارشی خود را یاد خواهید گرفت.

با استفاده از «یادگیری انتقال»، می‌توانید میلیون‌ها دلار آموزشی را که قبلاً برای عملکرد بسیار خوب ترانسفورماتورها صرف شده است، استفاده کنید.

خواهید دید که می توانید یک ترانسفورماتور را با کار نسبتا کمی (و هزینه کم) تنظیم دقیق کنید.

ما نحوه تنظیم دقیق ترانسفورماتورها را برای عملی ترین وظایف در دنیای واقعی، مانند طبقه بندی متن (تحلیل احساسات، تشخیص هرزنامه)، تشخیص موجودیت، و ترجمه ماشینی پوشش خواهیم داد.

بخش 3: ترنسفورمر  ها در عمق

در این بخش، نحوه عملکرد ترانسفورماتورها را یاد خواهید گرفت.

بخش های قبلی زیبا هستند، اما کمی بیش از حد زیبا هستند.

کتابخانه‌ها برای افرادی که فقط می‌خواهند کار را انجام دهند خوب است، اما اگر بخواهید کار جدید یا جالبی انجام دهید، کار نمی‌کنند.

کسانی که درک عمیقی از این مدل ها دارند و می توانند کارهایی را انجام دهند که هیچ کس قبلاً انجام نداده است، در موقعیتی هستند که دستمزدهای بالاتر و عناوین معتبر را دریافت کنند.

یادگیری ماشینی یک زمینه رقابتی است و درک عمیق از نحوه کار کردن چیزها می‌تواند مزیتی باشد که برای برتری به آن نیاز دارید.

ما به عملکرد درونی رمزگذارها، رمزگشاها، رمزگذار-رمزگشاها، BERT، GPT، GPT-2، GPT-3، GPT-3.5، ChatGPT و GPT-4 نگاه خواهیم کرد (در مورد دومی، ما محدود به OpenAI هستیم. ).

همچنین نحوه پیاده سازی ترانسفورماتورها را از ابتدا بررسی خواهیم کرد.

دوره آشنایی با ترنسفورمرها (Transformers) برای پردازش زبان طبیعی NLP در علم داده برای چه کسانی است:

• هر کسی که می خواهد بر پردازش زبان طبیعی (NLP) مسلط شود
• هر کسی که عاشق یادگیری عمیق است و می خواهد در مورد قوی ترین شبکه عصبی (ترنسفورمرها) بیاموزد.
• هر کسی که می خواهد فراتر از دوره های معمولی فقط مبتدی در Udemy برود

بخشی از دوره :