Course Outline

Εισαγωγή στο QLoRA και την Ποσοτικοποίηση

  • Περιγραφή της ποσοτικοποίησης και του ρόλου της στην οικοδόμηση μοντέλων
  • Εισαγωγή στο πλαίσιο QLoRA και τα πλεονεκτήματά του
  • Κύριες διαφορές μεταξύ QLoRA και των παραδοσιακών μεθόδων ανυψωμάτωσης

Βασικά Στοιχεία του Large Language Models (LLMs)

  • Εισαγωγή στα LLMs και τη δομή τους
  • Προβλήματα που προκύπτουν σε μεγάλα μοντέλα κατά την ανυψωμάτωση επί μεγάλη κλίμακα
  • Πώς η ποσοτικοποίηση βοηθά στην να αντιμετωπίσει τα υπολογιστικά προβλήματα κατά τη διάρκεια της ανυψωμάτωσης LLM

Εφαρμογή QLoRA για Fine-Tuning LLMs

  • Ορισμός του πλαισίου και του περιβάλλοντος QLoRA
  • Προετοιμασία δεδομένων για ανυψωμάτωση με QLoRA
  • Βήμα-προς-βήμα οδηγός εφαρμογής του QLoRA σε LLMs χρησιμοποιώντας Python και PyTorch/TensorFlow

Βελτίωση της Περιβάλλοντος Fine-Tuning με QLoRA

  • Πώς να επιτύχουμε ισορροπία μεταξύ ακρίβειας και περформάνς του μοντέλου με ποσοτικοποίηση
  • Τεχνικές για μείωση των οικονομικών εξόδων και χρήσης μνήμης κατά τη διάρκεια της ανυψωμάτωσης
  • Στρατηγικές για ανυψωμάτωση με ελάχιστοι απαιτήσεις υλικών

Αξιολόγηση Ανυψωμένων Μοντέλων

  • Πώς να αξιολογήσουμε την αποτελεσματικότητα των ανυψωμένων μοντέλων
  • Τυπικά κριτήρια αξιολόγησης για λεξικοθεσία μοντέλα
  • Βελτίωση της περформάνς του μοντέλου μετά από ανυψωμάτωση και επίλυση προβλημάτων

Εγκατάσταση και Μεγέθισμα Ανυψωμένων Μοντέλων

  • Καλές πρακτικές για την εγκατάσταση ποσοτικοποιημένων LLMs σε παραγωγικά περιβάλλοντα
  • Μεγέθισμα εγκατάστασης για να αντιμετωπίσει πραγματικό χρόνο ζήτηση
  • Εργαλεία και πλαίσια για εγκατάσταση και παρακολούθηση μοντέλων

Πρακτικές Use Case και Περιπτώσεις Συμβουλείων

  • Περιπτώση: Ανυψωμάτωση LLMs για υποστήριξη πελατών και NLP εργασίες
  • Παραδείγματα ανυψωμάτωσης LLMs σε διάφορους τομείς όπως ιατρική, χρηματοοικονομικά και e-commerce
  • Λektά από πραγματικές εφαρμογές QLoRA-βασικών μοντέλων

Επεξεργασία και Επόμενα Βήματα

Requirements

  • Συνειδητοποίηση των βασικών εργαλείων του μηχανικού μάθητη και των νευρωνικών δικτύων
  • Εμπειρία στον εφιστάμενο προσαρμογή μοντέλου και την μεταφορά μάθησης
  • Γνώση μεγάλων μοντέλων γλώσσας (LLMs) και πλαίσιων βαθύ μάθησης (π.χ., PyTorch, TensorFlow)

Δημόσιο

  • Σχεδιαστές μηχανικού μάθητη
  • Αναπτυξιακοί AI
  • Επιστήμονες δεδομένων
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories