Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Course Outline
Εισαγωγή στο QLoRA και την Ποσοτικοποίηση
- Περιγραφή της ποσοτικοποίησης και του ρόλου της στην οικοδόμηση μοντέλων
- Εισαγωγή στο πλαίσιο QLoRA και τα πλεονεκτήματά του
- Κύριες διαφορές μεταξύ QLoRA και των παραδοσιακών μεθόδων ανυψωμάτωσης
Βασικά Στοιχεία του Large Language Models (LLMs)
- Εισαγωγή στα LLMs και τη δομή τους
- Προβλήματα που προκύπτουν σε μεγάλα μοντέλα κατά την ανυψωμάτωση επί μεγάλη κλίμακα
- Πώς η ποσοτικοποίηση βοηθά στην να αντιμετωπίσει τα υπολογιστικά προβλήματα κατά τη διάρκεια της ανυψωμάτωσης LLM
Εφαρμογή QLoRA για Fine-Tuning LLMs
- Ορισμός του πλαισίου και του περιβάλλοντος QLoRA
- Προετοιμασία δεδομένων για ανυψωμάτωση με QLoRA
- Βήμα-προς-βήμα οδηγός εφαρμογής του QLoRA σε LLMs χρησιμοποιώντας Python και PyTorch/TensorFlow
Βελτίωση της Περιβάλλοντος Fine-Tuning με QLoRA
- Πώς να επιτύχουμε ισορροπία μεταξύ ακρίβειας και περформάνς του μοντέλου με ποσοτικοποίηση
- Τεχνικές για μείωση των οικονομικών εξόδων και χρήσης μνήμης κατά τη διάρκεια της ανυψωμάτωσης
- Στρατηγικές για ανυψωμάτωση με ελάχιστοι απαιτήσεις υλικών
Αξιολόγηση Ανυψωμένων Μοντέλων
- Πώς να αξιολογήσουμε την αποτελεσματικότητα των ανυψωμένων μοντέλων
- Τυπικά κριτήρια αξιολόγησης για λεξικοθεσία μοντέλα
- Βελτίωση της περформάνς του μοντέλου μετά από ανυψωμάτωση και επίλυση προβλημάτων
Εγκατάσταση και Μεγέθισμα Ανυψωμένων Μοντέλων
- Καλές πρακτικές για την εγκατάσταση ποσοτικοποιημένων LLMs σε παραγωγικά περιβάλλοντα
- Μεγέθισμα εγκατάστασης για να αντιμετωπίσει πραγματικό χρόνο ζήτηση
- Εργαλεία και πλαίσια για εγκατάσταση και παρακολούθηση μοντέλων
Πρακτικές Use Case και Περιπτώσεις Συμβουλείων
- Περιπτώση: Ανυψωμάτωση LLMs για υποστήριξη πελατών και NLP εργασίες
- Παραδείγματα ανυψωμάτωσης LLMs σε διάφορους τομείς όπως ιατρική, χρηματοοικονομικά και e-commerce
- Λektά από πραγματικές εφαρμογές QLoRA-βασικών μοντέλων
Επεξεργασία και Επόμενα Βήματα
Requirements
- Συνειδητοποίηση των βασικών εργαλείων του μηχανικού μάθητη και των νευρωνικών δικτύων
- Εμπειρία στον εφιστάμενο προσαρμογή μοντέλου και την μεταφορά μάθησης
- Γνώση μεγάλων μοντέλων γλώσσας (LLMs) και πλαίσιων βαθύ μάθησης (π.χ., PyTorch, TensorFlow)
Δημόσιο
- Σχεδιαστές μηχανικού μάθητη
- Αναπτυξιακοί AI
- Επιστήμονες δεδομένων
14 Hours