Ingegneria LLM: Fondamentali di Prompting, Tuning e Retrieval

Integrare grandi modelli linguistici (LLM) in applicazioni del mondo reale richiede più che semplici chiamate API; richiede un'ingegneria affidabile e scalabile. Gli sviluppatori devono capire come strutturare i prompt, recuperare il contesto dinamicamente e adattare i modelli per specifici domini aziendali. Questo corso solo testuale ti guida attraverso i modelli architettonici fondamentali dell'ingegneria LLM, facendoti passare dalla scrittura di semplici prompt alla progettazione di sistemi robusti, basati sul recupero, che generano output prevedibili e di alta qualità. Cosa imparerai: - Comprendere i concetti chiave degli LLM, la tokenizzazione e le architetture dei modelli fondamentali. - Applicare tecniche avanzate di prompt engineering per guidare il comportamento del modello in modo affidabile. - Configurare sistemi di Generazione Aumentata dal Recupero (RAG) utilizzando database vettoriali. - Valutare quando utilizzare il fine-tuning rispetto alle strategie di prompting e retrieval. - Progettare architetture scalabili che gestiscano latenza, costi e limitazioni delle API. - Implementare moderni framework di valutazione per misurare e monitorare le prestazioni del sistema. Inizierai con definizioni fondamentali e terminologia chiave prima di esplorare modelli architettonici pratici. Il materiale progredisce logicamente dalle strutture di prompting di base a complesse pipeline di recupero e flussi di lavoro di tuning. Questo corso è progettato per sviluppatori software, professionisti dei dati e aspiranti ingegneri AI che sono nuovi alla costruzione di sistemi di produzione con grandi modelli linguistici. Non è richiesta alcuna esperienza precedente con il machine learning. Inizia oggi stesso a costruire sistemi AI stabili e di livello produttivo.