Generative AI และ NLP: การสร้างโมเดลภาษาพื้นฐาน

การทำความเข้าใจว่าเครื่องจักรประมวลผล ตีความ และสร้างภาษามนุษย์ได้อย่างไร เป็นรากฐานสำคัญของปัญญาประดิษฐ์ยุคใหม่ หลักสูตรที่เน้นข้อความนี้จะนำคุณผ่านแนวคิดหลักของการประมวลผลภาษาธรรมชาติ (NLP) และกลไกของโมเดล Generative AI พื้นฐาน คุณจะได้เปลี่ยนจากการทำความเข้าใจการแทนข้อความพื้นฐานไปสู่การนำโมเดลภาษาไปใช้และประเมินผลโดยใช้ PyTorch ด้วยการศึกษาคำอธิบายที่มีโครงสร้างและตัวอย่างโค้ดที่ชัดเจน คุณจะได้รับความเข้าใจเชิงปฏิบัติเกี่ยวกับวิธีการสร้าง ฝึกฝน และปรับโมเดลภาษาที่ทันสมัยสำหรับงานในโลกแห่งความเป็นจริง สิ่งที่คุณจะได้เรียนรู้: - ทำความเข้าใจศัพท์เฉพาะที่สำคัญของ NLP การประมวลผลข้อความล่วงหน้า และแนวคิดพื้นฐานของภาษา - แปลงข้อความเป็นคุณลักษณะเชิงตัวเลขโดยใช้ bag-of-words, one-hot encoding และ word embeddings - นำสถาปัตยกรรมโครงข่ายประสาทเทียมไปใช้และฝึกฝนสำหรับการสร้างแบบจำลองภาษาและการแปลโดยใช้ PyTorch - สำรวจการเปลี่ยนผ่านจากโมเดลแบบวนซ้ำ (recurrent models) แบบคลาสสิกไปสู่สถาปัตยกรรมที่ใช้ Transformer ที่ทันสมัย - ใช้เทคนิค prompt engineering พื้นฐานและรูปแบบ retrieval-augmented generation (RAG) เพื่อขยายขีดความสามารถของโมเดล - ประเมินประสิทธิภาพของโมเดลโดยใช้เมตริก NLP มาตรฐานและเทคนิคการตรวจสอบความถูกต้อง การเดินทางเริ่มต้นด้วยศัพท์เฉพาะที่จำเป็นและการแทนข้อความเป็นตัวเลขก่อนที่จะเข้าสู่การนำโมเดลการจำแนกประเภทและการแปลไปใช้จริงด้วย PyTorch จากนั้นคุณจะได้ก้าวไปสู่กระบวนทัศน์การสร้างแบบจำลองสมัยใหม่ โดยสำรวจว่าโมเดลพื้นฐานขนาดใหญ่สร้างข้อความที่สอดคล้องกันได้อย่างไร หลักสูตรนี้ออกแบบมาสำหรับนักพัฒนา AI ที่มีความมุ่งมั่น ผู้ที่ชื่นชอบข้อมูล และโปรแกรมเมอร์ที่ยังใหม่กับ NLP ไม่จำเป็นต้องมีพื้นฐานด้าน deep learning มาก่อน แม้ว่าความคุ้นเคยกับ Python จะเป็นประโยชน์ก็ตาม เริ่มอ่านวันนี้เพื่อสร้างรากฐานของคุณใน Generative AI และการสร้างแบบจำลองภาษา