Context window

หน้าต่างบริบทก็เหมือนโต๊ะทำงานของเรานั่นแหละ ถ้าโต๊ะเล็ก เราก็วางเอกสารได้น้อย ถ้าโต๊ะใหญ่ ก็วางได้เยอะ สำหรับ AI ก็เหมือนกัน มันมีพื้นที่จำกัดในการอ่านและจดจำข้อความที่เราป้อนเข้าไปพร้อมกับประวัติการสนทนาก่อนหน้า ถ้า context window เล็ก (เช่น 4,000 tokens) มันก็จำได้แค่บทสนทนาสั้นๆ แต่ถ้าใหญ่ (เช่น 128,000 tokens หรือมากกว่า) มันก็จำเนื้อหายาวๆ หรือเอกสารหลายหน้าได้

ในการใช้งานจริง ถ้าเราคุยกับ ChatGPT ยาวๆ แล้วมันเริ่มลืมสิ่งที่เราบอกไปตอนต้น นั่นแปลว่าเราใช้พื้นที่เกิน context window แล้ว หรือถ้าเราอยากให้ AI วิเคราะห์เอกสารยาว 50 หน้า เราต้องเลือกใช้โมเดลที่มี context window ใหญ่พอ ไม่งั้นมันจะอ่านได้ไม่หมด ปัจจุบัน AI รุ่นใหม่ๆ พยายามขยาย context window ให้ใหญ่ขึ้นเรื่อยๆ เพื่อรองรับงานที่ซับซ้อนมากขึ้น