นักวิจัยเผย 7 งานใหม่ด้านความปลอดภัย LLM เน้น multi-turn, guardrails, safety drift

arXiv มีเปเปอร์ใหม่หลายชิ้นที่ชี้ให้เห็นว่าความปลอดภัยของ LLM ในโลกจริงยังมีช่องโหว่เยอะ โดยเฉพาะเมื่อโมเดลต้องคุยหลายรอบ (multi-turn) หรือทำงานเป็น agent ใช้ tools มีงานที่พบว่า safety alignment ค่อย ๆ เสื่อมลงระหว่างการสนทนา (safety drift) และโมเดลส่วนใหญ่ยังตรวจจับอันตรายจากหลายเซนเซอร์พร้อมกันไม่ได้ดีพอ งานอื่นเสนอแนวทางป้องกัน เช่น ใช้ small language model (SLM) เป็น guardrail แยก หรือใช้ latent reasoning เพื่อลด latency ขณะที่ยังตรวจจับ prompt อันตรายได้แม่นยำขึ้น นอกจากนี้ยังมี benchmark ใหม่สำหรับการใช้งานทางทหารและหุ่นยนต์พยาบาล ซึ่งเผยว่า violation rate สูงถึง 54%