AI summary2 แหล่ง· เมื่อวาน · 05:08

Google เสนอวิธีตรวจสอบ Machine Unlearning ที่ลึกกว่าผลลัพธ์ผิว

Google Research และ arXiv เพิ่งเสนอ RULER — เฟรมเวิร์กใหม่ที่ตรวจสอบว่าโมเดล AI ลบข้อมูลฝึกสอนออกจริงหรือไม่ ปัญหาคือวิธีเดิมดูแค่ output ระดับผิว แต่โมเดลยังเก็บข้อมูลเก่าไว้ในชั้นกลาง RULER ตรวจที่ representation level แทน พร้อมเตือนว่าคำว่า \"machine unlearning\" ถูกใช้มากเกินไปในวงการ LLM

แหล่งข่าว

ประเด็น

เมื่อวาน · 05:08

อัปเดต

วิธีเดิมผ่านการตรวจสอบ membership inference และ accuracy แต่ไม่รับประกันว่าข้อมูลลบออกจากชั้นกลางของโมเดล
RULER ใช้ oracle-comparative metric M2 วัดว่า forget-set records ยังอยู่ในตำแหน่ง representational เดิมหรือไม่
Position paper ชี้ว่า machine unlearning ควรจำกัดเฉพาะการลบ training influence ของ dataset ที่ระบุชัด ไม่ใช่ใช้ครอบคลุมทุกงาน forget

แหล่งต้นทาง · 4

ลิงก์ต้นทางอยู่ครบ เพื่อให้เปิดอ่านเต็มและเทียบข้อมูลเองได้

arXiv — cs.AI2 วันก่อน

Position: The Term "Machine Unlearning" Is Overused in LLMs

Google Research10 มิ.ย.

New framework for auditing machine unlearning

arXiv — cs.AI28 พ.ค.

RULER: Representation-Level Verification of Machine Unlearning

arXiv — cs.AI28 พ.ค.

Prefix-Safe Bayesian Belief Tracking for LLM Reasoning Reliability:Separating Calibration from Ranking

แชร์