Red-teaming AI ไม่ใช่แค่ cybersecurity — ต้องทดสอบแบบใหม่ทั้งระบบ

Zico Kolter (OpenAI board) และ Matt Fredrikson (Gray Swan CEO) บอกว่า AI security ต้องการวิธีทดสอบที่ต่างจาก cybersecurity แบบเดิมโดยสิ้นเชิง เพราะ AI มีช่องโหว่แบบใหม่ที่ไม่สามารถใช้ firewall หรือ static testing จัดการได้ ปัญหาคือ AI tool หลายตัวสร้างรายงานช่องโหว่เยอะมาก แต่ไม่ได้แปลว่าระบบปลอดภัยขึ้น — ทีม security ต้องเรียนรู้ว่าอะไรคือ meaningful exposure จริงๆ และทดสอบแบบ conversational red-teaming แทนการสแกนหาจุดอ่อนแบบเดิม องค์กรที่ใช้ AI ต้องปรับกระบวนการทดสอบใหม่ทั้งหมด