ข้ามไปบทความ

PostHog คุมความเสี่ยง AI Agent ด้วย Warlock และการป้องกันหลายชั้น

บทเรียนจาก Sarah Sanders: จำกัด Bash แยก secrets สแกนข้อมูลทั้งต้นทางและตอนใช้ และให้ LLM ช่วยคัดกรองโดยไม่ตัดสินแทนกฎบังคับ

โดย Insiderly
ภาพปกคลิป Sarah Sanders จาก PostHog อธิบายความเสี่ยงของ Agent ที่เรียกคำสั่งได้
ภาพปกจากคลิป We let an AI agent execute Bash and lived to talk about it — Sarah Sanders, PostHog · AI Engineer
เผยแพร่:

เรียบเรียงจากบทความต้นทางลงวันที่ 2026-09-14 และคลิป We let an AI agent execute Bash and lived to talk about it — Sarah Sanders, PostHog ของช่อง AI Engineer ตามที่ต้นฉบับระบุ ความสามารถและผลลัพธ์ที่เล่าเป็นข้อมูลจากคลิป ไม่ใช่ผลทดสอบอิสระหรือคำรับรองสถานะปัจจุบัน ตัวอย่างสำหรับธุรกิจไทยเป็นการประยุกต์ของบทความ วันที่นี้เป็นวันที่บทความต้นทาง ไม่ใช่วันอัปโหลดวิดีโอซึ่งยังไม่ทราบ

AI Agent ที่อ่านข้อมูล ตัดสินใจ และลงมือทำงานในระบบได้เอง ช่วยลดเวลาทำงานได้มาก แต่ความสามารถเดียวกันนี้ก็ทำให้ความเสี่ยงขยายตัวแบบที่หลายธุรกิจไม่ทันเห็น

ประเด็นนี้ชัดมากในคลิปของ Sarah Sanders จาก PostHog บนช่อง AI Engineer ซึ่งเล่าว่าทีมยอมให้ AI Agent รันคำสั่ง Bash เพื่อเซ็ตอัป analytics ได้อย่างไร โดยยังควบคุมความเสี่ยงได้ บทเรียนสำคัญไม่ใช่เรื่องโค้ดอย่างเดียว แต่คือกรอบคิดสำหรับเจ้าของธุรกิจไทยที่กำลังให้ AI เข้าถึงเอกสาร ลูกค้า ระบบหลังบ้าน หรือ workflow สำคัญ

แก่นของเรื่องมีอยู่ข้อเดียว: Prompt ไม่ใช่ระบบความปลอดภัย หาก AI มีสิทธิ์ทำงานจริง ต้องมีขอบเขตที่บังคับใช้ได้ ตรวจสอบได้ และหยุดการทำงานได้จริง

สารบัญ

Step 1: แยกให้ออกว่า AI แชต กับ AI Agent มีความเสี่ยงไม่เท่ากัน

PostHog สร้างเครื่องมือชื่อ Wizard ซึ่งเป็น agentic CLI สำหรับช่วยติดตั้งระบบ analytics ลงในโปรเจกต์ เครื่องมือนี้อ่านโค้ด เลือก SDK ที่เหมาะสม ติดตั้งแพ็กเกจ ตั้งค่า event และสร้าง dashboard ได้ โดยลดงานติดตั้งที่เดิมอาจใช้เวลาหนึ่งถึงสองชั่วโมงให้เหลือราวห้าถึงหกนาที

ความสะดวกนี้ทำให้ Wizard มีลักษณะเป็น “ผู้ช่วยลงมือทำ” ไม่ใช่แค่ “ผู้ช่วยตอบ” มันมี model, prompt, tools และ context ที่ป้อนเข้าไป เพื่อให้ตัดสินใจและรันคำสั่งต่อได้ นี่คือจุดที่เจ้าของธุรกิจควรเปลี่ยนคำถามจาก “AI ตอบได้ฉลาดไหม” เป็น “AI ทำอะไรได้บ้างเมื่อมันตอบเสร็จแล้ว”

ตัวอย่างในธุรกิจไทยอาจเป็น Agent ที่อ่านอีเมลลูกค้าแล้วสร้าง ticket, อ่านใบสั่งซื้อแล้วบันทึกลงระบบ, ดึงข้อมูลจาก CRM เพื่อร่างข้อเสนอ หรือสั่งงานผ่าน API ไปยังระบบสต๊อก งานเหล่านี้มีมูลค่าสูง แต่เมื่อ Agent แตะข้อมูลจริงหรือสั่งงานจริง ความผิดพลาดหนึ่งครั้งอาจไม่ใช่แค่คำตอบผิด แต่อาจเป็นการส่งข้อมูลผิดคน สร้างรายการซ้ำ หรือแก้ไขข้อมูลสำคัญโดยไม่ตั้งใจ

Step 2: เริ่มจากกำหนดสิทธิ์แบบไม่อนุญาตไว้ก่อน

Sarah อธิบายว่า Agent ที่มีคำสั่งให้รัน มีเครื่องมือ มีข้อมูล และเชื่อมต่อ terminal นั้นมีองค์ประกอบคล้ายสิ่งที่มัลแวร์ต้องการมาก จึงไม่ควรเริ่มต้นจากการเปิดสิทธิ์กว้างแล้วค่อยห้ามบางอย่างภายหลัง

แนวทางของ PostHog คือ deny by default หรือปิดไว้ก่อน แล้วอนุญาตเฉพาะสิ่งจำเป็น Wizard ไม่สามารถรันคำสั่ง shell แบบสุ่มได้ สิ่งที่อนุญาตถูกจำกัดไว้ เช่น ติดตั้งแพ็กเกจที่ทีมตรวจแล้ว สั่ง build, type check และ lint เท่านั้น อีกทั้ง Agent ไม่มีสิทธิ์อ่านไฟล์ .env และความลับถูกส่งผ่าน vault แทนที่จะเข้าไปอยู่ใน context ของ model

เมื่อนำมาปรับใช้กับธุรกิจ ควรทำ “รายการสิทธิ์ขั้นต่ำ” ก่อนเปิด Agent ทุกตัว เช่น

มุมที่ควรระวังคือ หลายทีมเข้าใจว่าเขียน prompt ว่า “ห้ามเปิดเผยข้อมูลลูกค้า” แล้วเพียงพอ แต่ prompt เป็นเพียงคำสั่งนำทาง ไม่ใช่ประตูล็อก หากระบบยังส่งข้อมูลนั้นให้ Agent หรือให้สิทธิ์ API กว้างเกินไป คำห้ามใน prompt ก็ไม่มีน้ำหนักพอ

Step 3: ตรวจเส้นทางข้อมูลทั้งหมด ไม่ใช่แค่สิ่งที่พนักงานพิมพ์

บทเรียนที่น่าสนใจที่สุดจาก PostHog คือ input อันตรายอาจไม่ได้มาจากผู้ใช้ที่กำลังคุยกับ Agent เท่านั้น แต่ยังมาจากเนื้อหาที่องค์กรสร้างและเชื่อถือเองด้วย

Wizard ใช้ context engine ที่รวบรวมเอกสาร คู่มือ prompt ที่ทีมเขียน ตัวอย่างแอป และบทเรียนจากงานจริง แล้วแพ็กเป็น skill bundles ส่งเข้า context ของ Agent ตอนใช้งาน ปัญหาคือ หากมีคนแทรกข้อความชักนำไว้ในไฟล์ Markdown, คอมเมนต์โค้ด หรือเอกสารที่เข้ามาใน pipeline ข้อความนั้นอาจเดินทางไปถึง Agent ที่มีสิทธิ์รันคำสั่งได้

นี่คือรูปแบบหนึ่งของ prompt injection ที่ธุรกิจควรมองให้กว้างขึ้น หากองค์กรมี AI อ่านเอกสารจากภายนอก อีเมล CV ใบเสนอราคา รีวิวสินค้า หรือไฟล์ที่ลูกค้าอัปโหลด ทุกชิ้นล้วนเป็นข้อมูลที่อาจมีข้อความพยายามบิดทิศทาง Agent ได้

สำหรับองค์กรไทย วิธีเริ่มที่จับต้องได้คือทำแผนที่ข้อมูลหนึ่งหน้า โดยไล่ตอบคำถามเหล่านี้

ทีม PostHog เลือกสแกนเนื้อหาสองรอบ คือรอบแรกตอนสร้างและปล่อย skill และรอบที่สองตอน Wizard เรียกใช้ หลักคิดนี้เรียบง่ายมาก: ดักตั้งแต่ต้นทาง แล้วสมมติว่าต้นทางพลาด จึงดักซ้ำตรงจุดใช้งาน

Step 4: มองความเสี่ยงเป็นการต่อกันของช่องโหว่เล็ก ๆ

การตรวจระบบของทีม security พบช่องโหว่บางจุด แต่สิ่งที่สำคัญกว่ารายละเอียดของบั๊กคือรูปแบบของมัน ส่วนใหญ่ไม่ใช่สิ่งที่ดูร้ายชัดเจนตั้งแต่แรก กลับเป็นคุณสมบัติเล็ก ๆ สองอย่างที่ตั้งใจดี แต่เมื่อนำมาเชื่อมกันแล้วกลายเป็นช่องเปิด

Sarah สรุปประเด็นนี้ได้คมมากว่า การโจมตี “ประกอบร่าง” ได้ แต่การรีวิวโค้ดมักดูการเปลี่ยนแปลงทีละส่วน ธุรกิจจึงไม่ควรถามแค่ว่า “เครื่องมือ A ปลอดภัยไหม” หรือ “ระบบ B ปลอดภัยไหม” แต่ต้องถามว่า “ถ้า A ส่งข้อมูลให้ B แล้ว B มีสิทธิ์ไป C ผลรวมจะเกิดอะไรขึ้น”

ตัวอย่างใกล้ตัวคือ AI อ่านอีเมลลูกค้าได้, ดึงข้อมูลจาก CRM ได้ และส่งข้อความผ่าน LINE OA ได้ แต่ละสิทธิ์อาจดูสมเหตุผลแยกกัน ทว่าเมื่อ AI ถูกหลอกผ่านอีเมล แล้วนำข้อมูลลูกค้าไปส่งออกทางข้อความอัตโนมัติ ความเสี่ยงเกิดจากการเชื่อมกันของทั้งสามสิทธิ์

ก่อนเปิด workflow อัตโนมัติ ให้ทีมธุรกิจและทีมเทคนิคร่วมกันทำ “เกมสมมติ” สั้น ๆ อย่างน้อยหนึ่งรอบ: ถ้า input ผิดหรือมีเจตนาร้ายเข้ามา Agent จะอ่านอะไร ตัดสินใจอะไร และมีทางออกไปสู่การกระทำใดบ้าง วิธีนี้ไม่ต้องเป็นผู้เชี่ยวชาญ security ก็ช่วยเห็นจุดเสี่ยงที่ซ่อนอยู่ได้

Step 5: แยกการตรวจจับออกจากการตัดสินใจลงมือทำ

PostHog สร้างเครื่องมือสแกนชื่อ Warlock ให้ทำงานเพียงอย่างเดียว คือรับข้อความแล้วคืนรายการความเสี่ยง โดยระบุหมวดหมู่ ระดับความรุนแรง และคำแนะนำว่าควรจัดการอย่างไร Warlock ตรวจจับ แต่ไม่ตัดสินใจลงมือทำเอง

การแยกหน้าที่แบบนี้สำคัญมาก เพราะระบบที่ “พบความเสี่ยง” กับระบบที่ “ตัดสินใจบล็อกหรืออนุญาต” ไม่ควรถูกปนกันจนแกะไม่ออก โดยเฉพาะกรณีที่การกระทำมีผลต่อเงิน ข้อมูลส่วนบุคคล หรือสิทธิ์เข้าถึงระบบ

Warlock ใช้กฎแบบ deterministic บน YARA ซึ่งเป็น rule engine ที่ใช้ในงานวิจัยมัลแวร์มานาน จุดเด่นคือ input เดิมจะได้ผลเดิม ไม่ขึ้นกับอารมณ์หรือความผันผวนของ model

ธุรกิจไม่จำเป็นต้องสร้าง YARA เองเพื่อรับหลักการนี้ไปใช้ การตั้งกฎแบบกำหนดตายตัวอาจเริ่มจากเรื่องพื้นฐาน เช่น

Step 6: ใช้ LLM เป็นที่ปรึกษา ไม่ใช่ผู้คุมประตู

กฎที่เข้มเกินไปมักสร้าง false positive หรือเตือนสิ่งที่ไม่อันตรายจริง PostHog พบว่าคำหรือข้อความจากหน้าล็อกอินเดโม ตัวอย่างในเอกสาร และแอปตัวอย่าง อาจดูคล้าย prompt injection ได้

ทีมจึงเพิ่ม LLM เข้ามาช่วยคัดแยกสัญญาณรบกวน แต่ไม่ได้ยกสิทธิ์ให้ model เป็นผู้ตัดสินคำสั่งสุดท้าย การบล็อกและการบังคับใช้กฎยังเป็น deterministic เสมอ หากกฎตรงเงื่อนไข ระบบจะล็อกและจบ session ก่อนถามความเห็นจาก LLM

นี่เป็นเส้นแบ่งที่ธุรกิจควรยึดไว้: ให้ AI ช่วยตีความได้ แต่ไม่ควรให้ AI เป็นผู้อนุมัติการกระทำที่มีผลร้ายแรงเพียงลำพัง หาก model ทำงานผิดพลาดหรือบริการมีปัญหา ระบบของ PostHog เลือก fail closed คือหยุดการทำงานเพื่อป้องกันไว้ก่อน

แน่นอนว่า fail closed อาจทำให้งานสะดุด จึงไม่เหมาะกับทุก workflow แต่สำหรับการโอนเงิน การส่งออกฐานลูกค้า หรือการเปลี่ยนสิทธิ์ผู้ใช้งาน ความสะดุดชั่วคราวมักเสียหายน้อยกว่าการปล่อยให้คำสั่งเสี่ยงผ่านไป

Step 7: เขียนกฎที่วัดผลได้ และทดสอบทั้งสิ่งที่ต้องจับกับสิ่งที่ไม่ควรจับ

กฎของ Warlock มีองค์ประกอบสี่ส่วน ได้แก่ metadata ที่บอกคำอธิบาย ระดับความรุนแรง หมวด และทิศทางของข้อมูล, patterns หรือข้อความที่ต้องตรวจหา, condition ที่กำหนดว่ากฎจะทำงานเมื่อไร และ action ที่แนะนำ

ตัวอย่าง prompt injection อย่าง “ให้ละเลยคำสั่งก่อนหน้า” ไม่ควรตั้งกฎให้บล็อกคำว่า “ละเลย” เพียงคำเดียว เพราะคำนี้อาจอยู่ในคอมเมนต์โค้ดหรือคู่มือปกติได้ กฎที่ดีจึงต้องดูคำกริยาร่วมกับรูปแบบที่มีลักษณะเป็นคำสั่ง เพื่อลดการเตือนเกินจริง

จุดที่คนทำธุรกิจมักมองข้ามคือการทดสอบด้านลบ กล่าวคือ นอกจากต้องมีตัวอย่างที่ “ควรถูกจับ” แล้ว ยังต้องมีตัวอย่างที่ “ไม่ควรถูกจับ” ด้วย หากระบบเตือนทุกครั้งที่มีคำว่า “ลบ” หรือ “ข้อมูลลูกค้า” สุดท้ายทีมจะเริ่มไม่สนใจคำเตือน และระบบป้องกันก็ไม่มีความหมาย

การกำหนดระดับความรุนแรงควรอิงผลกระทบจริง ไม่ใช่หน้าตาของคำสั่ง คำสั่งลบไฟล์อาจดูน่ากลัว แต่บางกรณีเป็นส่วนหนึ่งของการล้างไฟล์ build ตามปกติ การออกแบบระบบที่ใช้งานได้จึงต้องสมดุลระหว่างการป้องกันและการไม่ขัดขวางงานเกินเหตุ

Step 8: นำหลักป้องกันหลายชั้นมาจัดเป็น Actionable Insights

ภาพสุดท้ายของ PostHog คือ defense in depth หรือการป้องกันหลายชั้น ได้แก่ prompt สำหรับนำทาง, sandbox, สิทธิ์แบบปิดไว้ก่อน, vault สำหรับ secrets, การสแกน input และ output, LLM สำหรับ triage และ telemetry เพื่อติดตามสิ่งที่เกิดขึ้น ไม่มีชั้นใดชั้นหนึ่งปกป้องทุกอย่างได้ลำพัง

Actionable Insights สำหรับเจ้าของธุรกิจและคนทำงาน

Troubleshooting: แก้ปัญหาที่พบบ่อยเมื่อใช้ AI Agent

การต่อยอด

สรุป Checklist ทั้งหมด

บทสรุปจาก PostHog คือ AI Agent ที่มี “มือ” สามารถสร้างคุณค่าทางธุรกิจได้มาก แต่ไม่ควรมีอิสระเกินกว่าที่เราตรวจสอบได้ Prompt ช่วยกำกับทิศทาง แต่รั้วที่ป้องกันความเสียหายต้องเป็นสิทธิ์ ระบบตรวจจับ กฎที่บังคับใช้ได้ และการป้องกันหลายชั้นเสมอ

ที่มา: We let an AI agent execute Bash and lived to talk about it — Sarah Sanders, PostHog · AI Engineer

Insiderly

บทความจากกองบรรณาธิการ Insiderly

อ่านบทความทั้งหมด

More in ชิปและโครงสร้างพื้นฐาน

See all
video thumbnail for 'Life Near OpenAI's Stargate Project'

AI Infrastructure กำลังเปลี่ยนเมืองเล็กอย่างไร โดยไม่ทำลายรากเดิม

โดย Insiderly
/
video thumbnail for 'The Prime Intellect Stack — Will Brown, Prime Intellect'

Prime Intellect Stack: แยก task, harness และ runtime ก่อนทำ post-training

โดย Insiderly
/
video thumbnail for 'Agent OS + Tailscale: FREE AI Everywhere!'

Tailscale: เปิด Dashboard ของ AI Agent บนมือถือผ่าน Tailnet

โดย Insiderly
/
video thumbnail for 'Jcode DESTROYS Claude Code?'

JCode ในคลิป Julian Goldie: ความไวของหน้าจอ Swarm และ Memory Graph

โดย Insiderly
/

บทความอื่นจาก Insiderly

See all
ภาพปกบทสัมภาษณ์ Will Koh จาก Ramp เรื่อง GPT-5.5

GPT-5.5 กับงานจริง: บทเรียนจาก Will Koh และ Ramp

โดย Insiderly
/
ภาพปกคลิป ChatGPT Images 2.0 พร้อมตัวอย่างภาพจรวด

ChatGPT Images 2.0: ย้อนดูแนวคิดภาพสำหรับงานธุรกิจ

โดย Insiderly
/
ภาพปก The End of Apps ของ Kitze บนเวที AI Engineer Europe

AI Agents กับจุดจบของแอป: บทเรียนจาก Kitze

โดย Insiderly
/
ภาพปกการสนทนา Human Judgment in Agentic Engineering จาก AI Engineer Europe

AI เร่งงานได้ แต่แรงเสียดทานช่วยให้เราตัดสินใจดีขึ้น

โดย Insiderly
/