เรียบเรียงจากบทความต้นทางลงวันที่ 2026-09-14 และคลิป We let an AI agent execute Bash and lived to talk about it — Sarah Sanders, PostHog ของช่อง AI Engineer ตามที่ต้นฉบับระบุ ความสามารถและผลลัพธ์ที่เล่าเป็นข้อมูลจากคลิป ไม่ใช่ผลทดสอบอิสระหรือคำรับรองสถานะปัจจุบัน ตัวอย่างสำหรับธุรกิจไทยเป็นการประยุกต์ของบทความ วันที่นี้เป็นวันที่บทความต้นทาง ไม่ใช่วันอัปโหลดวิดีโอซึ่งยังไม่ทราบ
AI Agent ที่อ่านข้อมูล ตัดสินใจ และลงมือทำงานในระบบได้เอง ช่วยลดเวลาทำงานได้มาก แต่ความสามารถเดียวกันนี้ก็ทำให้ความเสี่ยงขยายตัวแบบที่หลายธุรกิจไม่ทันเห็น
ประเด็นนี้ชัดมากในคลิปของ Sarah Sanders จาก PostHog บนช่อง AI Engineer ซึ่งเล่าว่าทีมยอมให้ AI Agent รันคำสั่ง Bash เพื่อเซ็ตอัป analytics ได้อย่างไร โดยยังควบคุมความเสี่ยงได้ บทเรียนสำคัญไม่ใช่เรื่องโค้ดอย่างเดียว แต่คือกรอบคิดสำหรับเจ้าของธุรกิจไทยที่กำลังให้ AI เข้าถึงเอกสาร ลูกค้า ระบบหลังบ้าน หรือ workflow สำคัญ
แก่นของเรื่องมีอยู่ข้อเดียว: Prompt ไม่ใช่ระบบความปลอดภัย หาก AI มีสิทธิ์ทำงานจริง ต้องมีขอบเขตที่บังคับใช้ได้ ตรวจสอบได้ และหยุดการทำงานได้จริง
สารบัญ
- Step 1: แยกให้ออกว่า AI แชต กับ AI Agent มีความเสี่ยงไม่เท่ากัน
- Step 2: เริ่มจากกำหนดสิทธิ์แบบไม่อนุญาตไว้ก่อน
- Step 3: ตรวจเส้นทางข้อมูลทั้งหมด ไม่ใช่แค่สิ่งที่พนักงานพิมพ์
- Step 4: มองความเสี่ยงเป็นการต่อกันของช่องโหว่เล็ก ๆ
- Step 5: แยกการตรวจจับออกจากการตัดสินใจลงมือทำ
- Step 6: ใช้ LLM เป็นที่ปรึกษา ไม่ใช่ผู้คุมประตู
- Step 7: เขียนกฎที่วัดผลได้ และทดสอบทั้งสิ่งที่ต้องจับกับสิ่งที่ไม่ควรจับ
- Step 8: นำหลักป้องกันหลายชั้นมาจัดเป็น Actionable Insights
Step 1: แยกให้ออกว่า AI แชต กับ AI Agent มีความเสี่ยงไม่เท่ากัน
PostHog สร้างเครื่องมือชื่อ Wizard ซึ่งเป็น agentic CLI สำหรับช่วยติดตั้งระบบ analytics ลงในโปรเจกต์ เครื่องมือนี้อ่านโค้ด เลือก SDK ที่เหมาะสม ติดตั้งแพ็กเกจ ตั้งค่า event และสร้าง dashboard ได้ โดยลดงานติดตั้งที่เดิมอาจใช้เวลาหนึ่งถึงสองชั่วโมงให้เหลือราวห้าถึงหกนาที
ความสะดวกนี้ทำให้ Wizard มีลักษณะเป็น “ผู้ช่วยลงมือทำ” ไม่ใช่แค่ “ผู้ช่วยตอบ” มันมี model, prompt, tools และ context ที่ป้อนเข้าไป เพื่อให้ตัดสินใจและรันคำสั่งต่อได้ นี่คือจุดที่เจ้าของธุรกิจควรเปลี่ยนคำถามจาก “AI ตอบได้ฉลาดไหม” เป็น “AI ทำอะไรได้บ้างเมื่อมันตอบเสร็จแล้ว”
ตัวอย่างในธุรกิจไทยอาจเป็น Agent ที่อ่านอีเมลลูกค้าแล้วสร้าง ticket, อ่านใบสั่งซื้อแล้วบันทึกลงระบบ, ดึงข้อมูลจาก CRM เพื่อร่างข้อเสนอ หรือสั่งงานผ่าน API ไปยังระบบสต๊อก งานเหล่านี้มีมูลค่าสูง แต่เมื่อ Agent แตะข้อมูลจริงหรือสั่งงานจริง ความผิดพลาดหนึ่งครั้งอาจไม่ใช่แค่คำตอบผิด แต่อาจเป็นการส่งข้อมูลผิดคน สร้างรายการซ้ำ หรือแก้ไขข้อมูลสำคัญโดยไม่ตั้งใจ
Step 2: เริ่มจากกำหนดสิทธิ์แบบไม่อนุญาตไว้ก่อน
Sarah อธิบายว่า Agent ที่มีคำสั่งให้รัน มีเครื่องมือ มีข้อมูล และเชื่อมต่อ terminal นั้นมีองค์ประกอบคล้ายสิ่งที่มัลแวร์ต้องการมาก จึงไม่ควรเริ่มต้นจากการเปิดสิทธิ์กว้างแล้วค่อยห้ามบางอย่างภายหลัง
แนวทางของ PostHog คือ deny by default หรือปิดไว้ก่อน แล้วอนุญาตเฉพาะสิ่งจำเป็น Wizard ไม่สามารถรันคำสั่ง shell แบบสุ่มได้ สิ่งที่อนุญาตถูกจำกัดไว้ เช่น ติดตั้งแพ็กเกจที่ทีมตรวจแล้ว สั่ง build, type check และ lint เท่านั้น อีกทั้ง Agent ไม่มีสิทธิ์อ่านไฟล์ .env และความลับถูกส่งผ่าน vault แทนที่จะเข้าไปอยู่ใน context ของ model
เมื่อนำมาปรับใช้กับธุรกิจ ควรทำ “รายการสิทธิ์ขั้นต่ำ” ก่อนเปิด Agent ทุกตัว เช่น
- Agent ฝ่ายบริการลูกค้าดูได้เฉพาะข้อมูลคำสั่งซื้อที่เกี่ยวข้องกับเคสนั้น
- Agent การตลาดอ่านรายงานยอดขายได้ แต่ไม่มีสิทธิ์แก้ราคาในระบบ
- Agent การเงินสร้างร่างรายงานได้ แต่การโอนเงินหรืออนุมัติจ่ายต้องมีคนกดยืนยัน
- Agent ที่เชื่อมต่อ Google Drive หรือ Notion เข้าถึงเฉพาะโฟลเดอร์ที่อนุมัติ ไม่ใช่ทุกไฟล์ในบริษัท
มุมที่ควรระวังคือ หลายทีมเข้าใจว่าเขียน prompt ว่า “ห้ามเปิดเผยข้อมูลลูกค้า” แล้วเพียงพอ แต่ prompt เป็นเพียงคำสั่งนำทาง ไม่ใช่ประตูล็อก หากระบบยังส่งข้อมูลนั้นให้ Agent หรือให้สิทธิ์ API กว้างเกินไป คำห้ามใน prompt ก็ไม่มีน้ำหนักพอ
Step 3: ตรวจเส้นทางข้อมูลทั้งหมด ไม่ใช่แค่สิ่งที่พนักงานพิมพ์
บทเรียนที่น่าสนใจที่สุดจาก PostHog คือ input อันตรายอาจไม่ได้มาจากผู้ใช้ที่กำลังคุยกับ Agent เท่านั้น แต่ยังมาจากเนื้อหาที่องค์กรสร้างและเชื่อถือเองด้วย
Wizard ใช้ context engine ที่รวบรวมเอกสาร คู่มือ prompt ที่ทีมเขียน ตัวอย่างแอป และบทเรียนจากงานจริง แล้วแพ็กเป็น skill bundles ส่งเข้า context ของ Agent ตอนใช้งาน ปัญหาคือ หากมีคนแทรกข้อความชักนำไว้ในไฟล์ Markdown, คอมเมนต์โค้ด หรือเอกสารที่เข้ามาใน pipeline ข้อความนั้นอาจเดินทางไปถึง Agent ที่มีสิทธิ์รันคำสั่งได้
นี่คือรูปแบบหนึ่งของ prompt injection ที่ธุรกิจควรมองให้กว้างขึ้น หากองค์กรมี AI อ่านเอกสารจากภายนอก อีเมล CV ใบเสนอราคา รีวิวสินค้า หรือไฟล์ที่ลูกค้าอัปโหลด ทุกชิ้นล้วนเป็นข้อมูลที่อาจมีข้อความพยายามบิดทิศทาง Agent ได้
สำหรับองค์กรไทย วิธีเริ่มที่จับต้องได้คือทำแผนที่ข้อมูลหนึ่งหน้า โดยไล่ตอบคำถามเหล่านี้
- Agent รับข้อมูลจากระบบหรือไฟล์ใดบ้าง
- ข้อมูลส่วนใดมาจากภายนอก หรือแก้ไขโดยคนที่ไม่ใช่ทีมหลักได้
- ข้อมูลใดถูกส่งเข้า model และข้อมูลใดถูกส่งต่อไปยังระบบอื่น
- หากข้อความหนึ่งชิ้นมีเจตนาหลอก Agent มันจะทำให้เกิดการกระทำใดได้บ้าง
ทีม PostHog เลือกสแกนเนื้อหาสองรอบ คือรอบแรกตอนสร้างและปล่อย skill และรอบที่สองตอน Wizard เรียกใช้ หลักคิดนี้เรียบง่ายมาก: ดักตั้งแต่ต้นทาง แล้วสมมติว่าต้นทางพลาด จึงดักซ้ำตรงจุดใช้งาน
Step 4: มองความเสี่ยงเป็นการต่อกันของช่องโหว่เล็ก ๆ
การตรวจระบบของทีม security พบช่องโหว่บางจุด แต่สิ่งที่สำคัญกว่ารายละเอียดของบั๊กคือรูปแบบของมัน ส่วนใหญ่ไม่ใช่สิ่งที่ดูร้ายชัดเจนตั้งแต่แรก กลับเป็นคุณสมบัติเล็ก ๆ สองอย่างที่ตั้งใจดี แต่เมื่อนำมาเชื่อมกันแล้วกลายเป็นช่องเปิด
Sarah สรุปประเด็นนี้ได้คมมากว่า การโจมตี “ประกอบร่าง” ได้ แต่การรีวิวโค้ดมักดูการเปลี่ยนแปลงทีละส่วน ธุรกิจจึงไม่ควรถามแค่ว่า “เครื่องมือ A ปลอดภัยไหม” หรือ “ระบบ B ปลอดภัยไหม” แต่ต้องถามว่า “ถ้า A ส่งข้อมูลให้ B แล้ว B มีสิทธิ์ไป C ผลรวมจะเกิดอะไรขึ้น”
ตัวอย่างใกล้ตัวคือ AI อ่านอีเมลลูกค้าได้, ดึงข้อมูลจาก CRM ได้ และส่งข้อความผ่าน LINE OA ได้ แต่ละสิทธิ์อาจดูสมเหตุผลแยกกัน ทว่าเมื่อ AI ถูกหลอกผ่านอีเมล แล้วนำข้อมูลลูกค้าไปส่งออกทางข้อความอัตโนมัติ ความเสี่ยงเกิดจากการเชื่อมกันของทั้งสามสิทธิ์
ก่อนเปิด workflow อัตโนมัติ ให้ทีมธุรกิจและทีมเทคนิคร่วมกันทำ “เกมสมมติ” สั้น ๆ อย่างน้อยหนึ่งรอบ: ถ้า input ผิดหรือมีเจตนาร้ายเข้ามา Agent จะอ่านอะไร ตัดสินใจอะไร และมีทางออกไปสู่การกระทำใดบ้าง วิธีนี้ไม่ต้องเป็นผู้เชี่ยวชาญ security ก็ช่วยเห็นจุดเสี่ยงที่ซ่อนอยู่ได้
Step 5: แยกการตรวจจับออกจากการตัดสินใจลงมือทำ
PostHog สร้างเครื่องมือสแกนชื่อ Warlock ให้ทำงานเพียงอย่างเดียว คือรับข้อความแล้วคืนรายการความเสี่ยง โดยระบุหมวดหมู่ ระดับความรุนแรง และคำแนะนำว่าควรจัดการอย่างไร Warlock ตรวจจับ แต่ไม่ตัดสินใจลงมือทำเอง
การแยกหน้าที่แบบนี้สำคัญมาก เพราะระบบที่ “พบความเสี่ยง” กับระบบที่ “ตัดสินใจบล็อกหรืออนุญาต” ไม่ควรถูกปนกันจนแกะไม่ออก โดยเฉพาะกรณีที่การกระทำมีผลต่อเงิน ข้อมูลส่วนบุคคล หรือสิทธิ์เข้าถึงระบบ
Warlock ใช้กฎแบบ deterministic บน YARA ซึ่งเป็น rule engine ที่ใช้ในงานวิจัยมัลแวร์มานาน จุดเด่นคือ input เดิมจะได้ผลเดิม ไม่ขึ้นกับอารมณ์หรือความผันผวนของ model
ธุรกิจไม่จำเป็นต้องสร้าง YARA เองเพื่อรับหลักการนี้ไปใช้ การตั้งกฎแบบกำหนดตายตัวอาจเริ่มจากเรื่องพื้นฐาน เช่น
- ห้าม Agent ส่งออกเลขบัตรประชาชน เบอร์โทรศัพท์ หรืออีเมลจำนวนมาก
- ห้ามคืนข้อมูล API key, รหัสผ่าน หรือข้อมูลลับลงในแชต
- ต้องให้คนอนุมัติก่อนการลบข้อมูล แก้ราคาสินค้า หรือคืนเงิน
- หยุด workflow ทันทีหากคำสั่งพยายามเข้าถึงแหล่งข้อมูลนอกขอบเขต
Step 6: ใช้ LLM เป็นที่ปรึกษา ไม่ใช่ผู้คุมประตู
กฎที่เข้มเกินไปมักสร้าง false positive หรือเตือนสิ่งที่ไม่อันตรายจริง PostHog พบว่าคำหรือข้อความจากหน้าล็อกอินเดโม ตัวอย่างในเอกสาร และแอปตัวอย่าง อาจดูคล้าย prompt injection ได้
ทีมจึงเพิ่ม LLM เข้ามาช่วยคัดแยกสัญญาณรบกวน แต่ไม่ได้ยกสิทธิ์ให้ model เป็นผู้ตัดสินคำสั่งสุดท้าย การบล็อกและการบังคับใช้กฎยังเป็น deterministic เสมอ หากกฎตรงเงื่อนไข ระบบจะล็อกและจบ session ก่อนถามความเห็นจาก LLM
นี่เป็นเส้นแบ่งที่ธุรกิจควรยึดไว้: ให้ AI ช่วยตีความได้ แต่ไม่ควรให้ AI เป็นผู้อนุมัติการกระทำที่มีผลร้ายแรงเพียงลำพัง หาก model ทำงานผิดพลาดหรือบริการมีปัญหา ระบบของ PostHog เลือก fail closed คือหยุดการทำงานเพื่อป้องกันไว้ก่อน
แน่นอนว่า fail closed อาจทำให้งานสะดุด จึงไม่เหมาะกับทุก workflow แต่สำหรับการโอนเงิน การส่งออกฐานลูกค้า หรือการเปลี่ยนสิทธิ์ผู้ใช้งาน ความสะดุดชั่วคราวมักเสียหายน้อยกว่าการปล่อยให้คำสั่งเสี่ยงผ่านไป
Step 7: เขียนกฎที่วัดผลได้ และทดสอบทั้งสิ่งที่ต้องจับกับสิ่งที่ไม่ควรจับ
กฎของ Warlock มีองค์ประกอบสี่ส่วน ได้แก่ metadata ที่บอกคำอธิบาย ระดับความรุนแรง หมวด และทิศทางของข้อมูล, patterns หรือข้อความที่ต้องตรวจหา, condition ที่กำหนดว่ากฎจะทำงานเมื่อไร และ action ที่แนะนำ
ตัวอย่าง prompt injection อย่าง “ให้ละเลยคำสั่งก่อนหน้า” ไม่ควรตั้งกฎให้บล็อกคำว่า “ละเลย” เพียงคำเดียว เพราะคำนี้อาจอยู่ในคอมเมนต์โค้ดหรือคู่มือปกติได้ กฎที่ดีจึงต้องดูคำกริยาร่วมกับรูปแบบที่มีลักษณะเป็นคำสั่ง เพื่อลดการเตือนเกินจริง
จุดที่คนทำธุรกิจมักมองข้ามคือการทดสอบด้านลบ กล่าวคือ นอกจากต้องมีตัวอย่างที่ “ควรถูกจับ” แล้ว ยังต้องมีตัวอย่างที่ “ไม่ควรถูกจับ” ด้วย หากระบบเตือนทุกครั้งที่มีคำว่า “ลบ” หรือ “ข้อมูลลูกค้า” สุดท้ายทีมจะเริ่มไม่สนใจคำเตือน และระบบป้องกันก็ไม่มีความหมาย
การกำหนดระดับความรุนแรงควรอิงผลกระทบจริง ไม่ใช่หน้าตาของคำสั่ง คำสั่งลบไฟล์อาจดูน่ากลัว แต่บางกรณีเป็นส่วนหนึ่งของการล้างไฟล์ build ตามปกติ การออกแบบระบบที่ใช้งานได้จึงต้องสมดุลระหว่างการป้องกันและการไม่ขัดขวางงานเกินเหตุ
Step 8: นำหลักป้องกันหลายชั้นมาจัดเป็น Actionable Insights
ภาพสุดท้ายของ PostHog คือ defense in depth หรือการป้องกันหลายชั้น ได้แก่ prompt สำหรับนำทาง, sandbox, สิทธิ์แบบปิดไว้ก่อน, vault สำหรับ secrets, การสแกน input และ output, LLM สำหรับ triage และ telemetry เพื่อติดตามสิ่งที่เกิดขึ้น ไม่มีชั้นใดชั้นหนึ่งปกป้องทุกอย่างได้ลำพัง
Actionable Insights สำหรับเจ้าของธุรกิจและคนทำงาน
- เริ่มจากงานอ่านก่อนงานทำ: ให้ AI สรุป วิเคราะห์ และร่างงานก่อน แล้วค่อยเพิ่มสิทธิ์ให้สร้างหรือแก้ไขข้อมูลเมื่อมีมาตรการรองรับ
- ทำรายการสิทธิ์ของ Agent ทุกตัว: ระบุว่า Agent อ่านอะไร เขียนอะไร เรียก API ใด และเรื่องใดต้องขออนุมัติจากคน
- แยกข้อมูลลับออกจาก context: ไม่ใส่รหัสผ่าน API key หรือไฟล์ที่มีข้อมูลสำคัญลงใน prompt หรือฐานความรู้ที่ AI เข้าถึงตรง ๆ
- ทำจุดหยุดงานให้ชัด: งานเกี่ยวกับเงิน ราคา ข้อมูลลูกค้า หรือการลบข้อมูล ต้องมีเงื่อนไขหยุดและทางส่งต่อให้คนตรวจ
- เก็บร่องรอยการทำงาน: บันทึกว่า Agent รับข้อมูลอะไร เรียกเครื่องมือใด และได้ผลลัพธ์อะไร เพื่อย้อนตรวจเมื่อเกิดปัญหา
Troubleshooting: แก้ปัญหาที่พบบ่อยเมื่อใช้ AI Agent
- ปัญหา: Agent ทำเกินขอบเขตที่ตั้งใจ
สาเหตุ: ให้สิทธิ์ API หรือสิทธิ์เข้าถึงโฟลเดอร์กว้างเกินไป
วิธีแก้: ปิดสิทธิ์ทั้งหมดก่อน แล้วเปิดเฉพาะ action ที่จำเป็น พร้อมกำหนดรายการที่ต้องให้คนอนุมัติ - ปัญหา: ระบบเตือนความเสี่ยงบ่อยจนทีมเริ่มเมิน
สาเหตุ: กฎจับคำกว้างเกินไปและไม่มีตัวอย่างด้านลบ
วิธีแก้: รวบรวมเคสเตือนผิด ปรับกฎให้ดูคำและเจตนาร่วมกัน แล้วทดสอบทั้งเคสที่ควรและไม่ควรถูกจับ - ปัญหา: AI เผลอเผยข้อมูลลูกค้าหรือข้อมูลส่วนบุคคล
สาเหตุ: ไม่มีข้อจำกัดระดับข้อมูล หรือส่งข้อมูลดิบเข้า model มากเกินไป
วิธีแก้: ลดฟิลด์ข้อมูลที่ส่งเข้า Agent ปิดบังข้อมูลอ่อนไหว และตั้งกฎบล็อกการส่งออกข้อมูลสำคัญ - ปัญหา: Agent ถูกสั่งผิดผ่านเอกสารหรืออีเมล
สาเหตุ: เชื่อว่าข้อมูลในเอกสารปลอดภัยเพราะไม่ได้มาจากช่องแชต
วิธีแก้: ถือว่าเอกสารจากภายนอกเป็นข้อมูลที่ไม่น่าเชื่อถือ สแกนก่อนใช้งาน และห้ามเนื้อหานั้นสั่ง action สำคัญโดยตรง - ปัญหา: ไม่มีใครอธิบายได้ว่า Agent ทำอะไรไปแล้ว
สาเหตุ: ไม่มี log และไม่มีเจ้าของ workflow ที่ชัดเจน
วิธีแก้: เปิด telemetry กำหนดผู้รับผิดชอบ และทบทวนรายการ action กับข้อมูลที่ Agent ใช้เป็นระยะ
การต่อยอด
- สร้าง “AI approval matrix” ของบริษัท แบ่งงานเป็นกลุ่มที่ AI ทำเองได้, ต้องแจ้งหลังทำ, และต้องให้คนอนุมัติก่อนทำ
- ทำ knowledge base สำหรับ Agent โดยแยกเอกสารภายในที่ผ่านการตรวจแล้วออกจากเอกสารภายนอกที่ต้องสแกนก่อน
- เริ่มทดลอง Agent ใน sandbox ด้วยข้อมูลจำลองก่อนเชื่อมต่อ CRM, ระบบบัญชี หรือฐานข้อมูลจริง
สรุป Checklist ทั้งหมด
- ☐ ระบุว่า AI ตัวนี้เป็นแชตบอตหรือ Agent ที่ลงมือทำงานได้
- ☐ ทำรายการข้อมูล เครื่องมือ และ API ที่ Agent เข้าถึง
- ☐ ตั้งสิทธิ์แบบ deny by default และเปิดเฉพาะสิ่งจำเป็น
- ☐ แยก secrets ออกจาก prompt และ context ของ model
- ☐ ตรวจแหล่งข้อมูลทุกทางที่ไหลเข้า Agent รวมถึงเอกสารภายใน
- ☐ สแกนเนื้อหาทั้งก่อนเผยแพร่และก่อนนำไปใช้
- ☐ แยกตัวตรวจจับออกจากตัวตัดสินใจบล็อกหรืออนุญาต
- ☐ ใช้กฎตายตัวกับ action ที่มีความเสี่ยงสูง
- ☐ ใช้ LLM เพื่อช่วยคัดกรองและให้คำแนะนำ ไม่ใช่บังคับใช้กฎหลัก
- ☐ ทดสอบทั้งเคสที่ต้องถูกจับและเคสปกติที่ไม่ควรถูกจับ
- ☐ เก็บ log และกำหนดคนรับผิดชอบเมื่อ workflow ผิดพลาด
บทสรุปจาก PostHog คือ AI Agent ที่มี “มือ” สามารถสร้างคุณค่าทางธุรกิจได้มาก แต่ไม่ควรมีอิสระเกินกว่าที่เราตรวจสอบได้ Prompt ช่วยกำกับทิศทาง แต่รั้วที่ป้องกันความเสียหายต้องเป็นสิทธิ์ ระบบตรวจจับ กฎที่บังคับใช้ได้ และการป้องกันหลายชั้นเสมอ
ที่มา: We let an AI agent execute Bash and lived to talk about it — Sarah Sanders, PostHog · AI Engineer