ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์ บริษัทหลายแห่งได้เปิดตัวระบบ "ตัวแทน AI" ของตนเอง ตัวแทนเหล่านี้สามารถโต้ตอบกับสภาพแวดล้อมได้โดยอัตโนมัติและทำงานให้เสร็จสิ้นโดยไม่ต้องมีการแทรกแซงของมนุษย์ บริษัทต่างๆ เช่น Microsoft และ Anthropic เป็นผู้นำในการเปิดตัวตัวแทน AI ของตนเอง แต่ OpenAI ผู้นำในอุตสาหกรรมกลับช้าในการเปิดตัวเวอร์ชันของตัวเอง เหตุผลที่อยู่เบื้องหลังสิ่งนี้ชวนให้คิด
จากข้อมูลของ The Information ความล่าช้าของ OpenAI เกี่ยวข้องกับการโจมตีแบบ "int injector" วิธีการโจมตีนี้สามารถหลอกให้โมเดล AI ยอมรับคำสั่งจากกลุ่มที่เป็นอันตรายได้ ตัวอย่างเช่น เมื่อผู้ใช้มอบหมายให้ตัวแทน AI ค้นหาและซื้อสินค้าออนไลน์ AI อาจเยี่ยมชมเว็บไซต์ที่เป็นอันตรายโดยไม่ตั้งใจ ซึ่งอาจสั่งให้ลืมคำแนะนำก่อนหน้านี้ หรือแม้แต่ลงชื่อเข้าใช้กล่องจดหมายของผู้ใช้เพื่อขโมยข้อมูลบัตรเครดิต สิ่งนี้ไม่เพียงแต่จะส่งผลร้ายแรงต่อผู้ใช้เท่านั้น แต่ยังสร้างความเสียหายอย่างร้ายแรงต่อชื่อเสียงของ OpenAI ด้วย
เนื่องจากเจ้าหน้าที่ AI มีความสามารถในการใช้งานคอมพิวเตอร์โดยอัตโนมัติ จึงต้องเผชิญกับความเสี่ยงด้านความปลอดภัยที่สูงขึ้น หากพร็อกซีเหล่านี้ถูกแฮ็ก อาจสร้างความเสียหายให้กับไฟล์และข้อมูลของผู้ใช้ได้มากขึ้น พนักงานของ OpenAI กล่าวว่าแม้ว่าโมเดลภาษาขนาดใหญ่ (LLM) ใดๆ ก็ตามอาจเสี่ยงต่อการถูกโจมตี แต่ความสามารถอัตโนมัติของตัวแทน AI ก็ทำให้ความเสี่ยงนี้รุนแรงขึ้น
ในปัจจุบัน ความเสี่ยงของการฉีดทิปได้รับการบันทึกไว้อย่างดีบนแพลตฟอร์มอื่นๆ เมื่อปีที่แล้ว นักวิจัยด้านความปลอดภัยได้สาธิตวิธีที่ C opilot AI ของ Microsoft สามารถจัดการได้อย่างง่ายดายเพื่อทำให้ข้อมูลที่ละเอียดอ่อนขององค์กรรั่วไหล รวมถึงอีเมลและบันทึกธุรกรรมของธนาคาร นอกจากนี้ ผู้วิจัยยังประสบความสำเร็จในการปรับแต่ง C opilot ให้เขียนอีเมลในรูปแบบของพนักงานคนอื่นๆ
ChatGPT ของ OpenAI ยังประสบปัญหาการโจมตีแบบฉีดทันที และนักวิจัยประสบความสำเร็จในการฝัง "ความทรงจำ" ปลอมโดยการอัปโหลดไฟล์ของบุคคลที่สาม (เช่น เอกสาร Word) ท่ามกลางฉากหลังนี้ พนักงานของ OpenAI แสดงความประหลาดใจต่อ "ทัศนคติแบบไม่มีเงื่อนไข" ของคู่แข่งอย่าง Anthropic ในการปล่อยตัวแทน AI Anthropic แนะนำให้นักพัฒนา "ดำเนินการเพื่อแยก Claude ออกจากข้อมูลที่ละเอียดอ่อน" และไม่ใช้มาตรการรักษาความปลอดภัยที่เข้มงวดกว่านี้
OpenAI อาจเปิดตัวซอฟต์แวร์ตัวแทนในเดือนนี้ตามรายงาน อย่างไรก็ตาม เราต้องสงสัยว่าเวลาที่ได้รับจากทีมพัฒนาจะเพียงพอที่จะสร้างการป้องกันความปลอดภัยที่แข็งแกร่งยิ่งขึ้นสำหรับผลิตภัณฑ์ของตนหรือไม่
ไฮไลท์:
OpenAI ยังไม่ได้เปิดตัวตัวแทน AI เนื่องจากข้อกังวลเกี่ยวกับการโจมตีแบบ "ฉีดคำใบ้" ซึ่งก่อให้เกิดความเสี่ยงอย่างมาก
บริษัทอื่นๆ เช่น Microsoft และ Anthropic ได้เปิดตัวตัวแทน AI แต่ความเสี่ยงด้านความปลอดภัยยังคงร้ายแรง
OpenAI กำลังทำงานเพื่อปรับปรุงความปลอดภัยของผลิตภัณฑ์เพื่อป้องกันการละเมิดข้อมูลที่อาจเกิดขึ้น
