บริษัท Microsoft Corp. ดำเนินมาตรการเพื่อป้องกันการถูกหลอกให้แชตบอทปัญญาประดิษฐ์มีพฤติกรรมที่ไม่ปกติหรือเป็นอันตราย ในโพสต์บล็อกเมื่อวันพฤหัสบดี บริษัทที่ตั้งอยู่ในเมือง Redmond รัฐวอชิงตัน ประกาศคุณลักษณะความปลอดภัยใหม่สำหรับ Azure AI Studio ซึ่งเป็นเครื่องมือที่ช่วยให้นักพัฒนาสามารถสร้างผู้ช่วย AI ที่ปรับแต่งเฉพาะด้วยข้อมูลของตนเองได้.

เครื่องมือใหม่ ๆ ที่พัฒนาขึ้น ได้แก่ "Prompt-Shield" ที่ออกแบบมาเพื่อตรวจจับและป้องกันความพยายามที่มีเจตนา – เรียกว่าการโจมตีด้วยการฉีด Prompt หรือการทำ Jailbreak – ที่พยายามทำให้โมเดล AI มีพฤติกรรมที่ไม่พึงประสงค์.

ไมโครซอฟท์ยังคงจัดการกับ "การฉีดพรอมต์ทางอ้อม" ซึ่งแฮกเกอร์ใส่คำสั่งที่เป็นอันตรายเข้าไปในข้อมูลที่ใช้สำหรับการฝึกอบรมโมเดล เพื่อทำให้เกิดการกระทำที่ไม่ได้รับอนุญาต เช่น การขโมยข้อมูลผู้ใช้หรือการควบคุมระบบ

ตามที่ Sarah Bird หัวหน้าเจ้าหน้าที่ผลิตภัณฑ์ของ Microsoft สำหรับ AI ที่รับผิดชอบ กล่าวว่าการโจมตีดังกล่าวนับเป็นความท้าทายและภัยคุกคามที่ไม่ซ้ำใคร มาตรการป้องกันใหม่ได้ถูกออกแบบมาเพื่อจำแนกความผิดปกติของข้อมูลที่เข้ามาและบล็อคข้อมูลนั้นๆ ในทันที

นอกจากนี้ Microsoft ได้เ introdukt ฟีเจอร์ที่จะเตือนผู้ใช้เมื่อมีการสร้างสิ่งประดิษฐ์หรือให้คำตอบที่ผิดพลาดโดยระบบ AI ขณะที่ Microsoft กำลังมุ่งมั่นในการสร้างความไว้วางใจให้กับเครื่องมือ AI ที่สร้างสรรค์ซึ่งถูกใช้งานทั้งโดยผู้บริโภคและลูกค้าองค์กร

ในเดือนกุมภาพันธ์ บริษัทฯ ได้ทำการสอบสวนเหตุการณ์ที่เกี่ยวข้องกับบอทแชท Copilot ซึ่งสร้างคำตอบที่แตกต่างกันตั้งแต่แปลกประหลาดไปจนถึงที่เป็นอันตราย หลังจากตรวจสอบเหตุการณ์ดังกล่าว ไมโครซอฟท์ได้แถลงว่าผู้ใช้งานบางคนได้พยายามโน้มน้าว Copilot เพื่อให้ได้คำตอบเหล่านั้นอย่างตั้งใจ

ไมโครซอฟท์เป็นนักลงทุนรายใหญ่ที่สุดของ OpenAI และได้ทำให้ความร่วมมือนี้เป็นส่วนสำคัญของกลยุทธ์ AI ของตน Bird ได้เน้นย้ำว่า ไมโครซอฟท์และ OpenAI ทุ่มเทให้กับการใช้งาน AI อย่างปลอดภัยและได้ผสานมาตรการป้องกันเข้ากับรูปแบบภาษาขนาดใหญ่ที่เป็นพื้นฐานของ generative AI “อย่างไรก็ดี คุณไม่สามารถพึ่งพาเพียงโมเดลเดียวได้” เธอกล่าว “เหล่า Jailbreaks ตัวอย่างเช่น เป็นความอ่อนแอที่ฝังอยู่ในเทคโนโลยีของโมเดล”