โอเพ่นซอร์ส AI: ความสมดุลระหว่างความโปร่งใสและความปลอดภัย

24/8/2567 15:44

การพัฒนาระบบ AI แบบเปิดเริ่มก้าวกระโดดขึ้น แต่ยังคงพบกับความท้าทายในเรื่องความโปร่งใสและความปลอดภัย

Eulerpool News 24 ส.ค. 2567 15:44

Here's the translated heading in Thai:
การพัฒนาของปัญญาประดิษฐ์แบบโอเพนซอร์ส (KI) ได้เพิ่มความเร็วอย่างมากในช่วงหลายเดือนที่ผ่านมา ในสภาพแวดล้อมที่บริษัทต่างๆ เช่น OpenAI และ Google ลงทุนเป็นพันล้านในระบบปัญญาประดิษฐ์ที่มีประสิทธิภาพมากขึ้น รูปแบบเปิดได้ก้าวหน้าอย่างน่าทึ่ง แต่ถึงแม้จะมีความสำเร็จในแง่ดี ข้อบกพร่องหลักก็เปิดเผย: ระบบที่เรียกว่าโอเพนซอร์สจำนวนมากเหล่านี้ในความเป็นจริงเปิดแค่บางส่วนเท่านั้น

ตัวอย่างที่โดดเด่นคือ Llama ของ Meta แม้จะเปิดเผย "น้ำหนัก" ที่กำหนดว่ารุ่นจะตอบสนองต่อคำขออย่างไร แต่ข้อมูลการฝึกอบรมพื้นฐานยังคงถูกซ่อนไว้ ซึ่งทำให้นักพัฒนาปรับรุ่นได้ แต่ความโปร่งใสในการสร้างรุ่นใหม่จากพื้นฐานยังขาดอยู่

Für Entwickler hat diese eingeschränkte Offenheit dennoch Vorteile. Sie können quasi-offene Modelle anpassen und auf ihre eigenen Daten trainieren, ohne sensible Informationen an Drittunternehmen weitergeben zu müssen. Doch diese Einschränkungen haben ihren Preis. Ayah Bdeir, eine Senior-Beraterin der Mozilla Foundation, betont, dass nur wirklich offene Technologien ein umfassendes Verständnis der Systeme ermöglichen, die zunehmend alle Bereiche unseres Lebens beeinflussen. Zudem könnten nur wirklich offene Systeme sicherstellen, dass Innovation und Wettbewerb nicht von einigen wenigen dominanten KI-Unternehmen erstickt werden.

สำหรับนักพัฒนา ข้อจำกัดด้านความเปิดเผยนี้ยังมีข้อดีอยู่บ้าง พวกเขาสามารถปรับแต่งโมเดลที่กึ่งเปิดและฝึกบนข้อมูลของตนโดยไม่จำเป็นต้องเปิดเผยข้อมูลที่ละเอียดอ่อนให้กับบริษัทที่สาม อย่างไรก็ตาม ข้อจำกัดเหล่านี้ก็มีค่าใช้จ่ายของมัน Ayah Bdeir ที่ปรึกษาอาวุโสของ Mozilla Foundation เน้นว่ามีเพียงเทคโนโลยีที่เปิดเผยอย่างแท้จริงเท่านั้น ที่จะช่วยให้เข้าใจระบบได้อย่างถ่องแท้ ซึ่งจะส่งผลกับทุกด้านของชีวิตเรา นอกจากนี้ ระบบที่เปิดเผยจริง ๆ เท่านั้นที่สามารถรับรองได้ว่า นวัตกรรมและการแข่งขันจะไม่ถูกบริษัท AI ขนาดใหญ่ไม่กี่แห่งครอบงำ

เพื่อตอบสนองต่อสิ่งนี้ องค์กร Open Source Initiative ซึ่งได้กำหนดคำนิยามของซอฟต์แวร์โอเพนซอร์สมากว่า 20 ปี ได้เสนอคำนิยามที่เกือบสมบูรณ์สำหรับ AI โอเพนซอร์ส โดยคำนิยามนี้ต้องการไม่เพียงแค่การเปิดเผย "Weights" เท่านั้น แต่ยังรวมถึงข้อมูลเพียงพอเกี่ยวกับข้อมูลการฝึกอบรมและโค้ดพื้นฐาน เพื่อให้สามารถทำซ้ำโมเดลได้

การเคลื่อนไหวนี้นำไปสู่การแบ่งส่วนที่มากขึ้นในโลก AI บริษัทหลายแห่งระมัดระวังในเรื่องการใช้คำศัพท์เพื่อหลีกเลี่ยงข้อพิพาททางกฎหมาย ดังนั้น Mistral จึงเรียกรุ่น Nemo ของตนว่า "Open Weights" และหลีกเลี่ยงคำว่า "Open Source" อย่างตั้งใจ

ในขณะที่ระบบบางประเภทเป็นระบบกึ่งเปิด แต่ก็มีการพัฒนาโมเดลที่เปิดเต็มตัว เช่น แบบจำลองภาษาของ Olmo จาก Allen Institute for AI อย่างไรก็ตาม ยังต้องรอดูกันต่อไปว่ามันจะมีอิทธิพลต่อโลกของปัญญาประดิษฐ์เทียบเท่ากับซอฟต์แวร์โอเพ่นซอร์สในอุตสาหกรรมเทคโนโลยีหรือไม่

เพื่อความก้าวหน้าของแบบจำลอง AI เปิด จะต้องมีสองสิ่ง สิ่งแรกเทคโนโลยีจะต้องตอบสนองความต้องการที่เพียงพอเพื่อดึงดูดผู้ใช้และนักพัฒนาจำนวนมาก ในขณะที่ Linux เป็นทางเลือกที่ชัดเจนสำหรับระบบปฏิบัติการเซิร์ฟเวอร์เทียบกับ Microsoft Windows ไม่มีสิ่งที่เทียบเท่าในด้าน AI ตลาดมีความเป็นเสี่ยง และผู้ใช้อาจพอใจกับแบบจำลองที่เปิดบางส่วน เช่น Llama

Here is the translated heading in Thai:

ประการที่สอง ผู้สนับสนุน AI แบบเปิดต้องนำเสนอข้อโต้แย้งที่น่าเชื่อถือมากขึ้นเกี่ยวกับความปลอดภัยของมัน อีกทั้งการคาดการณ์ที่จะทำให้เทคโนโลยีที่ทรงพลังและเป็นทั่วไปนี้เข้าถึงได้สำหรับทุกคน ก็ทำให้เกิดความกังวลที่มีเหตุผลได้ Oren Etzioni อดีตผู้อำนวยการของ Allen Institute กลับมองว่าความกลัวเหล่านี้หลายประการนั้นเกินจริง เขาให้เหตุผลว่าข้อมูลที่สามารถเข้าถึงได้โดยใช้โมเดล AI นั้นไม่น่าจะแตกต่างอย่างมีนัยสำคัญจากสิ่งที่มีอยู่แล้วผ่าน Google

จนกว่าความเสี่ยงและประโยชน์ที่อาจเกิดขึ้นจากการจัดหาเทคโนโลยี AI แบบเปิดจะได้รับการศึกษาอย่างถี่ถ้วนมากขึ้น ความกังวลต่างๆ ก็จะยังคงอยู่

ทำการลงทุนที่ดีที่สุดในชีวิตของคุณ
fair value · 20 million securities worldwide · 50 year history · 10 year estimates · leading business news

เริ่มต้นที่ 2 ยูโร

ข่าว