AI

ओपन-सोर्स एआई: पारदर्शिता और सुरक्षा के बीच एक संतुलन

खुले एआई प्रणालियों का विकास गति पकड़ रहा है, लेकिन पारदर्शिता और सुरक्षा के संबंध में चुनौतियों का सामना कर रहा है।

Eulerpool News 24 अग॰ 2024, 3:44 pm

ओपन-सोर्स कृत्रिम बुद्धिमत्ता (केआई) का विकास हाल के महीनों में काफी तेजी से बढ़ा है। एक ऐसे माहौल में, जहां OpenAI और Google जैसे कंपनियां अधिक शक्तिशाली केआई सिस्टमों में अरबों का निवेश कर रही हैं, खुले मॉडल ने उल्लेखनीय प्रगति की है। लेकिन कथित सफलता के बावजूद, एक प्रमुख कमजोरी स्पष्ट होती है: इन तथाकथित ओपन-सोर्स सिस्टमों में से कई वास्तव में केवल आंशिक रूप से ही खुले हैं।

एक प्रसिद्ध उदाहरण Meta का Llama है। जबकि प्रतिक्रियाओं को निर्धारित करने वाले "वेट्स" को उजागर किया गया है, किन्तु मौलिक प्रशिक्षण डेटा छिपा हुआ है। इससे डेवलपर्स को मॉडल को समायोजित करने की अनुमति मिलती है, लेकिन मॉडल को शुरू से पुनः बनाने के लिए पारदर्शिता की कमी रहती है।

डेवलपर्स के लिए, इस सीमित खुलापन के बावजूद, फायदे हैं। वे अर्द्ध खुली मॉडल्स को अनुकूलित कर सकते हैं और अपने स्वयं के डेटा पर प्रशिक्षण कर सकते हैं, बिना संवेदनशील जानकारी को थर्ड-पार्टी कंपनियों के साथ साझा किए। लेकिन इन प्रतिबंधों की अपनी कीमत होती है। Mozilla Foundation की वरिष्ठ सलाहकार आयाह बदिर जोर देती हैं कि केवल वास्तव में खुली हुई तकनीकें ही उन प्रणालियों की व्यापक समझ की सुविधा प्रदान कर सकती हैं, जो हमारे जीवन के सभी क्षेत्रों को प्रभावित करती हैं। इसके अलावा, केवल वास्तव में खुले सिस्टम ही यह सुनिश्चित कर सकते हैं कि नवाचार और प्रतिस्पर्धा कुछ गिने-चुने प्रमुख एआई कंपनियों द्वारा बाधित न हो।

इस प्रतिक्रिया में, ओपन सोर्स इनिशिएटिव, जिसने 20 से अधिक वर्षों पहले ओपन-सोर्स सॉफ्टवेयर की परिभाषा निर्धारित की थी, ने ओपन-सोर्स एआई के लिए लगभग अंतिम परिभाषा प्रस्तुत की। इस परिभाषा में न केवल "वेट्स" के प्रकाशन की मांग की गई है, बल्कि प्रशिक्षण डेटा और अंतर्निहित कोड के बारे में पर्याप्त जानकारी भी चाहिए, ताकि मॉडल को पुनः निर्मित किया जा सके।

यह आंदोलन पहले ही एआई दुनिया में एक मजबूत विभाजन की ओर ले जा रहा है। कई कंपनियां कानूनी विवादों से बचने के लिए अपनी शब्दावली के साथ अधिक सावधानी बरत रही हैं। उदाहरण के लिए, मिस्त्रल अपने मॉडल नीमो को "ओपन वेट्स" के रूप में वर्णित करता है और जानबूझकर "ओपन सोर्स" शब्द का उपयोग नहीं करता।

जबकि अ partially खुले सिस्टम लागू हो रहे हैं, पूरी तरह से खुले मॉडलों जैसे कि Allen Institute for AI का Olmo भाषा मॉडल भी उभर रहे हैं। लेकिन क्या इनका वही प्रभाव होगा जो ओपन-सोर्स सॉफ़्टवेयर का टेक्नोलॉजी उद्योग पर हुआ था, यह देखना बाकी है।

खुली एआई मॉडल में प्रगति के लिए दो चीजें आवश्यक होंगी। सबसे पहले, प्रौद्योगिकी को इतना बड़ा आवश्यकता पूरा करना होगा कि उपयोगकर्ताओं और डेवलपर्स की एक महत्वपूर्ण संख्या को आकर्षित कर सके। जबकि लिनक्स सर्वर ऑपरेटिंग सिस्टम के क्षेत्र में माइक्रोसॉफ्ट विंडोज के लिए एक स्पष्ट विकल्प था, एआई क्षेत्र में ऐसा कोई तुलनीय विकल्प नहीं है। बाजार अधिक बंटा हुआ है, और कई उपयोगकर्ता आंशिक रूप से खुले मॉडलों जैसे लामा के साथ संतुष्ट हो सकते हैं।

दूसरा, समर्थकों को खुली कृत्रिम बुद्धिमत्ता की सुरक्षा के लिए अधिक ठोस तर्क प्रस्तुत करने होंगे। ऐसी शक्तिशाली और सामान्य तकनीक को सभी के लिए सुलभ बनाने की संभावना वाजिब चिंताओं को जन्म देती है। हालांकि, एलेन इंस्टीट्यूट के पूर्व प्रमुख ओरेन एट्ज़ियोनी का मानना है कि इन चिंताओं में से कई अतिरंजित हैं। उनका तर्क है कि जो जानकारी कृत्रिम बुद्धिमत्ता मॉडलों द्वारा सुलभ कराई जाती है, वह विशेष रूप से अलग नहीं है जो पहले से ही गूगल के माध्यम से उपलब्ध है।

जब तक कृत्रिम बुद्धिमत्ता प्रौद्योगिकी की खुली उपलब्धता के संभावित जोखिमों और लाभों का अधिक गहराई से अध्ययन नहीं किया जाता है, तब तक चिंताएं बनी रहेंगी।

अपने जीवन के सर्वश्रेष्ठ निवेश करें
fair value · 20 million securities worldwide · 50 year history · 10 year estimates · leading business news

2 यूरो में सुरक्षित करें

समाचार