स्थिर एपीआई के साथ llama.cpp v1.0.0 लोकल एआई के लिए जारी

llama.cpp v1.0.0 जारी कर दिया गया है। यह ओपन-सोर्स प्रोजेक्ट उपभोक्ता कंप्यूटरों से लेकर बड़े एंटरप्राइज़ सर्वर तक, अलग-अलग हार्डवेयर पर मल्टी-मोडल एआई मॉडल चलाने में मदद करता है। ggml-org टीम ने 13 नवंबर को हगिंग फेस ब्लॉग पर बताया कि लगभग साढ़े तीन साल पुराने इस प्रोजेक्ट की लाइब्रेरियां अब v1.0.0 पर हैं।

डेवलपर्स के लिए क्या बदलेगा

टीम के अनुसार कई ऐप्स अब इस प्रोजेक्ट पर निर्भर हैं, इसलिए लचीला लेकिन स्थिर एपीआई ज़रूरी है। अब से llama.cpp और ggml में एपीआई या एबीआई की असंगति होने पर मेजर वर्ज़न नंबर बदला जाएगा, ताकि डेवलपर्स को पहले से पता रहे।

प्रोजेक्ट स्पेकुलेटिव डिकोडिंग के प्रमुख तरीकों को भी सपोर्ट करता है। ggml बैकएंड डायनामिक लाइब्रेरी के रूप में कंपाइल होकर रनटाइम पर लोड हो सकते हैं।

गुणवत्ता और परीक्षण

टीम ने कहा कि विकास की तेज़ रफ़्तार के बीच कोड की गुणवत्ता और आर्किटेक्चर पर नियंत्रण उनकी प्राथमिकता रहेगी। हगिंग फेस की बकेट्स और जॉब्स जैसी तकनीकों से हर बदलाव की जांच के लिए सीआई क्षमता बढ़ाई जा रही है।

टीम ने यह भी बताया कि वे सॉफ्टवेयर विकास में एलएलएम का उपयोग सोच-समझकर कर रहे हैं।

ये सभी कंपनी द्वारा घोषित फीचर और आंकड़े हैं; TrendNews24 ने इनका स्वतंत्र परीक्षण नहीं किया है।

स्थिर वर्ज़निंग से इस पर आधारित ऐप्स को अपडेट के समय अचानक टूटने का ख़तरा कम होगा।