एआई युग में बुनियादी ढांचे की क्या भूमिका है? कुछ लोग कहते हैं कि यह बिजली की तरह है, कुछ कहते हैं यह पानी की तरह है।
वुवेन ज़िन्कियॉन्ग का मानना है कि उत्कृष्ट बुनियादी ढांचा एक प्रकार का "जादू" है जो बड़े मॉडलों की लागत को प्रभावी ढंग से कम कर सकता है और अधिक लोगों को नई प्रौद्योगिकियों को अपनाने की अनुमति दे सकता है।
4 जुलाई को, वुवेन कोर डोम के सह-संस्थापक और सीईओ ज़िया लिक्स्यू ने दुनिया का पहला किलो-कैलोरी विषम चिप हाइब्रिड प्रशिक्षण मंच जारी किया। किलो-कैलोरी विषम हाइब्रिड प्रशिक्षण क्लस्टर की कंप्यूटिंग शक्ति का उपयोग अधिकतम 97.6% तक पहुंच गया।
चार महीने पहले, वुवेन कोर डोम के इनफिनी-एआई बड़े मॉडल विकास और सेवा क्लाउड प्लेटफॉर्म ने अपने पहले सार्वजनिक बीटा की घोषणा की थी। जिपु एआई, डार्क साइड ऑफ द मून और शेंगशु टेक्नोलॉजी जैसी बड़ी मॉडल कंपनियों के ग्राहक लगातार इनफिनी-एआई का उपयोग कर रहे हैं। कंप्यूटिंग शक्ति के संदर्भ में, 20 से अधिक एआई नेटिव एप्लिकेशन स्टार्टअप हैं जो इनफिनी-एआई पर विभिन्न प्रीसेट मॉडल एपीआई को कॉल करना जारी रखते हैं और अपने स्वयं के बिजनेस मॉडल विकसित करने के लिए वुवेन कोर डोम द्वारा प्रदान की गई टूल श्रृंखला का उपयोग करते हैं।
बड़े मॉडलों के युग में एआई नेटिव बुनियादी ढांचे का निर्माण न केवल एआई डेवलपर्स को अधिक बहुमुखी, कुशल और सुविधाजनक आर एंड डी वातावरण प्रदान कर सकता है, बल्कि कंप्यूटिंग संसाधनों के प्रभावी एकीकरण को प्राप्त करने और एआई के सतत विकास का समर्थन करने के लिए एक महत्वपूर्ण आधारशिला भी है। उद्योग. दुनिया में मॉडल परतों और चिप परतों के "अपेक्षाकृत केंद्रित" पैटर्न की तुलना में, चीन की मॉडल परतें और चिप परतें अधिक विविध हैं।
हालाँकि, विविधता का अर्थ चुनौतियाँ भी हैं। बड़ी संख्या में विषम चिप्स ने "पारिस्थितिक साइलो" भी बनाया है, विभिन्न हार्डवेयर पारिस्थितिकी तंत्र एक दूसरे के साथ बंद और असंगत हैं, जो कंप्यूटिंग शक्ति के उपयोगकर्ताओं के लिए तकनीकी चुनौतियों की एक श्रृंखला लाता है। एआई नेटिव इंफ्रास्ट्रक्चर के निर्माण में यह सबसे बड़ी कठिनाई है, और यह एक महत्वपूर्ण कारण भी है कि वर्तमान बड़े मॉडल उद्योग को "कंप्यूटिंग पावर की कमी" का सामना करना पड़ रहा है।
वुवेन कोर क्यूओंग के पास शीर्ष पायदान की एआई कंप्यूटिंग अनुकूलन क्षमताएं और कंप्यूटिंग पावर समाधान क्षमताएं हैं, साथ ही "एम प्रकार के मॉडल" और "एन प्रकार के चिप्स" उद्योग पैटर्न पर दूरंदेशी निर्णय है, और इसने एक निर्माण में अग्रणी भूमिका निभाई है। कई चिप्स पर कई बड़े मॉडल एल्गोरिदम की कुशल और एकीकृत तैनाती प्राप्त करने के लिए "एमएक्सएन" मध्य परत पारिस्थितिक पैटर्न।
अब तक, Infini-AI ने 30 से अधिक मॉडलों जैसे Qwen2, GLM4, Llama3, Gemma, Yi, Baishuan2, ChatGLM3 श्रृंखला आदि का समर्थन किया है, साथ ही AMD, Huawei Shengteng, Biren, Cambrian, Suiyuan, Haiguang, Tianshu ज़िक्सिन, मक्सी, मूर थ्रेड और NVIDIA सहित 10 से अधिक प्रकार के कंप्यूटिंग कार्ड हैं।
ज़िया लिक्स्यू ने कहा, "तकनीकी सीमा को आगे बढ़ाने और प्रौद्योगिकी के प्रसार के बीच कोई विरोधाभास नहीं है, और यह इस पर निर्भर करता है कि हम इस तकनीक का इलाज करने के लिए कैसे दृढ़ हैं।" यह किस आधार मॉडल को कॉल करता है और कौन से मॉडल का उपयोग किया जाता है, किस प्रकार के त्वरक कार्ड में कंप्यूटिंग शक्ति है – यह सबसे अच्छा एआई नेटिव इंफ्रास्ट्रक्चर है।"
# aifaner के आधिकारिक WeChat सार्वजनिक खाते का अनुसरण करने के लिए आपका स्वागत है: aifaner (WeChat ID: ifanr) आपको जल्द से जल्द अधिक रोमांचक सामग्री प्रदान की जाएगी।