एज एआई: विशाल मोडेलहरूको चुनौतीहरू पार गर्दै

यद्यपि आर्टिफिसियल इन्टेलिजेन्सलाई धेरै उद्योगहरूमा दक्षता बढाउने सम्भाव्यताको लागि प्रयोग गरिएको छ, टेक्नोलोजीले आफ्नै धेरै बाधाहरू मारेको छ। केन्द्रीकृत सर्भरहरूको असक्षमताले केही प्रणालीहरूलाई अनुभव गरेको छ उच्च विलम्बता मुद्दाहरू वा स्पष्ट रूपमा दुर्घटना। त्यसले भन्यो, त्यहाँ यी असक्षमताहरूको समाधान हुन सक्छ: किनारा कम्प्युटिङ।

एज कम्प्युटि। केन्द्रीकृत सर्भरहरू र डेटा केन्द्रहरूको परम्परागत कम्प्युटिङ विधिहरूको विपरीत प्रयोगकर्ताको नजिकको नेटवर्क र उपकरणहरूमा डाटा प्रशोधनलाई जनाउँछ। एज कम्प्युटिङलाई पोइन्ट अफ सेल (POS) प्रणालीदेखि इन्टरनेट अफ थिंग्स (IoT) यन्त्रहरू र सेन्सरहरूसम्म सबै कार्यमा देख्न सकिन्छ — अनिवार्य रूपमा, किनारा उपकरणहरू स्थानीय रूपमा गणना गर्ने र क्लाउडसँग अन्तर्क्रिया गर्ने सबै कुरा हुन्। अब, हामीले एज कम्प्युटिङको त्यो श्रेणीमा कृत्रिम बुद्धिमत्ताका मोडेलहरू थपिएको देख्न थालेका छौं।

एआई र एज कम्प्युटिङको प्रतिच्छेदन

कृत्रिम बुद्धिमत्ता विशेषज्ञ सिद्धार्थ राव एआई र क्लाउड कम्प्युटिङ प्रविधि दुवैसँग काम गर्ने पहिलो अनुभव छ। अमेजन वेब सर्भिसजस्ता अग्रणी टेक्नोलोजी कम्पनीहरूसँग काम गरेको एक दशकभन्दा बढी अनुभव पछि, राव अब सह-संस्थापक र सीईओको रूपमा सेवा गर्छन्। पोजिट्रोन नेटवर्कहरू, वैज्ञानिक अनुसन्धान समुदायको लागि कृत्रिम बुद्धिमत्ता समाधानहरूमा केन्द्रित AI कम्पनी। यस समुदायको अद्वितीय आवश्यकताहरूलाई ध्यानमा राख्दै, राव विशेष गरी एआई र एज कम्प्युटिङको प्रतिच्छेदनमा रुचि राख्छन्।

"त्यहाँ धेरै कारणहरू छन् किन किनारा कम्प्युटिङ यस्तो प्रख्यात प्रतिमान बनेको छ, जसमा प्रयोगकर्ता अन्तरक्रियाको विलम्बता घटाउने, क्लाउड कम्प्युटिङ लागत घटाउने, र अफलाइन प्रयोगकर्ता अनुभवहरूलाई समर्थन गर्ने समावेश छ," राव बताउँछन्। "यी फाइदाहरू किनारा कम्प्युटिङका ​​अन्य उद्देश्यहरूसँग विवादमा छन्, जस्तै उपकरण लागत घटाएर मार्जिन सुधार गर्ने, कम-पावर प्रोसेसरहरूसँग ब्याट्री जीवन विस्तार गर्ने, वा विकासशील देशहरू जस्ता कम ब्यान्डविथ वातावरणमा मोडेल अपडेटहरू डाउनलोड गर्ने।"

जे होस्, यसले कृत्रिम बुद्धिमत्ता मोडेलहरू - जसलाई महत्त्वपूर्ण कम्प्युटिङ पावर चाहिन्छ - कसरी "किनारमा" चलाउन सकिन्छ भन्ने प्रश्न उठाउँछ। राव बताउँछन् कि कृत्रिम बुद्धिमत्ता मोडेलहरूलाई सफलतापूर्वक किनारामा ट्रान्जिसन गर्नका लागि यी कार्यहरूलाई सरल बनाउन आवश्यक छ।

"सन्दर्भको लागि, एक मोडेल रैखिक बीजगणित (म्याट्रिक्स गणित) अपरेशनहरूको अनुक्रम हो जुन इनपुटमा आधारित प्रतिक्रियाको भविष्यवाणी गर्न क्रमशः निष्पादित हुन्छ," राव बताउँछन्। “मेसिन लर्निङ इन्जिनियरहरू र वैज्ञानिकहरूले विभिन्न प्रविधिहरू प्रयोग गरेर यी कार्यहरूको गणितीय जटिलता कम गर्छन्। नतिजा साना मोडेलहरूलाई कार्यान्वयन गर्न कम कम्प्युटिङ चक्रहरू चाहिन्छ, कम्प्युटिङ आवश्यकताहरू घटाउँछ र ब्याट्री जीवन सुधार गर्दा मार्जिन सुधार गर्दछ।

"यस इन्जिनियरिङले उद्योगमा धेरै सकारात्मक प्रभाव पारेको छ," उनी जारी राख्छन्। "उदाहरणका लागि, कम विलम्बतामा कार्यान्वयन गर्ने, कम ब्याट्री पावर प्रयोग गर्ने र कम ताप उत्पादन गर्ने मोडेलहरू। तिनीहरूले कार्यान्वयन गर्न कम क्लाउड कम्प्युटिङ स्रोतहरू पनि प्रयोग गर्छन्, तिनीहरूको वातावरणीय प्रभावलाई थप घटाउँछन्, र तिनीहरूले मोडेल अपडेट ब्यान्डविथ खपत कम गर्छन्। यी सबै फाइदाहरूले सामानको लागत घटाएर मार्जिन सुधार गर्दा प्रयोगकर्ताको अनुभवमा सुधार ल्याउँछन्।"

किन एज कम्प्युटिङ AI को भविष्य हो

एज कम्प्युटिङको मुख्य फाइदा यो हो कि यसले प्रयोगकर्ताको अनुभवलाई उल्लेखनीय रूपमा सुधार गर्छ। विलम्बता कुनै पनि प्राविधिक आविष्कारले सामना गर्ने सबैभन्दा ठूलो चुनौतीहरू मध्ये एक हो, विशेष गरी मानिसहरूको छोटो (र घट्दो) ध्यान अवधिलाई विचार गर्दा।

"यदि एज डिभाइस सधैँ भविष्यवाणीको लागि क्लाउडमा जानु पर्छ भने, विलम्बताको प्रभावले प्रयोगकर्ताको अनुभवलाई घटाउँछ, ग्राहकको संलग्नता घटाउँछ," राव बताउँछन्। "कम संलग्न ग्राहकहरूले यन्त्रको लाभ उठाउने सम्भावना कम हुन्छ, उपयोगिता र ग्रहण कम गर्दै।"

एज कम्प्युटिङले कृत्रिम बुद्धिमत्ता टेक्नोलोजीको लागतलाई सम्भावित रूपमा घटाउन सक्छ जुन साना व्यवसायहरूको लागि अधिक प्राप्य हुन्छ। आखिर, ठूला-ठूला मोडेलहरू सञ्चालन गर्न आवश्यक सर्भरहरू मर्मत गर्नु महँगो छ। किनारा कम्प्युटिङले यी एप्लिकेसनहरूको जटिलतालाई किनारामा चलाउन अनुमति दिन्छ।

यद्यपि, रावले एआई क्षेत्रमा एज कम्प्युटिङले हुनसक्ने केही नतिजाहरूका विरुद्ध पनि चेतावनी दिन्छन्, उनीहरूलाई यसले प्रदान गर्ने फाइदाहरूको लागि "ट्रेडअफ" भनेर उल्लेख गर्दछ। "निम्न परिशुद्धता प्रयोग गर्दा उच्च त्रुटि र भ्रम दरले उत्तरको शुद्धतालाई असर गर्छ," उनी बताउँछन्। "ज्ञान डिस्टिलेसनले ठूला मोडेलहरूमा पूर्वाग्रह र निष्पक्षता समस्याहरू बढाउन सक्छ। अन्तमा, एज कम्प्युटिङले महँगो, विशेष मेसिन लर्निङ प्रतिभालाई भर्ती गर्न र उच्च मागमा रहेका GPUs जस्ता महँगो मेसिन लर्निङ प्रशिक्षण पूर्वाधारहरू प्राप्त गर्न आवश्यक छ।"

आर्टिफिसियल इन्टेलिजेन्स र एज कम्प्युटिङ टेक्नोलोजीको सफल प्रतिच्छेदनको उदाहरणको रूपमा, रावले AWS मा आफ्नो समयको प्रयोग केसलाई औंल्याए जसले मापनमा मोडेललाई सफलतापूर्वक सरल बनायो। "मैले AWS मा प्रायोजित गरेको मोडेल Opus codec मा प्रयोग गरिएको थियो," उनी भन्छन्। "यो कोडेक विश्वव्यापी रूपमा 1 बिलियन भन्दा बढी यन्त्रहरू द्वारा प्रयोग गरिन्छ र हालसालै अमेजनद्वारा मेसिन लर्निङ-आधारित प्याकेट लुकाउने एल्गोरिथ्मको साथ अपग्रेड गरिएको थियो जसले हानिपूर्ण नेटवर्कहरूमा पनि अडियो स्ट्रिमहरू पुन: प्राप्त गर्यो। यो कोडेक सीमित प्रशोधन शक्ति भएका उपकरणहरूमा प्रयोग गर्न सकिन्छ, जस्तै रास्पबेरी पाई वा डेस्क फोन, मिलिसेकेन्डमा अडियो नमूनाहरू भविष्यवाणी गर्न।

रावले रक्षा क्षेत्रमा विशेष सम्भाव्यता देखाएको प्रयोग केस पनि उल्लेख गरे। "वास्तविक-समयको भिडियोलाई सिपाहीको राइफल स्कोपमा क्यामेराहरूमा प्रशोधन गरिएको थियो कि लडाकूको आन्दोलनहरू शंकास्पद थिए वा सम्भवतः आतंकवाद जस्ता दुर्भावनापूर्ण गतिविधिको समर्थनमा उनीहरूलाई मार्गदर्शन गर्न," उनी थप्छन्। "सिपाहीले त्यसपछि संवेदनशील र उच्च जोखिम युद्धक्षेत्र क्षेत्रहरूमा निगरानी केन्द्रित गर्न सक्छ। दुबै उदाहरणहरूमा, जटिल, वास्तविक-समय अडियो वा भिडियो IoT उपकरणहरूमा चल्ने कम-शक्तियुक्त माइक्रोप्रोसेसरहरूद्वारा प्रशोधन भइरहेको थियो।

वास्तवमा, यी प्रयोगका केसहरू कसरी किनारामा गणना गरिएको कृत्रिम बुद्धिमत्ताले दक्षता र लागतको सन्दर्भमा उत्कृष्ट परिणामहरू प्रदान गर्दछ भन्ने उत्तम उदाहरणहरू हुन्। "यदि भर्खरको एआई मोडेलहरू किनारामा चलाउन अनुकूलित गर्न सकिँदैन भने, तिनीहरूका अनुप्रयोगहरू क्लाउड अनुप्रयोगहरू र प्रयोगकर्ता अनुभवहरूमा सीमित हुनेछन्," रावले निष्कर्ष निकाल्छन्।