एंथ्रोपिक ने मंगलवार को कहा कि क्लाउड माइथोस नामक उसका अभी तक जारी होने वाला कृत्रिम बुद्धिमत्ता मॉडल सॉफ्टवेयर कमजोरियों को उजागर करने में काफी कुशल साबित हुआ है।
माइथोस ने आमतौर पर उपयोग किए जाने वाले अनुप्रयोगों में हजारों कमजोरियों को उजागर किया है, जिनके लिए कोई पैच या फिक्स मौजूद नहीं है, जिससे सैन फ्रांसिस्को स्थित एआई स्टार्टअप को हैकिंग के खिलाफ सुरक्षा बढ़ाने और व्यापक वितरण को रोकने के लिए साइबर सुरक्षा विशेषज्ञों के साथ गठबंधन बनाने के लिए प्रेरित किया गया है।
एंथ्रोपिक लैब्स के माइक क्राइगर ने सैन फ्रांसिस्को में ह्यूमनएक्स एआई सम्मेलन में कहा, “हमारे पास एक नया मॉडल है जिसे हम स्पष्ट रूप से जनता के लिए जारी नहीं कर रहे हैं।”
इसके बजाय, एंथ्रोपिक ओपन-सोर्स समुदाय में साइबर सुरक्षा विशेषज्ञों और इंजीनियरों को माइथोस के साथ काम करने दे रहा है ताकि मॉडल को एक रक्षात्मक हथियार के रूप में इस्तेमाल किया जा सके “उन्हें समय से पहले हथियार देने के लिए”, क्राइगर ने समझाया।
एआई मॉडल क्षमताओं में उछाल इस चिंता के साथ आया है कि हैकर्स पासवर्ड का पता लगाने या डेटा को सुरक्षित रखने के लिए एन्क्रिप्शन को क्रैक करने के लिए ऐसे टूल का उपयोग कर रहे हैं।
एंथ्रोपिक के अनुसार, मिथोस द्वारा उजागर की गई सबसे पुरानी कमजोरियां 27 साल पुरानी हैं, और एआई मॉडल द्वारा इंगित किए जाने से पहले उनके निर्माताओं द्वारा किसी पर भी ध्यान नहीं दिया गया था।
माइथोस एंथ्रोपिक के एआई के क्लाउड परिवार की नवीनतम पीढ़ी है, और इसके कुछ कोड के हालिया लीक ने स्टार्टअप को एक ब्लॉग पोस्ट जारी करने के लिए प्रेरित किया, जिसमें चेतावनी दी गई कि इससे अभूतपूर्व साइबर सुरक्षा जोखिम उत्पन्न होंगे।
एंथ्रोपिक ने एक ब्लॉग पोस्ट में कहा, “एआई मॉडल कोडिंग क्षमता के उस स्तर पर पहुंच गए हैं, जहां वे सॉफ्टवेयर कमजोरियों को खोजने और उनका फायदा उठाने में सबसे कुशल मनुष्यों को छोड़कर सभी को पीछे छोड़ सकते हैं।” “नतीजा – अर्थव्यवस्था, सार्वजनिक सुरक्षा और राष्ट्रीय सुरक्षा के लिए – गंभीर हो सकता है।”
एंथ्रोपिक के अनुसार, माइथोस द्वारा उजागर की गई सॉफ्टवेयर कमजोरियां अक्सर सूक्ष्म थीं और एआई के बिना उनका पता लगाना मुश्किल था। उदाहरण के तौर पर, इसमें कहा गया है कि मिथोस को वीडियो सॉफ़्टवेयर में पहले से ध्यान न दिया गया दोष मिला, जिसका इसके रचनाकारों द्वारा 5 मिलियन से अधिक बार परीक्षण किया गया था।
एहतियात के तौर पर, एंथ्रोपिक ने साइबर सुरक्षा कंपनियों क्राउडस्ट्राइक और पालो ऑल्टो नेटवर्क्स के साथ-साथ अमेज़ॅन, ऐप्पल और माइक्रोसॉफ्ट के साथ मिथोस का एक संस्करण साझा किया है, जिसे “ग्लासविंग” नाम दिया गया है।
नेटवर्किंग दिग्गज सिस्को और ब्रॉडकॉम, लिनक्स फाउंडेशन के साथ इस परियोजना में भाग ले रहे हैं, जो मुफ़्त, ओपन-सोर्स लिनक्स कंप्यूटर ऑपरेटिंग सिस्टम को बढ़ावा देता है।
सिस्को के मुख्य सुरक्षा और ट्रस्ट अधिकारी एंथनी ग्रिको ने ग्लासविंग के बारे में एक संयुक्त विज्ञप्ति में कहा, “यह काम बहुत महत्वपूर्ण है और अकेले करने के लिए बहुत जरूरी है।” “एआई क्षमताएं उस सीमा को पार कर गई हैं जो महत्वपूर्ण बुनियादी ढांचे को साइबर खतरों से बचाने के लिए आवश्यक तात्कालिकता को मौलिक रूप से बदल देती है, और अब पीछे नहीं हटना है।”
कहा जाता है कि कंप्यूटर सिस्टम के डिज़ाइन, रखरखाव या संचालन में शामिल लगभग 40 संगठन ग्लासविंग में शामिल हो गए हैं। एंथ्रोपिक के अनुसार, परियोजना साझेदारों को अपने मिथोस निष्कर्षों को साझा करना है, जो मिशन के लिए लगभग 100 मिलियन डॉलर मूल्य के कंप्यूटिंग संसाधन प्रदान कर रहा है। ग्रिको के अनुसार, एआई मॉडल के साथ शुरुआती काम से पता चला है कि वे सॉफ्टवेयर और हार्डवेयर कमजोरियों को उस गति और पैमाने पर ढूंढने और ठीक करने में मदद कर सकते हैं जो पहले संभव नहीं था।
क्राउडस्ट्राइक के मुख्य प्रौद्योगिकी अधिकारी, एलिया ज़ैतसेव ने कहा, “किसी भेद्यता की खोज और किसी विरोधी द्वारा उसका शोषण किए जाने के बीच की खिड़की ढह गई है – जिस काम में महीनों लग जाते थे, वह अब एआई के साथ मिनटों में हो जाता है।”
उन्होंने कहा, “क्लाउड माइथोस पूर्वावलोकन दर्शाता है कि अब बड़े पैमाने पर रक्षकों के लिए क्या संभव है, और विरोधी अनिवार्य रूप से उन्हीं क्षमताओं का फायदा उठाने की कोशिश करेंगे।”
एंथ्रोपिक ने कहा कि फरवरी में व्हाइट हाउस द्वारा स्टार्टअप के साथ सभी अनुबंध समाप्त करने के आदेश के बावजूद मिथोस के संबंध में उसने अमेरिकी सरकार के साथ चर्चा की है। उस निर्देश को एक संघीय अदालत के न्यायाधीश ने रोक दिया था जबकि एन्थ्रोपिक द्वारा एक कानूनी चुनौती अदालतों के माध्यम से अपना काम कर रही थी।
