Google की एक रिपोर्ट के अनुसार, केवल तीन महीनों में, AI-संचालित हैकिंग एक नवजात समस्या से औद्योगिक स्तर के खतरे में बदल गई है।
Google के ख़तरा ख़ुफ़िया समूह के निष्कर्ष इस बारे में गहन, वैश्विक चर्चा में शामिल हैं कि कैसे नवीनतम AI मॉडल कोडिंग में बेहद कुशल हैं – और सॉफ्टवेयर सिस्टम की एक विस्तृत श्रृंखला में कमजोरियों का फायदा उठाने के लिए बेहद शक्तिशाली उपकरण बन रहे हैं।
इसमें पाया गया है कि आपराधिक समूह, साथ ही चीन, उत्तर कोरिया और रूस के राज्य से जुड़े कलाकार, हमलों को परिष्कृत करने और बढ़ाने के लिए व्यापक रूप से वाणिज्यिक मॉडल का उपयोग कर रहे हैं – जिसमें जेमिनी, क्लाउड और ओपनएआई के उपकरण शामिल हैं।
“एक गलत धारणा है कि एआई भेद्यता की दौड़ आसन्न है। वास्तविकता यह है कि यह पहले ही शुरू हो चुका है,” समूह के मुख्य विश्लेषक जॉन हल्टक्विस्ट ने कहा।
“खतरनाक कलाकार अपने हमलों की गति, पैमाने और परिष्कार को बढ़ाने के लिए एआई का उपयोग कर रहे हैं। यह उन्हें अपने ऑपरेशन का परीक्षण करने, लक्ष्य के विरुद्ध डटे रहने, बेहतर मैलवेयर बनाने और कई अन्य सुधार करने में सक्षम बनाता है।”
पिछले महीने, एआई कंपनी एंथ्रोपिक ने अपने नवीनतम मॉडलों में से एक, माइथोस को यह दावा करने के बाद जारी करने से इनकार कर दिया कि इसमें बेहद शक्तिशाली क्षमताएं हैं और अगर यह गलत हाथों में पड़ जाता है तो यह आम तौर पर सरकारों, वित्तीय संस्थानों और दुनिया के लिए खतरा पैदा करता है।
विशेष रूप से, एंथ्रोपिक ने कहा कि मिथोस ने “प्रत्येक प्रमुख ऑपरेटिंग सिस्टम और प्रत्येक प्रमुख वेब ब्राउज़र” में शून्य-दिन की कमजोरियां पाई हैं – यह शब्द किसी उत्पाद में दोष के लिए है जो पहले इसके डेवलपर्स के लिए अज्ञात था।
कंपनी ने कहा कि इन खोजों के लिए “उद्योग भर में पर्याप्त समन्वित रक्षात्मक कार्रवाई” की आवश्यकता है।
हालाँकि, Google की रिपोर्ट में पाया गया कि हाल ही में एक आपराधिक समूह “सामूहिक शोषण” अभियान चलाने के लिए शून्य-दिन की भेद्यता का लाभ उठाने की कगार पर था और यह समूह एक एआई बड़े भाषा मॉडल (एलएलएम) का उपयोग कर रहा था जो मिथोस नहीं था।
रिपोर्ट में यह भी पाया गया कि समूह ओपनक्लॉ के साथ “प्रयोग” कर रहे थे, एक एआई उपकरण जो फरवरी में वायरल हुआ था, जो अपने उपयोगकर्ताओं को अपने जीवन के बड़े हिस्से को एआई एजेंट को सौंपने की क्षमता प्रदान करता था, जिसमें कोई रेलिंग नहीं थी और ईमेल इनबॉक्स को बड़े पैमाने पर हटाने की दुर्भाग्यपूर्ण प्रवृत्ति थी।
यूनिवर्सिटी कॉलेज लंदन में सुरक्षा इंजीनियरिंग के प्रोफेसर स्टीवन मर्डोक ने कहा कि एआई उपकरण साइबर सुरक्षा में रक्षात्मक पक्ष के साथ-साथ हैकर्स की भी मदद कर सकता है।
“इसलिए मैं घबरा नहीं रहा हूं. सामान्य तौर पर हम एक ऐसे चरण पर पहुंच गए हैं जहां बग खोजने का पुराना तरीका खत्म हो गया है, और अब यह सब एलएलएम-सहायता प्राप्त होगा। उन्होंने कहा, ”इसके परिणाम सामने आने में थोड़ा समय लगेगा।”
हालाँकि, यदि AI महत्वाकांक्षी हैकरों को उनके उत्पादकता लक्ष्यों तक पहुँचने में मदद कर रहा है, तो इस बात पर संदेह बना हुआ है कि क्या यह व्यापक अर्थव्यवस्था को बढ़ावा दे रहा है।
एक स्वतंत्र एआई शोध निकाय, एडा लवलेस इंस्टीट्यूट (एएलआई) ने एआई से सार्वजनिक क्षेत्र की उत्पादकता में अरबों पाउंड की वृद्धि की धारणा के प्रति आगाह किया है। यूके सरकार ने डिजिटल टूल और एआई में सार्वजनिक क्षेत्र के निवेश से बचत और उत्पादकता लाभ में £45 बिलियन का लाभ होने का अनुमान लगाया है।
सोमवार को प्रकाशित एक रिपोर्ट में, एएलआई ने कहा कि एआई से संबंधित उत्पादकता में वृद्धि के अधिकांश अध्ययनों में समय की बचत या लागत में कटौती का उल्लेख किया गया है, लेकिन बेहतर सेवाओं या बेहतर कार्यकर्ता-कल्याण जैसे परिणामों पर ध्यान नहीं दिया गया है।
इस तरह के शोध के अन्य समस्याग्रस्त पहलुओं में शामिल हैं: क्या कार्यस्थल में एआई से संबंधित दक्षता के अनुमान वास्तव में वास्तविक दुनिया में सफल होते हैं; विभिन्न कार्यों में एआई का उपयोग करने के लिए अलग-अलग परिणामों को अस्पष्ट करने वाले शीर्षक आंकड़े; और सार्वजनिक क्षेत्र के रोजगार और सेवा वितरण पर प्रभाव का हिसाब देने में असफल होना।
एएलआई रिपोर्ट में कहा गया है, “एआई के बारे में प्रमुख सरकारी निर्णयों को आकार देने वाले उत्पादकता अनुमान कभी-कभी अप्रयुक्त धारणाओं पर आधारित होते हैं और उन तरीकों पर निर्भर होते हैं जिनकी सीमाओं को हमेशा जंगली आंकड़ों का उपयोग करने वालों द्वारा सराहना नहीं की जाती है।”
“परिणाम उस आत्मविश्वास के बीच एक अंतर है जिसके साथ उत्पादकता के दावे प्रस्तुत किए जाते हैं और उनके पीछे सबूत की ताकत होती है।”
रिपोर्ट की सिफारिशों में शामिल हैं: प्रौद्योगिकी के प्रभाव पर अनिश्चितता को प्रतिबिंबित करने के लिए भविष्य के अध्ययनों को प्रोत्साहित करना; यह सुनिश्चित करना कि सरकारी विभाग “शुरुआत से” एआई कार्यक्रमों के प्रभाव को मापें; और दीर्घकालिक अध्ययनों का समर्थन करना जो हफ्तों के बजाय वर्षों में उत्पादकता लाभ को मापते हैं।
