OpenAI का GPTBot, Applebot, CCBot, Google-Extended, और Bytespider जैसे बॉट्स आपकी वेबसाइट के डेटा का विश्लेषण, भंडारण या स्क्रैपिंग करते हैं ताकि अधिक उन्नत LLM को प्रशिक्षित करने के लिए डेटा प्रदान किया जा सके।
Originality.ai में, हम जिम्मेदार विकास (जिसमें नैतिक स्क्रैपिंग शामिल है) और ChatGPT जैसे जेनरेटिव AI राइटिंग टूल्स के उपयोग (AI डिटेक्टर) को लेकर गंभीर हैं।
यह लेख AI बॉट्स के उद्देश्य, उनके कार्यों, उन्हें ब्लॉक करने के तरीकों और robots.txt नामक एक कम ज्ञात फ़ाइल पर AI के भविष्य के लिए चल रही दिलचस्प लड़ाई का गहराई से विश्लेषण करेगा।
AI बॉट्स कई रूपों में आते हैं, जिनमें AI असिस्टेंट, AI डेटा स्क्रैपर्स, और AI सर्च क्रॉलर्स शामिल हैं, जो प्रमुख AI टूल्स और AI सर्च इंजन को संचालित करते हैं। इनमें से प्रत्येक AI बॉट वेब से डेटा निकालता है। कई वेबमास्टर्स इन प्रथाओं को अस्वीकार्य मानते हैं और अपने डेटा या वेबसाइट की जानकारी को स्क्रैप होने से सुरक्षित रखना चाहते हैं।
जैसे-जैसे इंटरनेट का एक बड़ा हिस्सा AI बॉट्स को ब्लॉक कर रहा है, शब्दों की संख्या जो OpenAI और Anthropic जैसी AI कंपनियों के लिए अपने नवीनतम LLM (जैसे GPT-4o, Claude 3.5) को विकसित करने के लिए उपलब्ध है, वह कम होती जाएगी। इसका परिणाम यह होगा कि भविष्य में AI टूल्स का सुधार धीमा हो जाएगा।
सबसे आसान तरीका यह है कि आप अपनी Robots.txt फ़ाइल में निम्नलिखित टेक्स्ट जोड़ें:
User-agent: name-of-bot
Disallow: /
उदाहरण:
User-agent: GPTBot
Disallow: /
AI बॉट्स को ब्लॉक करने के विकल्पों की विस्तृत व्याख्या और Robots.txt फ़ाइल के नमूने के लिए इस लेख के अंत में देखें।
विशेष रूप से OpenAI, अपने LLM प्रशिक्षण प्रयासों को जारी रखने के लिए डेटा साझेदारी सुरक्षित करने के लिए सक्रिय रहा है।
Robots.txt एक इंटरनेट प्रोटोकॉल है जो सर्च इंजन क्रॉलर्स को यह जानकारी देता है कि वे आपकी वेबसाइट पर किन URL को एक्सेस कर सकते हैं। इसका मुख्य उपयोग क्रॉलर्स द्वारा उत्पन्न अनुरोधों से डोमेन पर अत्यधिक भार पड़ने से रोकना है।
यह जानना महत्वपूर्ण है कि Robots.txt एक ऐसा अनुरोध है जिसका बॉट्स को पालन करना चाहिए, लेकिन यह अनिवार्य नहीं है कि वे इसका पालन करें ही।
आपकी वेबसाइट पर क्रॉलर ट्रैफ़िक को फ़िल्टर करने और प्रबंधित करने के संदर्भ में, robots.txt का उद्देश्य फ़ाइल के प्रकार के आधार पर अलग-अलग होता है:
robots.txt का मुख्य उद्देश्य आपकी वेबसाइट के विशिष्ट पृष्ठों तक क्रॉलर की पहुंच को प्रतिबंधित करना है। यदि आपको चिंता है कि आपकी वेबसाइट का सर्वर Google के बहुत अधिक अनुरोधों से प्रभावित हो रहा है, तो आप उपयोग को कम करने के लिए खोज इंजन क्रॉलर्स को अपनी वेबसाइट के विशिष्ट पृष्ठों तक पहुँचने से रोक सकते हैं।
आप छवियों, वीडियो और ऑडियो फ़ाइलों के क्रॉल ट्रैफ़िक को प्रबंधित करने के लिए robots.txt फ़ाइल का उपयोग कर सकते हैं। यह विशिष्ट मीडिया को Google या अन्य खोज इंजनों के SERP (खोज इंजन परिणाम पृष्ठ) पर दिखाई देने से रोकेगा।
यदि आपको लगता है कि अनावश्यक स्टाइल फ़ाइलों, छवियों या स्क्रिप्ट के कारण उपयोग दर बढ़ रही है, तो आप विशिष्ट AI क्रॉलर, स्क्रैपर, असिस्टेंट या अन्य बॉट्स की पहुंच को प्रतिबंधित करने के लिए robots.txt फ़ाइल का उपयोग कर सकते हैं।
आइए वेब पर कंपनियों द्वारा तैनात विभिन्न प्रकार के एआई बॉट्स और क्रॉलर्स की समीक्षा करें:
OpenAI के स्वामित्व वाला ChatGPT-User या Meta द्वारा तैनात Meta-ExternalFetcher जैसे एआई असिस्टेंट उपयोगकर्ता के प्रश्नों का उत्तर देने में महत्वपूर्ण भूमिका निभाते हैं। ये प्रतिक्रियाएं टेक्स्ट या वॉयस फॉर्मेट में हो सकती हैं और उपयोगकर्ता के प्रॉम्प्ट का सबसे सटीक उत्तर तैयार करने के लिए एकत्रित वेब डेटा का उपयोग करती हैं।
एआई वेब स्क्रैपिंग एक ऐसी प्रक्रिया है जिसे एआई डेटा स्क्रैपर बॉट्स द्वारा एलएलएम (LLM) प्रशिक्षण के लिए अधिक से अधिक उपयोगी डेटा एकत्र करने के लिए किया जाता है। Apple, ByteDance, Common Crawl, OpenAI और Anthropic जैसी कंपनियां एलएलएम को प्रशिक्षित करने के लिए वेब का एक बड़ा डेटासेट बनाने हेतु एआई डेटा स्क्रैपर्स का उपयोग करती हैं।
कई कंपनियां विशिष्ट वेबसाइट पेजों, शीर्षकों, कीवर्ड्स, छवियों और संदर्भित इनलाइन लिंक के बारे में जानकारी एकत्र करने के लिए एआई सर्च क्रॉलर्स का उपयोग करती हैं। हालांकि एआई क्रॉलर्स में वेबसाइट पर ट्रैफ़िक भेजने की क्षमता होती है, फिर भी कुछ वेबसाइट मालिक इसे ब्लॉक करना चुन रहे हैं।
ChatGPT-User एक सर्च असिस्टेंट क्रॉलर है जिसे उपयोगकर्ता के प्रॉम्प्ट के परिणामस्वरूप Open AI के ChatGPT द्वारा भेजा जाता है। इसके अधिकांश उत्तरों में आमतौर पर वेबसाइट की सामग्री का सारांश और एक संदर्भ लिंक शामिल होता है।
ChatGPT-User क्रॉलर का प्रकार AI असिस्टेंट है, क्योंकि इसका उपयोग ChatGPT उपयोगकर्ता की ओर से बुद्धिमानी से कार्य करने के लिए किया जाता है।
ChatGPT-User सर्च असिस्टेंट से यह अपेक्षा की जाती है कि वह अन्य क्रॉलर्स की तरह स्वचालित रूप से वेब ब्राउज़ करने के बजाय, उपयोगकर्ता के अनुरोध पर एक बार ही विज़िट करेगा।
इस क्रॉलर को ब्लॉक करने के लिए, आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित विवरण शामिल करना होगा:
User-agent: ChatGPT-User
Disallow: /
Meta-ExternalFetcher क्रॉलर को Meta AI के सभी उत्पादों द्वारा तब भेजा जाता है जब किसी व्यक्तिगत लिंक की आवश्यकता होती है और उपयोगकर्ता प्रॉम्प्ट द्वारा निर्देशित किया जाता है।
Meta-ExternalFetcher AI असिस्टेंट को Meta AI उपयोगकर्ता की ओर से बुद्धिमानी से कार्य करने के लिए लाया जाता है।
ChatGPT-user क्रॉलर के समान, Meta-ExternalFetcher आमतौर पर स्वचालित रूप से वेब को क्रॉल करने के बजाय उपयोगकर्ता के अनुरोध के आधार पर एक बार विज़िट करता है।
Meta-ExternalFetcher की पहुंच को रोकने के लिए आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करनी होगी:
User-agent: Meta-ExternalFetcher
Disallow: /
Amazonbot वेब क्रॉलर का उपयोग Amazon द्वारा खोज परिणामों को इंडेक्स और रजिस्टर करने के लिए किया जाता है, जिससे Alexa AI असिस्टेंट अधिक सटीकता से सवालों के जवाब दे पाता है। Alexa के अधिकांश उत्तरों में आमतौर पर वेबसाइट का संदर्भ शामिल होता है।
Amazonbot एक AI सर्च क्रॉलर है जिसका उपयोग Alexa के AI-संचालित खोज परिणामों के लिए वेब सामग्री को इंडेक्स करने के लिए किया जाता है।
सर्च क्रॉलर की खास बात यह है कि वे वेबसाइटों के लिए किसी निश्चित विज़िटिंग स्कीम का पालन नहीं करते हैं। विज़िट की आवृत्ति कई कारकों द्वारा निर्धारित होती है और आमतौर पर यह उपयोगकर्ता की क्वेरी के आधार पर ऑन-डिमांड होती है, जिसमें Amazonbot भी शामिल है।
आप अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड लाइन लिखकर Amazonbot की पहुंच को सीमित कर सकते हैं:
User-agent: Amazonbot
Disallow: /
Applebot सर्च क्रॉलर का उपयोग सर्च परिणामों को रजिस्टर करने के लिए किया जाता है, जिससे Siri AI असिस्टेंट उपयोगकर्ता के सवालों का अधिक प्रभावी ढंग से जवाब दे पाता है। Siri के अधिकांश उत्तरों में Applebot द्वारा क्रॉल की गई वेबसाइटों का संदर्भ शामिल होता है।
Applebot एक AI सर्च क्रॉलर है जो AI-संचालित सर्च परिणाम तैयार करने के लिए वेब सामग्री को इंडेक्स करता है।
Applebot का व्यवहार कई कारकों पर निर्भर करता है, जैसे कि सर्च डिमांड, क्रॉल की गई वेबसाइटें और उपयोगकर्ता की क्वेरी। डिफ़ॉल्ट रूप से, सर्च क्रॉलर परिणाम प्रदान करने के लिए किसी निश्चित विज़िट शेड्यूल पर निर्भर नहीं रहते हैं।
हालाँकि सर्च क्रॉलर्स को ब्लॉक करने की सलाह नहीं दी जाती है, लेकिन आप Applebot को एक्सेस करने से रोकने के लिए वेबसाइट की robots.txt में निम्नलिखित कमांड का उपयोग कर सकते हैं:
User-agent: Applebot
Disallow: /
OAI-SearchBot क्रॉलर का उपयोग वेबसाइटों का एक इंडेक्स बनाने के लिए किया जाता है, जिसका उपयोग OpenAI के SearchGPT उत्पाद के परिणाम के रूप में किया जा सकता है।
OAI-SearchBot एक AI सर्च क्रॉलर है जिसका उपयोग OpenAI की SearchGPT सेवा के लिए अधिक सटीक AI-संचालित खोज परिणाम प्रदान करने हेतु वेब सामग्री को इंडेक्स करने के लिए किया जाता है।
OAI-SearchBot का व्यवहार वेब खोजों और उपयोगकर्ता प्रश्नों की आवृत्ति द्वारा निर्धारित किया जा सकता है। किसी भी अन्य सर्च क्रॉलर की तरह, OAI-SearchBot परिणाम प्रदान करने के लिए वेबसाइट पर निश्चित विज़िट पर निर्भर नहीं रहता है।
OAI-SearchBot को आपकी वेबसाइट तक पहुँचने से सक्रिय रूप से रोकने के लिए अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करें:
User-agent: OAI-SearchBot
Disallow: /
Perplexity अपने AI Assistant के लिए अधिक प्रभावी उत्तर हेतु खोज परिणामों को इंडेक्स करने के लिए PerplexityBot वेब क्रॉलर का उपयोग करता है। सहायक द्वारा दिए गए उत्तर सामान्यतः विभिन्न वेब स्रोतों के इनलाइन संदर्भ दिखाते हैं।
PerplexityBot एक AI सर्च क्रॉलर है जिसे Perplexity AI Assistant द्वारा AI-संचालित खोज परिणामों के लिए परिणामों को इंडेक्स करने हेतु डिज़ाइन किया गया है।
अधिकांश सर्च क्रॉलर की तरह, PerplexityBot उन वेब स्रोतों के लिए किसी निश्चित विज़िट शेड्यूल पर निर्भर नहीं करता जिन्हें वह प्रमोट करता है। विज़िट की आवृत्ति कई कारकों, जैसे उपयोगकर्ता क्वेरीज़, के आधार पर बदल सकती है।
आप robots.txt में निम्नलिखित एजेंट टोकन नियम शामिल करके PerplexityBot की अपनी वेबसाइट तक पहुँच को सीमित कर सकते हैं:
User-agent: PerplexityBot
Disallow: /
YouBot एक सर्च क्रॉलर है जिसे You.ai द्वारा You AI Assistant के माध्यम से अधिक सटीक उपयोगकर्ता उत्तरों के लिए खोज परिणामों को इंडेक्स करने हेतु तैनात किया गया है। बॉट आम तौर पर संदर्भित वेबसाइटों को इनलाइन स्रोतों के माध्यम से संदर्भित करता है।
YouBot सर्च क्रॉलर अधिक सटीक AI-संचालित खोज परिणाम उत्पन्न करने के लिए वेब सामग्री को इंडेक्स करता है।
YouBot क्रॉलर का कोई निर्धारित विज़िट शेड्यूल नहीं है और विज़िट की आवृत्ति अक्सर ऑन-डिमांड या उपयोगकर्ता क्वेरी के जवाब में होती है।
YouBot क्रॉलर की पहुँच रोकने के लिए आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड पेस्ट करनी होगी:
User-agent: YouBot
Disallow: /
Applebot-Extended AI डेटा स्क्रेपर का उपयोग APple के LLM मॉडलों की लाइनअप को प्रशिक्षित करने के लिए किया जाता है, जो कंपनी की जनरेटिव AI सुविधाओं को शक्ति प्रदान करते हैं। इस Applebot स्क्रेपर का Apple intelligence, Services, और Developer Tools के सभी पहलुओं में व्यापक अनुप्रयोग है।
Applebot-Extended एक AI डेटा स्क्रेपर है जिसका उपयोग वेब सामग्री डाउनलोड करने और AI या LLM (Large Language Models) को प्रशिक्षित करने के लिए किया जाता है
हालाँकि यह स्पष्ट नहीं है कि AI डेटा स्क्रेपर यह कैसे चुनते हैं कि किस वेबसाइट को क्रॉल करना है, यह ज्ञात है कि उच्च सूचना घनत्व वाले स्रोत इस स्क्रेपर Applebot को आकर्षित करते हैं। किसी LLM के लिए उन वेबसाइटों को प्राथमिकता देना तर्कसंगत होगा जो नियमित रूप से ऑन-पेज वेब जानकारी अपलोड और अपडेट करती हैं।
Applebot-Extended को ब्लॉक करने के लिए अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करें:
User-agent: Applebot-Extended
Disallow: /
ByteDance द्वारा संचालित, Bytespider TikTok के चीनी मालिक के लिए एक AI डेटा स्क्रेपर है। इसका उपयोग LLM प्रशिक्षण डेटा डाउनलोड करने और संबंधित डेटा उपलब्ध कराने के लिए किया जाता है।
Bytespider एक AI डेटा स्क्रेपर है जिसका उपयोग वेब से सामग्री डाउनलोड करके Large Language Models को प्रशिक्षित करने के लिए किया जाता है।
Bytespider AI डेटा स्क्रेपर LLMs के लिए आपूर्ति के रूप में उपयोग करने हेतु नियमित रूप से अपडेट की गई और तथ्यों से भरपूर जानकारी वाले वेब स्रोतों को प्राथमिकता देता है।
अपनी वेबसाइट के robots.txt में निम्नलिखित use agent टोकन नियम शामिल करें:
User-agent: Bytespider
Disallow: /
CCBot का स्वामित्व Common Crawl के पास है, ताकि वेब क्रॉल डेटा के माध्यम से एक ओपन-सोर्स रिपॉज़िटरी बनाई जा सके जो किसी के भी एक्सेस और उपयोग के लिए उपलब्ध हो।
CCBot एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब सामग्री डाउनलोड करना और AI मॉडल प्रशिक्षण करना है।
CCBot अधिक प्रभावी LLM प्रशिक्षण के लिए सूचना-समृद्ध वेब स्रोतों को क्रॉल करता है।
CCBot की पहुँच को सीमित करने के लिए robots.txt में निम्नलिखित नियम शामिल करें:
User-agent: CCBot
Disallow: /
ClaudeBot AI डेटा स्क्रेपर Anthropic द्वारा संचालित किया जाता है ताकि Claude जैसे Large Language Models को प्रशिक्षण डेटा उपलब्ध कराया जा सके।
ClaudeBot एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब सामग्री डाउनलोड करना और AI मॉडलों को प्रशिक्षित करना है।
ClaudeBot सूचना घनत्व और जानकारी के अपडेट की नियमितता के आधार पर चुनता है कि किन वेबसाइटों को क्रॉल करना है।
ClaudeBot की पहुँच robots.txt में निम्नलिखित नियम शामिल करके रद्द की जा सकती है:
User-agent: ClaudeBot
Disallow: /
Diffbot को AI मॉडल प्रशिक्षण और रीयल-टाइम मॉनिटरिंग के लिए ठीक से संरचित वेबसाइट डेटा को संरचित करने, समझने, एकत्रित करने और यहाँ तक कि बेचने के लिए डिज़ाइन किया गया है।
Diffbot एक AI डेटा स्क्रेपर है जिसे AI मॉडलों को प्रशिक्षित करने और वेब जानकारी को डाउनलोड/संरचित करने के लिए डिज़ाइन किया गया है।
Diffbot की विज़िट की आवृत्ति स्रोत की जानकारी की गुणवत्ता और अपडेट की नियमितता से परिभाषित होती है।
Diffbot के क्रॉल को robots.txt में निम्नलिखित नियम लागू करके रोका जा सकता है:
User-agent: Diffbot
Disallow: /
FacebookBot को Meta द्वारा AI स्पीच रिकग्निशन तकनीक की दक्षता बढ़ाने और AI मॉडलों को प्रशिक्षित करने के लिए तैनात किया गया है।
FacebookBot एक AI डेटा स्क्रेपर क्रॉलर है, जिसका उपयोग वेब सामग्री दर्ज करने और LLM प्रशिक्षण के लिए किया जाता है।
FacebookBot का कोई निश्चित विज़िट शेड्यूल नहीं है, लेकिन शायद यह अधिक समृद्ध और अच्छी तरह अपडेट की गई जानकारी वाले स्रोतों को पहचानता है और उन पर निर्भर करता है।
FacebookBot की पहुँच निम्नलिखित नियम से रद्द की जा सकती है:
User-agent: FacebookBot
Disallow: /
Google-Extended क्रॉलर का उपयोग Google के स्वामित्व वाले AI उत्पादों, जैसे Gemini assistant और Vertex AI जनरेटिव APIs, के लिए प्रशिक्षण जानकारी उपलब्ध कराने हेतु किया जाता है।
Google-Extended क्रॉलर एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब से जानकारी डाउनलोड करना और AI प्रशिक्षण करना है।
Google-Extended बॉट का विज़िट शेड्यूल भी लचीला है, लेकिन विश्वसनीय जानकारी वाले वेब स्रोतों के Google के समृद्ध डेटाबेस के कारण यह अन्य क्रॉलर की तुलना में कहीं अधिक निर्देशित है।
Google-Extended क्रॉलर को निम्नलिखित नियम से ब्लैकलिस्ट किया जा सकता है:
User-agent: Google-Extended
Disallow: /
GPTBot को OpenAI द्वारा वेब स्रोतों को क्रॉल करने और कंपनी के Large Language Models तथा ChatGPT जैसे उत्पादों के लिए प्रशिक्षण डेटा डाउनलोड करने हेतु विकसित किया गया है।
GPTBot एक AI डेटा स्क्रेपर है जिसे वेब से व्यापक प्रकार का डेटा डाउनलोड और उपलब्ध कराने के लिए डिज़ाइन किया गया है।
अन्य AI डेटा स्क्रेपर की तरह, GPTBot AI प्रशिक्षण प्रक्रियाओं के लिए अधिक संबंधित जानकारी उपलब्ध कराने हेतु सूचना-समृद्ध स्रोतों और वेबसाइटों को प्राथमिकता देता है।
आप निम्नलिखित robots.txt नियम से GPTBot AI डेटा स्क्रेपर को ब्लॉक कर सकते हैं:
User-agent: GPTBot
Disallow: /
Meta-ExternalAgent Meta द्वारा विकसित एक क्रॉलर तकनीक है, जिसका उद्देश्य वेब सामग्री को सीधे डाउनलोड और इंडेक्स करके कंपनी की AI तकनीकों को बेहतर बनाना है।
Meta-ExternalAgent वेब सामग्री को डाउनलोड और इंडेक्स करने के लिए AI डेटा स्क्रेपर तकनीक का उपयोग करता है, जिसका उद्देश्य AI प्रशिक्षण है।
कंपनी द्वारा विकसित अन्य क्रॉलरों की तरह, Meta-ExternalAgent जानकारी-समृद्ध वेब स्रोतों को सटीक रूप से पहचानने के लिए एक लचीली क्रॉलिंग रणनीति का उपयोग करता है।
Meta द्वारा विकसित इस क्रॉलर को निम्नलिखित robots.txt नियम के माध्यम से प्रतिबंधित किया जा सकता है:
User-agent: Meta-ExternalAgent
Disallow: /
omgili क्रॉलर Webz.io के स्वामित्व में है, जिसे वेब क्रॉल डेटा की एक निर्मित लाइब्रेरी बनाए रखने के लिए डिज़ाइन किया गया है, जिसे फिर AI प्रशिक्षण उद्देश्यों के लिए अन्य कंपनियों को बेचा जाता है।
omgili क्रॉलर एक AI डेटा स्क्रेपर है जो वेब से AI प्रशिक्षण जानकारी डाउनलोड करता है।
चूँकि क्रॉल की गई जानकारी बाद में Webz.io द्वारा बेची जाती है, omgili क्रॉलर प्रासंगिक जानकारी वाली विश्वसनीय और अधिकृत वेबसाइटों का रिकॉर्ड रखता है।
omgili क्रॉलर की आपकी वेबसाइट तक पहुँच रोकने के लिए निम्नलिखित नियम का उपयोग करें:
User-agent: omgili
Disallow: /
अपुष्ट Anthropic-AI एजेंट का उपयोग प्रासंगिक प्रशिक्षण डेटा डाउनलोड करने और उसे कंपनी के स्वामित्व वाले AI-संचालित उत्पादों, जैसे Claude, को प्रदान करने के लिए किया जाता प्रतीत होता है।
कंपनी द्वारा खुलासा न किए जाने के कारण Anthropic-AI एजेंट का सटीक प्रकार अभी भी अज्ञात है।
Anthropic-AI एजेंट के बारे में प्रासंगिक जानकारी के अभाव के कारण, क्रॉलर का उपयोग कई उद्देश्यों के लिए किया जा सकता है, लेकिन अभी भी यह बताना कठिन है।
Anthropic-AI एजेंट को निम्नलिखित नियम से ब्लॉक किया जा सकता है:
User-agent: anthropic-ai
Disallow: /
Claude-Web Anthropic द्वारा संचालित एक और AI एजेंट है, जिसके उपयोग उद्देश्यों पर कोई आधिकारिक दस्तावेज़ीकरण नहीं है। उम्मीद है कि Claude-Web Anthropic के लिए प्रासंगिक LLM प्रशिक्षण डेटा प्रदान करेगा।
Claude-Web या तो Anthropic के Claude 3.5 Large Language Model के लिए AI डेटा स्क्रेपर होगा या एक मानक सर्च क्रॉलर।
Anthropic Claude-Web की कार्यक्षमताओं के बारे में जानकारी रोके हुए है, लेकिन पूरी तरह खुलासा होने के बाद क्रॉलर का व्यवहार एजेंट के प्रकार के अनुरूप होगा।
आपकी वेबसाइट तक Claude-Web एजेंट की क्रॉलिंग पहुँच निलंबित करने के लिए निम्नलिखित नियम का उपयोग किया जाता है:
User-agent: Claude-Web
Disallow: /
Cohere-AI Cohere द्वारा विकसित एक अप्रलेखित एजेंट है, जो उनके जनरेटिव AI टूल्स को प्रासंगिक अध्ययन जानकारी प्रदान करता है। यह Cohere AI के माध्यम से उपयोगकर्ताओं द्वारा संकेत दिए जाने पर वेब से जानकारी प्राप्त करता है।
इस Cohere AI एजेंट के लिए कोई दस्तावेज़ीकरण उपलब्ध नहीं होने के कारण, क्रॉलर का प्रकार अभी भी कई वेबसाइट मालिकों के लिए अज्ञात है।
संदेह है कि Cohere-AI एजेंट विभिन्न व्यवहार पैटर्न के माध्यम से बहुउद्देशीय होगा, ताकि Cohere उपयोगकर्ताओं को प्रासंगिक जानकारी और इनलाइन स्रोत लिंक प्रदान किए जा सकें।
आप निम्नलिखित नियम के माध्यम से Cohere-AI Agent की पहुँच निलंबित कर सकते हैं:
User-agent: cohere-ai
Disallow: /
Ai2Bot का प्राथमिक कार्य “certain domains” को क्रॉल करना और भाषा मॉडलों के प्रशिक्षण के लिए वेब सामग्री प्राप्त करना है।
Ai2 द्वारा रिपोर्ट किए अनुसार, Ai2Bot एक AI सर्च क्रॉलर है, क्योंकि यह क्रॉल की गई वेबसाइट पर सामग्री, छवियों और वीडियो का विश्लेषण करता है।
कंपनी द्वारा रिपोर्ट किए अनुसार Ai2Bot केवल विशिष्ट वेबसाइटों को क्रॉल करता है, लेकिन यह पंजीकृत डोमेन की अपनी सीमा दिन-प्रतिदिन बढ़ा सकता है।
Ai2Bot को निलंबित करने के लिए अपनी वेबसाइट के robots.txt में निम्नलिखित नियम शामिल करें:
User-agent: Ai2Bot
Disallow: /
Ai2 कंपनी Ai2Bot-Dolma बॉट की स्वामी है और robots.txt नियमों का सम्मान करती है। प्राप्त सामग्री का उपयोग कंपनी के स्वामित्व वाले विभिन्न भाषा मॉडलों को प्रशिक्षित करने के लिए किया जाता है।
हालाँकि बॉट को कोई विशिष्ट निर्दिष्ट प्रकार नहीं दिया गया है, हमारा मानना है कि इसमें एक मानक AI सर्च क्रॉलर जैसा व्यवहार है।
Ai2Bot-Dolma केवल “certain domains” को क्रॉल करता है ताकि भाषा मॉडलों के प्रशिक्षण के लिए आवश्यक वेब सामग्री खोजी जा सके।
Ai2Bot-Dolma की पहुँच प्रतिबंधित करने के लिए निम्नलिखित robots.txt लाइन का उपयोग करें:
User-agent: Ai2Bot-Dolma
Disallow: /
हालाँकि इस क्रॉलर के बारे में बहुत अधिक जानकारी नहीं है, यह robots.txt का सम्मान करता है और मशीन लर्निंग प्रयोगों के लिए डेटा प्राप्त करने में उपयोग किया जाता है।
बॉट का प्रकार अभी भी अज्ञात है, लेकिन इसके वेब व्यवहार के आधार पर हमारा मानना है कि यह या तो जेनेरिक क्रॉलर है या AI डेटा स्क्रेपर।
यह स्पष्ट नहीं है कि इस बॉट का संचालक कौन है, लेकिन डेटा का उपयोग बड़े भाषा मॉडल प्रशिक्षण, मशीन लर्निंग और डेटासेट निर्माण के लिए किया जाता है।
आपकी वेबसाइट तक FriendlyCrawler की पहुँच निलंबित करने का तरीका यह है:
User-agent: FriendlyCrawler
Disallow: /
GoogleOther क्रॉलर Google के स्वामित्व वाला एक बॉट है, लेकिन यह अभी भी स्पष्ट नहीं है कि यह AI-संबंधित है या बिल्कुल भी कृत्रिम रूप से बुद्धिमान है। वर्तमान में, शीर्ष प्रदर्शन करने वाली वेबसाइटों के केवल एक प्रतिशत ने GoogleOther बॉट को ब्लॉक किया है।
GoogleOther बॉट एक सर्च इंजन क्रॉलर है जो अधिक सटीक सर्च इंजन परिणामों या Google SERP के लिए वेब सामग्री को इंडेक्स करता है।
किसी भी अन्य सर्च इंजन क्रॉलर की तरह, GoogleOther बॉट किसी विशेष विज़िटेशन शेड्यूल का पालन नहीं करता और विज़िटेशन आवृत्ति वेबसाइट गतिविधि और सामग्री गुणवत्ता के आधार पर बदलती रहती है।
अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित नियम जोड़ें:
User-agent: GoogleOther
Disallow: /
GoogleOther-Image GoogleOther का वह संस्करण है जिसे वेब पर छवियों को क्रॉल, विश्लेषण और इंडेक्स करने के लिए प्रस्तावित किया गया है
GoogleOther की तरह, GoogleOther-Image बॉट एक जेनेरिक क्रॉलर है जिसका उपयोग विभिन्न उत्पाद टीमें वेबसाइट सामग्री को सार्वजनिक रूप से सुलभ बनाने के लिए करती हैं।
यह क्रॉलर किसी निश्चित विज़िटेशन शेड्यूल से नहीं जुड़ा रहता, बल्कि वेब पर सबसे विश्वसनीय छवि स्रोतों का विश्लेषण करता है और विशिष्ट जानकारी को इंडेक्स करता है।
आप इस Google क्रॉलर को निम्नलिखित कमांड से ब्लॉक कर सकते हैं:
User-agent: GoogleOther-Image
Disallow: /
मानक GoogleOther क्रॉलर और इमेज-रजिस्टरिंग बॉट की तरह, GoogleOther-Video वेब पर वीडियो सामग्री को क्रॉल और विश्लेषण करता है।
यह बॉट एक जेनेरिक क्रॉलर है जो विभिन्न उत्पाद टीमों और व्यवसायों को उनकी वेबसाइट पर अपलोड किए गए वीडियो के साथ बेहतर पहुँच प्राप्त करने में सेवा देता है।
GoogleOther के अन्य संस्करणों की तरह, इस क्रॉलर का भी एक लचीला विज़िटेशन शेड्यूल है, जो वेबसाइट वीडियो सामग्री की गतिविधि और गुणवत्ता से परिभाषित होता है।
इस Google बॉट को निम्नलिखित robots.txt लाइन से ब्लॉक किया जा सकता है:
User-agent: GoogleOther-Video
Disallow: /
ICC-Crawler एक ऐसा एजेंट है जिसे निर्माता द्वारा अभी भी वर्गीकृत नहीं किया गया है। यह अभी भी अज्ञात है कि यह क्रॉलर कृत्रिम रूप से बुद्धिमान है या इसका AI से कोई संबंध है।
इसके स्रोत की तरह, ICC-Crawler बॉट का प्रकार भी अज्ञात है।
बॉट का व्यवहार क्रॉलर के प्रकार पर निर्भर करता है, विशेष रूप से इस बात पर कि वह डेटा स्क्रेपर, सर्च इंजन क्रॉलर या आर्काइवर है।
ICC-Crawler को निम्नलिखित कमांड से ब्लॉक किया जा सकता है:
User-agent: ICC-Crawler
Disallow: /
Imagesift बॉट का स्वामित्व Hive के पास है, लेकिन वर्तमान में यह अज्ञात है कि क्रॉलर AI-संबंधित है या कृत्रिम रूप से बुद्धिमान है।
ImagesiftBot एक इंटेलिजेंस गैदरर है जो वेब पर उपयोगी अंतर्दृष्टियों की खोज करता है और परिणामों को डेटाबेस में पंजीकृत या इंडेक्स करता है।
इंटेलिजेंस गैदरर क्रॉलरों का व्यवहार उनके क्लाइंट्स के लक्ष्यों पर निर्भर करता है। उदाहरण के लिए, कोई क्लाइंट अपने ब्रांड को लोकप्रिय बनाने में रुचि रख सकता है, जिसके कारण बॉट अन्य असंबंधित वेबसाइटों की तुलना में सोशल मीडिया को अधिक बार क्रॉल करता है।
इस क्रॉलर को निम्नलिखित तरीके से ब्लॉक किया जा सकता है:
User-agent: ImagesiftBot
Disallow: /
Huawei के स्वामित्व वाला PetalBot वर्तमान में 2% लोकप्रिय इंडेक्स की गई वेबसाइटों पर निलंबित है। यह अभी भी अज्ञात है कि यह क्रॉलर कृत्रिम रूप से बुद्धिमान है या किसी भी तरह से AI से संबंधित है।
PetalBot एक सर्च इंजन क्रॉलर है जो वेब कंटेंट को इंडेक्स करता है और सर्च इंजन परिणामों से डेटा प्राप्त करता है।
PetalBot का व्यवहार कंटेंट की गुणवत्ता और पंजीकृत वेबसाइटों तथा डोमेन्स की गतिविधि से परिभाषित होता है। सर्च इंजन क्रॉलर उच्च कंटेंट गुणवत्ता और बार-बार गतिविधि वाली वेबसाइटों को क्रॉल करने की प्रवृत्ति रखते हैं।
PetalBot की पहुंच को निम्नलिखित तरीके से निलंबित किया जा सकता है:
User-agent: PetalBot
Disallow: /
Scrapy का स्वामित्व Zyte के पास है और वर्तमान में वेब पर पंजीकृत 3% से अधिक डोमेन्स पर ब्लॉक किया गया है।
Scrapy एक AI स्क्रेपर है, जो किसी वेबसाइट के robots.txt का सम्मान न करने वाले कुख्यात क्रॉलरों में से है। यह अंततः आवश्यक जानकारी का विश्लेषण करेगा, भले ही इसका मतलब ऐसी वेबसाइट तक पहुंचना हो जिसमें Scrapy के लिए disallow robots.txt नियम हो।
AI स्क्रेपर के विज़िटेशन शेड्यूल की भविष्यवाणी करना लगभग असंभव है। इन क्रॉलरों को अलग-अलग उद्देश्यों से भेजा जाता है और यह बताना कठिन है कि यह किन वेबसाइटों को और कितनी बार क्रॉल करेगा।
हालांकि robots.txt AI स्क्रेपर्स के खिलाफ ज़्यादा कुछ नहीं करता, Scrapy को ब्लॉक करने का तरीका यह है:
User-agent: Scrapy
Disallow: /
Timpibot का स्वामित्व Timpi के पास है और वर्तमान में 3% लोकप्रिय इंडेक्स की गई वेबसाइटों पर ब्लॉक किया गया है। Timpibot का एकमात्र उद्देश्य AI मॉडल प्रशिक्षण के लिए वेब डेटा प्राप्त करना है।
एक मानक स्क्रेपर के विपरीत, Timpibot एक AI डेटा स्क्रेपर है जो वेब कंटेंट को क्रॉल और इंडेक्स करने के लिए केवल कृत्रिम बुद्धिमत्ता पर निर्भर करता है।
मानक स्क्रेपर्स की तरह, AI डेटा स्क्रेपर्स का विज़िटेशन शेड्यूल भी स्पष्ट नहीं है। ये क्रॉलर AI मॉडल प्रशिक्षण के लिए आवश्यक जानकारी के आधार पर अधिक सूचना घनत्व और कंटेंट मूल्य वाली वेबसाइटों को चुनने की प्रवृत्ति रखते हैं।
Timpibot की पहुंच को निम्नलिखित robots.txt नियम से निलंबित किया जा सकता है:
User-agent: Timpibot
Disallow: /
VelenPublicCrawler को Hunter द्वारा संचालित किया जाता है और वेब पर शीर्ष-इंडेक्स की गई 0% वेबसाइटों द्वारा ब्लॉक किया गया है।
यह क्रॉलर एक मानक इंटेलिजेंस गैदरर है, जिसका उद्देश्य वेब परिणामों से उपयोगी अंतर्दृष्टियां एकत्र करना है।
इंटेलिजेंस गैदरर्स अपने क्लाइंट्स के लक्ष्यों को पूरा करने की प्रवृत्ति रखते हैं और अधिकांश मामलों में, किस जानकारी को एकत्र करना है, इसके लिए उनके पास विशिष्ट कार्य होते हैं।
VelenPublicWebCrawler को निम्नलिखित कमांड से ब्लॉक किया जा सकता है:
User-agent: VelenPublicWebCrawler
Disallow: /
Webzio-Extended Webz.io के स्वामित्व वाला एक और क्रॉलर है, जिसका उपयोग प्राप्त किए गए क्रॉल डेटा के रिपॉजिटरी को बनाए रखने के लिए किया जाता है। फिर यह जानकारी अन्य कंपनियों को बेची जाती है और आमतौर पर AI मॉडल प्रशिक्षण के लिए उपयोग की जाती है।
Webzio-Extended एक AI डेटा स्क्रेपर है जो AI मॉडलों को प्रशिक्षित करने के उद्देश्य से वेब कंटेंट डाउनलोड करता है।
Webzio-Extended जैसे AI डेटा स्क्रेपर्स वेबसाइटों के निश्चित विज़िटेशन पर टिके नहीं रहते। अधिक समृद्ध डेटा स्रोत स्क्रेपर्स को अधिक आकर्षित करते हैं और उन्हें अधिक बार क्रॉल करने के लिए प्रेरित करते हैं।
आपकी वेबसाइट तक Webzio-Extended की पहुंच को निम्नलिखित कमांड से निलंबित किया जा सकता है:
User-agent: Webzio-Extended
Disallow: /
facebookexternalhit क्रॉलर Meta द्वारा भेजा गया एक बॉट है जो 6% से अधिक पंजीकृत लोकप्रिय वेबसाइटों पर ब्लॉक किया गया है। यह अभी भी स्पष्ट नहीं है कि बॉट कृत्रिम रूप से बुद्धिमान है या AI से संबंधित है।
Facebookexternalhit एक फेचर है, जो किसी एप्लिकेशन की ओर से वेब परिणामों को क्रॉल करता है।
फेचर्स को आमतौर पर मांग पर वेबसाइटों पर जाने के लिए भेजा जाता है। उनका उपयोग अनुरोध करने वाले उपयोगकर्ता को किसी विशेष लिंक का मेटाडेटा, शीर्षक, या उदाहरण के लिए थंबनेल इमेज प्रस्तुत करने के लिए किया जाता है।
इस Meta क्रॉलर को निम्नलिखित robots.txt नियम से ब्लॉक किया जा सकता है:
User-agent: facebookexternalhit
Disallow: /
यह ज्ञात है कि img2dataset कंपनी का एकमात्र वेब क्रॉलर है, जिसका उद्देश्य बड़ी संख्या में इमेज डाउनलोड करना और उन्हें बड़े भाषा मॉडलों को प्रशिक्षित करने के लिए डेटासेट में बदलना है।
img2dataset का प्रकार अभी भी अज्ञात है, लेकिन उसके व्यवहार और विज़िटेशन शेड्यूल के आधार पर हमें लगता है कि यह एक AI सर्च इंजन क्रॉलर है।
Img2dataset अधिक समृद्ध इमेज डेटाबेस और विविध थीम वाली वेबसाइटों को क्रॉल करने की प्रवृत्ति रखता है।
इस क्रॉलर को निम्नलिखित नियम से निलंबित किया जा सकता है:
User-agent: img2dataset
Disallow: /
आपकी वेबसाइट पर अवांछित बॉट ट्रैफिक को प्रतिबंधित करने की कई विशिष्ट संभावनाएं हैं:
सबसे आम तरीका अपनी Robots.txt फ़ाइल में निम्नलिखित टेक्स्ट जोड़ना है:
User-agent: name-of-bot
Disallow: /
उदाहरण:
User-agent: GPTBot
Disallow: /
आसानी से सुलभ robots.txt फ़ाइल बनाना कई आसान चरणों में शामिल है:
इस चरण के दौरान, आपको वेबसाइट की रूट डायरेक्टरी तक पहुंचना होगा। क्रॉलर की आपकी वेबसाइट तक पहुंच को प्रभावी रूप से प्रतिबंधित करने के लिए फ़ाइल को यहीं संग्रहीत करना होता है। ध्यान रखें कि आपकी वेबसाइट में केवल एक robots.txt फ़ाइल हो सकती है।
फ़ाइल बनाने के लिए आप किसी भी एडिटर का उपयोग कर सकते हैं, जैसे Windows का NotePad, TextEdit, और vi. सुनिश्चित करें कि फ़ाइल UTF-8 एन्कोडिंग में सेव की गई है और नियम लागू करने के लिए आगे बढ़ें। Google के क्रॉलर नियमों के निम्नलिखित सेट पर प्रतिक्रिया देते हैं: "user-agent," "disallow," "allow" और "sitemap." क्रॉलरों के प्रबंधन के संदर्भ में प्रत्येक नियम का अपना अलग उद्देश्य होता है।
अगला चरण अपनी ब्राउज़र में एक निजी ब्राउज़िंग विंडो खोलकर और फ़ाइल के स्थान पर नेविगेट करके नई बनाई गई robots.txt फ़ाइल को सार्वजनिक रूप से सुलभ बनाना है। आप साइट डोमेन टाइप करके, उदाहरण के लिए, "https://(site name)" और अंत में "/robots.txt" जोड़कर जांच सकते हैं कि robots.txt सार्वजनिक रूप से सुलभ है या नहीं।
जैसा कि हमने पहले स्थापित किया है, आपकी वेबसाइट के robots.txt में किसी विशेष बॉट के लिए प्रतिबंध नियम शामिल करने से न तो पेज डीइंडेक्स होगा और न ही वह SERP से हटेगा। आपके पेज तक पहुंचने का प्रयास करने पर, बॉट को स्वचालित रूप से एक त्रुटि संदेश दिया जाएगा और पेज के कंटेंट तक पहुंच प्राप्त किए बिना उसे दूर रीडायरेक्ट कर दिया जाएगा।
पेज अभी भी सभी उपयोगकर्ताओं और AI बॉट्स के लिए खोज योग्य रहेगा, लेकिन robots.txt फ़ाइल में सूचीबद्ध नेमटैग वाले बॉट्स को पहुंच नहीं मिलेगी।
यह उदाहरण फ़ाइल ब्लॉक करती है:
डेटा स्क्रेपर्स को ब्लॉक करना लेकिन क्रॉलर और खोज सहायक को नहीं, इसका उद्देश्य वेबसाइट के डेटा को प्रशिक्षण के लिए उपयोग होने से प्रतिबंधित करना है, लेकिन AI खोज/सहायकों को वेबसाइट पर ट्रैफिक भेजने की अनुमति देना है।
फ़ायरवॉल की सहायता से AI बॉट्स की पहुंच को निलंबित करने की बात आती है तो कई संभावनाएं होती हैं। आइए प्रत्येक विशिष्ट संभावना की समीक्षा करें:
यदि आपको अपने डोमेन तक पहुंचने के लिए बॉट्स द्वारा उपयोग किए गए पतों की अच्छी जानकारी है, तो आप अपनी वेबसाइट के फ़ायरवॉल के माध्यम से IPs को ब्लैकलिस्ट कर सकते हैं । यह आपकी वेबसाइट पर अनिच्छित ट्रैफिक को कम करने और संसाधनों को सुरक्षित रखने की एक सामान्य रूप से ज्ञात प्रथा है। हालांकि, बॉट कई IPs के बीच चक्रित हो सकते हैं।
आपकी वेबसाइट पर बॉट ट्रैफिक को 100% निलंबित करने के लिए शायद सबसे व्यापक रूप से पसंद की जाने वाली विधि ऐसा CAPTCHA सॉफ़्टवेयर लागू करना है जिसके लिए मानव सत्यापन आवश्यक हो। प्रत्येक नए विज़िटर को पहुंच प्राप्त करने के लिए पज़ल के टुकड़ों को मिलाने या इमेज के सेट पर वस्तुओं की पहचान करने जैसी सरल चुनौती पूरी करने के लिए कहा जाएगा। फ़ायरवॉल को CAPTCHAs ट्रिगर करने के लिए संशोधित किया जा सकता है।
Cloudflare या Amazon CloudFront जैसी CDN सेवाओं को AI बॉट्स के ट्रैफिक को कम करने के लिए आपकी वेबसाइट के फ़ायरवॉल के साथ एकीकृत किया जा सकता है। CAPTCHA चुनौतियों की तरह, केवल वास्तविक उपयोगकर्ताओं के स्वामित्व वाले वैध IP पतों को आपकी वेबसाइट तक पहुंचने की अनुमति दी जाएगी।
चूंकि बड़ी विविधता वाले वेबमास्टर्स अपनी वेबसाइट पर अवांछित बॉट ट्रैफिक को निलंबित करने के लिए robots.txt पर निर्भर करते हैं, फ़ाइल के भीतर प्रत्येक नियम किसी विशिष्ट बॉट के लिए सेट किया जाता है। कंपनियों ने जब अपने बॉट्स के ट्रैफिक में गिरावट महसूस करनी शुरू की, तो कई ने अपने बॉट्स को एक नया नाम देने का निर्णय लिया जो कई वेबसाइटों की robots.txt फ़ाइल में नहीं था।
एक हालिया उदाहरण यह है कि Anthropic ने “ANTHROPIC-AI” और “CLAUDE-WEB” नामक अपने AI डेटा स्क्रेपर्स को “CLAUDEBOT” नामक एक नए बॉट में मिला दिया है। वेबसाइटों को इस बारे में पता लगाने में निश्चित रूप से कुछ समय लगा और इस बीच, नए बॉट को इंटरनेट पर सभी वेबसाइटों तक अभूतपूर्व पहुंच मिल गई।
बड़े भाषा मॉडलों को सिखाने के लिए AI कंपनियों द्वारा सार्वजनिक जानकारी के बढ़ते और व्यापक उपयोग के साथ, वेब प्रोटोकॉल की अप्रभावशीलता स्पष्ट होती जा रही है। बड़े डेटा स्क्रैपिंग के जवाब में, जो C4, Dolma, और Refined Web जैसी वेब डेटा AI कंपनियों द्वारा किया गया, क्रॉलर पहुंच में 28%-45% से अधिक गिरावट आई है।

C4 का पूरा 45% अब प्रतिबंधित कर दिया गया है, जिनमें से कई प्रतिबंध विविध हैं और robots.txt के माध्यम से सामान्य-उद्देश्य AI इन्फ्रास्ट्रक्चर के नियमों को विस्तारित कर रहे हैं। डेटा सहमति की मांग केवल वाणिज्यिक AI के लिए ही नहीं, बल्कि सभी प्रकार के शैक्षणिक शोध और गैर-वाणिज्यिक AI उपयोग के लिए भी अधिक से अधिक चुनौतीपूर्ण होती जा रही है।
LLMs को प्रशिक्षित करने के लिए जितना संभव हो उतना डेटा स्क्रैप करने की कोशिश कर रही AI कंपनियों और अपने डेटा/बैंडविड्थ को दुरुपयोग से बचाने के लिए काम कर रहे प्रकाशकों के टकराव के परिणामस्वरूप एक दिलचस्प संघर्ष पैदा हुआ है, जो सभी वेबसाइटों पर robots.txt नामक कम-ज्ञात फ़ाइल में सामने आ रहा है।
इस गाइड का उद्देश्य हमारे लाइव डैशबोर्ड के साथ यह ट्रैक करना है कि यह ड्रामा कैसे सामने आ रहा है, यह देखते हुए कि शीर्ष 1000 वेबसाइटों में से कौन-सी AI बॉट्स को ब्लॉक कर रही हैं, उन्हें कैसे ब्लॉक करना है और आपको किन्हें ब्लॉक करना चाहिए।
यदि हम कोई ऐसे बॉट्स छोड़ रहे हैं जिन्हें आप शामिल कराना चाहते हैं, तो कृपया संपर्क करें।