Robots.txt का उपयोग करके AI बॉट्स को वेबसाइटों को क्रॉल करने से रोकें

लाइव डैशबोर्ड देखें, जो उन वेबसाइटों को दिखाता है जो GPTBot, CCBot, Google-extended और ByteSpider जैसे AI Bots को उनकी वेबसाइट पर मौजूद सामग्री को क्रॉल और स्क्रैप करने से रोक रही हैं। जानें कि कौन-से AI crawlers / scrapers क्या करते हैं और Robots.txt का उपयोग करके उन्हें कैसे ब्लॉक करें।

OpenAI का GPTBot, Applebot, CCBot, Google-Extended, और Bytespider जैसे बॉट्स आपकी वेबसाइट के डेटा का विश्लेषण, भंडारण या स्क्रैपिंग करते हैं ताकि अधिक उन्नत LLM को प्रशिक्षित करने के लिए डेटा प्रदान किया जा सके। 

‍

Originality.ai में, हम जिम्मेदार विकास (जिसमें नैतिक स्क्रैपिंग शामिल है) और ChatGPT जैसे जेनरेटिव AI राइटिंग टूल्स के उपयोग (AI डिटेक्टर) को लेकर गंभीर हैं।  

‍

यह लेख AI बॉट्स के उद्देश्य, उनके कार्यों, उन्हें ब्लॉक करने के तरीकों और robots.txt नामक एक कम ज्ञात फ़ाइल पर AI के भविष्य के लिए चल रही दिलचस्प लड़ाई का गहराई से विश्लेषण करेगा। 

‍

AI बॉट्स क्या हैं?

‍

AI बॉट्स कई रूपों में आते हैं, जिनमें AI असिस्टेंट, AI डेटा स्क्रैपर्स, और AI सर्च क्रॉलर्स शामिल हैं, जो प्रमुख AI टूल्स और AI सर्च इंजन को संचालित करते हैं। इनमें से प्रत्येक AI बॉट वेब से डेटा निकालता है। कई वेबमास्टर्स इन प्रथाओं को अस्वीकार्य मानते हैं और अपने डेटा या वेबसाइट की जानकारी को स्क्रैप होने से सुरक्षित रखना चाहते हैं। 

‍

वेबसाइटों द्वारा AI बॉट्स को ब्लॉक करना क्यों मायने रखता है?

‍

जैसे-जैसे इंटरनेट का एक बड़ा हिस्सा AI बॉट्स को ब्लॉक कर रहा है, शब्दों की संख्या जो OpenAI और Anthropic जैसी AI कंपनियों के लिए अपने नवीनतम LLM (जैसे GPT-4o, Claude 3.5) को विकसित करने के लिए उपलब्ध है, वह कम होती जाएगी। इसका परिणाम यह होगा कि भविष्य में AI टूल्स का सुधार धीमा हो जाएगा।

‍

AI बॉट्स को कैसे ब्लॉक करें (सरल तरीका):

‍

सबसे आसान तरीका यह है कि आप अपनी Robots.txt फ़ाइल में निम्नलिखित टेक्स्ट जोड़ें:

‍

User-agent: name-of-bot

Disallow: /

‍

उदाहरण:

‍

User-agent: GPTBot

Disallow: /

‍

AI बॉट्स को ब्लॉक करने के विकल्पों की विस्तृत व्याख्या और Robots.txt फ़ाइल के नमूने के लिए इस लेख के अंत में देखें। 

‍

विशेष रूप से OpenAI, अपने LLM प्रशिक्षण प्रयासों को जारी रखने के लिए डेटा साझेदारी सुरक्षित करने के लिए सक्रिय रहा है। 

‍

Robots.txt क्या है और यह क्या काम करता है?

‍

Robots.txt एक इंटरनेट प्रोटोकॉल है जो सर्च इंजन क्रॉलर्स को यह जानकारी देता है कि वे आपकी वेबसाइट पर किन URL को एक्सेस कर सकते हैं। इसका मुख्य उपयोग क्रॉलर्स द्वारा उत्पन्न अनुरोधों से डोमेन पर अत्यधिक भार पड़ने से रोकना है। 

‍

यह जानना महत्वपूर्ण है कि Robots.txt एक ऐसा अनुरोध है जिसका बॉट्स को पालन करना चाहिए, लेकिन यह अनिवार्य नहीं है कि वे इसका पालन करें ही। 

‍

आपकी वेबसाइट पर क्रॉलर ट्रैफ़िक को फ़िल्टर करने और प्रबंधित करने के संदर्भ में, robots.txt का उद्देश्य फ़ाइल के प्रकार के आधार पर अलग-अलग होता है:

‍

वेब पेज फ़िल्टरिंग

‍

robots.txt का मुख्य उद्देश्य आपकी वेबसाइट के विशिष्ट पृष्ठों तक क्रॉलर की पहुंच को प्रतिबंधित करना है। यदि आपको चिंता है कि आपकी वेबसाइट का सर्वर Google के बहुत अधिक अनुरोधों से प्रभावित हो रहा है, तो आप उपयोग को कम करने के लिए खोज इंजन क्रॉलर्स को अपनी वेबसाइट के विशिष्ट पृष्ठों तक पहुँचने से रोक सकते हैं।

‍

मीडिया फ़ाइल फ़िल्टरिंग

‍

आप छवियों, वीडियो और ऑडियो फ़ाइलों के क्रॉल ट्रैफ़िक को प्रबंधित करने के लिए robots.txt फ़ाइल का उपयोग कर सकते हैं। यह विशिष्ट मीडिया को Google या अन्य खोज इंजनों के SERP (खोज इंजन परिणाम पृष्ठ) पर दिखाई देने से रोकेगा।

‍

संसाधन फ़ाइल 

‍

यदि आपको लगता है कि अनावश्यक स्टाइल फ़ाइलों, छवियों या स्क्रिप्ट के कारण उपयोग दर बढ़ रही है, तो आप विशिष्ट AI क्रॉलर, स्क्रैपर, असिस्टेंट या अन्य बॉट्स की पहुंच को प्रतिबंधित करने के लिए robots.txt फ़ाइल का उपयोग कर सकते हैं।

‍

AI बॉट्स के प्रकार

‍

आइए वेब पर कंपनियों द्वारा तैनात विभिन्न प्रकार के एआई बॉट्स और क्रॉलर्स की समीक्षा करें:

‍

एआई असिस्टेंट

‍

OpenAI के स्वामित्व वाला ChatGPT-User या Meta द्वारा तैनात Meta-ExternalFetcher जैसे एआई असिस्टेंट उपयोगकर्ता के प्रश्नों का उत्तर देने में महत्वपूर्ण भूमिका निभाते हैं। ये प्रतिक्रियाएं टेक्स्ट या वॉयस फॉर्मेट में हो सकती हैं और उपयोगकर्ता के प्रॉम्प्ट का सबसे सटीक उत्तर तैयार करने के लिए एकत्रित वेब डेटा का उपयोग करती हैं।

‍

एआई डेटा स्क्रैपर्स

‍

एआई वेब स्क्रैपिंग एक ऐसी प्रक्रिया है जिसे एआई डेटा स्क्रैपर बॉट्स द्वारा एलएलएम (LLM) प्रशिक्षण के लिए अधिक से अधिक उपयोगी डेटा एकत्र करने के लिए किया जाता है। Apple, ByteDance, Common Crawl, OpenAI और Anthropic जैसी कंपनियां एलएलएम को प्रशिक्षित करने के लिए वेब का एक बड़ा डेटासेट बनाने हेतु एआई डेटा स्क्रैपर्स का उपयोग करती हैं।

‍

एआई सर्च क्रॉलर्स

‍

कई कंपनियां विशिष्ट वेबसाइट पेजों, शीर्षकों, कीवर्ड्स, छवियों और संदर्भित इनलाइन लिंक के बारे में जानकारी एकत्र करने के लिए एआई सर्च क्रॉलर्स का उपयोग करती हैं। हालांकि एआई क्रॉलर्स में वेबसाइट पर ट्रैफ़िक भेजने की क्षमता होती है, फिर भी कुछ वेबसाइट मालिक इसे ब्लॉक करना चुन रहे हैं।

‍

लोकप्रिय एआई बॉट्स का विवरण

‍

‍

लोकप्रिय एआई बॉट्स का गहन विश्लेषण

‍

ChatGPT-User - AI सर्च असिस्टेंट 

‍

अवलोकन

ChatGPT-User एक सर्च असिस्टेंट क्रॉलर है जिसे उपयोगकर्ता के प्रॉम्प्ट के परिणामस्वरूप Open AI के ChatGPT द्वारा भेजा जाता है। इसके अधिकांश उत्तरों में आमतौर पर वेबसाइट की सामग्री का सारांश और एक संदर्भ लिंक शामिल होता है।

‍

प्रकार

ChatGPT-User क्रॉलर का प्रकार AI असिस्टेंट है, क्योंकि इसका उपयोग ChatGPT उपयोगकर्ता की ओर से बुद्धिमानी से कार्य करने के लिए किया जाता है।

‍

क्रॉलर का व्यवहार

ChatGPT-User सर्च असिस्टेंट से यह अपेक्षा की जाती है कि वह अन्य क्रॉलर्स की तरह स्वचालित रूप से वेब ब्राउज़ करने के बजाय, उपयोगकर्ता के अनुरोध पर एक बार ही विज़िट करेगा।

‍

ChatGPT-User सर्च असिस्टेंट को कैसे ब्लॉक करें?

इस क्रॉलर को ब्लॉक करने के लिए, आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित विवरण शामिल करना होगा:

‍

User-agent: ChatGPT-User
Disallow: /

‍

Meta-ExternalFetcher - AI सर्च असिस्टेंट 

‍

अवलोकन

Meta-ExternalFetcher क्रॉलर को Meta AI के सभी उत्पादों द्वारा तब भेजा जाता है जब किसी व्यक्तिगत लिंक की आवश्यकता होती है और उपयोगकर्ता प्रॉम्प्ट द्वारा निर्देशित किया जाता है।

‍

प्रकार

Meta-ExternalFetcher AI असिस्टेंट को Meta AI उपयोगकर्ता की ओर से बुद्धिमानी से कार्य करने के लिए लाया जाता है।

‍

क्रॉलर का व्यवहार

ChatGPT-user क्रॉलर के समान, Meta-ExternalFetcher आमतौर पर स्वचालित रूप से वेब को क्रॉल करने के बजाय उपयोगकर्ता के अनुरोध के आधार पर एक बार विज़िट करता है।

‍

Meta-ExternalFetcher AI असिस्टेंट को कैसे ब्लॉक करें?

Meta-ExternalFetcher की पहुंच को रोकने के लिए आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करनी होगी:

‍

User-agent: Meta-ExternalFetcher
Disallow: /

‍

Amazonbot - AI सर्च क्रॉलर 

‍

अवलोकन

Amazonbot वेब क्रॉलर का उपयोग Amazon द्वारा खोज परिणामों को इंडेक्स और रजिस्टर करने के लिए किया जाता है, जिससे Alexa AI असिस्टेंट अधिक सटीकता से सवालों के जवाब दे पाता है। Alexa के अधिकांश उत्तरों में आमतौर पर वेबसाइट का संदर्भ शामिल होता है।

‍

प्रकार

Amazonbot एक AI सर्च क्रॉलर है जिसका उपयोग Alexa के AI-संचालित खोज परिणामों के लिए वेब सामग्री को इंडेक्स करने के लिए किया जाता है।

‍

क्रॉलर का व्यवहार

सर्च क्रॉलर की खास बात यह है कि वे वेबसाइटों के लिए किसी निश्चित विज़िटिंग स्कीम का पालन नहीं करते हैं। विज़िट की आवृत्ति कई कारकों द्वारा निर्धारित होती है और आमतौर पर यह उपयोगकर्ता की क्वेरी के आधार पर ऑन-डिमांड होती है, जिसमें Amazonbot भी शामिल है।

‍

Amazonbot सर्च क्रॉलर को कैसे ब्लॉक करें?

आप अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड लाइन लिखकर Amazonbot की पहुंच को सीमित कर सकते हैं:

‍

User-agent: Amazonbot
Disallow: /

‍

Applebot - AI सर्च क्रॉलर 

‍

अवलोकन

Applebot सर्च क्रॉलर का उपयोग सर्च परिणामों को रजिस्टर करने के लिए किया जाता है, जिससे Siri AI असिस्टेंट उपयोगकर्ता के सवालों का अधिक प्रभावी ढंग से जवाब दे पाता है। Siri के अधिकांश उत्तरों में Applebot द्वारा क्रॉल की गई वेबसाइटों का संदर्भ शामिल होता है।

‍

प्रकार

Applebot एक AI सर्च क्रॉलर है जो AI-संचालित सर्च परिणाम तैयार करने के लिए वेब सामग्री को इंडेक्स करता है।

‍

क्रॉलर का व्यवहार

Applebot का व्यवहार कई कारकों पर निर्भर करता है, जैसे कि सर्च डिमांड, क्रॉल की गई वेबसाइटें और उपयोगकर्ता की क्वेरी। डिफ़ॉल्ट रूप से, सर्च क्रॉलर परिणाम प्रदान करने के लिए किसी निश्चित विज़िट शेड्यूल पर निर्भर नहीं रहते हैं।

‍

Applebot सर्च क्रॉलर को कैसे ब्लॉक करें

हालाँकि सर्च क्रॉलर्स को ब्लॉक करने की सलाह नहीं दी जाती है, लेकिन आप Applebot को एक्सेस करने से रोकने के लिए वेबसाइट की robots.txt में निम्नलिखित कमांड का उपयोग कर सकते हैं:

‍

User-agent: Applebot
Disallow: /

‍

OAI-SearchBot - AI सर्च क्रॉलर

‍

अवलोकन

OAI-SearchBot क्रॉलर का उपयोग वेबसाइटों का एक इंडेक्स बनाने के लिए किया जाता है, जिसका उपयोग OpenAI के SearchGPT उत्पाद के परिणाम के रूप में किया जा सकता है।

‍

प्रकार

OAI-SearchBot एक AI सर्च क्रॉलर है जिसका उपयोग OpenAI की SearchGPT सेवा के लिए अधिक सटीक AI-संचालित खोज परिणाम प्रदान करने हेतु वेब सामग्री को इंडेक्स करने के लिए किया जाता है।

‍

क्रॉलर का व्यवहार

OAI-SearchBot का व्यवहार वेब खोजों और उपयोगकर्ता प्रश्नों की आवृत्ति द्वारा निर्धारित किया जा सकता है। किसी भी अन्य सर्च क्रॉलर की तरह, OAI-SearchBot परिणाम प्रदान करने के लिए वेबसाइट पर निश्चित विज़िट पर निर्भर नहीं रहता है।

‍

OAI-SearchBot क्रॉलर को कैसे ब्लॉक करें?

OAI-SearchBot को आपकी वेबसाइट तक पहुँचने से सक्रिय रूप से रोकने के लिए अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करें:

‍

User-agent: OAI-SearchBot
Disallow: /

‍

PerplexityBot - AI सर्च क्रॉलर

अवलोकन

Perplexity अपने AI Assistant के लिए अधिक प्रभावी उत्तर हेतु खोज परिणामों को इंडेक्स करने के लिए PerplexityBot वेब क्रॉलर का उपयोग करता है।  सहायक द्वारा दिए गए उत्तर सामान्यतः विभिन्न वेब स्रोतों के इनलाइन संदर्भ दिखाते हैं।

प्रकार

PerplexityBot एक AI सर्च क्रॉलर है जिसे Perplexity AI Assistant द्वारा AI-संचालित खोज परिणामों के लिए परिणामों को इंडेक्स करने हेतु डिज़ाइन किया गया है।

क्रॉलर व्यवहार

अधिकांश सर्च क्रॉलर की तरह, PerplexityBot उन वेब स्रोतों के लिए किसी निश्चित विज़िट शेड्यूल पर निर्भर नहीं करता जिन्हें वह प्रमोट करता है। विज़िट की आवृत्ति कई कारकों, जैसे उपयोगकर्ता क्वेरीज़, के आधार पर बदल सकती है।

PerplexityBot सर्च क्रॉलर को कैसे ब्लॉक करें?

आप robots.txt में निम्नलिखित एजेंट टोकन नियम शामिल करके PerplexityBot की अपनी वेबसाइट तक पहुँच को सीमित कर सकते हैं:

‍

User-agent: PerplexityBot
Disallow: /

‍

YouBot - AI सर्च क्रॉलर

‍

अवलोकन

YouBot एक सर्च क्रॉलर है जिसे You.ai द्वारा You AI Assistant के माध्यम से अधिक सटीक उपयोगकर्ता उत्तरों के लिए खोज परिणामों को इंडेक्स करने हेतु तैनात किया गया है। बॉट आम तौर पर संदर्भित वेबसाइटों को इनलाइन स्रोतों के माध्यम से संदर्भित करता है।

‍

प्रकार

YouBot सर्च क्रॉलर अधिक सटीक AI-संचालित खोज परिणाम उत्पन्न करने के लिए वेब सामग्री को इंडेक्स करता है।

‍

क्रॉलर व्यवहार

YouBot क्रॉलर का कोई निर्धारित विज़िट शेड्यूल नहीं है और विज़िट की आवृत्ति अक्सर ऑन-डिमांड या उपयोगकर्ता क्वेरी के जवाब में होती है।

‍

YouBot सर्च क्रॉलर को कैसे ब्लॉक करें?

YouBot क्रॉलर की पहुँच रोकने के लिए आपको अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड पेस्ट करनी होगी:

‍

User-agent: YouBot
Disallow: /

‍

Applebot-Extended AI डेटा स्क्रेपर

‍

अवलोकन

Applebot-Extended AI डेटा स्क्रेपर का उपयोग APple के LLM मॉडलों की लाइनअप को प्रशिक्षित करने के लिए किया जाता है, जो कंपनी की जनरेटिव AI सुविधाओं को शक्ति प्रदान करते हैं। इस Applebot स्क्रेपर का Apple intelligence, Services, और Developer Tools के सभी पहलुओं में व्यापक अनुप्रयोग है।

‍

प्रकार

Applebot-Extended एक AI डेटा स्क्रेपर है जिसका उपयोग वेब सामग्री डाउनलोड करने और AI या LLM (Large Language Models) को प्रशिक्षित करने के लिए किया जाता है

‍

क्रॉलर व्यवहार

हालाँकि यह स्पष्ट नहीं है कि AI डेटा स्क्रेपर यह कैसे चुनते हैं कि किस वेबसाइट को क्रॉल करना है, यह ज्ञात है कि उच्च सूचना घनत्व वाले स्रोत इस स्क्रेपर Applebot को आकर्षित करते हैं। किसी LLM के लिए उन वेबसाइटों को प्राथमिकता देना तर्कसंगत होगा जो नियमित रूप से ऑन-पेज वेब जानकारी अपलोड और अपडेट करती हैं।

‍

Applebot-Extended AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

Applebot-Extended को ब्लॉक करने के लिए अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित कमांड शामिल करें:

‍

User-agent: Applebot-Extended
Disallow: /

‍

Bytespider AI डेटा स्क्रेपर

‍

अवलोकन

ByteDance द्वारा संचालित, Bytespider TikTok के चीनी मालिक के लिए एक AI डेटा स्क्रेपर है। इसका उपयोग LLM प्रशिक्षण डेटा डाउनलोड करने और संबंधित डेटा उपलब्ध कराने के लिए किया जाता है।

‍

प्रकार

Bytespider एक AI डेटा स्क्रेपर है जिसका उपयोग वेब से सामग्री डाउनलोड करके Large Language Models को प्रशिक्षित करने के लिए किया जाता है।

‍

क्रॉलर व्यवहार

Bytespider AI डेटा स्क्रेपर LLMs के लिए आपूर्ति के रूप में उपयोग करने हेतु नियमित रूप से अपडेट की गई और तथ्यों से भरपूर जानकारी वाले वेब स्रोतों को प्राथमिकता देता है।

‍

Bytespider AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

अपनी वेबसाइट के robots.txt में निम्नलिखित use agent टोकन नियम शामिल करें:

‍

User-agent: Bytespider
Disallow: /

‍

CCBot AI डेटा स्क्रेपर

‍

अवलोकन

CCBot का स्वामित्व Common Crawl के पास है, ताकि वेब क्रॉल डेटा के माध्यम से एक ओपन-सोर्स रिपॉज़िटरी बनाई जा सके जो किसी के भी एक्सेस और उपयोग के लिए उपलब्ध हो।

‍

प्रकार

CCBot एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब सामग्री डाउनलोड करना और AI मॉडल प्रशिक्षण करना है।

‍

क्रॉलर व्यवहार

CCBot अधिक प्रभावी LLM प्रशिक्षण के लिए सूचना-समृद्ध वेब स्रोतों को क्रॉल करता है।

‍

CCBot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

CCBot की पहुँच को सीमित करने के लिए robots.txt में निम्नलिखित नियम शामिल करें:

‍

User-agent: CCBot
Disallow: /

‍

ClaudeBot - AI डेटा स्क्रेपर

‍

अवलोकन

ClaudeBot AI डेटा स्क्रेपर Anthropic द्वारा संचालित किया जाता है ताकि Claude जैसे Large Language Models को प्रशिक्षण डेटा उपलब्ध कराया जा सके।

‍

प्रकार

ClaudeBot एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब सामग्री डाउनलोड करना और AI मॉडलों को प्रशिक्षित करना है।

‍

क्रॉलर व्यवहार

ClaudeBot सूचना घनत्व और जानकारी के अपडेट की नियमितता के आधार पर चुनता है कि किन वेबसाइटों को क्रॉल करना है।

‍

ClaudeBot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

ClaudeBot की पहुँच robots.txt में निम्नलिखित नियम शामिल करके रद्द की जा सकती है:

‍

User-agent: ClaudeBot
Disallow: /

‍

Diffbot - AI डेटा स्क्रेपर

‍

अवलोकन

Diffbot को AI मॉडल प्रशिक्षण और रीयल-टाइम मॉनिटरिंग के लिए ठीक से संरचित वेबसाइट डेटा को संरचित करने, समझने, एकत्रित करने और यहाँ तक कि बेचने के लिए डिज़ाइन किया गया है।

‍

प्रकार

Diffbot एक AI डेटा स्क्रेपर है जिसे AI मॉडलों को प्रशिक्षित करने और वेब जानकारी को डाउनलोड/संरचित करने के लिए डिज़ाइन किया गया है।

‍

क्रॉलर व्यवहार

Diffbot की विज़िट की आवृत्ति स्रोत की जानकारी की गुणवत्ता और अपडेट की नियमितता से परिभाषित होती है।

‍

Diffbot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

Diffbot के क्रॉल को robots.txt में निम्नलिखित नियम लागू करके रोका जा सकता है:

‍

User-agent: Diffbot
Disallow: /

‍

FacebookBot - AI डेटा स्क्रेपर

‍

अवलोकन

FacebookBot को Meta द्वारा AI स्पीच रिकग्निशन तकनीक की दक्षता बढ़ाने और AI मॉडलों को प्रशिक्षित करने के लिए तैनात किया गया है।

‍

प्रकार

FacebookBot एक AI डेटा स्क्रेपर क्रॉलर है, जिसका उपयोग वेब सामग्री दर्ज करने और LLM प्रशिक्षण के लिए किया जाता है।

‍

क्रॉलर व्यवहार

FacebookBot का कोई निश्चित विज़िट शेड्यूल नहीं है, लेकिन शायद यह अधिक समृद्ध और अच्छी तरह अपडेट की गई जानकारी वाले स्रोतों को पहचानता है और उन पर निर्भर करता है।

‍

FacebookBot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

FacebookBot की पहुँच निम्नलिखित नियम से रद्द की जा सकती है:

‍

User-agent: FacebookBot
Disallow: /

‍

Google-Extended - AI डेटा स्क्रेपर

‍

अवलोकन

Google-Extended क्रॉलर का उपयोग Google के स्वामित्व वाले AI उत्पादों, जैसे Gemini assistant और Vertex AI जनरेटिव APIs, के लिए प्रशिक्षण जानकारी उपलब्ध कराने हेतु किया जाता है।

‍

प्रकार

Google-Extended क्रॉलर एक AI डेटा स्क्रेपर है जिसका उद्देश्य वेब से जानकारी डाउनलोड करना और AI प्रशिक्षण करना है।

‍

क्रॉलर व्यवहार

Google-Extended बॉट का विज़िट शेड्यूल भी लचीला है, लेकिन विश्वसनीय जानकारी वाले वेब स्रोतों के Google के समृद्ध डेटाबेस के कारण यह अन्य क्रॉलर की तुलना में कहीं अधिक निर्देशित है।

‍

Google-Extended AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

Google-Extended क्रॉलर को निम्नलिखित नियम से ब्लैकलिस्ट किया जा सकता है:

‍

User-agent: Google-Extended
Disallow: /

‍

GPTBot - AI डेटा स्क्रेपर

‍

अवलोकन

GPTBot को OpenAI द्वारा वेब स्रोतों को क्रॉल करने और कंपनी के Large Language Models तथा ChatGPT जैसे उत्पादों के लिए प्रशिक्षण डेटा डाउनलोड करने हेतु विकसित किया गया है।

‍

प्रकार

GPTBot एक AI डेटा स्क्रेपर है जिसे वेब से व्यापक प्रकार का डेटा डाउनलोड और उपलब्ध कराने के लिए डिज़ाइन किया गया है।

‍

क्रॉलर व्यवहार

अन्य AI डेटा स्क्रेपर की तरह, GPTBot AI प्रशिक्षण प्रक्रियाओं के लिए अधिक संबंधित जानकारी उपलब्ध कराने हेतु सूचना-समृद्ध स्रोतों और वेबसाइटों को प्राथमिकता देता है।

‍

GPTBot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

आप निम्नलिखित robots.txt नियम से GPTBot AI डेटा स्क्रेपर को ब्लॉक कर सकते हैं:

‍

User-agent: GPTBot
Disallow: /

‍

Meta-ExternalAgent - AI डेटा स्क्रेपर

‍

अवलोकन

Meta-ExternalAgent Meta द्वारा विकसित एक क्रॉलर तकनीक है, जिसका उद्देश्य वेब सामग्री को सीधे डाउनलोड और इंडेक्स करके कंपनी की AI तकनीकों को बेहतर बनाना है।

‍

प्रकार

Meta-ExternalAgent वेब सामग्री को डाउनलोड और इंडेक्स करने के लिए AI डेटा स्क्रेपर तकनीक का उपयोग करता है, जिसका उद्देश्य AI प्रशिक्षण है।

‍

क्रॉलर व्यवहार

कंपनी द्वारा विकसित अन्य क्रॉलरों की तरह, Meta-ExternalAgent जानकारी-समृद्ध वेब स्रोतों को सटीक रूप से पहचानने के लिए एक लचीली क्रॉलिंग रणनीति का उपयोग करता है।

‍

Meta-ExternalAgent AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

Meta द्वारा विकसित इस क्रॉलर को निम्नलिखित robots.txt नियम के माध्यम से प्रतिबंधित किया जा सकता है:

‍

User-agent: Meta-ExternalAgent
Disallow: /

‍

omgili - AI डेटा स्क्रेपर

‍

अवलोकन

omgili क्रॉलर Webz.io के स्वामित्व में है, जिसे वेब क्रॉल डेटा की एक निर्मित लाइब्रेरी बनाए रखने के लिए डिज़ाइन किया गया है, जिसे फिर AI प्रशिक्षण उद्देश्यों के लिए अन्य कंपनियों को बेचा जाता है।

‍

प्रकार

omgili क्रॉलर एक AI डेटा स्क्रेपर है जो वेब से AI प्रशिक्षण जानकारी डाउनलोड करता है।

‍

क्रॉलर व्यवहार

चूँकि क्रॉल की गई जानकारी बाद में Webz.io द्वारा बेची जाती है, omgili क्रॉलर प्रासंगिक जानकारी वाली विश्वसनीय और अधिकृत वेबसाइटों का रिकॉर्ड रखता है।

‍

omgili AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

omgili क्रॉलर की आपकी वेबसाइट तक पहुँच रोकने के लिए निम्नलिखित नियम का उपयोग करें:

‍

User-agent: omgili
Disallow: /

‍

Anthropic-AI - अप्रलेखित AI एजेंट 

‍

अवलोकन

अपुष्ट Anthropic-AI एजेंट का उपयोग प्रासंगिक प्रशिक्षण डेटा डाउनलोड करने और उसे कंपनी के स्वामित्व वाले AI-संचालित उत्पादों, जैसे Claude, को प्रदान करने के लिए किया जाता प्रतीत होता है।

‍

प्रकार

कंपनी द्वारा खुलासा न किए जाने के कारण Anthropic-AI एजेंट का सटीक प्रकार अभी भी अज्ञात है।

‍

क्रॉलर व्यवहार

Anthropic-AI एजेंट के बारे में प्रासंगिक जानकारी के अभाव के कारण, क्रॉलर का उपयोग कई उद्देश्यों के लिए किया जा सकता है, लेकिन अभी भी यह बताना कठिन है।

‍

Anthropic-AI एजेंट को कैसे ब्लॉक करें?

Anthropic-AI एजेंट को निम्नलिखित नियम से ब्लॉक किया जा सकता है:

‍

User-agent: anthropic-ai
Disallow: /

‍

Claude-Web - अप्रलेखित AI एजेंट

‍

अवलोकन

Claude-Web Anthropic द्वारा संचालित एक और AI एजेंट है, जिसके उपयोग उद्देश्यों पर कोई आधिकारिक दस्तावेज़ीकरण नहीं है। उम्मीद है कि Claude-Web Anthropic के लिए प्रासंगिक LLM प्रशिक्षण डेटा प्रदान करेगा।

‍

प्रकार

Claude-Web या तो Anthropic के Claude 3.5 Large Language Model के लिए AI डेटा स्क्रेपर होगा या एक मानक सर्च क्रॉलर।

‍

क्रॉलर व्यवहार

Anthropic Claude-Web की कार्यक्षमताओं के बारे में जानकारी रोके हुए है, लेकिन पूरी तरह खुलासा होने के बाद क्रॉलर का व्यवहार एजेंट के प्रकार के अनुरूप होगा।

‍

Claude-Web एजेंट को कैसे ब्लॉक करें?

आपकी वेबसाइट तक Claude-Web एजेंट की क्रॉलिंग पहुँच निलंबित करने के लिए निम्नलिखित नियम का उपयोग किया जाता है:

‍

User-agent: Claude-Web
Disallow: /

‍

Cohere-AI एजेंट - अप्रलेखित

‍

अवलोकन

Cohere-AI Cohere द्वारा विकसित एक अप्रलेखित एजेंट है, जो उनके जनरेटिव AI टूल्स को प्रासंगिक अध्ययन जानकारी प्रदान करता है। यह Cohere AI के माध्यम से उपयोगकर्ताओं द्वारा संकेत दिए जाने पर वेब से जानकारी प्राप्त करता है।

‍

प्रकार

इस Cohere AI एजेंट के लिए कोई दस्तावेज़ीकरण उपलब्ध नहीं होने के कारण, क्रॉलर का प्रकार अभी भी कई वेबसाइट मालिकों के लिए अज्ञात है।

‍

क्रॉलर व्यवहार

संदेह है कि Cohere-AI एजेंट विभिन्न व्यवहार पैटर्न के माध्यम से बहुउद्देशीय होगा, ताकि Cohere उपयोगकर्ताओं को प्रासंगिक जानकारी और इनलाइन स्रोत लिंक प्रदान किए जा सकें।

‍

Cohere-AI एजेंट को कैसे ब्लॉक करें?

आप निम्नलिखित नियम के माध्यम से Cohere-AI Agent की पहुँच निलंबित कर सकते हैं:

‍

User-agent: cohere-ai
Disallow: /

‍

Ai2Bot - AI सर्च क्रॉलर

‍

अवलोकन

Ai2Bot का प्राथमिक कार्य “certain domains” को क्रॉल करना और भाषा मॉडलों के प्रशिक्षण के लिए वेब सामग्री प्राप्त करना है।

‍

प्रकार

Ai2 द्वारा रिपोर्ट किए अनुसार, Ai2Bot एक AI सर्च क्रॉलर है, क्योंकि यह क्रॉल की गई वेबसाइट पर सामग्री, छवियों और वीडियो का विश्लेषण करता है।

‍

क्रॉलर व्यवहार

कंपनी द्वारा रिपोर्ट किए अनुसार Ai2Bot केवल विशिष्ट वेबसाइटों को क्रॉल करता है, लेकिन यह पंजीकृत डोमेन की अपनी सीमा दिन-प्रतिदिन बढ़ा सकता है।

‍

Ai2Bot AI सर्च क्रॉलर को कैसे ब्लॉक करें?

Ai2Bot को निलंबित करने के लिए अपनी वेबसाइट के robots.txt में निम्नलिखित नियम शामिल करें:

‍

User-agent: Ai2Bot

Disallow: /

‍

Ai2Bot-Dolma - AI सर्च क्रॉलर

‍

अवलोकन

Ai2 कंपनी Ai2Bot-Dolma बॉट की स्वामी है और robots.txt नियमों का सम्मान करती है। प्राप्त सामग्री का उपयोग कंपनी के स्वामित्व वाले विभिन्न भाषा मॉडलों को प्रशिक्षित करने के लिए किया जाता है।

‍

प्रकार

हालाँकि बॉट को कोई विशिष्ट निर्दिष्ट प्रकार नहीं दिया गया है, हमारा मानना है कि इसमें एक मानक AI सर्च क्रॉलर जैसा व्यवहार है।

‍

क्रॉलर व्यवहार

Ai2Bot-Dolma केवल “certain domains” को क्रॉल करता है ताकि भाषा मॉडलों के प्रशिक्षण के लिए आवश्यक वेब सामग्री खोजी जा सके।

‍

Ai2Bot-Dolma AI सर्च क्रॉलर को कैसे ब्लॉक करें?

Ai2Bot-Dolma की पहुँच प्रतिबंधित करने के लिए निम्नलिखित robots.txt लाइन का उपयोग करें:

‍

User-agent: Ai2Bot-Dolma

Disallow: /

‍

FriendlyCrawler - अज्ञात

‍

अवलोकन

हालाँकि इस क्रॉलर के बारे में बहुत अधिक जानकारी नहीं है, यह robots.txt का सम्मान करता है और मशीन लर्निंग प्रयोगों के लिए डेटा प्राप्त करने में उपयोग किया जाता है।

‍

प्रकार

बॉट का प्रकार अभी भी अज्ञात है, लेकिन इसके वेब व्यवहार के आधार पर हमारा मानना है कि यह या तो जेनेरिक क्रॉलर है या AI डेटा स्क्रेपर।

‍

क्रॉलर व्यवहार

यह स्पष्ट नहीं है कि इस बॉट का संचालक कौन है, लेकिन डेटा का उपयोग बड़े भाषा मॉडल प्रशिक्षण, मशीन लर्निंग और डेटासेट निर्माण के लिए किया जाता है।

‍

FriendlyCrawler को कैसे ब्लॉक करें?

आपकी वेबसाइट तक FriendlyCrawler की पहुँच निलंबित करने का तरीका यह है:

‍

User-agent: FriendlyCrawler

Disallow: /

‍

GoogleOther - सर्च इंजन क्रॉलर

‍

अवलोकन

GoogleOther क्रॉलर Google के स्वामित्व वाला एक बॉट है, लेकिन यह अभी भी स्पष्ट नहीं है कि यह AI-संबंधित है या बिल्कुल भी कृत्रिम रूप से बुद्धिमान है। वर्तमान में, शीर्ष प्रदर्शन करने वाली वेबसाइटों के केवल एक प्रतिशत ने GoogleOther बॉट को ब्लॉक किया है।

‍

प्रकार

GoogleOther बॉट एक सर्च इंजन क्रॉलर है जो अधिक सटीक सर्च इंजन परिणामों या Google SERP के लिए वेब सामग्री को इंडेक्स करता है।

‍

क्रॉलर व्यवहार

किसी भी अन्य सर्च इंजन क्रॉलर की तरह, GoogleOther बॉट किसी विशेष विज़िटेशन शेड्यूल का पालन नहीं करता और विज़िटेशन आवृत्ति वेबसाइट गतिविधि और सामग्री गुणवत्ता के आधार पर बदलती रहती है।

‍

GoogleOther सर्च इंजन क्रॉलर को कैसे ब्लॉक करें?

अपनी वेबसाइट की robots.txt फ़ाइल में निम्नलिखित नियम जोड़ें:

‍

User-agent: GoogleOther

Disallow: /

‍

GoogleOther-Image - जेनेरिक क्रॉलर

‍

अवलोकन

GoogleOther-Image GoogleOther का वह संस्करण है जिसे वेब पर छवियों को क्रॉल, विश्लेषण और इंडेक्स करने के लिए प्रस्तावित किया गया है

‍

प्रकार

GoogleOther की तरह, GoogleOther-Image बॉट एक जेनेरिक क्रॉलर है जिसका उपयोग विभिन्न उत्पाद टीमें वेबसाइट सामग्री को सार्वजनिक रूप से सुलभ बनाने के लिए करती हैं। 

‍

क्रॉलर व्यवहार

यह क्रॉलर किसी निश्चित विज़िटेशन शेड्यूल से नहीं जुड़ा रहता, बल्कि वेब पर सबसे विश्वसनीय छवि स्रोतों का विश्लेषण करता है और विशिष्ट जानकारी को इंडेक्स करता है।

‍

GoogleOther-Image जेनेरिक क्रॉलर को कैसे ब्लॉक करें?

आप इस Google क्रॉलर को निम्नलिखित कमांड से ब्लॉक कर सकते हैं:

‍

User-agent: GoogleOther-Image

Disallow: /

‍

GoogleOther-Video - जेनेरिक क्रॉलर

‍

अवलोकन

मानक GoogleOther क्रॉलर और इमेज-रजिस्टरिंग बॉट की तरह, GoogleOther-Video वेब पर वीडियो सामग्री को क्रॉल और विश्लेषण करता है।

‍

प्रकार

यह बॉट एक जेनेरिक क्रॉलर है जो विभिन्न उत्पाद टीमों और व्यवसायों को उनकी वेबसाइट पर अपलोड किए गए वीडियो के साथ बेहतर पहुँच प्राप्त करने में सेवा देता है।

‍

क्रॉलर व्यवहार

GoogleOther के अन्य संस्करणों की तरह, इस क्रॉलर का भी एक लचीला विज़िटेशन शेड्यूल है, जो वेबसाइट वीडियो सामग्री की गतिविधि और गुणवत्ता से परिभाषित होता है।

‍

GoogleOther-Video जेनेरिक क्रॉलर को कैसे ब्लॉक करें?

इस Google बॉट को निम्नलिखित robots.txt लाइन से ब्लॉक किया जा सकता है:

‍

User-agent: GoogleOther-Video

Disallow: /

‍

ICC-Crawler - अज्ञात

‍

अवलोकन

ICC-Crawler एक ऐसा एजेंट है जिसे निर्माता द्वारा अभी भी वर्गीकृत नहीं किया गया है। यह अभी भी अज्ञात है कि यह क्रॉलर कृत्रिम रूप से बुद्धिमान है या इसका AI से कोई संबंध है।

‍

प्रकार

इसके स्रोत की तरह, ICC-Crawler बॉट का प्रकार भी अज्ञात है।

‍

क्रॉलर व्यवहार

बॉट का व्यवहार क्रॉलर के प्रकार पर निर्भर करता है, विशेष रूप से इस बात पर कि वह डेटा स्क्रेपर, सर्च इंजन क्रॉलर या आर्काइवर है।

‍

ICC-Crawler को कैसे ब्लॉक करें?

ICC-Crawler को निम्नलिखित कमांड से ब्लॉक किया जा सकता है:

‍

User-agent: ICC-Crawler

Disallow: /

‍

ImagesiftBot - इंटेलिजेंस गैदरर

‍

अवलोकन

Imagesift बॉट का स्वामित्व Hive के पास है, लेकिन वर्तमान में यह अज्ञात है कि क्रॉलर AI-संबंधित है या कृत्रिम रूप से बुद्धिमान है। 

‍

प्रकार

ImagesiftBot एक इंटेलिजेंस गैदरर है जो वेब पर उपयोगी अंतर्दृष्टियों की खोज करता है और परिणामों को डेटाबेस में पंजीकृत या इंडेक्स करता है।

‍

क्रॉलर व्यवहार

इंटेलिजेंस गैदरर क्रॉलरों का व्यवहार उनके क्लाइंट्स के लक्ष्यों पर निर्भर करता है। उदाहरण के लिए, कोई क्लाइंट अपने ब्रांड को लोकप्रिय बनाने में रुचि रख सकता है, जिसके कारण बॉट अन्य असंबंधित वेबसाइटों की तुलना में सोशल मीडिया को अधिक बार क्रॉल करता है।

‍

ImagesiftBot इंटेलिजेंस गैदरर को कैसे ब्लॉक करें?

इस क्रॉलर को निम्नलिखित तरीके से ब्लॉक किया जा सकता है:

‍

User-agent: ImagesiftBot

Disallow: /

‍

PetalBot - सर्च इंजन क्रॉलर

‍

अवलोकन

Huawei के स्वामित्व वाला PetalBot वर्तमान में 2% लोकप्रिय इंडेक्स की गई वेबसाइटों पर निलंबित है। यह अभी भी अज्ञात है कि यह क्रॉलर कृत्रिम रूप से बुद्धिमान है या किसी भी तरह से AI से संबंधित है।

‍

प्रकार

PetalBot एक सर्च इंजन क्रॉलर है जो वेब कंटेंट को इंडेक्स करता है और सर्च इंजन परिणामों से डेटा प्राप्त करता है।

‍

क्रॉलर व्यवहार

PetalBot का व्यवहार कंटेंट की गुणवत्ता और पंजीकृत वेबसाइटों तथा डोमेन्स की गतिविधि से परिभाषित होता है। सर्च इंजन क्रॉलर उच्च कंटेंट गुणवत्ता और बार-बार गतिविधि वाली वेबसाइटों को क्रॉल करने की प्रवृत्ति रखते हैं।

‍

PetalBot सर्च इंजन क्रॉलर को कैसे ब्लॉक करें?

PetalBot की पहुंच को निम्नलिखित तरीके से निलंबित किया जा सकता है:

‍

User-agent: PetalBot

Disallow: /

‍

Scrapy - AI स्क्रेपर

‍

अवलोकन

Scrapy का स्वामित्व Zyte के पास है और वर्तमान में वेब पर पंजीकृत 3% से अधिक डोमेन्स पर ब्लॉक किया गया है।

‍

प्रकार

Scrapy एक AI स्क्रेपर है, जो किसी वेबसाइट के robots.txt का सम्मान न करने वाले कुख्यात क्रॉलरों में से है। यह अंततः आवश्यक जानकारी का विश्लेषण करेगा, भले ही इसका मतलब ऐसी वेबसाइट तक पहुंचना हो जिसमें Scrapy के लिए disallow robots.txt नियम हो।

‍

क्रॉलर व्यवहार

AI स्क्रेपर के विज़िटेशन शेड्यूल की भविष्यवाणी करना लगभग असंभव है। इन क्रॉलरों को अलग-अलग उद्देश्यों से भेजा जाता है और यह बताना कठिन है कि यह किन वेबसाइटों को और कितनी बार क्रॉल करेगा।

‍

Scrapy AI स्क्रेपर को कैसे ब्लॉक करें?

हालांकि robots.txt AI स्क्रेपर्स के खिलाफ ज़्यादा कुछ नहीं करता, Scrapy को ब्लॉक करने का तरीका यह है:

‍

User-agent: Scrapy

Disallow: /

‍

Timpibot - AI डेटा स्क्रेपर

‍

अवलोकन

Timpibot का स्वामित्व Timpi के पास है और वर्तमान में 3% लोकप्रिय इंडेक्स की गई वेबसाइटों पर ब्लॉक किया गया है। Timpibot का एकमात्र उद्देश्य AI मॉडल प्रशिक्षण के लिए वेब डेटा प्राप्त करना है।

‍

प्रकार

एक मानक स्क्रेपर के विपरीत, Timpibot एक AI डेटा स्क्रेपर है जो वेब कंटेंट को क्रॉल और इंडेक्स करने के लिए केवल कृत्रिम बुद्धिमत्ता पर निर्भर करता है। 

‍

क्रॉलर व्यवहार

मानक स्क्रेपर्स की तरह, AI डेटा स्क्रेपर्स का विज़िटेशन शेड्यूल भी स्पष्ट नहीं है। ये क्रॉलर AI मॉडल प्रशिक्षण के लिए आवश्यक जानकारी के आधार पर अधिक सूचना घनत्व और कंटेंट मूल्य वाली वेबसाइटों को चुनने की प्रवृत्ति रखते हैं।

‍

Timpibot AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

Timpibot की पहुंच को निम्नलिखित robots.txt नियम से निलंबित किया जा सकता है:

‍

User-agent: Timpibot

Disallow: /

‍

VelenPublicWebCrawler - इंटेलिजेंस गैदरर

‍

अवलोकन

VelenPublicCrawler को Hunter द्वारा संचालित किया जाता है और वेब पर शीर्ष-इंडेक्स की गई 0% वेबसाइटों द्वारा ब्लॉक किया गया है।

‍

प्रकार

यह क्रॉलर एक मानक इंटेलिजेंस गैदरर है, जिसका उद्देश्य वेब परिणामों से उपयोगी अंतर्दृष्टियां एकत्र करना है।

‍

क्रॉलर व्यवहार

इंटेलिजेंस गैदरर्स अपने क्लाइंट्स के लक्ष्यों को पूरा करने की प्रवृत्ति रखते हैं और अधिकांश मामलों में, किस जानकारी को एकत्र करना है, इसके लिए उनके पास विशिष्ट कार्य होते हैं।

‍

VelenPublicWebCrawler इंटेलिजेंस गैदरर को कैसे ब्लॉक करें?

VelenPublicWebCrawler को निम्नलिखित कमांड से ब्लॉक किया जा सकता है:

‍

User-agent: VelenPublicWebCrawler

Disallow: /

‍

Webzio-Extended - AI डेटा स्क्रेपर

‍

अवलोकन

Webzio-Extended Webz.io के स्वामित्व वाला एक और क्रॉलर है, जिसका उपयोग प्राप्त किए गए क्रॉल डेटा के रिपॉजिटरी को बनाए रखने के लिए किया जाता है। फिर यह जानकारी अन्य कंपनियों को बेची जाती है और आमतौर पर AI मॉडल प्रशिक्षण के लिए उपयोग की जाती है।

‍

प्रकार

Webzio-Extended एक AI डेटा स्क्रेपर है जो AI मॉडलों को प्रशिक्षित करने के उद्देश्य से वेब कंटेंट डाउनलोड करता है।

‍

क्रॉलर व्यवहार

Webzio-Extended जैसे AI डेटा स्क्रेपर्स वेबसाइटों के निश्चित विज़िटेशन पर टिके नहीं रहते। अधिक समृद्ध डेटा स्रोत स्क्रेपर्स को अधिक आकर्षित करते हैं और उन्हें अधिक बार क्रॉल करने के लिए प्रेरित करते हैं।

‍

Webzio-Extended AI डेटा स्क्रेपर को कैसे ब्लॉक करें?

आपकी वेबसाइट तक Webzio-Extended की पहुंच को निम्नलिखित कमांड से निलंबित किया जा सकता है:

‍

User-agent: Webzio-Extended

Disallow: /

‍

Facebookexternalhit - फेचर

‍

अवलोकन

facebookexternalhit क्रॉलर Meta द्वारा भेजा गया एक बॉट है जो 6% से अधिक पंजीकृत लोकप्रिय वेबसाइटों पर ब्लॉक किया गया है। यह अभी भी स्पष्ट नहीं है कि बॉट कृत्रिम रूप से बुद्धिमान है या AI से संबंधित है।

‍

प्रकार

Facebookexternalhit एक फेचर है, जो किसी एप्लिकेशन की ओर से वेब परिणामों को क्रॉल करता है। 

‍

क्रॉलर व्यवहार

फेचर्स को आमतौर पर मांग पर वेबसाइटों पर जाने के लिए भेजा जाता है। उनका उपयोग अनुरोध करने वाले उपयोगकर्ता को किसी विशेष लिंक का मेटाडेटा, शीर्षक, या उदाहरण के लिए थंबनेल इमेज प्रस्तुत करने के लिए किया जाता है।

‍

Facebookexternalhit फेचर को कैसे ब्लॉक करें?

इस Meta क्रॉलर को निम्नलिखित robots.txt नियम से ब्लॉक किया जा सकता है:

‍

User-agent: facebookexternalhit 

Disallow: /

‍

Img2dataset - अज्ञात

‍

अवलोकन

यह ज्ञात है कि img2dataset कंपनी का एकमात्र वेब क्रॉलर है, जिसका उद्देश्य बड़ी संख्या में इमेज डाउनलोड करना और उन्हें बड़े भाषा मॉडलों को प्रशिक्षित करने के लिए डेटासेट में बदलना है।

‍

प्रकार

img2dataset का प्रकार अभी भी अज्ञात है, लेकिन उसके व्यवहार और विज़िटेशन शेड्यूल के आधार पर हमें लगता है कि यह एक AI सर्च इंजन क्रॉलर है।

‍

क्रॉलर व्यवहार

Img2dataset अधिक समृद्ध इमेज डेटाबेस और विविध थीम वाली वेबसाइटों को क्रॉल करने की प्रवृत्ति रखता है।

‍

img2dataset क्रॉलर को कैसे ब्लॉक करें?

इस क्रॉलर को निम्नलिखित नियम से निलंबित किया जा सकता है:

‍

User-agent: img2dataset

Disallow: /

‍

AI बॉट्स को कैसे ब्लॉक करें (उन्नत संस्करण):

‍

आपकी वेबसाइट पर अवांछित बॉट ट्रैफिक को प्रतिबंधित करने की कई विशिष्ट संभावनाएं हैं:

‍

सबसे आम तरीका अपनी Robots.txt फ़ाइल में निम्नलिखित टेक्स्ट जोड़ना है:

‍

User-agent: name-of-bot
‍
Disallow: /

‍

उदाहरण:

‍

User-agent: GPTBot
Disallow: /

‍

Robots.txt का उपयोग करें

‍

आसानी से सुलभ robots.txt फ़ाइल बनाना कई आसान चरणों में शामिल है:

‍

1. "robots.txt" नाम की फ़ाइल बनाएं

इस चरण के दौरान, आपको वेबसाइट की रूट डायरेक्टरी तक पहुंचना होगा। क्रॉलर की आपकी वेबसाइट तक पहुंच को प्रभावी रूप से प्रतिबंधित करने के लिए फ़ाइल को यहीं संग्रहीत करना होता है। ध्यान रखें कि आपकी वेबसाइट में केवल एक robots.txt फ़ाइल हो सकती है।

‍

2. robots.txt नियम लिखें

फ़ाइल बनाने के लिए आप किसी भी एडिटर का उपयोग कर सकते हैं, जैसे Windows का NotePad, TextEdit, और vi. सुनिश्चित करें कि फ़ाइल UTF-8 एन्कोडिंग में सेव की गई है और नियम लागू करने के लिए आगे बढ़ें।  Google के क्रॉलर नियमों के निम्नलिखित सेट पर प्रतिक्रिया देते हैं: "user-agent," "disallow," "allow" और "sitemap." क्रॉलरों के प्रबंधन के संदर्भ में प्रत्येक नियम का अपना अलग उद्देश्य होता है।

‍

3. robots.txt फ़ाइल अपलोड करें

अगला चरण अपनी ब्राउज़र में एक निजी ब्राउज़िंग विंडो खोलकर और फ़ाइल के स्थान पर नेविगेट करके नई बनाई गई robots.txt फ़ाइल को सार्वजनिक रूप से सुलभ बनाना है। आप साइट डोमेन टाइप करके, उदाहरण के लिए, "https://(site name)" और अंत में "/robots.txt" जोड़कर जांच सकते हैं कि robots.txt सार्वजनिक रूप से सुलभ है या नहीं।

‍

AI डेटा स्क्रेपर बॉट्स को ब्लॉक करने वाला नमूना Robots.txt

‍

जैसा कि हमने पहले स्थापित किया है, आपकी वेबसाइट के robots.txt में किसी विशेष बॉट के लिए प्रतिबंध नियम शामिल करने से न तो पेज डीइंडेक्स होगा और न ही वह SERP से हटेगा। आपके पेज तक पहुंचने का प्रयास करने पर, बॉट को स्वचालित रूप से एक त्रुटि संदेश दिया जाएगा और पेज के कंटेंट तक पहुंच प्राप्त किए बिना उसे दूर रीडायरेक्ट कर दिया जाएगा।

‍

पेज अभी भी सभी उपयोगकर्ताओं और AI बॉट्स के लिए खोज योग्य रहेगा, लेकिन robots.txt फ़ाइल में सूचीबद्ध नेमटैग वाले बॉट्स को पहुंच नहीं मिलेगी।

‍

यह उदाहरण फ़ाइल ब्लॉक करती है:

  • NO - AI खोज सहायक
  • NO - AI खोज क्रॉलर
  • ALL - AI डेटा स्क्रेपर

‍

डेटा स्क्रेपर्स को ब्लॉक करना लेकिन क्रॉलर और खोज सहायक को नहीं, इसका उद्देश्य वेबसाइट के डेटा को प्रशिक्षण के लिए उपयोग होने से प्रतिबंधित करना है, लेकिन AI खोज/सहायकों को वेबसाइट पर ट्रैफिक भेजने की अनुमति देना है।

‍

फ़ायरवॉल

‍

फ़ायरवॉल की सहायता से AI बॉट्स की पहुंच को निलंबित करने की बात आती है तो कई संभावनाएं होती हैं। आइए प्रत्येक विशिष्ट संभावना की समीक्षा करें:

‍

  • IP ब्लॉकिंग सेट अप करें

यदि आपको अपने डोमेन तक पहुंचने के लिए बॉट्स द्वारा उपयोग किए गए पतों की अच्छी जानकारी है, तो आप अपनी वेबसाइट के फ़ायरवॉल के माध्यम से IPs को ब्लैकलिस्ट कर सकते हैं । यह आपकी वेबसाइट पर अनिच्छित ट्रैफिक को कम करने और संसाधनों को सुरक्षित रखने की एक सामान्य रूप से ज्ञात प्रथा है। हालांकि, बॉट कई IPs के बीच चक्रित हो सकते हैं।

‍

  • CAPTCHA सॉफ़्टवेयर का उपयोग करें

आपकी वेबसाइट पर बॉट ट्रैफिक को 100% निलंबित करने के लिए शायद सबसे व्यापक रूप से पसंद की जाने वाली विधि ऐसा CAPTCHA सॉफ़्टवेयर लागू करना है जिसके लिए मानव सत्यापन आवश्यक हो। प्रत्येक नए विज़िटर को पहुंच प्राप्त करने के लिए पज़ल के टुकड़ों को मिलाने या इमेज के सेट पर वस्तुओं की पहचान करने जैसी सरल चुनौती पूरी करने के लिए कहा जाएगा। फ़ायरवॉल को CAPTCHAs ट्रिगर करने के लिए संशोधित किया जा सकता है।

‍

CDN (Content Delivery Network) का उपयोग करें

‍

Cloudflare या Amazon CloudFront जैसी CDN सेवाओं को AI बॉट्स के ट्रैफिक को कम करने के लिए आपकी वेबसाइट के फ़ायरवॉल के साथ एकीकृत किया जा सकता है। CAPTCHA चुनौतियों की तरह, केवल वास्तविक उपयोगकर्ताओं के स्वामित्व वाले वैध IP पतों को आपकी वेबसाइट तक पहुंचने की अनुमति दी जाएगी।

‍

बॉट नाम परिवर्तनों की उभरती चुनौतियां

‍

चूंकि बड़ी विविधता वाले वेबमास्टर्स अपनी वेबसाइट पर अवांछित बॉट ट्रैफिक को निलंबित करने के लिए robots.txt पर निर्भर करते हैं, फ़ाइल के भीतर प्रत्येक नियम किसी विशिष्ट बॉट के लिए सेट किया जाता है। कंपनियों ने जब अपने बॉट्स के ट्रैफिक में गिरावट महसूस करनी शुरू की, तो कई ने अपने बॉट्स को एक नया नाम देने का निर्णय लिया जो कई वेबसाइटों की robots.txt फ़ाइल में नहीं था।

‍

एक हालिया उदाहरण यह है कि Anthropic ने “ANTHROPIC-AI” और “CLAUDE-WEB” नामक अपने AI डेटा स्क्रेपर्स को “CLAUDEBOT” नामक एक नए बॉट में मिला दिया है। वेबसाइटों को इस बारे में पता लगाने में निश्चित रूप से कुछ समय लगा और इस बीच, नए बॉट को इंटरनेट पर सभी वेबसाइटों तक अभूतपूर्व पहुंच मिल गई।

‍

AI डेटा कॉमन्स की गिरावट और परिणाम

‍

बड़े भाषा मॉडलों को सिखाने के लिए AI कंपनियों द्वारा सार्वजनिक जानकारी के बढ़ते और व्यापक उपयोग के साथ, वेब प्रोटोकॉल की अप्रभावशीलता स्पष्ट होती जा रही है। बड़े डेटा स्क्रैपिंग के जवाब में, जो C4, Dolma, और Refined Web जैसी वेब डेटा AI कंपनियों द्वारा किया गया, क्रॉलर पहुंच में 28%-45% से अधिक गिरावट आई है।

Decline of AI Data Commons and Consequences
https://www.dataprovenance.org/Consent_in_Crisis.pdf

C4 का पूरा 45% अब प्रतिबंधित कर दिया गया है, जिनमें से कई प्रतिबंध विविध हैं और robots.txt के माध्यम से सामान्य-उद्देश्य AI इन्फ्रास्ट्रक्चर के नियमों को विस्तारित कर रहे हैं। डेटा सहमति की मांग केवल वाणिज्यिक AI के लिए ही नहीं, बल्कि सभी प्रकार के शैक्षणिक शोध और गैर-वाणिज्यिक AI उपयोग के लिए भी अधिक से अधिक चुनौतीपूर्ण होती जा रही है।

‍

निष्कर्ष

‍

LLMs को प्रशिक्षित करने के लिए जितना संभव हो उतना डेटा स्क्रैप करने की कोशिश कर रही AI कंपनियों और अपने डेटा/बैंडविड्थ को दुरुपयोग से बचाने के लिए काम कर रहे प्रकाशकों के टकराव के परिणामस्वरूप एक दिलचस्प संघर्ष पैदा हुआ है, जो सभी वेबसाइटों पर robots.txt नामक कम-ज्ञात फ़ाइल में सामने आ रहा है। 

‍

इस गाइड का उद्देश्य हमारे लाइव डैशबोर्ड के साथ यह ट्रैक करना है कि यह ड्रामा कैसे सामने आ रहा है, यह देखते हुए कि शीर्ष 1000 वेबसाइटों में से कौन-सी AI बॉट्स को ब्लॉक कर रही हैं, उन्हें कैसे ब्लॉक करना है और आपको किन्हें ब्लॉक करना चाहिए। 

‍

यदि हम कोई ऐसे बॉट्स छोड़ रहे हैं जिन्हें आप शामिल कराना चाहते हैं, तो कृपया संपर्क करें।

‍

Al कंटेंट डिटेक्टर & प्लेजरिज़्म चेकर मार्केटर्स और लेखकों के लिए

हमारे अग्रणी टूल्स का उपयोग करें ताकि आप ईमानदारी के साथ प्रकाशित कर सकें!