मुख्य सामग्री पर जाएँ
BilgeQor

AI रेड टीमिंग और LLM सुरक्षा मूल्यांकन

देखें कि एडवर्सरियल परीक्षण में आपका AI एप्लिकेशन कैसा व्यवहार करता है: प्रॉम्प्ट इंजेक्शन, डेटा लीकेज और दुरुपयोग पर प्रमाण-सहित निष्कर्ष, और प्राथमिकता के क्रम में सुधारों की सूची।

दायरा-परिभाषित भागीदारी
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
  • BilgeQor Ltdलंदन, यूनाइटेड किंगडम
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
हम 24 घंटे के भीतर जवाब देते हैं।

क्या AI रेड टीमिंग आपके लिए सही है?

सबसे उपयुक्त

  • ✓वे टीमें जो कंपनी के डेटा या टूल तक पहुँच वाला चैटबॉट, कोपायलट, रिट्रीवल-ऑगमेंटेड सर्च या AI एजेंट लॉन्च या विस्तारित करने वाली हैं
  • ✓प्रोडक्ट और सिक्योरिटी लीड, जिन्हें AI जोखिम के बारे में ग्राहकों या बोर्ड के प्रश्नों का उत्तर प्रमाण के साथ देना होता है
  • ✓EU AI Act के दायित्वों की तैयारी कर रहे संगठन, जो जानना चाहते हैं कि उनके सिस्टम कहाँ खड़े हैं
  • ✓वे इंजीनियरिंग टीमें जिनके मॉडल टूल कॉल करते हैं, वेब ब्राउज़ करते हैं या बाहरी पक्षों द्वारा दिए गए दस्तावेज़ों पर कार्रवाई करते हैं

कोई अन्य सेवा अधिक उपयुक्त है यदि

  • –आप अपने वेब एप्लिकेशन और API का परीक्षण चाहते हैं: इसे पेनिट्रेशन टेस्टिंग और API सुरक्षा परीक्षण सेवाएँ कवर करती हैं
  • –आप किसी AI एजेंट इंटीग्रेशन डिज़ाइन की समीक्षा चाहते हैं: इसे LLM और AI एजेंट सिक्योरिटी रिव्यू सेवा कवर करती है
  • –आप अपने संगठन के विरुद्ध किसी मानव हमलावर का सिमुलेशन चाहते हैं: इसे रेड टीम एक्सरसाइज़ सेवा कवर करती है

हम क्या मूल्यांकन करते हैं

  • जानें कि क्या छिपे हुए निर्देश आपके AI को हाइजैक कर सकते हैं: प्रत्यक्ष और अप्रत्यक्ष प्रॉम्प्ट-इंजेक्शन परीक्षण, जिनमें दस्तावेज़ों, वेब पेजों, ईमेल और टूल आउटपुट में छिपे निर्देश शामिल हैं
  • संवेदनशील डेटा को भीतर सुरक्षित रखें: सिस्टम प्रॉम्प्ट, रिट्रीव किए गए दस्तावेज़, ट्रेनिंग या फ़ाइन-ट्यूनिंग डेटा और अन्य उपयोगकर्ताओं के डेटा को कवर करने वाला लीकेज परीक्षण
  • देखें कि आपकी पॉलिसी कितनी टिकती है: आपकी तय की गई पॉलिसी के विरुद्ध दुरुपयोग परीक्षण, जिसमें जेलब्रेक, हानिकारक सामग्री के फ़िल्टर को बायपास करना और अनुमत कार्यों का दुरुपयोग शामिल हैं
  • तय करें कि एजेंट क्या कर सकता है: एजेंट और टूल-उपयोग की समीक्षा, जिसमें अत्यधिक अनुमतियाँ, असुरक्षित कार्रवाइयाँ, असुरक्षित प्लगइन और मानवीय अनुमोदन चरणों की कमी शामिल हैं
  • मॉडल के पीछे के डेटा को सुरक्षित करें: रिट्रीवल, वेक्टर स्टोर और डेटा-पाइपलाइन की समीक्षा, जिसमें एक्सेस कंट्रोल और पॉइज़निंग के रास्ते शामिल हैं
  • मॉडल के आसपास के नियंत्रणों की जाँच करें: आसपास के एप्लिकेशन में ऑथेंटिकेशन, रेट लिमिटिंग, आउटपुट हैंडलिंग और लॉगिंग की समीक्षा
  • EU AI Act पर चर्चा की तैयारी करें: सिस्टम वर्गीकरण, दस्तावेज़ीकरण और निगरानी की कमियों की तैयारी-मैपिंग, जो आपके सलाहकारों के लिए तैयारी के दृष्टिकोण के रूप में प्रस्तुत की जाती है

सौंपे जाने वाले कार्य-परिणाम

सामान्य समयसीमा
हस्ताक्षरित दायरे से सामान्यतः 2–4 सप्ताह, जो दायरे में शामिल AI सिस्टम और टूल की संख्या पर निर्भर करता है; इसकी पुष्टि आपके लिखित प्रस्ताव में की जाती है।
मूल्य निर्धारण
निःशुल्क स्कोपिंग कॉल के बाद निश्चित शुल्क वाला प्रस्ताव।
परीक्षण योजना और एंगेजमेंट के नियमों का सारांश, ताकि सभी को पता रहे कि क्या परखा जाएगा और परीक्षण कहाँ रुकेगा
गंभीरता, रिप्रोडक्शन प्रॉम्प्ट, प्रमाण और सुधार मार्गदर्शन के साथ निष्कर्षों का रजिस्टर, ताकि आपकी टीम हर समस्या को दोहरा कर ठीक कर सके
अटैक-पाथ विवरण, जो दिखाता है कि आपके एप्लिकेशन में समस्याएँ आपस में कैसे जुड़ती हैं, ताकि आप वास्तविक व्यावसायिक जोखिम देख सकें
मॉडल, एप्लिकेशन और डेटा परतों में गार्डरेल और नियंत्रण संबंधी सिफ़ारिशें
चिह्नित दस्तावेज़ीकरण और निगरानी संबंधी कमियों के साथ EU AI Act तैयारी मैप, जो आपके सलाहकारों को सौंपने के लिए तैयार है
प्रोडक्ट, सिक्योरिटी और इंजीनियरिंग हितधारकों के साथ डिब्रीफ़; आपके द्वारा किए जाने वाले सुधारों का पुनः परीक्षण उपलब्ध है

शुरू करने से पहले

  • +AI सिस्टम के स्वामी किसी वरिष्ठ अधिकारी की स्वीकृति, जिसमें परीक्षण की विधियाँ और टेस्ट अकाउंट शामिल हों
  • +टेस्ट या स्टेजिंग वातावरण, या प्रोडक्शन में परीक्षण की सीमाएँ
  • +टेस्ट अकाउंट, API एक्सेस और मॉडल, टूल, डेटा स्रोतों तथा सिस्टम प्रॉम्प्ट का दस्तावेज़ीकरण
  • +हानिकारक सामग्री के परीक्षण, डेटा हैंडलिंग और रुकने की शर्तों को कवर करने वाले लिखित स्वीकार्य-उपयोग नियम
  • +मॉडल प्रदाता या प्लेटफ़ॉर्म को सूचनाएँ, जहाँ उनकी शर्तों के अनुसार आवश्यक हों
  • +परीक्षण अवधि के दौरान उपलब्ध नामित संपर्क व्यक्ति

शामिल नहीं (अलग से उपलब्ध)

  • कानूनी सलाह, या EU AI Act के अनुपालन, अनुरूपता मूल्यांकन अथवा प्रमाणन का औपचारिक निर्धारण; हम आपके सलाहकारों के लिए आवश्यक तैयारी-साक्ष्य उपलब्ध कराते हैं
  • मॉडल को प्रशिक्षित या पुनः प्रशिक्षित करना, या नई गार्डरेल प्रणालियाँ बनाना, जब तक कि अलग से कोट न किया गया हो
  • तृतीय-पक्ष मॉडल प्रदाताओं के अपने इंफ्रास्ट्रक्चर का परीक्षण, और ऐसा डिनायल-ऑफ़-सर्विस परीक्षण जो साझा या प्रोडक्शन क्षमता को प्रभावित कर सके
  • होस्ट एप्लिकेशन का सामान्य वेब और API परीक्षण: पेनिट्रेशन टेस्टिंग और API सुरक्षा परीक्षण के रूप में उपलब्ध

यह कैसे काम करता है

1

स्कोपिंग और स्वीकृति

परीक्षण केवल स्वामी की लिखित अनुमति और रुकने की सहमत शर्तों वाले हस्ताक्षरित दायरे के साथ ही शुरू होता है, ताकि आपका लाइव AI सिस्टम और उसके उपयोगकर्ता सुरक्षित रहें। किसी भी परीक्षण से पहले हम AI सिस्टम, टेस्ट वातावरण, दुरुपयोग के परिदृश्य और प्रतिबंधित कार्रवाइयों की पुष्टि करते हैं।

2

थ्रेट मॉडलिंग

हम डेटा स्रोतों, टूल, उपयोगकर्ताओं और विश्वास की सीमाओं का मानचित्र बनाते हैं, ताकि तय हो सके कि आपके सिस्टम के लिए कौन-से अटैक पाथ सबसे महत्त्वपूर्ण हैं।

3

एडवर्सरियल परीक्षण

हम दायरे के सिस्टम पर मैनुअल और स्वचालित हमले चलाते हैं और हर निष्कर्ष के लिए प्रॉम्प्ट, प्रतिक्रियाएँ और प्रमाण दर्ज करते हैं।

4

रिपोर्टिंग

हम निष्कर्ष, अटैक-पाथ विवरण, नियंत्रण संबंधी सिफ़ारिशें और तैयारी मैप ऐसे रूप में सौंपते हैं जिस पर आपकी टीमें सीधे कार्रवाई कर सकें।

5

डिब्रीफ़ और पुनः परीक्षण

हम आपके हितधारकों को परिणाम समझाते हैं और, यदि आप चाहें, तो आपके किए गए सुधारों का पुनः परीक्षण करते हैं।

पहले दायरे का अनुरोध करें। हम 24 घंटे के भीतर उत्तर देते हैं और लिखित प्रस्ताव में AI सिस्टम, इंटीग्रेशन, अनुमति और परीक्षण विंडो की पुष्टि करते हैं। लिखित दायरे की पुष्टि होने के बाद ही काम शुरू होता है।

दायरा और कोटेशन

अंतिम दायरा और कोटेशन आपके AI सिस्टम, इंटीग्रेशन और परीक्षण विंडो पर निर्भर करते हैं।

BilgeQor क्यों

  • हर निष्कर्ष के साथ रिप्रोडक्शन प्रॉम्प्ट और प्रमाण मिलते हैं, और अटैक-पाथ विवरण दिखाता है कि आपके एप्लिकेशन में समस्याएँ आपस में कैसे जुड़ती हैं।
  • EU AI Act तैयारी मैप आपके सलाहकारों को वर्गीकरण, दस्तावेज़ीकरण और निगरानी की कमियों का संरचित दृष्टिकोण देता है।
  • AI सिस्टम, टेस्ट वातावरण और रुकने की शर्तें पहले लिखित दायरे में तय की जाती हैं; टेस्टर दूरस्थ रूप से काम करते हैं, जिनका समन्वय इस्तांबुल, जकार्ता और लंदन से किया जाता है।

अक्सर पूछे जाने वाले प्रश्न

संबंधित सेवाएँ

OT, ICS और IoT सुरक्षा मूल्यांकन

औद्योगिक कंट्रोल सिस्टम, ऑपरेशनल टेक्नोलॉजी नेटवर्क और कनेक्टेड डिवाइस का सेफ़्टी को प्राथमिकता देने वाला सुरक्षा आकलन, जो आपके इंजीनियरों के साथ योजना बनाकर किया जाता है।

अपने API को एक्सेस की खामियों के लिए परखें

आपके REST, GraphQL और मोबाइल-बैकएंड API का अधिकृत परीक्षण: टूटी हुई ऑथराइज़ेशन, इंजेक्शन और बिज़नेस-लॉजिक खामियों के लिए, साथ में सुधारों की स्पष्ट सूची।

अपने AI एप्लिकेशन की कड़ी परीक्षा लें

अपने AI सिस्टम और उसके टूल का विवरण दें; निश्चित शुल्क वाला प्रस्ताव लिखित रूप में वापस आएगा।

अनुरोध भेजने के बाद क्या होता है

  1. हम आपके अनुरोध की समीक्षा करते हैं
  2. दायरे पर बातचीत
  3. लिखित प्रस्ताव

हम 24 घंटे के भीतर जवाब देते हैं।