মূল বিষয়বস্তুতে যান
BilgeQor

AI রেড টিমিং ও LLM নিরাপত্তা মূল্যায়ন

অ্যাডভার্সারিয়াল টেস্টিংয়ের মুখে আপনার AI অ্যাপ্লিকেশন কেমন আচরণ করে তা দেখুন: প্রম্পট ইনজেকশন, ডেটা ফাঁস ও অপব্যবহার নিয়ে প্রমাণসহ ফাইন্ডিং এবং অগ্রাধিকার অনুযায়ী সংশোধনের তালিকা।

ব্যাপ্তি নির্ধারিত অংশগ্রহণ
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
  • BilgeQor Ltdলন্ডন, যুক্তরাজ্য
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
আমরা 24 ঘণ্টার মধ্যে উত্তর দিই।

AI রেড টিমিং কি আপনার জন্য উপযুক্ত?

সবচেয়ে উপযুক্ত

  • ✓যে টিমগুলো কোম্পানির ডেটা বা টুলে প্রবেশাধিকারসহ চ্যাটবট, কোপাইলট, রিট্রিভাল-অগমেন্টেড সার্চ বা AI এজেন্ট চালু বা সম্প্রসারণ করতে যাচ্ছে
  • ✓প্রোডাক্ট ও সিকিউরিটি লিড, যাঁদের গ্রাহক বা বোর্ডের AI ঝুঁকি-সংক্রান্ত প্রশ্নের উত্তর প্রমাণসহ দিতে হয়
  • ✓EU AI Act-এর বাধ্যবাধকতার জন্য প্রস্তুতি নেওয়া প্রতিষ্ঠান, যারা জানতে চায় তাদের সিস্টেম এখন কোথায় আছে
  • ✓যেসব ইঞ্জিনিয়ারিং টিমের মডেল টুল কল করে, ওয়েব ব্রাউজ করে বা বাইরের পক্ষের দেওয়া নথির ওপর কাজ করে

অন্য সেবা বেশি উপযুক্ত যদি

  • –আপনি আপনার ওয়েব অ্যাপ্লিকেশন ও API টেস্ট করাতে চান: পেনিট্রেশন টেস্টিং ও API সিকিউরিটি টেস্টিং সেটি কভার করে
  • –আপনি একটি AI এজেন্ট ইন্টিগ্রেশন ডিজাইনের রিভিউ চান: LLM ও AI এজেন্ট সিকিউরিটি রিভিউ সেটি কভার করে
  • –আপনি আপনার প্রতিষ্ঠানের বিরুদ্ধে একজন মানব আক্রমণকারীর সিমুলেশন চান: রেড টিম এক্সারসাইজ সেটি কভার করে

আমরা যা মূল্যায়ন করি

  • জানুন লুকানো নির্দেশনা আপনার AI-কে হাইজ্যাক করতে পারে কি না: নথি, ওয়েব পেজ, ইমেইল ও টুল আউটপুটে লুকানো নির্দেশনাসহ সরাসরি ও পরোক্ষ প্রম্পট-ইনজেকশন টেস্টিং
  • সংবেদনশীল ডেটা ভেতরে রাখুন: সিস্টেম প্রম্পট, রিট্রিভ করা নথি, ট্রেনিং বা ফাইন-টিউনিং ডেটা এবং অন্য ব্যবহারকারীদের ডেটা কভার করা ফাঁস পরীক্ষা
  • দেখুন আপনার পলিসি কতটা টিকছে: আপনার নির্ধারিত পলিসির বিরুদ্ধে অপব্যবহার পরীক্ষা, যার মধ্যে জেলব্রেক, ক্ষতিকর কনটেন্ট ফিল্টার এড়ানো এবং অনুমোদিত ফাংশনের অপব্যবহার
  • এজেন্ট কী করতে পারবে তা সীমিত করুন: এজেন্ট ও টুল-ব্যবহার পর্যালোচনা, যেখানে অতিরিক্ত অনুমতি, অনিরাপদ কার্যক্রম, অনিরাপদ প্লাগইন ও মানব অনুমোদনের ধাপের অভাব দেখা হয়
  • মডেলের পেছনের ডেটা সুরক্ষিত করুন: অ্যাক্সেস কন্ট্রোল ও পয়জনিং পথসহ রিট্রিভাল, ভেক্টর স্টোর ও ডেটা-পাইপলাইন পর্যালোচনা
  • মডেলের চারপাশের নিয়ন্ত্রণ যাচাই করুন: ঘিরে থাকা অ্যাপ্লিকেশনের অথেনটিকেশন, রেট লিমিটিং, আউটপুট হ্যান্ডলিং ও লগিং পর্যালোচনা
  • EU AI Act নিয়ে আলোচনার জন্য প্রস্তুত হোন: সিস্টেম শ্রেণিবিন্যাস, ডকুমেন্টেশন ও তত্ত্বাবধানের ঘাটতির প্রস্তুতি ম্যাপিং, যা আপনার উপদেষ্টাদের জন্য প্রস্তুতি-দৃষ্টিকোণ হিসেবে উপস্থাপিত হয়

বিতরণযোগ্যসমূহ

সাধারণ সময়সীমা
সাধারণত স্বাক্ষরিত স্কোপ থেকে 2–4 সপ্তাহ; স্কোপের মধ্যে থাকা AI সিস্টেম ও টুলের সংখ্যার ওপর নির্ভর করে, যা আপনার লিখিত প্রস্তাবনায় নিশ্চিত করা হয়।
মূল্য
বিনামূল্যে স্কোপিং কলের পর নির্দিষ্ট ফিতে প্রস্তাবনা।
একটি টেস্ট পরিকল্পনা ও রুলস-অফ-এনগেজমেন্টের সারসংক্ষেপ, যাতে সবাই জানে কী পরীক্ষা হবে এবং পরীক্ষা কোথায় থামবে
তীব্রতা, পুনরুৎপাদনের প্রম্পট, প্রমাণ ও প্রতিকার নির্দেশনাসহ একটি ফাইন্ডিং রেজিস্টার, যাতে আপনার টিম প্রতিটি সমস্যা পুনরুৎপাদন ও সমাধান করতে পারে
আপনার অ্যাপ্লিকেশনে সমস্যাগুলো কীভাবে একসঙ্গে যুক্ত হয় তা দেখানো একটি অ্যাটাক-পাথ বিবরণ, যাতে প্রকৃত ব্যবসায়িক ঝুঁকি দেখতে পান
মডেল, অ্যাপ্লিকেশন ও ডেটা স্তর জুড়ে গার্ডরেইল ও নিয়ন্ত্রণের সুপারিশ
চিহ্নিত ডকুমেন্টেশন ও তত্ত্বাবধানের ঘাটতিসহ একটি EU AI Act প্রস্তুতি ম্যাপ, যা আপনার উপদেষ্টাদের হাতে দেওয়ার জন্য তৈরি
প্রোডাক্ট, সিকিউরিটি ও ইঞ্জিনিয়ারিং অংশীজনদের সঙ্গে ডিব্রিফ; আপনি যে সংশোধনগুলো করবেন তার পুনঃপরীক্ষা পাওয়া যায়

শুরু করার আগে

  • +টেস্টিং পদ্ধতি ও টেস্ট অ্যাকাউন্ট সম্পর্কে AI সিস্টেমের মালিক একজন নির্বাহীর অনুমোদন
  • +একটি টেস্ট বা স্টেজিং পরিবেশ, অথবা প্রোডাকশনে পরীক্ষার সীমা
  • +টেস্ট অ্যাকাউন্ট, API অ্যাক্সেস এবং মডেল, টুল, ডেটা সোর্স ও সিস্টেম প্রম্পটের ডকুমেন্টেশন
  • +ক্ষতিকর কনটেন্ট পরীক্ষা, ডেটা হ্যান্ডলিং ও স্টপ কন্ডিশন নিয়ে লিখিত গ্রহণযোগ্য-ব্যবহারের নিয়ম
  • +মডেল প্রদানকারী বা প্ল্যাটফর্মের শর্তে প্রয়োজন হলে তাদের কাছে বিজ্ঞপ্তি
  • +টেস্টিংয়ের সময়সীমায় যোগাযোগযোগ্য নির্দিষ্ট প্রতিনিধি

অন্তর্ভুক্ত নয় (আলাদাভাবে পাওয়া যায়)

  • আইনি পরামর্শ, অথবা EU AI Act-এর কমপ্লায়েন্স, কনফরমিটি মূল্যায়ন বা সার্টিফিকেশনের আনুষ্ঠানিক নির্ধারণ; আমরা আপনার উপদেষ্টাদের প্রয়োজনীয় প্রস্তুতির প্রমাণ দিই
  • মডেল ট্রেনিং বা পুনঃপ্রশিক্ষণ, কিংবা নতুন গার্ডরেইল সিস্টেম তৈরি, আলাদাভাবে কোট করা না হলে
  • তৃতীয় পক্ষের মডেল প্রদানকারীদের নিজস্ব অবকাঠামোর পরীক্ষা এবং যৌথ বা প্রোডাকশন সক্ষমতাকে প্রভাবিত করতে পারে এমন ডিনায়াল-অফ-সার্ভিস টেস্টিং
  • হোস্ট অ্যাপ্লিকেশনের সাধারণ ওয়েব ও API টেস্টিং: পেনিট্রেশন টেস্টিং এবং API সিকিউরিটি টেস্টিং হিসেবে পাওয়া যায়

কিভাবে কাজ করে

1

স্কোপিং ও অনুমোদন

মালিকের লিখিত অনুমতি এবং সম্মত স্টপ কন্ডিশনসহ স্বাক্ষরিত স্কোপ ছাড়া টেস্টিং শুরু হয় না, যাতে আপনার লাইভ AI সিস্টেম ও তার ব্যবহারকারীরা সুরক্ষিত থাকেন। কোনো টেস্টিংয়ের আগে আমরা AI সিস্টেম, টেস্ট পরিবেশ, অপব্যবহারের দৃশ্যকল্প ও নিষিদ্ধ কার্যক্রম নিশ্চিত করি।

2

থ্রেট মডেলিং

আপনার সিস্টেমের জন্য কোন আক্রমণ-পথ সবচেয়ে গুরুত্বপূর্ণ তা ঠিক করতে আমরা ডেটা সোর্স, টুল, ব্যবহারকারী ও ট্রাস্ট বাউন্ডারি ম্যাপ করি।

3

অ্যাডভার্সারিয়াল টেস্টিং

স্কোপের মধ্যে থাকা সিস্টেমে আমরা ম্যানুয়াল ও স্বয়ংক্রিয় আক্রমণ চালাই এবং প্রতিটি ফাইন্ডিংয়ের জন্য প্রম্পট, প্রতিক্রিয়া ও প্রমাণ নথিভুক্ত করি।

4

রিপোর্টিং

ফাইন্ডিং, অ্যাটাক-পাথ বিবরণ, নিয়ন্ত্রণ সুপারিশ ও প্রস্তুতি ম্যাপ আমরা এমনভাবে সরবরাহ করি যাতে আপনার টিমগুলো সেগুলো নিয়ে কাজ করতে পারে।

5

ডিব্রিফ ও পুনঃপরীক্ষা

আমরা আপনার অংশীজনদের ফলাফল বুঝিয়ে দিই এবং আপনি চাইলে আপনার করা সংশোধনগুলো পুনঃপরীক্ষা করি।

আগে স্কোপের অনুরোধ করুন। আমরা 24 ঘণ্টার মধ্যে উত্তর দিই এবং একটি লিখিত প্রস্তাবনায় AI সিস্টেম, ইন্টিগ্রেশন, অনুমোদন ও টেস্টিং উইন্ডো নিশ্চিত করি। লিখিত স্কোপ নিশ্চিত হওয়ার পর কাজ শুরু হয়।

পরিধি ও কোটেশন

চূড়ান্ত স্কোপ ও কোটেশন আপনার AI সিস্টেম, ইন্টিগ্রেশন ও টেস্টিং উইন্ডোর ওপর নির্ভর করে।

কেন BilgeQor

  • প্রতিটি ফাইন্ডিংয়ের সঙ্গে থাকে পুনরুৎপাদনের প্রম্পট ও প্রমাণ, আর অ্যাটাক-পাথ বিবরণ দেখায় আপনার অ্যাপ্লিকেশনে সমস্যাগুলো কীভাবে একসঙ্গে যুক্ত হয়।
  • EU AI Act প্রস্তুতি ম্যাপ আপনার উপদেষ্টাদের শ্রেণিবিন্যাস, ডকুমেন্টেশন ও তত্ত্বাবধানের ঘাটতির একটি কাঠামোবদ্ধ চিত্র দেয়।
  • AI সিস্টেম, টেস্ট পরিবেশ ও স্টপ কন্ডিশন আগে লিখিত স্কোপে নির্ধারিত হয়; টেস্টাররা দূর থেকে কাজ করেন, ইস্তাম্বুল, জাকার্তা ও লন্ডন থেকে সমন্বিতভাবে।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

সম্পর্কিত পরিষেবাসমূহ

OT, ICS ও IoT সিকিউরিটি অ্যাসেসমেন্ট

শিল্প নিয়ন্ত্রণ সিস্টেম, অপারেশনাল টেকনোলজি নেটওয়ার্ক ও সংযুক্ত ডিভাইসের সেফটি-ফার্স্ট সিকিউরিটি মূল্যায়ন, আপনার ইঞ্জিনিয়ারদের সঙ্গে পরিকল্পিত।

অ্যাক্সেস-ত্রুটির জন্য আপনার API পরীক্ষা করান

আপনার REST, GraphQL ও মোবাইল-ব্যাকএন্ড API-এর অনুমোদিত টেস্টিং, ভাঙা অথোরাইজেশন, ইনজেকশন ও বিজনেস-লজিকের ত্রুটির জন্য, একটি স্পষ্ট সংশোধন-তালিকাসহ।

আপনার AI অ্যাপ্লিকেশনকে স্ট্রেস-টেস্ট করান

আপনার AI সিস্টেম ও তার টুলের বিবরণ দিন; লিখিতভাবে নির্দিষ্ট ফির প্রস্তাবনা ফিরে আসবে।

পাঠানোর পরে কী হয়

  1. আমরা আপনার অনুরোধ পর্যালোচনা করি
  2. পরিধি নিয়ে আলোচনা
  3. প্রযোজ্য হলে লিখিত নির্ধারিতকরণ

আমরা 24 ঘণ্টার মধ্যে উত্তর দিই।