इंडायरेक्ट प्रॉम्प्ट इंजेक्शन प्रौद्योगिकी

हाल ही में, शोधकर्त्ताओं ने AI चैट्बॉट्स के लिए एक प्रमुख सुरक्षा खतरे के रूप में इंडायरेक्ट प्रॉम्प्ट इंजेक्शन नामक प्रौद्योगिकी के संबंध में चिंता व्यक्त की है।

इंडायरेक्ट प्रॉम्प्ट इंजेक्शन क्या है?

  • इस प्रौद्योगिकी के माध्यम से AI चैट्बॉट्स में दुर्भावनापूर्ण आदेशों (Malicious Commands) के निष्पादन के लिये हेरफेर (Manipulates) किया जा सकता है।
  • यह तकनीक AI चैट्बॉट्स के द्वारा संसाधित सामग्री में सन्निहित निर्देशों का पालन करने के लिये लार्ज लैंग्वेज मॉडल (LLM) की अंतर्निहित प्रकृति का उपयोग करती है।
  • LLM: यह मशीन लर्निंग मॉडल्स होते हैं, जो वृहद डेटा का विश्लेषण करके मानव क्षमता के समकक्ष कंप्यूटर भाषा ....
क्या आप और अधिक पढ़ना चाहते हैं?
तो सदस्यता ग्रहण करें

वार्षिक सदस्यता लें मात्र 600 में और पाएं...
पत्रिका की मासिक सामग्री, साथ ही पत्रिका में 2018 से अब तक प्रकाशित सामग्री।
प्रारंभिक व मुख्य परीक्षा पर अध्ययन सामग्री, मॉक टेस्ट पेपर, हल प्रश्न-पत्र आदि।
क्रॉनिकल द्वारा प्रकाशित चुनिंदा पुस्तकों का ई-संस्करण।
पप्रारंभिक व मुख्य परीक्षा के चुनिंदा विषयों पर वीडियो क्लासेज़।
क्रॉनिकल द्वारा प्रकाशित पुस्तकों पर अतिरिक्त छूट।

नियमित स्तंभ