इंडायरेक्ट प्रॉम्प्ट इंजेक्शन प्रौद्योगिकी

हाल ही में, शोधकर्त्ताओं ने AI चैट्बॉट्स के लिए एक प्रमुख सुरक्षा खतरे के रूप में इंडायरेक्ट प्रॉम्प्ट इंजेक्शन नामक प्रौद्योगिकी के संबंध में चिंता व्यक्त की है।

इंडायरेक्ट प्रॉम्प्ट इंजेक्शन क्या है?

• इस प्रौद्योगिकी के माध्यम से AI चैट्बॉट्स में दुर्भावनापूर्ण आदेशों (Malicious Commands) के निष्पादन के लिये हेरफेर (Manipulates) किया जा सकता है।
• यह तकनीक AI चैट्बॉट्स के द्वारा संसाधित सामग्री में सन्निहित निर्देशों का पालन करने के लिये लार्ज लैंग्वेज मॉडल (LLM) की अंतर्निहित प्रकृति का उपयोग करती है।
• LLM: यह मशीन लर्निंग मॉडल्स होते हैं, जो वृहद डेटा का विश्लेषण करके मानव क्षमता के समकक्ष कंप्यूटर भाषा ....