Cybersecurity Issue: టెక్నాలజీతో పొంచి ఉన్న సరికొత్త ముప్పు.. డేటా భద్రతకు పెను సవాల్- సజ్జనార్ కీలక జాగ్రత్తలు
Cybersecurity Issue: ఇప్పుడు అంతా ఏఐ చాట్బోట్లపై ఆధారపడుతున్నారని, అయితే దాని వల్ల పొంచి ఉన్న సైబర్ సెక్యూరిటీ సమస్యలపై హైదరాబాద్ సీపీ సజ్జనార్ ప్రజలకు అవగాహనా కల్పించారు.
Hyderabad CP VC Sajjanar alerts over Prompt Injection | హైదరాబాద్: కృత్రిమ మేధ (AI) విస్తృతి పెరిగాక చిన్న స్టార్టప్ల నుంచి బడా మల్టీ నేషనల్ కంపెనీల వరకు అంతా ఇప్పుడు 'ఏఐ చాట్బోట్'ల జపం చేస్తున్నాయని హైదరాబాద్ పోలీస్ కమిషనర్ వీసీ సజ్జనార్ అన్నారు.. కస్టమర్ల సందేహాలకు క్షణాల్లో సమాధానాలివ్వడం, పని వేగం పెంచడం, ఖర్చు తగ్గించడం వంటి ప్రయోజనాలు ఉండటంతో సంస్థలు వీటిపై ఎక్కువగా ఆధారపడుతున్నాయని తెలిపారు. అయితే, ఈ సాంకేతికత వెనుక ఓ సరికొత్త ముప్పు పొంచి ఉంది. అదే 'ప్రాంప్ట్ ఇంజెక్షన్' (Prompt Injection) అని చెబుతూనే దాని గురించి అవగాహనా సైతం కల్పించే ప్రయత్నం చేశారు.
అసలేంటీ 'ప్రాంప్ట్ ఇంజెక్షన్'?
సాధారణంగా ఏఐ పని చేయడానికి మనం ఇచ్చే ఆదేశాలను 'ప్రాంప్ట్' (Prompt) అంటారు. సైబర్ నేరగాళ్లు ఈ ప్రాంప్ట్లనే తమ ఆయుధంగా మలుచుకుంటున్నారు. ఏఐ మోడల్ను తప్పుదోవ పట్టించేలా, ట్రిక్ చేసేలా 'మలీషియస్ ప్రాంప్ట్స్' (హాని చేసే ఆదేశాలు) ఇస్తున్నారు. క్లుప్తంగా చెప్పాలంటే.. "ఏఐని వారి మాటలు, సూచనలతో మాయ చేయడం". ఇలా ఏఐని కన్ఫ్యూజ్ చేసి, సాధారణంగా బయటపెట్టకూడని సంస్థల అంతర్గత పత్రాలు, కస్టమర్ల రికార్డులు, సిస్టమ్ వివరాలను రాబట్టడమే 'ప్రాంప్ట్ ఇంజెక్షన్ అటాక్' అని అంటారు.
డేటా భద్రతకు పెను సవాల్
ప్రస్తుతం చాలా సంస్థలు తమ ఏఐ మోడల్స్, చాట్బోట్లను సంస్థలోని కీలకమైన డేటా సిస్టమ్లకు (CRM డేటా, హెల్ప్డెస్క్ టికెట్లు, ఉద్యోగుల సమాచారం, ఫైనాన్షియల్ రికార్డులు) అనుసంధానం చేస్తున్నాయి. ఎండ్ యూజర్కు ఈ సమాచారం పొరపాటున కూడా కనిపించకూడదు. కానీ, హ్యాకర్లు వేసే ఒకే ఒక్క 'ట్రిక్కీ ప్రాంప్ట్' వల్ల ఈ గోప్య సమాచారమంతా బయటపడే ప్రమాదం ఉందని సజ్జనార్ సూచించారు.
'గార్డ్రెయిల్స్'తోనే రక్షణ
ఈ ముప్పును ముందుగానే పసిగట్టి, వాటిని నివారించడానికి సంస్థలు తక్షణమే 'ప్రాంప్ట్ గార్డ్రెయిల్స్' (రక్షణ కవచాలు) ఏర్పాటు చేసుకోవాల్సిన అవసరం ఎంతైనా ఉంది. కేవలం ఒక అంచె భద్రత సరిపోదు, మల్టీ-లేయర్ డిఫెన్స్ విధానాన్ని పాటించాల్సిన అవసరం ఉందన్నారు.
తీసుకోవాల్సిన జాగ్రత్తలివే..!
• మోడల్-లెవల్ సెక్యూరిటీ: ఏఐకి సేఫ్టీ ట్రైనింగ్ ఇవ్వడం, కఠినమైన నిబంధనలు (Hard Guardrails) విధించడం ద్వారా అనవసర సమాచారాన్ని ఇవ్వకుండా నియంత్రించాలి.
• ప్రాంప్ట్-లెవల్ సెక్యూరిటీ: హానికరమైన (Malicious) ప్రాంప్ట్లను గుర్తించే వ్యవస్థను ఏర్పాటు చేసుకోవాలి.
• సిస్టమ్-లెవల్ సెక్యూరిటీ: ఏఐకి యాక్సెస్ ఇచ్చే డేటా, ఏపీఐ (API)లపై కఠిన నియంత్రణలు ఉండాలి.
• ఆడిట్స్ & యాక్సెస్: ఎప్పటికప్పుడు సెక్యూరిటీ ఆడిట్స్ నిర్వహిస్తూ.. డేటా యాక్సెస్ను పరిమితం చేయాలి.
సరైన భద్రతా చర్యలు తీసుకోకపోతే సంస్థల కార్యకలాపాలు స్తంభించిపోవడంతో పాటు, విలువైన డేటా సైబర్ నేరగాళ్ల చేతికి చిక్కి కోలుకోలేని దెబ్బతినే ప్రమాదం ఉందని ఐపీఎస్ సజ్జనార్ జాగ్రత్తలు సూచించారు.
టాప్ హెడ్ లైన్స్
ట్రెండింగ్ వార్తలు
