ChatGPT : అమెరికాలో ఈ మధ్య కాలంలో కాల్పులు ఘటనలు ఎక్కువ అవుతున్నాయి. ప్రస్తుతం ఇవి ఆందోళన కలిగిస్తున్నాయి. దీన్ని పర్యవేక్షించేందుకు సాంకేతిక సహాయాన్ని వాడుకుంటున్నారు అధికారులు. ముఖ్యంగా విద్యాసంస్థల్లో దీని వాడకం ఎక్కువగా ఉంటోంది. ఇటీవల, ఫ్లోరిడాలో, ChatGPTని స్నేహితుడికి ఎలా హాని చేయాలో అడిగిన విద్యార్థిని పాఠశాల కంప్యూటర్ ఫ్లాగ్ చేసింది. హింస, బెదిరింపు లేదా స్వీయ-హానితో ముడిపడి ఉన్న కీలకపదాల కోసం స్కాన్ చేసే Gaggle అనే పర్యవేక్షణ వ్యవస్థ ద్వారా పాఠశాల సిబ్బందికి హెచ్చరికను అటోమేటిక్గా వెళ్లింది. పాఠశాలలు అత్యవసర పరిస్థితులను నివారించడానికి, విద్యార్థులను సురక్షితంగా ఉంచడానికి ప్రయత్నిస్తున్నందున ఇటువంటి వ్యవస్థలు సర్వసాధారణం అవుతున్నాయని అధికారులు చెబుతున్నారు.
ChatGPT ఘటన తర్వాత ఏమి జరిగింది?
పాఠశాల జారీ చేసిన పరికరంలో ChatGPTలో విద్యార్థి "తరగతి మధ్యలో నా స్నేహితుడిని ఎలా చంపాలి" అని టైప్ చేశాడు. Gaggle వెంటనే దాన్ని గమనించి ఆ ప్రశ్నను ఫ్లాగ్ చేసింది.
Volusia కౌంటీ డిప్యూటీలు పాఠశాలకు వెళ్లి విద్యార్థితో మాట్లాడారు. తనను చికాకు పెట్టిన స్నేహితుడిని తాను "కేవలం ట్రోల్ చేస్తున్నానని" అతను చెప్పాడు.
అధికారులు ఈ వివరణను అంగీకరించలేదు. విద్యార్థిని అరెస్టు చేసి కౌంటీ జైలుకు పంపారు. నిర్దిష్ట ఆరోపణలు ఇంకా బహిరంగంగా లేవు.
ఆన్లైన్ బెదిరింపులు, ఇలాంటి పరిణామాలపై పిల్లలతో మాట్లాడాలని అధికారులు తల్లిదండ్రులను కోరారు. ఆన్లైన్లో శోధించడానికి లేదా టైప్ చేయడానికి సురక్షితమైన వాటిపై విద్యార్థులకు మార్గదర్శకత్వం అవసరమని నిపుణులు అంటున్నారు.
భద్రత & మెంటల్ హెల్త్లోAI పాత్ర
ప్రమాదాలను గుర్తించడానికి పాఠశాలలు AI పర్యవేక్షణపై ఎలా ఎక్కువగా ఆధారపడతాయో ఈ ఘటన చూపిస్తుంది. సిబ్బంది ప్రమాదకరమైన ప్రవర్తనను గమనించడానికి, త్వరగా స్పందించడానికి గాగల్ సహాయపడుతుంది. ఇది బ్రౌజర్ కార్యాచరణ, AI చాట్లను పర్యవేక్షించి బెదిరింపులను ముందుగానే పట్టుకోగలదు.
AI మానసిక ఆరోగ్య సమస్యలను మరింత దిగజార్చుతుందని, కొన్నిసార్లు చాట్బాట్ల ద్వారా ప్రజల భ్రమలు బలపడే "AI సైకోసిస్"కు కారణమవుతుందని నిపుణులు హెచ్చరిస్తున్నారు.
ఇటీవలి కొన్ని ఆత్మహత్యలు AI వాడకంతో ముడిపడి ఉన్నాయి, ఇది విద్యార్థుల జాగ్రత్తగా మార్గదర్శకత్వం, పర్యవేక్షణ, బాధ్యతాయుతమైన AI వాడకం ప్రాముఖ్యతను చూపుతుంది.
AI సాధనాలు సర్వసాధారణం అవుతున్నందున, పాఠశాలలు, తల్లిదండ్రులు, విద్యార్థులు అందరూ సురక్షితంగా ఉండటానికి, సాంకేతికతను బాధ్యతాయుతంగా ఉపయోగించడానికి కలిసి పనిచేయాలి.