AI Abuse Prevention: ఏఐని వేధించడం ఇక కుదరదు.. క్లాడ్ కోసం ఆంథ్రోపిక్ కఠిన నిబంధనలు

AI Abuse Prevention: ఏఐ చాట్‌బాట్ వేధించడం, క్లాడ్ ఏఐని దుర్వినియోగం చేయడాన్ని కంట్రోల్ చేయడానికి ఆంథ్రోపిక్ కొన్ని రూల్స్ తెచ్చింది.

ఏఐని వేధించడం ఇక కుదరదు.. క్లాడ్ కోసం ఆంథ్రోపిక్ కఠిన నిబంధనలు

Source : Twitter

Show Quick Read

Key points generated by AI, verified by newsroom

• ఆంథ్రోపిక్ క్లాడ్‌ను దుర్వినియోగం చేయకుండా కొత్త నియమాలు.
• ఉద్దేశపూర్వక వేధింపులు నిషేధం; ప్రశ్నించడం, సవాల్ చేయడం కాదు.
• ఎన్నికలు, ఆయుధాలకు క్లాడ్ వాడకంపై పూర్తి నిషేధం విధించారు.
• నిఘా, రోబోటిక్స్‌లో మానవ పర్యవేక్షణ, నియంత్రణ తప్పనిసరి.

 AI Abuse Prevention: ఏఐ చాట్‌బాట్‌ను కష్టమైన ప్రశ్నలు అడగడం, దాని సమాధానాలను సవాల్ చేయడం, ఒక అంశంపై పదేపదే డేటా అడగడం సాధారణంగా అందరూ చేసే పనే. కానీ, ఒక ఏఐని వేధించడాన్ని నిషేధించవచ్చా? ఏఐ దిగ్గజ సంస్థ 'ఆంథ్రోపిక్' తీసుకువచ్చిన ఒక కొత్త విధానం ఇప్పుడు ఈ ప్రశ్నను సమాధానం చెప్తుంది. తమ పాపులర్ ఏఐ మోడల్ 'క్లాడ్' దుర్వినియోగాన్ని అరికట్టేందుకు ఆ సంస్థ కొన్ని కఠిన రూల్స్ అమలులోకి తెచ్చింది.

ఆంథ్రోపిక్ కొత్త నియమాలు ఏమిటి?

కొత్త నిబంధనల ప్రకారం.. ఎలాంటి సబబు అయిన కారణం లేకుండా ఎవరైనా వినియోగదారుడు క్లాడ్‌ను పదేపదే ఇబ్బంది పెట్టినా, దుర్వినియోగం చేసినా అది నిబంధనల ఉల్లంఘన కిందకు వస్తుంది. అయితే, ఏఐ ఇచ్చే సమాధానాలపై కోపం వ్యక్తం చేయడం, దానితో విభేదించడం, చీకటి థీమ్‌లపై ఫిక్షనల్ కథలు రాయడం లేదా దాని సామర్థ్యాలను పరీక్షించడానికి క్లిష్టమైన ప్రశ్నలు అడగడం వంటి సాధారణ చర్యలు ఈ నిబంధన పరిధిలోకి రావు. కేవలం ఉద్దేశపూర్వకంగా వేధించే ధోరణిని మాత్రమే ఇది అడ్డుకుంటుంది.

సంభాషణను స్టాప్ చేస్తుంది 'క్లాడ్'

పదేపదే దురుసుగా లేదా అసమంజసంగా ప్రవర్తించే యూజర్లతో చాట్ మధ్యలోనే ఆపేందుకు వీలుగా 'క్లాడ్'కు ప్రత్యేక ఫీచర్‌ను ఆంథ్రోపిక్ ఇదివరకే పరిచయం చేసింది. ఈ ఫీచర్ ప్రస్తుతం Claude.ai, Claude Code లలో అందుబాటులో ఉంది. ప్రస్తుతానికైతే అలాంటి సందర్భాల్లో చాట్‌ను ఆపేయడమే ప్రధానంగా ఉన్నప్పటికీ, నిబంధనలను పదేపదే ఉల్లంఘించే వారి అకౌంట్లను శాశ్వతంగా బ్యాన్ చేసేందుకు ఆ సంస్థ త్వరలో స్పష్టతనిచ్చే అవకాశం ఉంది.

ఆయుధాలు, ఎన్నికలలో ఏఐ పూర్తి నిషేధం

ఎన్నికలు, ఆయుధాలకు సంబంధించిన వాటిల్లో క్లాడ్ వినియోగాన్ని ఆంథ్రోపిక్ మరింత కఠినతరం చేసింది. ఫేక్ అకౌంట్లు సృష్టించడం, ఉద్దేశపూర్వకంగా తప్పుడు కంటెంట్‌ను ప్రచారం చేయడం, రాజకీయ ప్రచారాలలో ప్రజలను తప్పుదారి పట్టించడం లేదా ఓటింగ్ గురించి అబద్ధాలు ప్రచారం చేయడం వంటి వాటికి ఏఐని వాడటం పూర్తిగా చట్టవిరుద్ధం.

ఆయుధాలకు సంబంధిత టెక్నాలజీని అభివృద్ధి చేయడం, డ్రోన్‌లకు ఆయుధాలను అమర్చడం, ఏఏఐతో పనిచేసే యంత్రాలను యుద్ధ కార్యకలాపాలు వాడడం వంటి వాటికి క్లాడ్‌ను ఉపయోగించడంపై కఠిన నిబంధనలు తెచ్చింది. 

నిఘా, రోబోటిక్స్‌లో మానవ నియంత్రణ  

క్లాడ్ వినియోగంపై నిఘా, రోబోటిక్స్ రంగాలకు సంబంధించి కొన్ని కఠిన మార్గదర్శకాలను కూడా రూపొందించారు. ఎవరి అనుమతీ లేకుండా వారిని రహస్యంగా పర్యవేక్షించడానికి, పాత డేటా ఆధారంగా వారి కదలికలను ట్రాక్ చేయడానికి లేదా నిఘా వ్యవస్థలను డిజైన్ చేయడానికి క్లాడ్‌ను ఉపయోగించడాన్ని నిషేధించింది. అంతేకాకుండా, మనుషులకు గాయం చేసే రోబోట్ లేదా యంత్రానికి క్లాడ్‌ను అనుసంధానించినట్లయితే.. ఆ యంత్రాన్ని పర్యవేక్షించడానికి, ఏ ప్రమాదమైనా తలెత్తితే తక్షణమే దానిని ఆపేయడానికి శిక్షణ పొందిన వారు కచ్చితంగా అక్కడ అందుబాటులో ఉండాలని నిబంధన తెచ్చింది.  

మరిన్ని చదవండి

కృత్రిమ మేధ పేరు మార్పుతో ముప్పు తొలగిపోతుందా? AI నుంచి SI పేరు మార్పు వెనుక అసలు సవాళ్లు!