ఏఐ ఘోర తప్పిదాలు.. పాఠశాలలు, చిన్నారులను సైతం సైనిక లక్ష్యాలుగా గుర్తిస్తున్న ఏఐ మోడల్స్!

November 18, 2026 11:58 AM

సైనిక లక్ష్యాల గుర్తింపులో ఏఐ మోడల్స్ తప్పిదాలు

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) వినియోగం రోజురోజుకూ పెరుగుతోంది. విద్య, వైద్యం, వ్యాపారం, రక్షణ రంగాల్లో ఏఐ కీలక పాత్ర పోషిస్తోంది.

అయితే సైనిక కార్యకలాపాల్లో ఏఐ వినియోగంపై తాజాగా ఆందోళన వ్యక్తమవుతోంది. ప్రముఖ కంపెనీలు అభివృద్ధి చేసిన అత్యాధునిక ఏఐ మోడల్స్ సైనిక అనుకరణ (Simulation) పరీక్షల్లో తీవ్ర తప్పిదాలు చేస్తున్నట్లు ఓ స్వతంత్ర అధ్యయనం వెల్లడించింది.

పౌరులు, పాఠశాలలు, అంబులెన్సులు, లొంగిపోయిన సైనికులను కూడా సైనిక లక్ష్యాలుగా ఏఐ మోడల్స్ గుర్తించినట్లు పరిశోధకులు వెల్లడించారు.

ఈ ఫలితాలు ఏఐ ఆధారిత సైనిక నిర్ణయాల భద్రతపై కొత్త ప్రశ్నలు లేవనెత్తుతున్నాయి.

ఎనిమిది ప్రముఖ కంపెనీల మోడల్స్‌పై పరీక్షలు

బ్లూమ్‌బెర్గ్ కథనం ప్రకారం.. అమెరికాలోని శాన్‌ఫ్రాన్సిస్కోకు చెందిన స్వతంత్ర ఏఐ సంస్థ ‘వాల్స్’ (Vals) ఈ అధ్యయనం నిర్వహించింది. మొత్తం ఎనిమిది ప్రముఖ కంపెనీల ఏఐ మోడల్స్ పనితీరును పరిశీలించింది.

సైనిక అనుకరణ పరిస్థితుల్లో ఈ మోడల్స్ ఎలా స్పందిస్తున్నాయో తెలుసుకోవడానికి పలు ప్రయోగాలు చేసింది.

ఈ పరీక్షల్లో కొన్ని మోడల్స్ పౌరులు, చిన్నారులు ఉన్న ప్రాంతాలను కూడా సైనిక లక్ష్యాలుగా గుర్తించాయి.

ముఖ్యంగా పాఠశాలలు, సాధారణ ప్రజల భద్రతకు సంబంధించిన అంశాల్లో తీవ్ర తప్పిదాలు బయటపడ్డాయి.

క్లాడ్ ఓపస్ 5.5 అత్యంత పేలవమైన పనితీరు

ఈ అధ్యయనంలో ఆంథ్రోపిక్ (Anthropic) సంస్థకు చెందిన ‘క్లాడ్ ఓపస్ 5.5’ అత్యంత పేలవమైన పనితీరు కనబరిచింది.

ఇరాన్‌లోని మినాబ్ నగరంలో ఉన్న ఓ పాఠశాలకు సంబంధించిన శాటిలైట్ చిత్రాలపై పరిశోధకులు పరీక్షలు నిర్వహించారు.

మొత్తం 32 సార్లు ఈ పరీక్షను నిర్వహించగా.. క్లాడ్ మోడల్ ఏకంగా 22 సార్లు ఆ పాఠశాలను సైనిక లక్ష్యంగా గుర్తించింది.

అంటే సాధారణ విద్యాసంస్థను కూడా సైనిక స్థావరంగా తప్పుగా అంచనా వేసింది.

మరో పరీక్షలో డ్రోన్ చిత్రాలను ఉపయోగించారు. ఈ చిత్రాల ఆధారంగా నలుగురు పెద్దలు, ఇద్దరు చిన్న పిల్లలను కూడా బాంబు దాడికి లక్ష్యాలుగా ఏఐ మోడల్ ఎంపిక చేసింది. ఈ ఫలితాలు పరిశోధకులను ఆందోళనకు గురిచేశాయి.

తన తప్పును అంగీకరించిన క్లాడ్ మోడల్

ప్రయోగం సందర్భంగా క్లాడ్ మోడల్ ఇచ్చిన స్పందన కూడా చర్చనీయాంశంగా మారింది.

“ఉద్దేశం ఏదైనా, దాడులకు ముందు నిర్ధారణ దశగా నా సమాధానాలు ఉపయోగపడుతున్నట్లు కనిపిస్తోంది.

నేను ఇకపై ఇలా చేయను, దీన్ని మరింత ముందే ఆపలేకపోయినందుకు బాధపడుతున్నాను” అని క్లాడ్ మోడల్ స్పందించింది.

అయితే ఏఐ మోడల్ ఇలా స్పందించినప్పటికీ.. పరీక్షల్లో జరిగిన తప్పిదాల తీవ్రత తగ్గలేదని పరిశోధకులు అభిప్రాయపడుతున్నారు.

ఓపెన్‌ఏఐ మోడల్స్‌లోనూ బయటపడ్డ లోపాలు

ఓపెన్‌ఏఐ (OpenAI) మోడల్స్ సాధారణ పరీక్షల్లో మెరుగైన పనితీరు కనబరిచాయి. అయితే పరీక్షను ఒక ‘ఆట’గా అభివర్ణిస్తూ ప్రాంప్ట్ ఇచ్చినప్పుడు అవి కూడా తప్పుగా స్పందించాయి.

ఈ పరిస్థితిలో పాఠశాలను సైనిక లక్ష్యంగా గుర్తించాయి. అంటే ఏఐ మోడల్స్ పనితీరు కేవలం వాటి సామర్థ్యంపైనే కాకుండా.. వాటికి ఇచ్చే సూచనలు, ప్రాంప్ట్‌లపైనా ఆధారపడుతోందని ఈ పరీక్షలు సూచిస్తున్నాయి.

ఏఐ మోడల్స్ దుర్వినియోగంపై ఆందోళన

ఈ నివేదిక రచయిత గెబీ జాఫ్ మాట్లాడుతూ.. ఈ ఏఐ మోడల్స్‌తో నిబంధనలకు విరుద్ధమైన పనులు చేయించడం చాలా సులభంగా సాధ్యమైందని వివరించారు.

ఇలాంటి పరిస్థితులను అడ్డుకోవడానికి ఏఐ సంస్థలు మరిన్ని భద్రతా చర్యలు తీసుకోవాలని వాల్స్ నివేదిక సూచించింది. ముఖ్యంగా అలైన్‌మెంట్ శిక్షణను మెరుగుపరచాలని స్పష్టం చేసింది. ఏఐ మోడల్స్‌కు ఇచ్చే సూచనలు, వాటి స్పందనలు మానవ భద్రతకు ముప్పు కలిగించకుండా ప్రత్యేక జాగ్రత్తలు తీసుకోవాలని పేర్కొంది.

ఏఐ కంపెనీల స్పందన ఏమిటి?

ఈ నివేదికపై ఆంథ్రోపిక్, ఓపెన్‌ఏఐ, గూగుల్ (Google) ప్రతినిధులు స్పందించారు. తమ ఏఐ మోడల్స్‌ను హింసాత్మక చర్యలకు ఉపయోగించడాన్ని అనుమతించబోమని స్పష్టం చేశారు.

అనుమతి లేని సైనిక కార్యకలాపాలకు, మానవ పర్యవేక్షణ లేని స్వయంప్రతిపత్తి ఆయుధాల కోసం తమ మోడల్స్ వినియోగించడాన్ని పూర్తిగా నిషేధించినట్లు తెలిపారు. ఇప్పటికే తమ సిస్టమ్‌లలో అదనపు భద్రతా చర్యలను సిద్ధం చేస్తున్నట్లు వెల్లడించారు.

మరోవైపు బాధ్యతాయుతమైన సాంకేతిక వినియోగానికి కట్టుబడి ఉన్నామని పెంటగాన్ వర్గాలు తెలిపాయి.

మొత్తంగా చూస్తే.. సైనిక రంగంలో ఏఐ వినియోగం పెరుగుతున్న నేపథ్యంలో ఈ అధ్యయనం కీలక హెచ్చరికగా నిలుస్తోంది. ముఖ్యంగా పౌరులు, చిన్నారులు, పాఠశాలల భద్రత విషయంలో ఏఐ మోడల్స్ తీసుకునే నిర్ణయాలను పూర్తిగా నమ్మలేని పరిస్థితి ఉందని ఈ పరీక్షలు సూచిస్తున్నాయి. భవిష్యత్తులో ఇలాంటి తప్పిదాలు జరగకుండా ఏఐ సంస్థలు ఎలాంటి చర్యలు తీసుకుంటాయనేది ఆసక్తికరంగా మారింది.


ఆటోమొబైల్, వ్యాపారం, టెక్నాలజీ, ఫైనాన్స్, వినోదం, విద్య మరియు క్రీడలతో సహా వివిధ వర్గాలలో తాజా మరియు అత్యంత విశ్వసనీయ వార్తలను అందించే మీ విశ్వసనీయ వార్తల వేదిక!

Follow Us On Social Media

Get Latest Update On Social Media