AIతో బయో రిస్క్.. Anthropic నివేదికలో సంచలన విషయాలు

క్లాడ్‌ను జీవ పరిశోధనలకు వాడిన పరిశోధకులు

చికెన్‌గున్యా, బర్డ్ ఫ్లూ నుంచి టాక్సిన్ల వరకు కేసులు

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) రంగంలో ప్రముఖ సంస్థ Anthropic తాజాగా విడుదల చేసిన థ్రెట్ ఇంటెలిజెన్స్ నివేదికలో ఆందోళనకర విషయాలను వెల్లడించింది. సంస్థకు చెందిన Claude AI మోడళ్లను అత్యంత సున్నితమైన బయోసైన్స్ పరిశోధనల్లో ఉపయోగించేందుకు కొందరు పరిశోధకులు ప్రయత్నించినట్లు తెలిపింది.

ప్రమాదకరమైన వ్యాధికారకాలు, విషపదార్థాలు, ఇతర జీవ సంబంధిత ముప్పులకు సంబంధించిన పరిశోధనల్లో AI సాయం తీసుకున్న పలు ఘటనలను నివేదికలో వివరించింది. ఇందులో ఐదు కీలక కేసులను ప్రస్తావించింది.

అయితే ఈ ప్రయోగాలు చేసిన వారు ఎవరూ ఉద్దేశపూర్వకంగా జీవ ఆయుధాలను తయారు చేయాలని ప్రయత్నించలేదని Anthropic స్పష్టం చేసింది. అయినప్పటికీ, AI వ్యవస్థలు శాస్త్రీయ పరిశోధనలను వేగవంతం చేయగల సామర్థ్యం కలిగి ఉన్నాయని తెలిపింది. అదే సామర్థ్యం కొన్ని సందర్భాల్లో తీవ్రమైన ముప్పులకు కూడా దారితీసే అవకాశం ఉందని ఆందోళన వ్యక్తం చేసింది.

పాత AI మోడళ్లతో పోలిస్తే మారిన పరిస్థితి

గతంలో ఉన్న AI మోడళ్లకు సంక్లిష్టమైన బయోసైన్స్ పనుల్లో పరిమిత సామర్థ్యమే ఉండేది. అయితే ఇప్పుడు వస్తున్న అధునాతన AI వ్యవస్థలు క్లిష్టమైన శాస్త్రీయ పనుల్లోనూ పరిశోధకులకు సహాయం చేయగలుగుతున్నాయి.

దీంతో చట్టబద్ధమైన పరిశోధనకు, హానికరమైన పరిశోధనకు మధ్య ఉన్న గీత మరింత సున్నితంగా మారుతోంది. ఒకే రకమైన శాస్త్రీయ సమాచారం మంచి ప్రయోజనాలకు ఉపయోగపడొచ్చు. అదే సమాచారం ప్రమాదకర ప్రయోజనాలకు కూడా ఉపయోగపడే అవకాశం ఉంది.

Anthropic నివేదికలో ఇదే అంశాన్ని ప్రధాన సవాల్‌గా పేర్కొంది.

చికెన్‌గున్యా వైరస్‌పై పరిశోధన

నివేదికలో అత్యంత ఆందోళన కలిగించిన కేసుల్లో ఒకటి చికెన్‌గున్యా వైరస్కు సంబంధించినది.

వైరస్ ఎలా వ్యాప్తి చెందుతుంది? రోగనిరోధక వ్యవస్థను తప్పించుకునే సామర్థ్యంలో ఎలాంటి మార్పులు వస్తాయి? అనే అంశాలపై పరిశోధన చేసేందుకు ఒక గ్రాంట్ దరఖాస్తును సిద్ధం చేశారు.

ఈ దరఖాస్తును Anthropic భద్రతా వ్యవస్థలు అడ్డుకున్నాయి.

ఈ పరిశోధనలో వైద్యపరమైన ప్రయోజనాలు కూడా ఉండే అవకాశం ఉంది. భవిష్యత్తులో వ్యాక్సిన్లు, చికిత్సల అభివృద్ధికి ఉపయోగపడే సమాచారం లభించొచ్చు.

అదే సమయంలో వైరస్‌ను మరింత ప్రమాదకరంగా మార్చే దిశలోనూ ఈ పరిశోధన ఉపయోగపడే అవకాశం ఉందని సంస్థ గుర్తించింది.

ఈ ప్రయోగం సైనిక పరిశోధన సంస్థతో సంబంధం ఉన్నట్లు నివేదికలో వెల్లడించింది.

బర్డ్ ఫ్లూ పరిశోధనలో Claude వినియోగం

మరో కేసు అత్యంత ప్రమాదకరమైన ఏవియన్ ఇన్‌ఫ్లుయెంజా, అంటే బర్డ్ ఫ్లూకు సంబంధించినది.

ఈ వైరస్ క్షీరదాలకు ఎలా అనుకూలంగా మారుతుందనే అంశంపై ఒక పరిశోధకుడు Claude AI సాయం తీసుకున్నట్లు Anthropic తెలిపింది.

స్టడీ ప్లానింగ్, డేటా విశ్లేషణ వంటి పనుల కోసం ఆ పరిశోధకుడు కొన్ని వారాల పాటు AIని ఉపయోగించారు.

ఈ వినియోగాన్ని గుర్తించిన తర్వాత Anthropic భద్రతా వ్యవస్థలు మరింత శక్తివంతమైన AI మోడళ్లకు ఆ వ్యక్తి యాక్సెస్‌ను పరిమితం చేశాయి.

స్మాల్‌పాక్స్, ఎంపాక్స్ పరిశోధన

మరో ఘటన ఆర్థోపాక్స్‌వైరస్‌ల పరిశోధనకు సంబంధించినది. ఇందులో స్మాల్‌పాక్స్, ఎంపాక్స్ వంటి వైరస్‌లు ఉన్నాయి.

ఈ అంశానికి సంబంధించిన గ్రాంట్ ప్రపోజల్‌ను తయారు చేయడంలో Claudeను ఉపయోగించినట్లు నివేదిక పేర్కొంది.

ఇలాంటి పరిశోధనలకు వైద్యపరమైన ప్రాధాన్యం ఉండొచ్చు. అయితే అదే సమయంలో ఈ సమాచారం దుర్వినియోగం అయ్యే ప్రమాదం కూడా ఉంది.

అందుకే AI వ్యవస్థలు కేవలం ప్రశ్నలో ఉన్న పదాలను మాత్రమే పరిశీలించడం సరిపోదని Anthropic అభిప్రాయపడింది.

టాక్సిన్లపై కూడా AI సాయం

నివేదికలో విషపూరిత సమ్మేళనాలకు సంబంధించిన కేసులను కూడా Anthropic వెల్లడించింది.

వెనమ్-డిరైవ్డ్ టాక్సిన్లపై పరిశోధనల్లో AIని ఉపయోగించినట్లు తెలిపింది.

మరో కేసులో కంప్యూటర్ ఆధారితంగా రీడిజైన్ చేసిన టాక్సిన్లపై పరిశోధన జరిగినట్లు గుర్తించింది.

నొప్పులను తగ్గించే మందుల తయారీ కోసం విషపూరిత పెప్టైడ్ల డేటాబేస్‌ను రూపొందించే పనిలో కొందరు AI సాయం తీసుకున్నారు.

ఇలాంటి పరిశోధనలకు వైద్య రంగంలో ఉపయోగం ఉండొచ్చు. అయితే వీటిలోని సమాచారం ఇతర ప్రయోజనాలకు కూడా ఉపయోగపడే అవకాశం ఉందని సంస్థ గుర్తించింది.

సమాచారాన్ని అస్పష్టంగా ఉంచే ప్రయత్నం

మరో ముఖ్యమైన అంశాన్ని కూడా Anthropic గుర్తించింది.

కొన్ని ప్రగతి నివేదికల్లో జీవ కారకాలకు సంబంధించిన వివరాలను ఉద్దేశపూర్వకంగా అస్పష్టంగా ఉంచాలని కోరినట్లు తెలిపింది.

ఇలాంటి చర్యలు AI భద్రతా వ్యవస్థలకు మరింత క్లిష్టమైన సవాళ్లను సృష్టిస్తాయి.

ఎందుకంటే ఒక పరిశోధన నిజంగా ఏ ఉద్దేశంతో జరుగుతోందో కేవలం ఒక ప్రశ్న ఆధారంగా గుర్తించడం కష్టం కావచ్చు.

ఐదు కేసుల్లో చర్యలు

ఈ ఘటనలను గుర్తించిన తర్వాత Anthropic చర్యలు తీసుకుంది.

సంబంధిత అకౌంట్లను బ్యాన్ చేసినట్లు సంస్థ తెలిపింది. అలాగే తమ భద్రతా నిబంధనలను మరింత కట్టుదిట్టం చేసినట్లు వెల్లడించింది.

అధునాతన AI మోడళ్లను శాస్త్రీయ పరిశోధనల్లో ఉపయోగించే సమయంలో మరింత జాగ్రత్త అవసరమని ఈ ఘటనలు సూచిస్తున్నాయి.

AIకి ఉన్న ‘డ్యూయల్ యూజ్’ సవాల్

ఆధునిక జీవశాస్త్ర పరిశోధనలకు డ్యూయల్ యూజ్ స్వభావం ఉండటం AI సంస్థలకు ప్రధాన సవాల్‌గా మారిందని నివేదిక హెచ్చరించింది.

ఒక వ్యాధికి వ్యాక్సిన్ తయారు చేయడానికి ఉపయోగపడే సమాచారం, మరోవైపు జీవ ఆయుధాల అభివృద్ధికి కూడా ఉపయోగపడే అవకాశం ఉంది.

అందుకే ప్రమాదకరమైన ప్రశ్నలను గుర్తించడం మాత్రమే సరిపోదని Anthropic చెబుతోంది.

AIని ఎవరు ఉపయోగిస్తున్నారు? ఏ పరిశోధన కోసం ఉపయోగిస్తున్నారు? వారి ఉద్దేశం ఏమిటి? అనే అంశాలను కూడా భద్రతా వ్యవస్థలు అర్థం చేసుకోవాల్సిన అవసరం ఉందని తెలిపింది.

AI సామర్థ్యాలు పెరుగుతున్న కొద్దీ భద్రతా వ్యవస్థలు కూడా అదే స్థాయిలో అభివృద్ధి చెందాలని సంస్థ సూచించింది.