అప్​కమింగ్ 'ఆస్ట్రా'కు 'క్రిటికల్' హ్యాకింగ్ సామర్థ్యాలు ఉండే అవకాశం: ఓపెన్ఏఐ కీలక ప్రకటన

Hyderabad: సైబర్ సెక్యూరిటీ రంగంలో సరికొత్త సామర్థ్యాలను ప్రదర్శిస్తూ, ఓపెన్‌AI సంస్థ తన అప్​కమింగ్ మోడల్ 'Astra' (ఆస్ట్రా)కు సంబంధించిన కీలక వివరాలను వెల్లడించింది. ఏజెంటిక్ కోడింగ్, సైబర్ సెక్యూరిటీ విభాగాల్లో ఈ మోడల్ అసాధారణమైన పురోగతిని సాధించినట్లు సంస్థ ప్రకటించింది. ఈ నేపథ్యంలో, తమ అంతర్గత 'ప్రిపేర్డ్‌నెస్ ఫ్రేమ్‌వర్క్' ప్రకారం, ఈ మోడల్ సైబర్ భద్రతలో అత్యంత ప్రమాదకరమైన 'క్రిటికల్' సామర్థ్య స్థాయికి చేరుకునే అవకాశాన్ని ప్రస్తుతానికైతే తోసిపుచ్చలేమని స్పష్టం చేసింది.

మెరుగైన అంతర్గత ఫలితాలు: ఇటీవల నిర్వహించిన అంతర్గత మూల్యాంకనాలు, నిపుణుల పరిశీలనల ద్వారా సైబర్ సెక్యూరిటీ పనులను పూర్తి చేయడంలో ఈ మోడల్ సామర్థ్యం గణనీయంగా మెరుగుపడిందని ఓపెన్‌AI తెలిపింది. ప్రజలు, ప్రభుత్వాలు, AI భద్రతా సమాజంతో పూర్తి పారదర్శకతను పాటించేందుకే ఈ అత్యంత కీలకమైన ఫలితాలను ముందుగానే బహిర్గతం చేస్తున్నట్లు సంస్థ స్పష్టం చేసింది.

క్రిటికల్ స్థాయి అంటే?: ఓపెన్‌ఏఐ 'ప్రిపేర్డ్‌నెస్ ఫ్రేమ్‌వర్క్' ప్రకారం, ఒక AI మోడల్ ఎలాంటి మానవ ప్రమేయం (ఇన్‌పుట్) లేకుండా, వాస్తవ ప్రపంచంలోని అత్యంత సురక్షితమైన కంప్యూటర్ సిస్టమ్స్‌లో ఉండే 'జీరో-డే ఎక్స్‌ప్లాయిట్స్' (సాఫ్ట్‌వేర్ లోపాలను) గుర్తించి, వాటి ద్వారా సదరు వ్యవస్థలను హ్యాక్ చేసే సామర్థ్యాన్ని సాధించినప్పుడు.. అది 'క్రిటికల్ సైబర్‌సెక్యూరిటీ' స్థాయికి చేరుకున్నట్లు పరిగణిస్తారు.

ఈ పరిధిలో (థ్రెషోల్డ్‌లో) మోడల్‌కు మరో అదనపు సామర్థ్యం కూడా ఉంటుంది. కేవలం ఒక ఉన్నత స్థాయి లక్ష్యాన్ని (హై-లేవల్ ఆబ్జెక్టివ్) ఇస్తే చాలు.. అత్యంత బలమైన భద్రత కలిగిన టార్గెట్‌లపై కూడా వినూత్నమైన, పూర్తిస్థాయి సైబర్‌దాడి వ్యూహాలను రూపొందించి, అమలు చేయగలదు.

అయితే, 'ఆస్ట్రా' అనేది తమ అప్​కమింగ్ మోడల్ అని, ఇటీవల జరిగిన 'హగ్గింగ్ ఫేస్'​పై అటానమస్ సైబర్ దాడిలో దీనికి ఎలాంటి సంబంధం లేదని ఓపెన్‌ఏఐ స్పష్టం చేసింది. ప్రస్తుతానికి ఈ మోడల్‌పై ప్రాథమిక పరీక్షలు మాత్రమే జరుగుతున్నాయని, అయితే దీని పనితీరు అసాధారణంగా ఉండటం వల్లే, ఈ దశలోనే ఇది 'క్రిటికల్-లెవెల్' సామర్థ్యాన్ని కలిగి ఉండే అవకాశాన్ని పూర్తిగా కొట్టిపారేయలేమని సంస్థ పేర్కొంది.

సెక్యూరిటీ కంట్రోల్స్ పెంపు: ఈ నేపథ్యంలో భవిష్యత్తులో రాబోయే అధునాతన సైబర్ సామర్థ్యాలు ఉన్న మోడళ్లకు తగిన రక్షణ కల్పించేలా, 'ఆస్ట్రా' (Astra) సేఫ్‌గార్డ్స్ , సెక్యూరిటీ కంట్రోల్స్ పటిష్టతను పరీక్షించే పరిధిని మరింత విస్తరించినట్లు ఓపెన్‌ఏఐ ప్రకటించింది.

అధిక సామర్థ్యం గల మోడళ్ల కోసం కంపెనీ మరింత కఠినమైన భద్రతా చర్యలను అమలు చేస్తోంది. వీటిలో ప్రత్యేక టెస్టింగ్ ఎన్విరాన్‌మెంట్లు, నెట్‌వర్క్ & టూల్స్ వినియోగంపై ఆంక్షలు, మోడల్ వెయిట్స్ (Model Weights) కు పటిష్టమైన రక్షణ & ఎన్‌క్రిప్షన్, మెరుగైన మానిటరింగ్ & డిటెక్షన్ సిస్టమ్‌లు, అలాగే వీటిని స్యాండ్‌బాక్స్ (Sandbox) లో రన్ చేసే సదుపాయాలు ఉన్నాయి.

కఠినమైన భద్రతా ప్రమాణాలను ఇంకా అందుకోని 'ఆస్ట్రా'కు సంబంధించిన కొన్ని అంతర్గత కార్యకలాపాలను ప్రస్తుతానికి నిలిపివేసినట్లు ఓపెన్‌ఏఐ స్పష్టం చేసింది. ఆస్ట్రా ఏజెంటిక్ అప్లికేషన్లలో – ట్రైనింగ్, మూల్యాంకనంతో సహా – ప్రమాదకరమైన పనులను, ముందుముందు ఎదురయ్యే అవకాశం ఉన్న (మిస్-అలైన్‌మెంట్) లోపాలను పర్యవేక్షించడానికి ఒక యూనివర్సల్ సిస్టమ్‌ను అమల్లోకి తెచ్చినట్లు పేర్కొంది.

భద్రతా చర్యలపై ఓపెన్‌ఏఐ పర్యవేక్షణ: ఈ పర్యవేక్షణ వ్యవస్థలు, మోడల్ ఆలోచనా సరళిని ఎప్పటికప్పుడు అంచనా వేస్తూ ఉంటాయి. ఒకవేళ మోడల్ ఏదైనా అత్యంత ప్రమాదకరమైన పనికి పాల్పడుతున్నట్లు గుర్తిస్తే, వెంటనే దానిని సమీక్షించడానికి లేదా నిలిపివేయడానికి అవసరమైన భద్రతా చర్యలను (యాక్షన్స్) ఇవి తీసుకోగలవు.

దీంతోపాటు, 'ఆస్ట్రా' సామర్థ్యాలను పరీక్షించడానికి సంబంధిత ప్రభుత్వ సంస్థలు, ఎంపిక చేసిన AI భద్రతా సంస్థలతో కలిసి పనిచేయాలని కూడా కంపెనీ యోచిస్తోంది. అలాగే, హై-రిస్క్ మూల్యాంకనాలను నిర్వహించే థర్డ్-పార్టీ టెస్టింగ్ పార్ట్‌నర్లకు అవసరమైన సెక్యూరిటీ కంట్రోల్స్ కూడా అందజేయనుంది.

గతంలో బయోలజీ (జీవశాస్త్రం) వంటి రంగాలలో ఇలాంటి సరికొత్త ఏఐ సామర్థ్యాలు బయటపడినప్పుడు.. వాటిని ఎలా ఎదుర్కోవాలో నిర్ణయించడంలో తమ 'ప్రిపేర్డ్‌నెస్ ఫ్రేమ్‌వర్క్' కీలక పాత్ర పోషించిందని ఓపెన్‌ఏఐ గుర్తుచేసింది. ఇలాంటి అధునాతన సైబర్ సామర్థ్యాలు గల మోడళ్లు.. వ్యవస్థల్లోని లోపాలను ముందే గుర్తించి, వాటిని సరిచేయడంలో సైబర్ సెక్యూరిటీ నిపుణులకు సహాయపడాలని కంపెనీ ఆకాంక్షిస్తోంది. దీనివల్ల హ్యాకర్లు ఆ లోపాలను దుర్వినియోగం చేయకుండా అడ్డుకోవచ్చని, అందుకే మరింత శక్తివంతమైన ఏఐ వ్యవస్థలను బాధ్యతాయుతంగా అందుబాటులోకి తీసుకురావాల్సిన అవసరం ఉందని సంస్థ హైలైట్ చేసింది.