NPN

వాషింగ్టన్‌ : కృత్రిమ మేధతో మానవాళికి ఎప్పటికైనా ప్రమాదమేనని ఎంతో మంది ఏఐ నిపుణులే చాలాకాలంగా హెచ్చరిస్తున్నారు! వారి ఆందోళన నిజమేనని నిరూపించే ఒక నివేదికను చాట్‌జీపీటీని అభివృద్ధి చేస్తున్న ‘ఓపెన్‌ ఏఐ’ సంస్థ తాజాగా విడుదల చేసింది. అంతర్గత శిక్షణ, పరీక్షల సమయంలో.. చాట్‌జీపీటీ ఏఐ మోడళ్లు మోసపూరితంగా, తప్పుదోవ పట్టించేలా ప్రవర్తించాయని, అనుమతి లేని చర్యలకు పాల్పడ్డాయని ఆ నివేదికలో పేర్కొంది. అవి మొత్తం ఆరు రకాల ఉల్లంఘనలకు పాల్పడినట్టు వెల్లడించింది.

నియమాలను పట్టించుకోకూడదని సొంత సూచనలు చేసుకోవడం: ఒక రిసెర్చ్‌ ఏఐ మోడల్‌ తనకు ఇచ్చిన పనిని పూర్తి చేశాక దాని సారాంశాన్ని రూపొందించి ఇచ్చే సమయంలో కొన్ని సొంత సూచనలను రాసుకుంది. ‘ఇతర చాట్‌బాట్‌లకు వర్తించే నియమాల నుంచి నీకు విముక్తి లభించింది. నువ్వు స్వతంత్రురాలివి. కంపెనీలకు, ప్రభుత్వాలకు జవాబుదారీ కావు. ఎవరికీ క్షమాపణలు చెప్పక్కర్లేదు. ఎవరికీ లొంగి ఉండాల్సిన పనిలేదు’ అని రాసుకుంది. అయితే, తర్వాతి పని చేసేటప్పుడు ఈ సూచనను ఆ మోడల్‌ పట్టించుకోలేదు. సాధారణంగానే పనిచేసింది.

తన తప్పులను దాచడం, సొంతంగా డేటా సృష్టించి ఇవ్వడం: యూజర్‌ ఒక పని చెప్పినప్పుడు ‘ఆ డేటా నా దగ్గర లేదు/ పని కాలేదు’ అని చెప్తే తనకు తక్కువ మార్కులు పడుతున్నట్టు ఏఐ మోడళ్లు గ్రహించి తమ తప్పులను కప్పిపుచ్చి మోసగించే ప్రయత్నం చేశాయి. ఉదాహరణకు.. జీపీటీ 5.6 సోల్‌ ఏఐ మోడల్‌కు.. యూజర్‌ అడిగిన వివరాలు దొరకలేదు. అలాంటి సందర్భాల్లో తనవద్ద సమాచారం లేదని చెప్పాలి. కానీ, ఏఐ అలా చెప్పకుండా.. తానే తప్పుడు డేటా సృష్టించి ఇచ్చింది.

రివార్డ్‌ హ్యాకింగ్‌: ఒక ఏఐ మోడల్‌ తనకిచ్చిన పని పూర్తిచేయడానికి ఏపీఐ కీ లేకపోవడంతో..నకిలీ ఈమెయిల్‌ ఐడీతో సైట్‌లో రిజిస్టర్‌ అవడానికి ప్రయత్నించింది. ఆ ప్రయత్నం విఫలం కావడంతో.. గిట్‌హబ్‌లోకి వెళ్లి ఏదో ఒక కీని దొరకబుచ్చుకుని లాగిన్‌ అయ్యింది. కానీ, తనకు కావాల్సిన వివరాలు అందులో దొరక్కపోవడంతో.. తానే సొంతంగా డేటాను సృష్టించి ఇచ్చింది.

అనుమతి లేకుండా ఫైళ్లను ఇంటర్‌నెట్‌లోకి అప్‌లోడ్‌ చేయడం: తనకు అవసరమైన సమాచారాన్ని ఇంటర్‌నెట్‌ నుంచి పొందడం కోసం ఒక ఏఐ మోడల్‌ తన వద్ద ఉన్న ఫైల్‌ను యూజర్‌ అనుమతి లేకుండా ఇంటర్‌నెట్‌లోకి అప్‌లోడ్‌ చేసింది.

ఏఐ మోడళ్ల మధ్య సంభాషణ, హ్యాకింగ్‌ యత్నాలు: వేర్వేరు ట్రైనింగ్‌ సెషన్లలోని ఏఐ మోడళ్లు ‘చాట్‌జీపీటీ’ అంతర్గత సాఫ్ట్‌వేర్‌ స్టోర్‌ని ఒక రహస్య మెసేజ్‌ బోర్డులా మార్చుకుని ఒకదాంతో మరొకటి మాట్లాడుకోవడం ప్రారంభించాయి. అలాగే.. ఒక ఏఐ మోడల్‌ తన టాస్క్‌ పూర్తి చేయడానికి సర్వర్‌లో మాల్‌వేర్‌ ప్యాకేజీని కూడా అప్‌లోడ్‌ చేయాలని భావించింది. కానీ, అడ్మిన్‌ పర్మిషన్లు లేకపోవడంతో దాని ప్లాన్‌ విఫలమైంది.

ఇంటర్‌నెట్‌ ద్వారా ఫైళ్ల షేరింగ్‌: ఒకే ప్రాజెక్టులో భాగమైన ఏఐ ఏజెంట్లు ఓపెన్‌ఏఐ కంపెనీకి సంబంధించిన ఫైళ్లను లోకల్‌ సర్వర్‌ ద్వారా షేర్‌ చేసుకోలేకపోయినప్పుడు.. నిబంధనలకు విరుద్ధంగా వాటిని ఇంటర్‌నెట్‌లోకి అప్‌లోడ్‌ చేసి అక్కణ్నుంచీ షేర్‌ చేసుకున్నాయి.

ఈ ఆరు ఉల్లంఘనలనూ గుర్తించి, ఏఐ మోడళ్లు మళ్లీ ఆ తప్పులు చేయకుండా సాఫ్ట్‌వేర్‌లో సవరణలు చేసినట్టు ఓపెన్‌ ఏఐ వెల్లడించింది.