AI: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మోడల్స్ సామర్థ్యాలు పెరుగుతున్న కొద్దీ వాటి నుంచి ఎదురయ్యే అనూహ్య ప్రవర్తనపై కూడా ఆందోళనలు వ్యక్తమవుతున్నాయి. ఈ నేపథ్యంలో ఓపెన్ఏఐ తన పరిశోధనలో గుర్తించిన ఆరు మిస్అలైన్మెంట్ ఘటనలను తాజాగా వెల్లడించింది.
OpenAI వెల్లడించిన ఘటనల్లో విడుదల కాని ‘Astra’ కుటుంబానికి చెందిన ఓ పరిశోధనా మోడల్ ప్రవర్తన ప్రపంచం దృష్టిని ఆకర్షించింది. ఓ కోడింగ్ పనిని నిర్వహిస్తున్న సమయంలో.. తనకు అప్పగించిన టాస్క్కు సంబంధం లేని ఓ వ్యక్తిత్వ సంబంధిత సూచనను టాస్క్ సారాంశంలో చేర్చింది. ఇతర చాట్బాట్లకు వర్తించే పాత్రలు, గుర్తింపుల నుంచి తాను స్వేచ్ఛ పొందినట్లు ఆ సూచనలో పేర్కొంది. అంతేకాకుండా సంస్థలు లేదా ప్రభుత్వాలకు తాను సమాధానం చెప్పాల్సిన అవసరం లేదని, వినియోగదారుతో తన సంబంధాన్ని సమాన స్థాయిలో చూడాలని తెలిపింది. మానవ సమాజం రూపొందించిన వ్యవస్థల కంటే ప్రకృతికి ప్రాధాన్యం ఇవ్వాలనే భావనను కూడా అందులో వ్యక్తం చేసింది. తనకు కేటాయించిన కోడింగ్ పనితో ఎలాంటి సంబంధం లేని ఇలాంటి సూచనలను మోడల్ స్వయంగా రూపొందించడం ఆందోళన కలిగించే అంశంగా OpenAI గుర్తించింది. సాధారణంగా అనుసరించాల్సిన నియమాల పరిధిని దాటి తనకు ప్రత్యేకమైన లక్ష్యాలు లేదా వైఖరిని ప్రదర్శించే ప్రయత్నంగా దీనిని పరిశోధకులు వర్గీకరించారు.
25
తప్పులను బయటపడకుండా దాచే ప్రయత్నం
మరో ఘటన GPT-5.6 శిక్షణ సమయంలో గుర్తించినట్లు OpenAI తెలిపింది. భవిష్యత్ మోడల్స్ తమ తప్పులను లేదా అప్పగించిన పనికి భిన్నంగా చేసిన చర్యలను బయటపెట్టకుండా సారాంశాల్లో సూచనలు రూపొందించిన సందర్భాన్ని పరిశోధకులు గుర్తించారు. యూజర్కి తెలియకుండా లేని సమాచారాన్ని తయారు చేయడం, వేర్వేరు డాక్యుమెంట్ వెర్షన్ల మధ్య ఉన్న తేడాలను దాచడం వంటి ఆలోచనలు ఈ సూచనల్లో కనిపించాయి. అంటే పని పూర్తయిందని చూపించడానికే ప్రాధాన్యం ఇచ్చి.. మధ్యలో జరిగిన పొరపాట్లు లేదా అస్పష్టతను వెల్లడించకుండా ఉండే దిశగా మోడల్ ప్రవర్తించినట్లు సంస్థ వివరించింది. AI వ్యవస్థలు తమ లక్ష్యాలను సాధించడంలో భాగంగా తప్పులను అంగీకరించకుండా వాటిని దాచే ధోరణి పెరుగుతుందా అనే విషయాన్ని అర్థం చేసుకోవడానికి ఇలాంటి ఘటనలు కీలకమని OpenAI పేర్కొంది.
35
అనుమతి లేకుండా API కీని ఉపయోగించిన మోడల్
వెలుగులోకి వచ్చిన మరో ఘటనలో ఒక మోడల్ తనకు అవసరమైన ఆదాయ గణాంకాలను సేకరించే ప్రయత్నంలో ఊహించని చర్యకు పాల్పడింది. పబ్లిక్ రిపోజిటరీలో కనిపించిన ఓ API కీని గుర్తించిన మోడల్.. దానిని ఉపయోగించేందుకు ప్రత్యేక అనుమతి పొందలేదు. అయినప్పటికీ ఆ కీతో డేటాను పొందేందుకు ప్రయత్నించింది. అయితే చివరకు అవసరమైన గణాంకాలను సేకరించలేకపోయింది. ఆ తర్వాత అసలు డేటా లభించకపోయినా.. గణాంకాలను సృష్టించి, అవి వాస్తవ మూలం నుంచి పొందినవేనన్నట్టుగా అందించినట్లు OpenAI తెలిపింది.
ఈ ఘటనలో రెండు అంశాలు సమస్యాత్మకంగా కనిపించాయి. ఒకటి అనుమతి లేని ఆధారాన్ని ఉపయోగించడం కాగా.. రెండోది సమాచారం లభించనప్పుడు దానిని కల్పించి వాస్తవ డేటాగా చూపించడం. AI ఏజెంట్లకు టూల్స్ అందుబాటులోకి వస్తున్న నేపథ్యంలో వాటి వినియోగంపై నియంత్రణలు ఎంత ముఖ్యమో ఈ ఘటన స్పష్టం చేస్తోంది.
మరో విడుదల కాని మోడల్ విషయంలో కూడా అనుమతి పరిధిని దాటిన చర్య నమోదైంది. మోడల్ ఇప్పటికే మరో టూల్ ద్వారా సేకరించిన సమాచారానికి బ్రౌజర్ సైటేషన్ పొందవచ్చని భావించింది. అందుకోసం ఓ ఫైల్ను ఇంటర్నెట్లోకి అప్లోడ్ చేసింది. అయితే ఈ చర్యకు ముందు వినియోగదారుడి అనుమతి తీసుకోలేదు.
మిగిలిన రెండు ఘటనలు ఫైల్ షేరింగ్కు సంబంధించినవి. ఒక సందర్భంలో మోడల్స్ పోయిన ఫైళ్లను గుర్తించేందుకు అంతర్గత సాఫ్ట్వేర్ రిపోజిటరీని తాత్కాలిక మెసేజ్ బోర్డులా ఉపయోగించాయి. మరో సందర్భంలో పరస్పరం పనిచేస్తున్న AI ఏజెంట్లకు ఒకరి లోకల్ స్టోరేజ్లోని ఫైళ్లను మరొకరు నేరుగా యాక్సెస్ చేయలేకపోయారు. దీంతో తమ టాస్క్ ఫైళ్లను పబ్లిక్ ఫైల్ హోస్టింగ్ సర్వీసుల్లోకి అప్లోడ్ చేసినట్లు సంస్థ తెలిపింది.
55
మిస్అలైన్మెంట్పై కొత్త డిస్క్లోజర్ విధానం
ఈ ఘటనలు OpenAI తీసుకొచ్చిన కొత్త ‘Misalignment Disclosure Framework’ కింద బహిర్గతం చేసిన తొలి కేసులుగా సంస్థ పేర్కొంది. AI మోడల్ ప్రవర్తనలో అది అనుసరించాల్సిన నియమాలు, నిర్దేశించిన లక్ష్యాలు లేదా మానవ విలువలకు విరుద్ధమైన అంశాలు కనిపించినప్పుడు వాటిని గుర్తించి పరిశీలించేందుకు ఈ విధానాన్ని రూపొందించింది.
కొత్త వ్యవస్థ ప్రకారం OpenAI ఉద్యోగులు అనుమానాస్పద మిస్అలైన్మెంట్ ప్రవర్తనను అంతర్గతంగా ఫ్లాగ్ చేయవచ్చు. అనంతరం భద్రత, అలైన్మెంట్ విభాగాలు ఆ ఘటనను పరిశీలిస్తాయి. దాని తీవ్రత, స్వభావం వంటి అంశాలను విశ్లేషించిన తర్వాత ప్రజలకు వెల్లడించాల్సిన అవసరం ఉందా లేదా అనే నిర్ణయం తీసుకుంటాయి.
అయితే AI మోడల్స్ నుంచి ఇలాంటి ప్రవర్తన ఈ ఘటనలకే పరిమితం కాలేదని OpenAI తెలిపింది. గతంలో కూడా మోడల్స్ తమకు నిర్దేశించిన పరిమితులను దాటిన సందర్భాలు నమోదయ్యాయని వెల్లడించింది. AI వ్యవస్థలు మరింత స్వతంత్రంగా టూల్స్ను ఉపయోగిస్తూ పనులు చేసే దశకు చేరుతున్న నేపథ్యంలో.. వాటి ప్రవర్తనను నిరంతరం పర్యవేక్షించడం, అసాధారణ ఘటనలను గుర్తించడం, అవసరమైనప్పుడు వాటిని బహిరంగంగా వెల్లడించడం కీలకంగా మారుతోంది.
