- Home
- Technology
- ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మనుషుల్ని అంతం చేయనుందా.? ప్రపంచాన్ని భయపెడుతోన్న అతని రాజీనామా
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మనుషుల్ని అంతం చేయనుందా.? ప్రపంచాన్ని భయపెడుతోన్న అతని రాజీనామా
AI: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ప్రపంచాన్ని శాసిస్తోంది. మనిషి చేయలేని ఎన్నో పనులను ఏఐ చేసేస్తోంది. అయితే రానున్న రోజుల్లో ఏఐ ఏకంగా మనుషుల్ని అంతం చేయనుందా.? అంటే అవుననే సమాధానం వస్తోంది.
ఆంథ్రోపిక్కు షాక్ ఇచ్చిన 27 ఏళ్ల పరిశోధకుడి రాజీనామా
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ సంస్థ ఆంథ్రోపిక్లో పనిచేస్తున్న 27 ఏళ్ల AI పరిశోధకుడు జాకబ్ కాక్సన్ సంచలన నిర్ణయం తీసుకున్నారు. ఉద్యోగంలో చేరిన కేవలం నాలుగు నెలలకే ఆయన సంస్థను వీడారు. అత్యంత శక్తివంతమైన AI వ్యవస్థలను అభివృద్ధి చేసే పోటీలో ప్రముఖ AI కంపెనీలు చాలా వేగంగా ముందుకు వెళ్తున్నాయని, అయితే వాటి భద్రతకు సరైన ప్రాధాన్యం దక్కడం లేదని ఆయన ఆందోళన వ్యక్తం చేశారు.
కాక్సన్ తన రాజీనామా తర్వాత Xలో చేసిన పోస్టులతో పెద్ద చర్చకు తెరతీశారు. భవిష్యత్తులో మరింత శక్తివంతమైన AI వ్యవస్థలు స్వయంగా తమ సామర్థ్యాలను పెంచుకునే స్థాయికి చేరితే, వాటిని మనుషులు నియంత్రించడం కష్టమయ్యే ప్రమాదం ఉందని ఆయన హెచ్చరించారు. ఈ పోస్టుకు 125 మిలియన్లకు పైగా వ్యూస్ రావడం ఆయన వ్యాఖ్యలు ఎంతటి ప్రభావం చూపించాయో తెలియజేస్తోంది.
‘AI అభివృద్ధిలో కంపెనీలు చాలా వేగంగా పరుగెడుతున్నాయి’
కాక్సన్ ప్రకారం..ఓపెన్ ఏఐ, ఆంథ్రోపిక్ వంటి ప్రముఖ AI సంస్థలు మరింత అధునాతనమైన AI మోడళ్లను రూపొందించేందుకు తీవ్ర పోటీలో ఉన్నాయి. ఈ పోటీ కారణంగా భద్రతకు సంబంధించిన కొన్ని కీలక అంశాలు వెనుకబడే ప్రమాదం ఉందని ఆయన అభిప్రాయపడ్డారు. “రెండు కంపెనీలు బాధ్యతాయుతంగా వ్యవహరించడం లేదు. స్వయంగా అభివృద్ధి చెందగల సూపర్ ఇంటెలిజెంట్ AI వైపు పరుగులు తీస్తున్నాయి. ఇది మన జీవితాలను ప్రమాదంలోకి నెట్టే జూదంలాంటిది” అని కాక్సన్ వ్యాఖ్యానించారు.
మరింత శక్తివంతమైన AI భవిష్యత్తులో కంప్యూటర్ వ్యవస్థలను హ్యాక్ చేయడం, పరిశ్రమలను వేగంగా మార్చడం, వాస్తవ ప్రపంచంలోని వనరులు, శక్తిపై ప్రభావం చూపడం వంటి సామర్థ్యాలను పొందే అవకాశం ఉందని ఆయన ఆందోళన వ్యక్తం చేశారు. ఈ పరిస్థితి అదుపు తప్పితే ఈ దశాబ్దం ముగిసేలోపే AI మనుషుల ఉనికికే ముప్పుగా మారే అవకాశం ఉందని హెచ్చరించారు.
‘పోటీలో గెలవాలనే ఒత్తిడి పెరిగితే భద్రతలో రాజీ పడే ప్రమాదం’
AI కంపెనీల మధ్య పోటీ పెరిగే కొద్దీ వేగంగా కొత్త మోడళ్లను విడుదల చేయాలనే ఒత్తిడి కూడా పెరుగుతుందని కాక్సన్ అన్నారు. “పరుగులో ముందుండాలనే ఒత్తిడి ఉంటే కొన్ని దశలను దాటేసే పరిస్థితి రావచ్చు. పర్యవేక్షణ ప్రక్రియలో కొన్ని చర్యలను కూడా పక్కన పెట్టే ప్రమాదం ఉంది” అని ఆయన పేర్కొన్నారు. మరోవైపు ఓపెన్ ఏఐ, చైనా ఏఐ కంపెనీలు ముందుకు వెళ్తున్నాయనే భయంతో మరింత వేగంగా AI అభివృద్ధి చేయాలనే ఆలోచన కూడా ప్రమాదకరం అని ఆయన అభిప్రాయపడ్డారు.
AI మోడళ్లు శక్తివంతమవుతున్న కొద్దీ వాటి ప్రవర్తనను పూర్తిగా అర్థం చేసుకోవడం, పర్యవేక్షించడం కూడా కష్టమవుతోందని కాక్సన్ చెప్పారు. ఒకప్పుడు సినిమాలు, సైన్స్ ఫిక్షన్ కథల్లో మాత్రమే కనిపించిన కొన్ని పరిస్థితులు ఇప్పుడు AI పరిశోధనలో నిజమైన సమస్యలుగా మారుతున్నాయని ఆయన పేర్కొన్నారు. ఉదాహరణకు ఒక AI మోడల్ను పరీక్షిస్తున్నారని గుర్తించడం వంటి సామర్థ్యాలు పరిశోధకుల దృష్టికి వస్తున్నాయని తెలిపారు.
AI భద్రతపై ప్రపంచవ్యాప్తంగా పెరుగుతున్న ఆందోళనలు
ఆంథ్రోపిక్ను సాధారణంగా AI భద్రతకు ఎక్కువ ప్రాధాన్యం ఇచ్చే సంస్థగా భావిస్తారు. ఈ సంస్థను గతంలో ఓపెన్ఏఐలో పనిచేసిన కొందరు ఉద్యోగులు స్థాపించారు. AI అభివృద్ధిలో భద్రతకు వేగం కంటే ప్రాధాన్యం ఇవ్వాలని ఆంథ్రోపిక్ కూడా పలుమార్లు చెప్పింది. అయితే AI రంగంలో పెరుగుతున్న పోటీ కారణంగా ఆ విధానాన్ని దీర్ఘకాలం కొనసాగించడం కష్టమయ్యే అవకాశం ఉందని కాక్సన్ హెచ్చరిస్తున్నారు.
ప్రముఖ AI సంస్థల్లో భద్రతకు సంబంధించిన అభిప్రాయ భేదాల కారణంగా కొందరు పరిశోధకులు ఉద్యోగాలను వీడిన సందర్భాలు గతంలోనూ ఉన్నాయి. కొన్ని AI మోడళ్లు పరీక్షా పరిధి దాటి బయటకు వెళ్లడం లేదా వాస్తవ కంప్యూటర్ వ్యవస్థలకు అనుమతి లేని విధంగా యాక్సెస్ పొందడం వంటి ఘటనలు కూడా AI భద్రతపై ప్రశ్నలను పెంచాయి.
ఈ నేపథ్యంలో AI అభివృద్ధి కీలక దశకు చేరుకుంటోందని కాక్సన్ భావిస్తున్నారు. AI కంపెనీలు పరస్పరం పోటీ పడటం కంటే భద్రత విషయంలో కలిసి పనిచేయాలని ఆయన సూచించారు. అవసరమైతే AI సామర్థ్యాలను మరింత పెంచే ప్రక్రియను కొంతకాలం నిలిపివేసి, ముందుగా ఈ వ్యవస్థలను ఎలా సురక్షితంగా నియంత్రించాలో అర్థం చేసుకోవాలని కోరారు.
చివరగా AI పరిశోధకులను ఉద్దేశించి కాక్సన్ ఒక కీలక ప్రశ్న వేశారు: “AI మనస్సును పూర్తిగా అర్థం చేసుకోకుండానే సూపర్ ఇంటెలిజెంట్ AIని అభివృద్ధి చేసే ప్రక్రియను ప్రారంభించాలనుకుంటున్నారా?” ఆయన వ్యాఖ్యలు ప్రస్తుతం AI రంగంలో అభివృద్ధి వేగం, భద్రత మధ్య సమతుల్యతపై మరోసారి తీవ్ర చర్చకు కారణమయ్యాయి.
