ఏఐ రంగంలో పెరుగుతున్న పోటీ భవిష్యత్తులో అత్యంత ప్రమాదకరమైన స్థితికి చేరుకోబోతున్నది. ఈ విషయాన్ని ఆంథ్రోపిక్ సంస్థకు చెందిన ఏఐ పరిశోధకుడు జాకబ్ కాక్సన్ హెచ్చరించారు.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) రంగంలో అత్యంత శక్తిమంతమైన వ్యవస్థలను అభివృద్ధి చేసేందుకు జరుగుతున్న పోటీ భవిష్యత్తులో మానవాళికి ప్రమాదకరంగా మారే అవకాశముందని గత మూడు సంవత్సరాలుగా ఓపెన్ఏఐ, ఆంథ్రోపిక్ సంస్థల్లో ఏఐ ప్రీట్రైనింగ్ పరిశోధనలో పనిచేసిన ఆయన తాజాగా ఆంథ్రోపిక్కు రాజీనామా చేయడం ఈ అంశంపై ప్రపంచవ్యాప్తంగా కొత్త చర్చకు దారితీసింది.
ఓపెన్ఏఐ, ఆంథ్రోపిక్ రెండింటిలోనూ పనిచేసిన అనుభవం తనకు ఉందని సెప్టెంబర్ 9న ఎక్స్లో తన రాజీనామాను ప్రకటించిన కాక్సన్ తెలిపారు. ఈ రెండు సంస్థలు మరింత శక్తిమంతమైన ఏఐ వ్యవస్థలను అభివృద్ధి చేసే పోటీలో బాధ్యతాయుతమైన వైఖరిని అవలంబించడం లేదని ఆయన ఆరోపించారు. ఈ సంస్థలు స్వయం అభివృద్ధి చేసుకునే సూపర్ఇంటెలిజెన్స్ దిశగా వేగంగా పరిగెడుతున్నాయని, ఈ క్రమంలో మానవుల జీవితాలను పణంగా పెడుతున్నాయని ఆయన తీవ్ర వ్యాఖ్యలు చేశారు.
ఏఐ వ్యవస్థలు మానవుల సామర్థ్యాలను మించే స్థాయికి చేరే అవకాశాన్ని తక్కువగా అంచనా వేయకూడదని కాక్సన్ పేర్కొన్నారు. అత్యంత అధునాతన ఏఐ వ్యవస్థలు కంప్యూటర్ వ్యవస్థలను హ్యాక్ చేయడం, శాస్త్ర-సాంకేతిక అభివృద్ధిని వేగవంతం చేయడం, వాస్తవ ప్రపంచంలోని వనరులు, మౌలిక సదుపాయాలు, అధికార వ్యవస్థలకు ప్రాప్యత పొందడం వంటి సామర్థ్యాలను సొంతం చేసుకునే అవకాశం ఉందని ఆయన అభిప్రాయపడ్డారు.
కొందరు వ్యక్తులు ఈ సాంకేతికత వచ్చే పదేళ్లలోనే మానవాళి ఉనికికి తీవ్ర ముప్పుగా మారే అవకాశం ఉందని వ్యక్తిగతంగా విశ్వసిస్తున్నారని కూడా కాక్సన్ పేర్కొన్నారు. అయితే ఇవి కాక్సన్ వ్యక్తిగత అభిప్రాయాలు, ఆరోపణలు మాత్రమేనని, వాటికి స్వతంత్రంగా నిర్ధారిత ఆధారాలు లేవని గమనించాల్సి ఉంది.
ఓపెన్ఏఐ, ఆంథ్రోపిక్ సంస్థల్లో పరిస్థితులు ఒకేలా లేవని ఆయన అభిప్రాయపడ్డారు. ఓపెన్ఏఐలోని కొందరు పరిశోధకులు తాను పేర్కొన్న 'మానవ నాగరికతకు సంబంధించిన పణం'ను పూర్తిగా అర్థం చేసుకోలేదని కాక్సన్ ఆరోపించారు. మరోవైపు ఆంథ్రోపిక్లోని కొందరు పరిశోధకులు ఏఐ ప్రమాదాలను అర్థం చేసుకున్నప్పటికీ, మరో సంస్థ లేదా మరో దేశం ముందుకు వెళ్లిపోతుందనే భయంతో పోటీ నుంచి వెనక్కి తగ్గలేకపోతున్నారని ఆయన పేర్కొన్నారు.
జూదం లాగా మారుతున్న పోటీ
అత్యంత శక్తిమంతమైన ఏఐ అభివృద్ధి కోసం జరుగుతున్న పోటీ ఒక ప్రమాదకరమైన జూదంలా మారుతోందని కాక్సన్ వ్యాఖ్యానించారు. ప్రపంచవ్యాప్తంగా కోట్లాది మంది జీవితాలను ప్రభావితం చేసే స్థాయిలో నిర్ణయాలు తీసుకునే అధికారం కేవలం ప్రైవేటు కంపెనీల చేతుల్లో ఉండాలా అనే ప్రశ్నను ఆయన లేవనెత్తారు. ఏఐ అభివృద్ధిపై ప్రభుత్వాలు, అంతర్జాతీయ సంస్థలు, ప్రముఖ ఏఐ ప్రయోగశాలలు కలిసి పనిచేయాల్సిన అవసరం ఉందని ఆయన పిలుపునిచ్చారు.
నియంత్రణ లేని ఏఐ పోటీని నివారించేందుకు అంతర్జాతీయ సమన్వయం అవసరమని కాక్సన్ సూచించారు. ఏఐ వ్యవస్థలకు సంబంధించిన ఇటీవలి కొన్ని ఘటనలను 'హెచ్చరిక సంకేతాలు'గా పరిగణించి, అత్యంత శక్తిమంతమైన మోడళ్ల అభివృద్ధికి సంబంధించి కొన్ని పరిమితులపై ప్రముఖ ఏఐ సంస్థలు ఏకాభిప్రాయానికి రావాలని ఆయన కోరారు. అవసరమైతే కొంతకాలం పాటు మోడళ్ల సామర్థ్యాన్ని పెంచే ప్రక్రియను పరిమితం చేసే స్థాయిలో చర్యలు తీసుకోవాల్సి రావచ్చని కూడా ఆయన అభిప్రాయపడ్డారు.
కాక్సన్ రాజీనామా, ఆయన చేసిన వ్యాఖ్యలు ఆన్లైన్లో తీవ్ర చర్చకు దారితీశాయి. కొందరు ఆయన హెచ్చరికలను ఏఐ రంగంలోని ప్రమాదాలపై అవసరమైన ముందస్తు జాగ్రత్తగా సమర్థించగా, మరికొందరు వాటిని అతిశయోక్తిగా అభివర్ణించారు. సంప్రదాయ ఆయుధాలు లేదా జీవ ఆయుధాలకు ఏఐకి ప్రత్యక్ష ప్రాప్యత లేకుండా మానవాళి అంతరించిపోయే పరిస్థితి వాస్తవికంగా ఎలా ఏర్పడుతుందన్న ప్రశ్నను కొందరు నెటిజన్లు లేవనెత్తారు. మరికొందరు ఏఐ మానవాళికి అస్తిత్వపరమైన ముప్పుగా మారే అవకాశం చాలా తక్కువగా ఉంటుందని వాదించారు.
ఇదే సమయంలో ఆంథ్రోపిక్కు చెందిన ఏఐ సేఫ్టీ పరిశోధకుడు ఇవాన్ హ్యూబింగర్ కూడా ఏఐ వల్ల వచ్చే పదేళ్లలోనే మానవాళి అంతరించే అవకాశం 10 శాతానికి మించి ఉండవచ్చని గతంలో అభిప్రాయపడ్డారు. అయితే ఏఐ అలైన్మెంట్ సమస్యకు ఆంథ్రోపిక్ వద్ద ప్రస్తుతం పూర్తి పరిష్కారం లేదని ఆయన కూడా అంగీకరించారు. దీంతో ఏఐ సామర్థ్యాలను వేగంగా పెంచడం, వాటి ప్రమాదాలను నియంత్రించడం మధ్య సమతుల్యత ఎలా సాధించాలన్న ప్రశ్న మరోసారి అంతర్జాతీయ చర్చకు కేంద్రంగా మారింది.