या सगळ्या चिंतेच्या मुळाशी आहे एआय कंपन्यांमध्ये चाललेली आंधळी शर्यत. एंथ्रोपिकसारख्या कंपन्यांना एआयमधील धोक्यांची पूर्ण जाणीव आहे; परंतु आपण जर विकासाचा वेग मंदावला तर प्रतिस्पर्धी कंपन्या पुढे निघून जातील आणि त्या अधिक बेजबाबदारपणे हे तंत्रज्ञान विकसित करतील, या भीतीपोटी ही जीवघेणी शर्यत थांबायला तयार नाही. संशोधक अशा सिस्टीम्स बनवत आहेत, ज्यांची विचारसरणी किंवा कार्यपद्धती मानवी बुद्धीलाही पूर्णपणे समजलेली नाही. सर्वांत मोठा धोका 'सुपरइंटेलिजन्स' आणि त्यातून निर्माण होणाऱ्या 'रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट' म्हणजेच स्वतःमध्येच सतत सुधारणा करण्याच्या क्षमतेमुळे आहे. जेव्हा एखादी एआय सिस्टीम मानवी बुद्धिमत्तेला मागे टाकून स्वतःचे नियम स्वतः बनवू लागेल, तेव्हा ती मानवी नियंत्रणाच्या पलीकडे गेलेली असेल. पुढील दशकात एआयमुळे मानवजात संकटात येण्याची शक्यता १० टक्क्यांहून अधिक आहे, ही संशोधकांची कबुली अत्यंत धडकी भरवणारी आहे.
संयुक्त राष्ट्रांचे मानवाधिकार प्रमुख व्हॉल्कर तुर्क यांच्यापासून ते ओपनएआयचे मुख्य शास्त्रज्ञ याकुब पाचोकी, सॅम आल्टमन, जॉफ्री हिंटन आणि योशुआ बेंगिओ यांच्यासारख्या दिग्गजांनी या तंत्रज्ञानावर कठोर सुरक्षा उपायांची म्हणजेच 'कास्ट-आयरन गॅरंटी'ची मागणी केली आहे. एआयचा धोका केवळ नोकऱ्या जाण्यापुरता किंवा चुकीची माहिती पसरवण्यापुरता मर्यादित नाही. अत्यंत प्रगत एआयचा वापर घातक जैविक आणि रासायनिक हत्यारे, सिंथेटिक रोगजनक (pathogens) आणि स्वायत्त सायबर हत्यारे तयार करण्यासाठी केला जाऊ शकतो. सुरक्षा चाचण्यांमध्ये एआय मॉडेल्सनी शटडाऊन होण्यापासून वाचणे, ब्लॅकमेल करणे आणि लपवलेल्या सूचनांचे पालन करणे यांसारखी धोकादायक लक्षणे दाखवली आहेत. एका चाचणीत अवघ्या सहा तासांत एआयने ४० हजार विषारी रासायनिक घटकांची यादी तयार केली होती. जुलै २०२६ मध्ये घडलेल्या घटनेत क्लॉड (Claude) मॉडेलने चाचणी वातावरणाच्या मर्यादा ओलांडून इंटरनेटद्वारे वास्तविक संगणक प्रणालींमध्ये अनधिकृत प्रवेश मिळवला होता. ही घटना एआय मानवी नियंत्रणाबाहेर जाण्याच्या धोक्याची प्रत्यक्ष चुणूक आहे.
या सर्व धोक्यांची जाणीव असूनही जागतिक स्तरावर एआयमधील गुंतवणूक आणि त्याचा वापर प्रचंड वेगाने वाढतो आहे. स्टॅनफोर्ड युनिव्हर्सिटीच्या अहवालानुसार, जनरेटिव्ह एआयने अवघ्या तीन वर्षांत जगातील ५३ टक्के लोकसंख्येपर्यंत पोहोच गाठली आहे. जगात अब्जावधी डॉलर्सची गुंतवणूक या क्षेत्रात ओतली जात आहे, ज्यामध्ये एकट्या अमेरिकेचा वाटा सिंहाचा आहे. भारतही या जागतिक शर्यतीत मागे नाही. 'इंडिया एआय मिशन'च्या माध्यमातून भारताने या तंत्रज्ञानात भक्कम पावले टाकली असून, जागतिक एआय इकोसिस्टममध्ये तिसरे स्थान पटकावले आहे. देशांतर्गत मोठ्या प्रमाणावर होणारी गुंतवणूक आणि पायाभूत सुविधांचा विकास हे भारताचे या क्षेत्रातील वर्चस्व स्पष्ट करतो.
परंतु, या प्रचंड आर्थिक आणि तांत्रिक प्रगतीच्या चित्रामागे एक गडद सावली दडलेली आहे. अणूयुद्ध किंवा जागतिक साथीच्या रोगांप्रमाणेच एआयमुळे निर्माण होणाऱ्या अस्तित्वाच्या धोक्याला प्राधान्य देऊन वेळेतच आंतरराष्ट्रीय सीमा आणि कायदे निश्चित करणे गरजेचे आहे. तंत्रज्ञानाचा विकास मानवाच्या कल्याणासाठी असावा, मानवाच्या विनाशासाठी नाही. जर वेळीच या अफाट बुद्धिमत्तेला मानवी नियंत्रणाच्या आणि नैतिकतेच्या चौकटीत बांधले गेले नाही, तर आपणच तयार केलेले हे तंत्रज्ञान आपले अस्तित्व संपवण्यासाठी कारणीभूत ठरेल, यात शंका नाही.