कृत्रिम बुद्धिमत्ताको सम्भावित जोखिमहरू
कृत्रिम बुद्धिमत्ताका केही सम्भावित जोखिमहरू के हुन्?
आर्टिफिसियल इन्टेलिजेन्स, वा AI जसरी यसलाई प्रायः भनिन्छ, पछिल्लो दशकमा धेरै चर्चा भएको विषय हो। यो द्रुत रूपमा विकास भइरहेको छ, धेरै व्यवसायहरूको कार्यप्रवाह सजिलो र अधिक कुशल बनाउँदै। धेरै मानिसहरूको दैनिक जीवनमा पनि AI ले ठूलो सम्भावना देखाएको छ र जीवनलाई सजिलो र कम जटिल बनाउँदै धेरै फरक एपहरूमा लागू भइसकेको छ। AI ले हामीलाई धेरै फाइदाहरू ल्याएको छ र विज्ञानले अझ धेरै आउनको लागि मार्ग प्रशस्त गरिरहेको छ त्यसैले यो पहिले नै नभएको खण्डमा AI भविष्यमा अपरिहार्य हुनेछ भन्न सुरक्षित छ।
तर जसरी प्रत्येक पदकको दुईवटा पक्ष हुन्छन्, त्यस्तै एआई पनि हुन्छ। यो प्रविधि धेरै सम्भावित जोखिम र हानिहरु संग आउँछ। हाम्रो समयका धेरै विज्ञहरू र प्राविधिक मास्टरमाइन्डहरूले भविष्यमा AI ले निम्त्याउन सक्ने समस्याहरूको बारेमा आफ्नो चिन्ता व्यक्त गरिरहेका छन् र त्यसकारण हामीले यी समस्याहरूलाई समाधान गर्न सक्षम हुँदासम्म होसियार हुन आवश्यक छ। हामीले त्यसको अर्थ के हो?
यी विशेष मुद्दाहरूको सन्दर्भमा विचार गर्न आवश्यक धेरै कुराहरू छन्। यस लेखमा हामी एआईको चकित पार्ने द्रुत विकासले हाम्रो संसारमा ल्याउन सक्ने केही जोखिमहरू र त्यस प्रगतिलाई सही दिशामा अनुगमन र मार्गदर्शन गर्न के उपायहरू अपनाउनु आवश्यक छ भनेर वर्णन गर्ने प्रयास गर्नेछौं।
1. जागिरहरू
हामी पक्का छौं कि सबैले पहिले नै पुरानो विद्यालय, मानव आधारित कार्यस्थलहरूमा मेसिन र स्वचालनले प्रस्तुत गर्न सक्ने सम्भावित उपचारको बारेमा सुन्न वा पढ्ने अवसर पाएका छौं। केही मानिसहरू मेशिनहरूले आफ्नो जागिर चोर्ने बारे चिन्ताको विभिन्न डिग्रीबाट पीडित हुन सक्छन्। त्यो डर राम्रोसँग स्थापित हुन सक्छ, जागिर स्वचालन धेरै व्यक्तिहरूको लागि ठूलो जोखिम हो: लगभग 25% अमेरिकीहरूले आफ्नो जागिर गुमाउन सक्छन् किनभने केही बिन्दुमा मेसिनहरूले तिनीहरूलाई प्रतिस्थापन गर्न सक्षम हुनेछन्। विशेष गरी जोखिममा कम पारिश्रमिक पदहरू छन् जसमा एक व्यक्तिले प्रशासन वा खाद्य सेवामा कामहरू जस्तै दोहोरिने कार्यहरू गर्दछ। यद्यपि, केही विश्वविद्यालयका स्नातकहरू पनि जोखिममा छन्, उन्नत मेसिन लर्निङ एल्गोरिदमहरूले तिनीहरूलाई केही जटिल कार्य स्थानहरूमा प्रतिस्थापन गर्न सक्षम हुन सक्छ किनभने तिनीहरू थप परिष्कृत हुँदैछन्, विशेष गरी न्यूरल नेटवर्कहरू र गहिरो शिक्षाको प्रयोगद्वारा।
तर हामी वास्तवमा यो भन्न सक्दैनौं कि रोबोटले मानिसहरूलाई रोजगारी बजारबाट पूर्ण रूपमा बाहिर धकेल्नेछ। कर्मचारीहरूले केवल समायोजन गर्न, आफूलाई शिक्षित गर्न र AI सँग सहकार्य गरेर, यसको दक्षता र मेकानिकल तर्कको सबै भन्दा राम्रो प्रयोग गरेर काम गर्ने तरिका खोज्नुपर्छ। AI अझै पनि सही छैन, उदाहरणका लागि यसले निर्णय कलहरू गर्न सक्षम छैन, त्यसैले मेसिनहरूसँग काम गर्दा मानव कारक अझै निर्णायक हुनेछ।
त्यहाँ धेरै AI आधारित टेक्नोलोजीहरू छन् जसले स्वचालित समाधानहरू प्रयोग गर्दछ जसलाई प्रशिक्षण दिन आवश्यक छ र यो प्रशिक्षण मानव इनपुटमा निर्भर गर्दछ। यसको लागि राम्रो उदाहरण मेसिन अनुवादहरू हुन् जसले ठूलो संख्यामा मानव उत्पन्न अनुवादहरूबाट इनपुट प्राप्त गर्दछ। अर्को राम्रो उदाहरण ट्रान्सक्रिप्शन सफ्टवेयर हो जसले पेशेवर मानव ट्रान्सक्रिप्सनहरूद्वारा गरिएका सही ट्रान्सक्रिप्सनहरूबाट प्रशिक्षण डेटा प्राप्त गर्दछ। यस तरिकाले सफ्टवेयर अलि-अलि बढ्दै जान्छ, वास्तविक जीवन उदाहरणहरू मार्फत यसको एल्गोरिदमहरू परिष्कृत गर्दै। मानव ट्रान्सक्रिप्टरहरूले सफ्टवेयरबाट फाइदा लिन्छन् किनभने यसले तिनीहरूलाई ट्रान्सक्रिप्टहरू छिटो बनाउन मद्दत गर्दछ। सफ्टवेयरले ट्रान्सक्रिप्टको कुनै नराम्रो, मस्यौदा संस्करण उत्पन्न गर्दछ, जुन त्यसपछि ट्रान्सक्रिप्टरद्वारा सम्पादन र सच्याइन्छ। यसले धेरै समय बचत गर्छ, र यसको मतलब अन्तमा अन्तिम उत्पादन छिटो डेलिभर हुनेछ र अधिक सटीक हुनेछ।
2. पूर्वाग्रहको समस्या
एल्गोरिदमको बारेमा एउटा ठूलो कुरा यो हो कि तिनीहरू सधैं निष्पक्ष, गैर-पक्षपाती निर्णयहरू गर्छन्, व्यक्तिपरक र भावनात्मक मानिसहरूको विपरीत। वा तिनीहरू गर्छन्? सत्य यो हो कि कुनै पनि स्वचालित सफ्टवेयरको निर्णय प्रक्रिया उनीहरूलाई तालिम दिइएको डाटामा निर्भर गर्दछ। त्यसोभए, प्रयोग गरिएको डाटामा जनसंख्याको एक निश्चित खण्डको पर्याप्त प्रतिनिधित्व नभएको अवस्थामा भेदभावको जोखिम हुन्छ। अनुहार पहिचान सफ्टवेयर पहिले नै यी केहि समस्याहरूको लागि अनुसन्धान भइरहेको छ, पूर्वाग्रहका घटनाहरू पहिले नै देखा परेका छन्।
आर्टिफिसियल इन्टेलिजेन्स कत्तिको पक्षपाती हुन सक्छ भन्ने एउटा उत्कृष्ट उदाहरण COMPAS (वैकल्पिक प्रतिबन्धका लागि सुधारात्मक अपराधी व्यवस्थापन प्रोफाइलिङ) हो। यो एक जोखिम र आवश्यकता मूल्याङ्कन उपकरण हो जसले अपराधीहरू बीचको पुनरुत्थान जोखिमको भविष्यवाणी गर्दछ। यो एल्गोरिथ्ममा आधारित उपकरणको अनुसन्धान गरियो र परिणामहरूले COMPAS डाटा गम्भीर रूपमा जातीय पक्षपाती भएको देखाएको छ। उदाहरण को लागी, डाटा अनुसार, अफ्रिकी-अमेरिकी प्रतिवादीहरु अन्य जातिहरु को तुलना मा recidivism को उच्च जोखिम को लागी गलत न्याय को लागी अधिक संभावना थियो। एल्गोरिथ्मले पनि सेतो जातिका मानिसहरूसँग उल्टो गल्ती गर्न खोज्यो।
तर, यहाँ के भयो? एल्गोरिथ्म डेटा-निर्भर छ त्यसैले यदि डेटा पक्षपाती छ भने, सफ्टवेयरले सम्भवतः पक्षपाती परिणामहरू पनि दिनेछ। कहिलेकाहीँ यसले डाटा कसरी सङ्कलन गरियो त्यससँग पनि केही सम्बन्ध राख्छ।
स्वचालित स्पीच रिकग्निसन टेक्नोलोजी पनि लिङ्ग वा जातिको आधारमा पक्षपाती हुन सक्छ किनभने प्रशिक्षण डेटा आवश्यक रूपमा चयन गरिएको विषय होइन जसले पर्याप्त समावेशीता सुनिश्चित गर्दछ।
3. सुरक्षा सरोकारहरू
आर्टिफिसियल इन्टेलिजेन्सका केही समस्याहरू छन् जुन यति खतरनाक हुन्छन् कि तिनीहरूले दुर्घटना निम्त्याउन सक्छन्। एप्लाइड एआई टेक्नोलोजीको सबैभन्दा प्रमुख उदाहरणहरू मध्ये एक सेल्फ ड्राइभिङ कार हो। धेरै विज्ञहरू विश्वास गर्छन् कि यो यातायात को भविष्य हो। तर ट्राफिकमा सेल्फ-ड्राइभिङ कारहरूको तत्काल कार्यान्वयनमा बाधा पुर्याउने मुख्य कुरा भनेको यसको खराबी हो जसले यात्रु र पैदल यात्रुहरूको जीवनलाई खतरामा पार्न सक्छ। सडकमा स्वायत्त सवारीसाधनले निम्त्याउन सक्ने खतराको बहस अझै यथार्थमा छ। सडकमा सेल्फ ड्राइभिङ गाडी चलाउन दिएमा दुर्घटना कम हुनसक्छ भनी सोच्नेहरू छन्। अर्कोतर्फ, त्यहाँ अध्ययनहरू छन् जसले देखाएको छ कि तिनीहरूले धेरै दुर्घटनाहरू निम्त्याउन सक्छन्, किनभने तिनीहरूका धेरै कार्यहरू चालकद्वारा सेट गरिएका प्राथमिकताहरूमा आधारित हुनेछन्। अब यो सुरक्षा र मानिसहरूको जीवन र सवार प्राथमिकताहरू (जस्तै औसत गति र केही अन्य ड्राइभिङ बानीहरू) बीच छनौट गर्ने डिजाइनरहरूमा निर्भर छ। कुनै पनि अवस्थामा सेल्फ-ड्राइभिङ कारहरूको मुख्य लक्ष्य भनेको कुनै पनि सम्भावित ट्राफिक परिदृश्यहरू पत्ता लगाउन र भविष्यवाणी गर्न सक्ने दक्ष एआई एल्गोरिदमहरू र उन्नत सेन्सरहरूको कार्यान्वयनको माध्यमबाट अटोमोबाइल दुर्घटनाहरूलाई कम गर्नु हो। यद्यपि, वास्तविक जीवन सधैं कुनै पनि कार्यक्रम भन्दा बढी जटिल छ, त्यसैले यस प्रविधिको सीमितता अझै पनि यसको व्यापक कार्यान्वयनको लागि सीमित कारकहरू मध्ये एक हो। अर्को समस्या विश्वासको कारक हो। वर्षौं र वर्षौंको ड्राइभिङ अनुभव भएका धेरै व्यक्तिहरूका लागि, सबै भरोसा डिजिटल हातहरूमा राख्नुलाई डिजिटल प्रवृतिहरूमा प्रतीकात्मक समर्पणको कार्यको रूपमा देख्न सकिन्छ। जे भए पनि, यी सबै समाधान नभएसम्म, केही उन्नत प्राविधिक समाधानहरू नयाँ कारहरूमा लागू भइसकेका छन्, र मानव चालकहरूले विभिन्न सेन्सरहरू, सहायक ब्रेकिङ समाधानहरू र क्रूज नियन्त्रणहरूबाट लाभ उठाउन सक्छन्।
4. खराब उद्देश्यहरू
प्रविधिले मानिसहरूका आवश्यकताहरू पूरा गर्नुपर्दछ र उनीहरूको जीवनलाई सजिलो, थप रमाइलो बनाउन प्रयोग गरिनुपर्छ र यसले सबैको बहुमूल्य समय बचत गर्नुपर्छ। तर कहिलेकाहीँ एआई टेक्नोलोजी पनि हानिकारक उद्देश्यका लागि प्रयोग गरिएको छ, जसले हाम्रो भौतिक, डिजिटल र राजनीतिक सुरक्षामा महत्त्वपूर्ण जोखिम खडा गर्छ।
- भौतिक सुरक्षा: AI को एक सम्भावित जोखिम, जुन सुरुमा एकदमै नाटकीय सुनिन्छ र तपाइँलाई तपाइँको हड्डीमा चिसो पार्न सक्छ, प्राविधिक रूपमा उन्नत देशहरू बीचको सम्भावित युद्ध हो, जुन सबैभन्दा कुशल र निर्मम तरिकाले मार्ने प्रोग्राम गरिएको स्वायत्त हतियार प्रणालीद्वारा गरिन्छ। यसैले मानवतालाई एआई आधारित युद्धको अशुभ जोखिमबाट जोगाउन सन्धिहरू, नियमहरू र प्रतिबन्धहरू मार्फत यस्तो सैन्य प्रविधिको विकासलाई नियमन गर्नु अत्यन्त महत्त्वपूर्ण छ।
- डिजिटल सुरक्षा: ह्याकरहरू पहिले नै हाम्रो डिजिटल सुरक्षाको लागि खतरा हुन् र एआई सफ्टवेयर पहिले नै उन्नत ह्याकिंगको लागि प्रयोग भइरहेको छ। यस्तो सफ्टवेयरको विकास संग, ह्याकरहरु लाई आफ्नो कुकर्म मा अधिक कुशल हुनेछ र हाम्रो अनलाइन पहिचान चोरी को लागी अधिक कमजोर हुनेछ। सूक्ष्म मालवेयर, एआई द्वारा संचालित र गहिरो सिकाइको प्रयोग मार्फत अझ बढी खतरनाक बनाइने तपाईंको व्यक्तिगत डेटाको गोपनीयतामा अझ बढी सम्झौता हुन सक्छ। एक डिजिटल चोरको कल्पना गर्नुहोस्, तपाईंको मनपर्ने कार्यक्रमहरूको पछाडि लुकेको, दिन प्रतिदिन बढि चालाक हुँदै, सफ्टवेयर प्रयोगको लाखौं वास्तविक जीवन उदाहरणहरूबाट सिक्दै र त्यो डाटामा आधारित जटिल पहिचान चोरीहरू सिर्जना गर्दै।
- राजनीतिक सुरक्षा: हामी बाँचिरहेको अशान्त समयमा, नक्कली समाचार र जालसाजी रेकर्डिङको डर एकदम जायज छ। AI ले स्वचालित विकृति अभियानले धेरै क्षति पुर्याउन सक्छ, जुन चुनावको समयमा अत्यन्त खतरनाक हुन सक्छ।
त्यसोभए, निष्कर्षमा, हामी आफैलाई सोध्न सक्छौं कि कृत्रिम बुद्धिले हामीलाई कत्तिको हानि पुर्याउन सक्छ र यसले मानवजातिलाई राम्रो भन्दा बढी हानि गर्न सक्छ।
विज्ञहरू भन्छन् कि नैतिक विकास र नियामक निकायहरूले ठूलो भूमिका खेल्नेछ जब यो कृत्रिम बुद्धिमत्ताले हाम्रो जीवनमा हुनसक्ने हानिहरूलाई कम गर्न आउँछ। जे भए पनि भविष्यमा यसले हाम्रो संसारमा ठूलो प्रभाव पार्नेछ भन्ने कुरामा हामी विश्वस्त छौं।
उन्नत AI प्रोटोकलहरूमा आधारित स्पीच पहिचान सफ्टवेयर पहिले नै प्रयोग भइरहेको छ, र यसले व्यापार संसारमा धेरै फाइदाहरू ल्याउँछ: कार्यप्रवाहहरू छिटो र सरल छन्। Gglot यस क्षेत्रमा एक ठूलो खेलाडी हो र हामी हाम्रो टेक्नोलोजीलाई थप विकास गर्न भारी लगानी गर्दैछौं।