जब हंगेरियन लेखक लास्ज़लो क्रास्ज़नाहोरकाई ने कहा कि वह अब आशा के बारे में बात नहीं कर सकते हैं और 7 दिसंबर को अपने नोबेल पुरस्कार व्याख्यान में स्वर्गदूतों की ओर मुड़ गए, तो वह वास्तव में मध्यस्थता के बारे में बात कर रहे थे। पुराने स्वर्गदूत एक उत्कृष्ट ‘ऊपर’ से वाणी लाते थे और उनके अस्तित्व का मतलब था कि दुनिया के पास एक दिशा और एक पैमाना था – हमसे कुछ उच्चतर की ओर, उन संदेशों द्वारा निर्देशित जिन्हें हम केवल प्राप्त कर सकते थे। हालाँकि, क्रास्ज़नाहोरकाई के नए स्वर्गदूतों की कोई स्पष्ट उत्पत्ति नहीं है और न ही देने के लिए कोई संदेश है।

वे हमारे बीच एक नाजुक, घायल लोगों के रूप में घूमते हैं जिन्हें एक शब्द या एक छोटे से अपमान से नष्ट किया जा सकता है। उनके कथनानुसार, वे “हमारी वजह से” बलिदान हैं। क्या यह कल्पना परिचित लगती है? यह कृत्रिम बुद्धिमत्ता (एआई) के युग में मानव जीवन का अच्छी तरह से वर्णन कर सकता है, जिसमें लोग कंटेंट मॉडरेटर, क्लिकवर्कर, डेटा-लेबलर, गिग वर्कर के रूप में बनाए गए सिस्टम के अंदर खो गए हैं – वे लोग जिनके जीवन की मशीनें चुपचाप प्रोफाइल बनाती हैं और कल्याण एल्गोरिदम पूर्वानुमानित पुलिसिंग सिस्टम में भोजन करती हैं, उनके डेटा को स्क्रैप किया जाता है और प्रशिक्षित मॉडल को बेच दिया जाता है जो फिर उन पर शासन करने के लिए उपयोग किया जाएगा।

“नए देवदूत” मशीनें नहीं हैं: वे वे हैं जिन्हें मशीनों के तर्क द्वारा खर्च करने योग्य बनाया गया है – भले ही एटी सिस्टम एक प्रकार के नकली देवदूत रूप के करीब हों। वे एक अमूर्त “क्लाउड” से बाहर आते हैं, हर रजिस्टर में धाराप्रवाह बोलते हैं, और अपना संदेश पेश किए बिना संदेशवाहक की स्थिति पर कब्जा कर लेते हैं। क्रास्ज़नाहोरकाई के देवदूत चुप हैं और हमसे एक संदेश की मांग करते हैं जो अब हमारे पास नहीं है।

हालाँकि, एआई चुप नहीं बैठेगा, भले ही यह जमीनी स्तर से बोलने की हमारी अपनी क्षमता को खोखला कर दे। यह सलाह, सहानुभूति, ज्ञान और यहां तक ​​कि नैतिक तर्क का अनुकरण करता है, लेकिन यह सब एक तकनीकी-आर्थिक स्टैक के भीतर पाठ के भयावह रूप से सुस्त पुनर्संयोजन के रूप में है जो अपारदर्शी रहता है। इस प्रकार एआई सटीक रूप से उस नुकसान का प्रतीक है जिसका वह शोक मनाता है: जिम्मेदारी के बिना अधिकार, भाषण के बिना भाषा।

क्रास्ज़नाहोरकाई का व्याख्यान वास्तव में मानव प्रजाति की गरिमा और थकावट के लिए एक लंबा भजन था, और इसका अधिकांश भाग एआई के बारे में वर्तमान बहस के बहुत करीब था। उन्होंने वर्तमान की ओर रुख करने से पहले – कला से दर्शन, कृषि से विज्ञान तक – मानव आविष्कारों की आश्चर्यजनक श्रृंखला को सूचीबद्ध किया, जहां उसी प्रजाति ने खुद को केवल अल्पकालिक स्मृति के साथ छोड़ने के लिए उपकरणों का निर्माण किया है।

क्या यह उस ध्यान अर्थव्यवस्था का सटीक वर्णन नहीं है जिसमें एआई ने पैराशूट से प्रवेश किया है और अब इसे सुपरचार्ज करने के लिए उपयोग किया जा रहा है? डेवलपर्स और व्यवसाय फ़ीड, खोज इंजन, विज्ञापन और उत्पादकता टूल में एआई मॉडल का निर्माण कर रहे हैं, जो हमें तेज, अधिक खंडित इंटरैक्शन के लिए प्रेरित कर रहे हैं। लेकिन एक दूसरी, अधिक क्रूर परत है।

बहुत बड़े मॉडलों को प्रशिक्षित करने के लिए आपको बड़े पैमाने पर, पहले से मौजूद भाषा के भंडार की आवश्यकता होती है। और बिग टेक जिसे क्रस्ज़्नाहोरकाई ने “ज्ञान और सौंदर्य का महान और सामान्य अधिकार” कहा है, उसे मुफ्त कच्चा माल मान रहा है। वही सभ्यता जो कभी उन कार्यों को बनाने के लिए संघर्ष करती थी, अब ऐसी प्रणालियाँ बना रही है जो सस्ते में उनके सतही स्वरूपों की नकल कर सकती हैं, जबकि उन्हें बनाने वाली संस्थाओं और श्रम से मूल्य छीन सकती हैं।

यह एक बार फिर “हमारी वजह से बलिदान” है – सांस्कृतिक समुदाय और उसके कार्यकर्ताओं का उपयोग अनंत, सहज बुद्धिमत्ता की उपस्थिति को बढ़ावा देने के लिए किया जा रहा है। यू-बान दृश्य ने विशेष रूप से एआई शासन पर एक अनोखी रोशनी डाली। 1990 के दशक में बर्लिन के एक भूमिगत स्टेशन पर क्रास्ज़नाहोरकाई को एक बेघर व्यक्ति को मंच के ‘निषिद्ध क्षेत्र’ पर दर्द से पेशाब करते हुए देखना याद आया, जबकि एक दूर का पुलिसकर्मी उसे दंडित करने के लिए दौड़ा।

मंच पर मौजूद पुलिसकर्मी कानून और व्यवस्था का वाहक “सभी द्वारा अनुमोदित अच्छा” था; पटरियों पर पेशाब करने वाले बीमार आदमी को दुष्ट मान लिया गया। दस मीटर की खाई उन्हें अलग करती है।

जीवित समय में, पुलिसकर्मी ने शायद उसे पकड़ लिया होता, लेकिन क्रास्ज़नाहोरकाई ने छवि को धूमिल कर दिया: वास्तव में, अच्छाई कभी भी बुराई तक नहीं पहुंचती; दूरी पाटने योग्य नहीं है. हम एक ओर नैतिकता बोर्डों, सिद्धांतों, विनियमों और “संरेखण” के हमारे तंत्र और दूसरी ओर शोषणकारी आपूर्ति श्रृंखलाओं, निगरानी, ​​दुष्प्रचार और सैन्यीकरण के साथ संस्थागत नुकसान की गड़बड़ी के बीच एक ही पुल का सामना कर रहे हैं।

जब तक वास्तुकला वही रहती है, क्रास्ज़नाहोरकाई का निदान, वह डिज़ाइन जो कुछ निकायों को दृश्यमान और दंडनीय बनाता है और अन्य को अदृश्य और संरक्षित करता है, पीछा हमेशा के लिए चलता रहेगा। नियमों की भलाई केवल उस संरचना के भीतर ही चलती है जो इसकी विफलता की गारंटी देती है। एआई के इर्द-गिर्द होने वाली बहसें अक्सर टेक्नोफिक्सेस तक सीमित हो जाती हैं, जैसे।

जी। बेहतर बेंचमार्क, सुरक्षित आउटपुट, तैनाती के लिए थोड़े सख्त नियम, इत्यादि।

हालाँकि, क्रास्ज़नाहोरकाई का व्याख्यान अलगाव में लक्षणों का इलाज करने से इनकार करता है। जिन उपकरणों को हम ‘एआई’ कहते हैं, वे एक ऐसी सभ्यता से उभर रहे हैं जो ध्यान को मेरे लिए एक संसाधन के रूप में और कमजोर लोगों को स्वीकार्य नुकसान के रूप में मानता है। यदि नए देवदूत हमारी वजह से बलिदान देते हैं, तो उनकी शर्तों के योग्य एआई राजनीति एक ऐसी राजनीति होगी जो बलिदानों की संख्या को पूरी तरह से कम कर देती है, यानी।

ई. जो जांच करता है कि डेटा कहां और कैसे लिया जाता है, कौन छाया में काम करता है, कौन पर्यावरणीय और सामाजिक लागत वहन करता है, और कौन से उपयोग सीमा से परे हैं, चाहे वे कितने भी लाभदायक क्यों न हों। फिर भी यह प्रबल भावना है कि कोई भी एआई ट्रेन से आसानी से बाहर नहीं निकल सकता है।

राज्य निवेश करने के लिए मजबूर महसूस करते हैं ताकि वे पिछड़ न जाएं। कंपनियाँ कोड तैनात करने के लिए मजबूर महसूस करती हैं, ऐसा न हो कि वे लाभ खो दें। व्यक्ति इसे अपनाने के लिए बाध्य महसूस करते हैं ताकि उन्हें काम न मिले।

अंतिम योग एक प्रकार की न्यूनतम नैतिकता है: बलिदानों के नामकरण के लिए, ध्यान देने की अपनी क्षमता बनाए रखें, भले ही आप अभी तक बाहर का रास्ता नहीं देख पा रहे हों। अंतिम सवाल यह नहीं है कि क्या ‘कला’ या ‘मानव रचनात्मकता’ एआई से बची रहेगी, बल्कि यह है कि क्या एआई को तैनात करने वाली सभ्यता के पास अभी भी कोई वास्तविक संदेश भेजने के लिए कल्पना और नैतिक शब्दावली है, जितना कि यह स्वर्गदूतों के लिए त्याग कर रही है, जितना कि यह अपने नाम पर उन उपकरणों के लिए कर रही है।