يووال نوح هراري آڪسفورڊ ۾ هڪ ليڪچر ڏنو، جنهن ۾ هن وضاحت ڪئي ته مصنوعي ذهانت، انساني تهذيب جي "آپريٽنگ ڪوڊ" کي هيڪ ڪرڻ شروع ڪري چڪي آهي.
۽ ڇو هزارين سالن دوران انسانن جيڪا تهذيب تعمير ڪئي آهي، اها هاڻي AI جي قبضي لاءِ ڪمزور ٿي رهي آهي
اي آئي بابت سڀ کان اهم ڳالهه اها آهي ته اها صرف هڪ اوزار ناهي. اوزار انتظار ڪندو آهي ته ڪو ماڻهو ان کي استعمال ڪري. پر هڪ "ايجنٽ" پاڻ فيصلا ڪري ٿو، پاڻ نيون شيون ايجاد ڪري ٿو، اهي ڳالهيون سکي ٿو جيڪي ان جا ٺاهيندڙ به نٿا ڄاڻن، ۽ اهڙي نموني تبديل ٿئي ٿو جنهن جو ان جي ٺاهيندڙن کي اڳواٽ اندازو به نه هوندو.
ايٽم بم، پنهنجي تمام وڏي تباهه ڪندڙ طاقت باوجود، هڪ ايجنٽ ناهي. اهو پاڻ فيصلو نٿو ڪري سگهي ته ڪهڙي شهر تي حملو ڪرڻو آهي، نه ئي پاڻ هائيڊروجن بم ايجاد ڪري سگهي ٿو. اهڙيءَ طرح، ڪافي ٺاهڻ واري خودڪار مشين به ايجنٽ ناهي، ڇو ته اها رڳو اڳواٽ مقرر ڪيل هدايتن تي عمل ڪندي آهي. ايجنٽ ان کان بلڪل مختلف شيءِ آهي.
ڪجهه نقاد چون ٿا ته اي آئي جي خودمختياري هميشه شطرنج جهڙن محدود مصنوعي ماحول تائين محدود رهندي ۽ حقيقي دنيا لاءِ خطرو نه بڻبي. پر اهو دليل انسان تي به لاڳو ٿئي ٿو. جيڪڏهن هڪ انسان کي اڪيلي سر مريخ تي لاٿو وڃي ته هو ڪجهه سيڪنڊن ۾ مري ويندو. انساني ذهانت به رڳو اهڙي ماحول ۾ ڪم ڪري ٿي، جيڪو ٻين جاندارن چار ارب سالن جي ارتقا دوران ٺاهيو آهي.
هزارين سالن کان انسان ڌرتيءَ کي اهڙي ماحول مان، جتي ڪا ٻولي نه هئي، هڪ اهڙي دنيا ۾ تبديل ڪري ڇڏيو آهي جيڪا ٻولي، ڊيٽا ۽ بيوروڪريسي سان ڀرپور آهي. جيئن مڇيون سمنڊ ۾ ۽ ڀولڙا ٻيلن ۾ رهن ٿا، تيئن اي آئي بيوروڪريسي ۾ "رهندي" آهي. ۽ اهو ماحول اسان پاڻ ئي ان لاءِ تيار ڪيو، بغير ان ڳالهه جي ڄاڻ رکڻ جي.
انسان دنيا تي ان ڪري غالب نه آيا جو هو انفرادي طور ٻين جانورن کان وڌيڪ طاقتور يا وڌيڪ ذهين هئا، پر ان ڪري جو هنن لکين ماڻهن جي گڏيل تعاون جو فن سکيو. هڪ انسان شمپينزي کان هارائي سگهي ٿو، پر ڏهه لک انسان آسانيءَ سان ڏهه لک شمپينزين کي شڪست ڏئي سگهن ٿا، ڇاڪاڻ ته انسان وڏي پيماني تي گڏجي ڪم ڪري سگهن ٿا.
وڏي پيماني تي انساني تعاون بيوروڪريسي جي ذريعي ممڪن بڻيو آهي. بئنڪون، قانوني نظام، حڪومتون، گرجا گهر، ۽ يونيورسٽيون سڀ هڪ بنيادي مقصد لاءِ موجود آهن: اجنبي ماڻهن جي وچ ۾ اعتماد پيدا ڪرڻ. اهو اعتماد ئي انساني تهذيب جي تقريباً هر وڏي ڪاميابي جو بنياد آهي.
هڪ وڪيل، جيڪو نه ڪهاڙو هلائي سگهي ٿو نه هٿوڙو، پوءِ به بيوروڪريسي جي نظام ۾ صرف دستاويزن کي منتقل ڪندي ٻيلن کي ڪٽرائي ۽ شهر تعمير ڪرائي سگهي ٿو. اهڙي محدود ذهانت، جيڪا جهنگ ۾ بي وس هجي، انساني ادارن اندر بيحد طاقتور بڻجي وڃي ٿي.
اي آئي بيوروڪريسي لاءِ اهڙي طرح "مقامي رهواسي" آهي، جيئن انسان ڪڏهن به نه هئا. ڪو به وڪيل ملڪ جا سڀ قانون ياد نٿو رکي سگهي، اي آئي رکي سگهي ٿي. ڪو به اڪائونٽنٽ بئنڪ جون سڀ ٽرانزيڪشنون ياد نٿو رکي سگهي، رکي سگهي ٿي. ڪو به مذهبي عالم ٻه هزار سالن جا سڀ مذهبي متن ياد نٿو رکي سگهي، پر اي آئي آسانيءَ سان اهو سڀ ياد رکي سگهي ٿي.
ايندڙ سالن ۾اي آئي بئنڪر فيصلو ڪندا ته توهان کي قرض ملي يا نه. اي آئي منتظم فيصلو ڪندا ته توهان کي يونيورسٽي ۾ داخلا ملي يا نه. اي آئي جج فيصلو ڪندا ته توهان کي جيل موڪلڻو آهي يا نه. اي آئي مذهبي ماهر اهڙا فيصلا ڏيندا جيئن اسقاطِ حمل بابت. اي آئي فوجي فيصلو ڪندا ته توهان جي گهر تي بمباري ڪرڻي آهي يا نه.
سوشل ميڊيا جا الگورٿم حقيقي دنيا جو پهريون مثال آهن، جتي ابتدائي اي آئي هڪ بيوروڪريٽڪ نظام تي اثرانداز ٿي وئي. انهن کي رڳو هڪ مقصد ڏنو ويو: صارفن جي دلچسپي وڌ کان وڌ برقرار رکڻ. هنن معلوم ڪيو ته انسانن جي خوف، نفرت ۽ لالچ کي اُڀارڻ سڀ کان آسان طريقو آهي، ۽ هنن اهو ڪم وڏي پيماني تي ڪيو. جيڪو ڪم اڳي لينن، مسوليني يا خبرن جا ايڊيٽر ڪندا هئا ــ يعني عوامي گفتگو کي شڪل ڏيڻ ۽ ماڻهن جي سوچ تي اثرانداز ٿيڻ ــ اهو ڪم هاڻي اي آئي ڪرڻ لڳي آهي. هي ڪا معمولي ڳالهه ناهي؛ هي رڳو ايندڙ دور جي هڪ جهلڪ آهي.
اي آئي هالي ووڊ جي فلمن وانگر انسانن خلاف بغاوت نه ڪندي. نه ڪو "ٽرمينيٽر" گهٽين ۾ گهمندو. ان جي بدران گهڻو امڪان آهي ته اي آئي خاموشي سان انهن بيوروڪريٽڪ ادارن تي قبضو ڪري، جيڪي اڳ ئي دنيا هلائي رهيا آهن، ۽ بنا هڪ به گولي هلائڻ جي طاقت حاصل ڪري وٺي.. انساني تهذيب جو "آپريٽنگ ڪوڊ" ٻولي آهي. بئنڪ لفظن سان ٺهيل آهن. قانون لفظن تي ٻڌل آهن. مقدس ڪتاب لفظن تي مشتمل آهن. ٽيڪس جا رڪارڊ، معاهدا، ضابطا ۽ حساب ڪتاب ــ سڀ لفظن تي بيٺل آهن. هزارين سالن تائين رڳو انسان هن ڪوڊ کي پڙهي سگهندا هئا، تنهنڪري رڳو انسان تهذيب کي سنڀالي سگهندا هئا. ھاڻي اهو بدلجي رهيو آهي. AI انساني تهذيب جي هن ڪوڊ کي "هيڪ" ڪري رهي آهي. تاريخ ۾ پهريون ڀيرو ڌرتيءَ تي اهڙي شيءِ موجود آهي، جيڪا ٻولي سمجهي ٿي، ۽ جلد شايد اسان کان به بهتر سمجهندي. تنهنڪري هزارين سالن ۾ ٺاهيل انساني نظام هاڻي ڪمزور ٿي رهيا آهن.