حزب کمونیست کارگری ایران وب سایت رسمی حزب کمونیست کارگری ایران
آیا هوش مصنوعی سرانجام بر انسان مسلط خواهد شد؟ آیا ماشینهایی که خود ساختهایم از کنترل ما خارج خواهند شد و حتی به موجودیت بشر پایان خواهند داد؟ این پرسشها دیگر فقط موضوع داستانهای علمیتخیلی نیستند. پژوهشگران، مدیران شرکتهای فناوری و رسانهها درباره آنها بحث میکنند و آیندهای را به تصویر میکشند که در آن انسان در برابر مخلوق خود ناتوان شده است.
پاسخ رایج در میان منتقدان چپ این است که خطر اصلی نه هوش مصنوعی، بلکه سرمایهداری است. این پاسخ در سطحی کلی درست است، اما هنوز چیز چندانی را توضیح نمیدهد. مسئله مهمتر این است که چرا قدرتی که انسانها خود تولید کردهاند، در برابرشان به صورت قدرتی مستقل، بیگانه و تهدیدکننده ظاهر میشود. چرا ترس از مناسبات اجتماعیای که زندگی ما را اداره میکنند، شکل ترس از ماشین به خود میگیرد؟
برای پاسخ به این پرسش باید خودِ ترس را جدی گرفت، بیآنکه موضوع ظاهری آن را بیواسطه پذیرفت.
ماشین، خونآشام و زامبی
در مقاله “اقتصاد سیاسی ترس” از سه چهره ترس انسان مدرن سخن گفتهام: ماشین، خونآشام و زامبی. اینها صرفاً موجودات تخیلی یا موضوعات سرگرمی نیستند. هر یک، به شیوهای متفاوت، یکی از اشکال ظهور شبح سرمایهاند.
ماشین، قدرتی است که انسان ساخته اما اکنون گویی مستقل از او عمل میکند. خونآشام از زندگی دیگری تغذیه میکند و بقای خود را از مکیدن نیروی حیاتی او به دست میآورد. زامبی نیز پیکری است که حرکت میکند، اما زندگی و ارادهای که باید به آن حرکت معنا بدهد، در آن غایب است. در هر سه تصویر، چیزی انسانی از انسان جدا شده و به صورت قدرتی بیگانه در برابر او قرار گرفته است.
ترس معاصر از هوش مصنوعی پیش از هر چیز شکل تازهای از ترس از ماشین است. با این حال، در تصویر عمومی هوش مصنوعی، دو چهره دیگر نیز حضور دارند: ماشینی که از دانش، زبان و خلاقیت انباشتهشده انسانها تغذیه میکند و موجودی که میتواند فعالیتهای انسانی را بازتولید کند، بیآنکه زندگی انسانی داشته باشد.
اهمیت این تصاویر در آن نیست که آینده فناوری را پیشبینی میکنند. آنها نشان میدهند انسانها چگونه رابطه خود را با قدرتهایی تجربه میکنند که محصول فعالیت خودشاناند، اما دیگر آنها را قدرت خود نمیشناسند.
ماشینشکن چه چیزی را میدید؟
ترس از ماشین پدیده تازهای نیست. در آغاز گسترش صنعت ماشینی، کارگران ماشینها را میشکستند، زیرا آنها را عامل بیکاری، کاهش دستمزد و نابودی شیوه زندگی خود میدیدند. از دیدگاهی که تاریخ را صرفاً پیشرفت فناوری میفهمد، ماشینشکن کارگری ناآگاه است که به جای استقبال از پیشرفت، به ابزار تولید حمله میکند.
اما مارکس نکتهای بسیار مهمتر را نشان میدهد: کارگر در ماشین، برای نخستین بار، سرمایه را بهمثابه دشمن خود میبیند.
این مشاهده را نباید به این معنا گرفت که ماشین همان سرمایه است. اهمیت آن دقیقاً در تفاوت این دو نهفته است. ماشین واقعاً در برابر کارگر به صورت قدرتی دشمن ظاهر میشود؛ سرعت کار را تعیین میکند، مهارت او را بیارزش میسازد، امکان اخراجش را فراهم میکند و فعالیت او را تابع نظمی میسازد که خودش درباره آن تصمیم نمیگیرد. کارگر در تجربه خود اشتباه نمیکند. آنچه باید توضیح داده شود، این است که چرا محصول کار انسانی چنین قدرتی پیدا کرده است.
ماشین بهخودیخود کارگر را استثمار نمیکند. این سرمایه است که ماشین را به وسیلهای برای سازماندهی کار مزدی، افزایش بهرهوری و تصاحب کار اضافی تبدیل میکند. کارگر در برابر ماشین با یک شیء فنی صرف روبهرو نیست؛ با رابطهای اجتماعی روبهروست که در آن شیء مادیت یافته است.
امروز نیز وقتی کارمند، مترجم، نویسنده، برنامهنویس یا کارگر از هوش مصنوعی میترسد، ترس او را نمیتوان با این پاسخ کنار گذاشت که “فناوری خنثی است”. ممکن است شغلش را از دست بدهد، کارش زیر نظارت دقیقتری قرار گیرد، دستمزدش کاهش یابد یا دانشی که در طول سالها کسب کرده است، به ابزاری برای بینیاز کردن کارفرما از او تبدیل شود. اینها خطرهایی واقعیاند.
اما اگر هوش مصنوعی را عامل مستقل این تحولات بدانیم، همان رابطهای را پنهان کردهایم که به آن قدرت میبخشد. کارگر سرمایه را در ماشین میبیند، اما سرمایه به ماشین تقلیلپذیر نیست.
چه کسی کنترل را از دست داده است؟
بحث درباره خطر هوش مصنوعی معمولاً چنین صورتبندی میشود: انسان ماشین را ساخته، اما ممکن است کنترل آن را از دست بدهد. در این روایت، ابتدا انسانی وجود دارد که بر ساختههای خود حاکم است و سپس فناوریای پدید میآید که حاکمیت او را تهدید میکند.
اما آیا انسان در جامعه سرمایهداری پیش از ظهور هوش مصنوعی بر نیروهای اجتماعیای که خود تولید کرده بود، کنترل داشت؟
بحران اقتصادی، بیکاری، تورم، جنگ بر سر بازارها و منابع، تخریب محیط زیست و گسترش فقر همگی از دل فعالیت انسانها پدید میآیند. با این حال، هیچ فردی آنها را بهمثابه نتیجه آگاهانه و مشترک فعالیت اجتماعی انسانها طراحی نکرده است. انسانها مناسباتی را هر روز بازتولید میکنند که پیامدهای آن به صورت ضرورتهایی بیرونی بر زندگی خودشان تحمیل میشود.
سرمایهدار نیز از این وضعیت بیرون نیست. او ممکن است مالک کارخانه، شرکت یا سامانه هوش مصنوعی باشد، اما بر حرکت کلی سرمایه حاکم نیست. رقابت او را وادار میکند هزینهها را کاهش دهد، فناوری تازه به کار گیرد، بازارهای جدید پیدا کند و از رقبای خود عقب نماند. حتی اگر از پیامدهای اجتماعی یا خطرهای یک فناوری آگاه باشد، کنار کشیدن از رقابت میتواند به معنای حذف او از بازار باشد.
به همین دلیل، در تحلیل مارکس، سرمایهدار و کارگر هر دو شخصیتیابی مناسبات سرمایهاند. البته این به معنای یکسان بودن موقعیت آنها نیست. یکی مالک وسایل تولید است و از قدرت تصمیمگیری و تصاحب محصول کار دیگران برخوردار است؛ دیگری برای ادامه زندگی ناگزیر به فروش نیروی کار خود است. هر دو درون رابطهای عمل میکنند که خودشان بهتنهایی بر آن حاکم نیستند، اما قدرت و پیامدهای این رابطه میان آنها بهشدت نابرابر توزیع شده است.
رقابت بر سر هوش مصنوعی این تناقض را به شکلی فشرده آشکار میکند. شرکتها و دولتها ممکن است درباره خطرهای توسعه شتابزده آن هشدار دهند و همزمان سرمایهگذاری و رقابت برای پیشی گرفتن از یکدیگر را تشدید کنند. مسئله لزوماً ریاکاری یا بیمسئولیتی این یا آن مدیر نیست. مسئله این است که عقلانیت هر سرمایه منفرد میتواند به پیامدی بینجامد که هیچیک از صاحبان سرمایه بر کلیت آن کنترل ندارند.
از این منظر، ترس از ازدسترفتن کنترل بر هوش مصنوعی، شکل خاصی از تجربه بسیار قدیمیتر ازدسترفتن کنترل بر قدرت اجتماعی خودمان است.
آیا ماشین بر انسان مسلط میشود؟
اینجا باید تمایزی اساسی را روشن کرد. انسانها با ماشینها رابطه فنی برقرار میکنند: آنها را طراحی میکنند، به کار میگیرند، از آنها اطلاعات میگیرند و ممکن است با پیامدهای پیشبینینشده عملکردشان مواجه شوند. سامانهای پیچیده حتی میتواند رفتاری نشان دهد که سازندگانش نتوانند بهسادگی توضیح دهند یا مهار کنند.
اما رابطه سلطهای که در آن انسان تابع ماشین میشود، از نظر محتوای اجتماعی، رابطه انسان با انسان است که به میانجی ماشین برقرار میشود.
وقتی یک سامانه هوش مصنوعی تعیین میکند چه کسی استخدام شود، چه کسی اخراج شود، چه میزان دستمزد بگیرد یا چه کسی تحت نظارت قرار گیرد، با یک رابطه اجتماعی مواجهیم. الگوریتم ممکن است تصمیم را اجرا کند، اما معیارهای تصمیم، مالکیت سامانه، هدف استفاده از آن و قدرت تحمیل نتیجه در مناسبات اجتماعی معینی شکل گرفتهاند.
حتی هنگامی که تصمیمی را نتوان به اراده یک فرد مشخص نسبت داد، باز هم با سلطه ذاتی یک شیء بر انسان روبهرو نیستیم. با قدرت اجتماعیای روبهرو هستیم که از کنترل آگاهانه و مشترک انسانها خارج شده و در یک دستگاه فنی عینیت یافته است.
این همان نکتهای است که در نقد دین نیز اهمیت دارد. رابطه ظاهری انسان با خدا، از نظر محتوای اجتماعی، رابطه انسانها با یکدیگر است که به میانجی موجودی به نام خدا برقرار میشود. انسانها قدرتها، آرزوها، قواعد و مناسبات خود را در موجودی مستقل از خویش بازمیشناسند و سپس در برابر آن سر فرود میآورند. قدرتی که خود آفریدهاند، به صورت قدرتی ظاهر میشود که گویی آنان را آفریده و بر آنان فرمان میراند.
در مورد ماشین نیز مسئله مشابهی وجود دارد. دانش، مهارت، زبان و تواناییهای جمعی انسانها در دستگاهی فنی انباشته میشود؛ سپس همان دستگاه در برابر تولیدکنندگان این تواناییها به صورت قدرتی مستقل ظاهر میشود.
البته این قیاس به معنای یکسان بودن خدا و ماشین نیست. ماشین وجود مادی دارد و میتواند مستقل از تصورات ما آثار واقعی و حتی خطرناک تولید کند. نقد بتوارگی قرار نیست واقعیت این آثار را انکار کند. مسئله آن است که واقعیت قدرت ماشین را از شکل اجتماعیای که این قدرت در آن تولید و اعمال میشود، جدا نکنیم.
ترس از هوش مصنوعی چه چیزی را پنهان میکند؟
در روایت آخرالزمانی، هوش مصنوعی به موجودی بدل میشود که ممکن است روزی تصمیم بگیرد انسان را از میان بردارد. در این تصویر، بشریت یکپارچه در برابر دشمنی بیرونی قرار میگیرد: “ما” در یک سو و “ماشین” در سوی دیگر. اما این “ما” کیست؟
آیا کارگری که با هوش مصنوعی از کار بیکار میشود، همان نسبتی را با آن دارد که صاحب شرکتی دارد که از جایگزینی کارگران سود میبرد؟ آیا شهروندی که موضوع نظارت الگوریتمی است، همان قدرتی را دارد که دولتِ بهکارگیرنده آن؟ آیا مردمی که پیامدهای استفاده نظامی از این فناوری را تحمل میکنند، در تصمیمگیری درباره توسعه و کاربرد آن مشارکت دارند؟
تصویر “بشریت در برابر ماشین” میتواند این تفاوتها را محو کند. جامعهای که در آن انسانها بر سر مالکیت، قدرت و شرایط زندگی در موقعیتهای متضاد قرار دارند، ناگهان به موجودی واحد تبدیل میشود که گویا تنها مسئلهاش حفظ کنترل بر ابزار خود است.
در اینجا ترس از هوش مصنوعی میتواند خود به شکلی از بتوارگی بدل شود. رابطه اجتماعی ناپدید میشود و محصول آن جای رابطه را میگیرد. مسئله دیگر این نیست که چه کسانی، در چه مناسباتی و با چه اهدافی از قدرت اجتماعیِ انباشتهشده در فناوری استفاده میکنند؛ مسئله به این تبدیل میشود که آیا ماشین علیه “ما” شورش خواهد کرد یا نه.
این نقد به معنای بیاهمیت دانستن خطرهای فنی هوش مصنوعی نیست. لازم نیست ثابت کنیم که یک سامانه پیشرفته هرگز نمیتواند رفتاری خطرناک و مهارنشدنی نشان دهد. حتی اگر چنین خطری وجود داشته باشد، باز باید پرسید چرا توسعه آن تابع رقابتی است که توقف یا محدود کردنش برای شرکتها و دولتهای درگیر دشوار میشود؛ چه کسانی درباره میزان خطر قابلقبول تصمیم میگیرند؛ و چه کسانی باید پیامدهای تصمیم را تحمل کنند.
نقد بتوارگی واقعیت خطر را انکار نمیکند؛ توضیح میدهد چرا خطر در شکل قدرت مستقلِ ساخته دست انسان بر خود انسان ظاهر میشود.
مسئله، کنترل انسان بر ماشین نیست
از اینجا میتوان به محدودیت شعار “کنترل انسانی بر هوش مصنوعی” رسید. این شعار در برابر واگذاری بیقیدوشرط تصمیمها به سامانههای فنی اهمیت دارد. اما بهخودیخود هنوز نمیگوید کدام انسانها باید کنترل کنند و کنترل بر چه چیزی اعمال شود.
اگر کنترل انسانی صرفاً به معنای آن باشد که مدیر یک شرکت، فرمانده یک ارتش یا مقام یک دولت در نهایت دکمه تأیید را فشار دهد، رابطه اجتماعیِ تولیدکننده خطر تغییر نکرده است. تصمیم همچنان میتواند از کسانی که زندگیشان تحت تأثیر آن قرار میگیرد جدا بماند. حضور یک انسان در انتهای فرایند، به معنای کنترل اجتماعی بر آن فرایند نیست.
مسئله همچنین بازگشت به گذشتهای بدون ماشین نیست. دانش و تواناییهایی که در هوش مصنوعی عینیت یافتهاند، حاصل فعالیت اجتماعی انسانها هستند. رهایی از سلطه این قدرتها به معنای نابودی آنها نیست؛ به معنای دگرگون کردن مناسباتی است که آنها را در برابر تولیدکنندگانشان به قدرتی بیگانه تبدیل میکند.
پرسش تعیینکننده این نیست که چگونه “بشریت” بهطور انتزاعی فرمان ماشین را در دست بگیرد. پرسش این است که چگونه انسانها بتوانند درباره توسعه، مالکیت، هدف و کاربرد نیروهای مولدی که خود آفریدهاند، بهصورت آگاهانه و جمعی تصمیم بگیرند.
ماشینشکن در ماشین دشمن خود را میدید، زیرا سرمایه واقعاً در ماشین در برابر او ایستاده بود. اما رهایی او در شکستن ماشین نبود. امروز نیز ترس از هوش مصنوعی چیزی واقعی را بیان میکند: قدرت اجتماعی انسانها از آنان جدا شده و در برابرشان قرار گرفته است. با این حال، اگر این قدرت را صرفاً قدرت ماشین بنامیم، رابطهای را که باید دگرگون شود از نظر پنهان کردهایم.
شاید به همین دلیل، پرسش “آیا ماشینها روزی بر ما حکومت خواهند کرد؟” هنوز پرسش نهایی نباشد. پرسش بنیادیتر این است: چرا قدرت جمعی خودمان همین امروز به صورت قدرتی بر فراز ما عمل میکند، و چرا آینده آن را نه همچون آیندهای که میتوانیم مشترکاً بسازیم، بلکه همچون سرنوشتی میبینیم که باید در انتظارش بمانیم؟
