راهبردهای حل چالش‌های حکمرانی هوشمند مصنوعی

به گزارش روابط عمومی پژوهشگاه فرهنگ و اندیشه اسلامی و به نقل از دبیرخانه همایش مطالعات نظری – دینی علوم زیستی و زیست فناوری؛ چهارمین نشست این همایش با موضوع «جامعه‌شناسی حکمرانی هوش مصنوعی و حکمرانی هوشمند مصنوعی» به صورت مجازی و حضوری در پژوهشگاه فرهنگ و اندیشه اسلامی برگزار شد.

دکتر نجاتی حسینی پژوهشگر مطالعات علم و دین ضمن اشاره به آنکه جامعه‌شناسی حکمرانی هوش مصنوعی و مسائل مرتبط با حکمرانی هوشمند مصنوعی از موضوعات و مسائل جامعه‌شناسی سیاسی حقوقی است، گفت: یکی از مسائل مهم مطرح شده در دو دهه اخیر، مساله حکمرانی یا governance است که به قدری اهمیت پیدا کرده است که UNDP یا برنامه توسعه و پیشرفت سازمان ملل متحد یکی از برنامه‌های خود را به حکمرانی (governance) یا حکمرانی خوب (governance good) داده است و این در حقیقت یک مساله جهانی است و حتی حکمرانی هوش مصنوعی هم از سال ۲۰۲۰ به بعد خیلی شدت گرفته  است و لذا این مساله، یک مساله جهانی است که این را در سطح محلی (local) به آن توجه کرده‌اند.

وی محورهای کلام خود را به چند بخش تقسیم کرد:

مقصود از حکمرانی و اهمیت آن

دکتر نجاتی حسینی اظهار داشت: تجربه زیسته دولت‌های دموکراتیک و همچنین نظریه‌پردازان جامعه‌شناسی سیاسی و حقوقی بر این موضوع تاکید داشته‌اند که در شیوه حکومتی باید به مسائل حقوق بشر، حرمت انسانی، امنیت و آزادی، رفاه زیستی، مدارا و تساهل و پایداری توسعه انسانی توجه شود؛ اما در عین حال هژمونی (hegemony) و سلطه فرهنگی به نوعی مهندسی رضایت عمومی و جلب رضایت مردمی است. از نظر اندیشمندان وجود سلطه ظریف و همچنین سلطه فرهنگی همراه با جلب رضایت مردم و یا به قول فوکو یک مدل governmentality  خیلی ظریف بر ذهن و بدن مردم اعمال می‌شود. در برنامه governance برنامه توسعه سازمان ملل متحد پیشنهاد این بود که حکومت‌ها و به ویژه حکومت‌های لیبرال دموکراتیک و حکومت‌های مبتنی بر قانون اساسی و یا به قول فیلسوفان سیاسی آلمانی به سمتی بروند که یک شیوه جدیدی از مدیریت جامعه پیدا کنند که بیشتر به سمت امنیت، آزادی، رفاه زیستی، مدارا و تساهل بروند و سعی کنند مشارکت مردم چه در گروه‌های داوطلبانه و چه به صورت Formal را در جامعه مدنی بیشتر کنند.

اصطلاح governance در ادبیات فلسفه سیاسی حقوقی و همچنین ادبیات جامعه‌شناسی سیاسی حقوقی به این معنا صورت‌مندی و فرمول‌بندی شد و بعدها UNDP در دهه سوم سال  ۲۰۰۰ از طریق برنامه توسعه سازمان ملل متحد، همه دولت های عضو را دعوت کرد که به سمت حکمرانی خوب حرکت کنند که شکل عالی governance است. governance می‌خواهد بگوید که ماهیت این حکمرانی مجموعه‌ای از اقدامات، سیاست‌ها و تنظیمات حقوقی استاندارد و نرمال است که یک جامعه اتخاذ می‌کند. برای اینکه جامعه بتواند امور فرهنگی اقتصادی اجتماعی سیاسی و حقوقی خود را برحسب متقضیات فرهنگی و تاریخی و حتی شؤونات و اقتضائاتی که دارد اداره کند باید آن را از طریق مشارکت دولت با بخش‌های خصوصی و به ویژه جامعه مدنی تامین کند یعنی تقریبا یک مدیریت بینابخشی دولت و مردم و افکار عمومی از طریق نهادهای سازمان یافته و رسمیت یافته و بسیار منتظم که اسم آن جامعه مدنی (civil society) است ایجاد شود.

وی افزود: اصل بحث حکمرانی همین است که حکومت وجود داشته باشد ولی حکومت نکند و یا به قول فیلسوفان پساساختارگرا نوعی حکومت حداقلی (Minimal State) باشد که آزادی‌های عمومی، حاکمیت داخلی و خارجی را اعمال کند و همچنین وظیفه دفاعی خود را انجام دهد اما کوچک باشد و مابقی کارها اعم از امور اقتصادی، فرهنگی و اجتماعی به بخش خصوصی (شرکت‌های خصوصی در اقتصاد سرمایه‌داری و لیبرال دموکراسی) و جامعه مدنی (نهادهای واسط و حائل میان دولت و مردم که می‌توانند منویات دولت را به مردم انتقال دهند و یا خواسته‌ها و مطالبات مردم را نیز از طریق شبکه‌های اجتماعی (Social media) و جنبش‌ها و پویش‌های اجتماعی به دولت انتقال دهند) واگذار شود.

حسینی در ادامه چنین گفت: به نظر فیلسوفان حقوق، بخشی از این نظریه‌ها و ایده‌های حکومتی مثل لیبرال دموکراسی، سوسیالیزم و آزادی گرایی تجربه شده است ولی بخشی از آن ها، در روی کاغذ مانده و به مرحله عمل نرسیده و یا در مقام عمل با مسائل و چالش‌هایی مواجه است. از این جهت کارشناسان و نظریه‌پردازان UNDP وقتی راجع به حکمرانی خوب صحبت می کنند چند تا خصیصه برای آن مطرح می‌کنند که به نظر می‌رسد از نظر جامعه‌شناسی، برای بخش هوش مصنوعی بسیار مهم باشد؛ از این جهت که چگونه حکمرانی خوب می‌تواند با هوش مصنوعی تعامل کند؟

حکمرانی خوب باید دولت شیشه‌ای و شفاف داشته باشد؛ به این معنا که کار پنهانی از مردم انجام ندهد.

حکمرانی خوب باید پاسخگویی داشته باشد.

حکمرانی خوب باید حس مسوولیت‌پذیری اجتماعی بالایی داشته باشد.

حکمرانی خوب، مشارکت‌گرایی و مشارکت جویی بسیار بالایی دارد.

مقصود از هوش مصنوعی و خدمات آن

دکتر نجاتی حسینی بیان داشت: در مجموع، هوش مصنوعی پیشرفته‌ترین سیستمی است که می‌تواند بیشترین کارها را بهتر و دقیق تر از هوش طبیعی انجام دهد. آنها الگوریتم خاصی برای طرز تفکر و ارائه راه حل و همینطور یک فلوچارت دقیقی برای انجام عملیات دارند. امروزه از هوش مصنوعی در تمامی عرصه‌های سیاسی، فرهنگی و اجتماعی استفاده می‌شود؛ به جز آن، در صنایع مهم کشور از جمله پزشکی، دستکاری های در طبیعت و انسان، امور فنی و مهندسی، مکانیک و صنایع مهم دفاعی و نظامی مدرن (مانند پهبادها و ریز پرنده‌ها) استفاده می‌شود.

وی در ادامه به جلوه‌های مهم هوش مصنوعی اشاره کرد و چنین گفت: هوش مصنوعی دو جلوه مهم دارد که در جامعه‌شناسی سیاسی باید به آنها توجه شود؛ خدماتی که می‌توان از هوش مصنوعی گرفت که در تمام امور زندگی ما دیده می‌شود مانند برقراری ارتباط، تسهیل امور، اطلاع رسانی آموزشی. اما در عین حال یک خطرات یا ریسک هایی هم دارد که می‌تواند زندگی انسان را ناامن کند. چنانچه هوش مصنوعی حتی می‌تواند مخاطراتی را برای دین و دیانت انسان در زمان حال و آینده به همراه داشته باشد.

سیاستمدارانی که بیشترین استفاده را از هوش مصنوعی می‌برند نسبت به مخاطرات آن حساس شده‌اند. از همین رو، در همین سال میلادی سازمان ملل متحد مجمعی را با حضور سیاستمداران، نظریه‌پردازان و مدیران شرکت های بزرگ اینترنتی مانند مایکروسافت، نتا و … برگزار کرد که بررسی کنند که چه مقرراتی برای کاربرد و کنترل هوش مصنوعی تنظیم کنند و در نهایت با ایجاد توافق بر تنظیمات آن، به یک قرارداد اجتماعی مدرن برای کنترل هوش مصنوعی برسند.

در اینجا بحث در این است که براساس ادبیات مدرنی که وجود دارد در به کارگیری و کنترل و نظارت بر هوش مصنوعی باید به سه مساله مهم توجه کرد: امنیت (safety) آن برای انسان، اخلاقی بودن آن (safety) برای انسان و دیگر موجودات و به خطر نیانداختن حرمت و کرامت انسانی (respect).

چالش‌های حکمرانی هوش مصنوعی در سطح جهانی:

دکتر حسینی ضمن بیان آن که هم حکمرانی هوش مصنوعی و هم حکمرانی هوشمند مصنوعی مواجه با چالش هایی است که لازم است با هر دو برخورد منطقی صورت گیرد؛ آن چالش ها را به دو دسته جهانی و محلی تقسیم کرد و در ابتدا اشاره به چالش‌های جهانی (Global) این مساله که در تمامی جوامع بشری صدق می‌کند  داشت و آن ها را چنین برشمرد:

1. فراانسانی بودن خود هوش مصنوعی به این معنا که اگرچه هوش مصنوعی انسان ساخت بوده و ادامه هوشمندی انسان است اما جنبه های انسانی در آن کمتر است و البته لزوما به معنای unti human نیست بلکه super human بوده و ورای فهم و دریافت انسانی است.
2. فراشناختی بودن هوش مصنوعی است. در دنیای حاضر، تنها یک درصد از پتانسیل هوش مصنوعی به کار گرفته شده است اما با این وجود، یکی از مسائل مهم در این حوزه، فراشناختی بودن هوش مصنوعی است که هنوز ابعاد آن شناخته نشده و از لحاظ علمی نیز آنالیز نشده است. وقتی که پدیده‌ای فراشناختی باشد چالش هایی ایجاد می‌کند از جمله آن که قابل مدیریت، کنترل و پیش بینی نخواهد بود.
3. مساله دیگر، فراتحلیل بودن آن است که کمتر می‌توان هوش مصنوعی را تحلیل کرد. در جهان جدید ما information هایی داریم که باید به data و سپس بهScience  تبدیل شود که براساس آن، بتوانیم تحلیل کنیم که ببینیم چه اتفاقاتی در قبل افتاده و چه اتفاقاتی در حال حاضر و چه اتفاقاتی در زمان های دور به وجود می آید.
4. چالش دیگر، فراپیش بینی بودن هوش مصنوعی است که مانع کنترل و مدیریت هوش مصنوعی می‌شود.

چالش‌های حکمرانی هوش مصنوعی در سطح داخلی کشور ایران

دکتر نجاتی حسینی در ادامه چنین گفت: علاوه بر چالش‌های حکمرانی که در سطح جهانی وجود دارد؛ چالش ها و مسائل حکمرانی هوش مصنوعی در کشور ایران و در سطح محلی قابل ملاحظه است. ما یکسری چالش را در خود دولت و حوزه های دانشگاهی داریم که حتی نتوانستیم هوش مصنوعی را از لحاظ حکومتی مدیریت و کنترل کنیم. این چالش ها عبارتند از:

1. حال‌گرایی؛ یکی از موضوعات مهم در بحث جامعه‌شناسی و حکمرانی هوش مصنوعی آینده شناسی، آینده پژوهی و آینده نگری است که متاسفانه در این حوزه خوب عمل نکردیم.
2. سازمان‌گرایی؛ اگرچه برای انجام امورات یک کشور باید بوروکراسی منظمی داشته باشیم ولیکن سازمان گرایی ما را مثل تارهای عنکبوت در درون خود محاصره کرده است و همین موجب شده است که ما به سمت سیاست‌گذاری حرکت نکنیم. این که چه چیزی، چرا و چگونه و چقدر بخواهیم؟ و چه اقداماتی باید برای آن انجام دهیم.
3. داخلی‌گرایی؛ ما فعلا درگیر این هستیم که از چه اموری برای رفع امور خود استفاده کنیم و آنقدر درگیر داخلی‌گرایی شدیم که از پیشرفت هایی که در خارج اتفاق می افتد عقب مانده ایم. در حال حاضر، هوش مصنوعی بیشتر در دست ایالات متحده آمریکا، اروپا و در آسیا در کشورهای چین، ژاپن، هنگ کنگ و کره جنوبی است. لازم است که ما برای اعمال سیاست‌ها و حاکمیت‌های مرزی و فرامرزی خود و حتی در بحث هوافضا که در برنامه‌های فضایی که در آینده اتفاق می‌افتد، به پیشرفت‌های خارجی توجه کنیم.
4. امنیت‌گرایی؛ چالش دیگر، امنیت‌گرایی بودن بکارگیری هوش مصنوعی بدون توجه به علمی‌گرایی و پیشرفت‌های انجام گرفته شده در هوش مصنوعی است. در المپیک امسال که در تابستان برگزار می‌شود، تمام تمهیدات امنیتی براساس هوش مصنوعی و لیکن مبتنی بر علم‌گرایی صورت می‌گیرد.
5. سمینارگرایی؛ چالش دیگر سمینارگرایی و برگزاری صرف هم‌اندیشی، کنفرانس، نشست، همایش و مانند آن بدون آن که به سیاست‌پژوهی و تعیین خط مشی‌های سیاسی توجه شود. البته قبل از سیاست پژوهی لازم است که آینده پژوهی دقیقی انجام شود.
6. شعارگرایی بدون ریل گذاری که هم در امور عقیدتی فرهنگی سیاسی و … این شعارگرایی وجود دارد. البته اگر شعارگرایی برای بیان افکار مانیفستی استفاده شود که خودمان و آینده و افکار و برنامه های آینده را بیان کند خوب است.
7. حکومت‌گرایی؛ حکمرانی در جامعه ما ضعیف است و این به خاطر آن است که حکومت گسترده است و از لحاظ بوروکراتیک گسترده است و این حکومت‌گرایی است و نه حکمرانی و مردم گرایی. به علاوه به جای آن که سیاست های مبتنی بر خط مشی‌های علمی حقوقی عقیدتی ایجاد کنیم فقط سیاست‌زده هستیم یعنی یک امری را سیاسی و شعاری می کنیم.

راهبردهای حل چالش‌های حکمرانی هوشمند مصنوعی و حکمرانی هوش مصنوعی

دکتر نجاتی حسینی در پایان در بیان راهبردهای حل چالش‌های حکمرانی هوشمند مصنوعی و حکمرانی هوش مصنوعی را چنین گفت: ما باید دانش علمی خود را در امور هوش مصنوعی قوی و افزایش دهیم و ابعاد گوناگون هوش مصنوعی ادبیات جامعه‌شناسی، سیاسی، فرهنگی آن را از طریق ترجمه و تالیف مطالعه کنیم. همچنین لازم است ما به سمت حکمرانی خوب حرکت کنیم یعنی دولت و سیاستگذاران ارشد تصمیم بگیرند حکمرانی را اجرایی کنند. باید تمهیداتی اندیشیده شود که بخش های خصوصی مردم، گروه های داوطلبانه و مردمی تقویت شوند تا حکومت مردمی و مشارکت پذیر شود و مردم در مهندسی اجتماعی مشارکت داشته باشند. اگر بتوانیم تا سال ۲۰۴۰ و ۲۰۵۰ به حکمرانی مشارکت پذیر مردمی برسیم، به نظر می‌رسد که از نظر جامعه‌شناسی سیاسی هم هوش مصنوعی را کنترل کردیم و هم با استفاده از هوش مصنوعی یک حکمرانی خوب و مناسبی داشته باشیم.