به گزارش روابط عمومی پژوهشگاه فرهنگ و اندیشه اسلامی، نشست علمی سوگیری‌ها در هوش مصنوعی به همت گروه معرفت شناسی و علوم‌شناختی پژوهشگاه، با ارائه حجت الاسلام دکتر علیرضا قائمی نیا، عصر روز سه شنبه ۲۱ اسفندماه در تالار اندیشه پژوهشگاه فرهنگ و اندیشه اسلامی برگزار شد.
در این نشست حجت الاسلام قائمی نیا ابتدا به بحث عینیت و عدم عینیت هوش مصنوعی پرداخت و گفت: آیا در هوش مصنوعی با نوعی عینیت مواجه هستیم یا خیر؟ تصور عمومی و همگانی بر این است که هوش مصنوعی یک معرفت بدون سوگیری است، این برداشت عرفی است. خیلی از متخصصان فکر می‌کنند هوش مصنوعی معرفتی غیر معیوب را فراهم می‌آورد. بهره‌گیری از هوش مصنوعی در علوم مختلف مانند ریاضی، علوم اجتماعی و روانشناسی و … کاربرد دارد. در اکثر این‌ها می‌بینیم خیلی‌ها بر این باور هستند که اعتقاد به عینیت و معرفت هوش مصنوعی سوگیری و جهت‌گیری وجود ندارد.
وی در ادامه به دلایل قائلین به عینیت هوش مصنوعی اشاره کرد و گفت: اینان دو علت را ذکر کرده‌اند علت اول هوش مصنوعی مبتنی بر ریاضیات و منطق خاص است و علم ریاضی پایه هوش مصنوعی برشمرده می شود و یک دانش عینی است، پس هوش مصنوعی نیز عینی است و سوگیری ندارد.
قائمی نیا علت دوم قائلین به عینیت هوش مصنوعی را داده محور بودن هوش مصنوعی دانست و بیان کرد: هوش مصنوعی بر اساس داده‌ها کار می‌کند داده کاوی می‌کند و شبیه سازی می‌کند پس چون مبتنی بر داده است پس سوگیری وجود ندارد. به طور کلی این دو عامل را می‌توان از نگاه قائلین به عینیت هوش مصنوعی ذکر کرد که در هوش مصنوعی سوگیری وجود ندارد.
عضو هیئت علمی پژوهشگاه فرهنگ و اندیشه اسلامی در ادامه به بیان نظریه دوم پرداخت و گفت: خیلی از افراد قائل به سوگیری خاص هستند که به آن سوگیری الگوریتمی می‌گویند. هوش مصنوعی خطاهای بزرگی می‌تواند به همراه داشته باشد و در مقابل آن سوگیری شناختی است که در خود انسان است.
وی در ادامه به مبحث تقدم داده ها بر الگوریتم ها پرداخت و گفت: وقتی هوش مصنوعی با الگوریتم‌ها کار می‌کند باید بپذیریم که یک سری امور مقدم بر الگوریتم‌ها هستند مانند داده‌هایی که وجود دارند. در دسته‌بندی داده‌ها و الگوریتم‌ها می‌تواند خطا وجود داشته باشد و در نهایت عینیت معرفت هوش مصنوعی را زیر سوال می‌برد و یک نوع سوگیری خاص در هوش وجود دارد این‌ها با سوگیری شناختی انسان متفاوت است.
قائمی نیا در ادامه به برخی از سوگیری‌های شناختی انسان اشاره کرد و بیان داشت: از جمله سو گیری شناختی، سوگیری تایید است. انسان‌ها معمولاً تلاش می‌کنند از میان داده‌ها، آنهایی را انتخاب کنند که خودشان تایید می‌کنند. در حقیقت سیستماتیک است و عملکرد مغز انسان که برگرفته از فرهنگ و آداب و رسوم و غیره است تاثیر مستقیم دارد. اموری که در نحوه عملکرد مغز انسان اثر می‌گذارند.
وی اضافه کرد: در مرحله بعد به سوگیری شناختی توجه اشاره کرد و گفت : توجه افراد معمولاً به محرک‌هایی است که برایش اهمیت دارند مثلاً اگر کسی از گربه هراس دارد وقتی وارد خانه یا فضایی می‌شود ابتدا توجه می‌کند که در آن محیط گربه وجود دارد یا خیر و اصلاً وجود سوسک و یا سایر حشرات برایش اهمیتی ندارد.
قائمی نیا در ادامه به تبیین سوگیری خود خدمتی پرداخت و بیان کرد: معمولا انسان دوست دارد که موفقیت‌ها را به خود نسبت دهد ولی شکست‌ها را به دیگران منتسب می نماید و این همان سوگیری خودخدمتی است.مثلاً اگر انسان در امتحانی نمره خوبی بگیرد می‌گوید خودم تلاش کردم اما اگر در همان امتحان نمره خوبی کسب نکند می‌گوید من خوب خواندم اما سوالات استاندارد نبود.
وی درباره مغالطات و ارتباط با سو گیری شناختی افزود: نکته مهم اینجاست مغالطات با سوگیری شناختی یکی نیست در حقیقت باید بگوییم سوگیری شناختی اساس مغالطات است.
در ادامه قائمی نیا به تفاوت سوگیری های شناختی و الگوریتمی پرداخت و بیان کرد: سوگیری الگوریتمی به داده‌ها، کمیت و کیفیت داده‌ها مرتبط است اما سوگیری شناختی به مغز انسان بستگی دارد. سوگیری شناختی خودش می‌تواند منشا سوگیری الگوریتمی شود در حقیقت سوگیری شناختی بنیانی‌تر از سوگیری الگوریتمی است.
وی سپس به تبیین تفاوت شاخص سوگیری شناختی و الگوریتمی پرداخت و گفت: ۶ تفاوت شاخص میان سو گیری شناختی و الگوریتمی وجود دارد.
در ابتدا باید گفت از لحاظ منشاء متفاوت هستند. منشأ هوش مصنوعی داده و الگوریتم است اما منشا شناختی تجربیات فرهنگ و رسوم و …، ماهیت‌شان هم متفاوت است. الگوریتم‌ها شکل کمی دارند و شناختی‌ها شکل کیفی دارند و پیچیده‌تر هستند. لذا از نظر ماهیت فرق دارند.
عضو هیئت علمی پژوهشگاه فرهنگ و اندیشه گفت: هوش مصنوعی هر قدر اطلاعاتش زیادتر باشد بهتر کار می‌کند اگر حجم اطلاعات کم باشد ضعیف‌تر می‌شود در هوش مصنوعی حجم داده و تنوع داده‌ها اهمیت دارد در صورتی که حجم داده و تنوع آنها کم شود قطعاً سوگیری‌ها بیشتر می‌شود.
قائمی نیا تفاوت بعدی را قابلیت پیش بینی بودن دانست. وی گفت: در سوگیری الگوریتمی پیش بینی و اصلاح امکان دارد اما در سوگیری شناختی حقیقتاً اصلاح و پیش‌بینی بسیار سخت و دشوار است.
او در ادامه سومین تمایز را مقیاس تاثیر گذاری دانست و گفت: در سوگیری الگوریتمی حقیقتاً تاثیر آن گسترده و نظام‌مند است اما در سوگیری شناختی یا فردی است و یا گروهی و ممکن است به جوامع دیگر توسعه نیابد. جنگ شناختی که با کمک هوش مصنوعی دنبال می‌شود هم سوگیری الگوریتمی و هم سوگیری شناختی را گسترش می‌دهد.
وی افزود: تفاوت بعدی بررسی قابلیت اصلاح بود که قائمی نیا به تشریح آن پرداخت و گفت: با یادگیری عمیق می‌توان داده را اصلاح کرد و تغییر داد این مسئله در هوش مصنوعی وجود دارد اما اصلاح در انسان بسیار سخت و زمانبر است. در نهایت تفاوت آخر از لحاظ شفافیت بود که اینگونه مطرح شد؛ در هوش مصنوعی می‌توان مستندسازی و دلیل یابی کرد اما در سوگیری شناختی غالباً ناخودآگاه صورت می‌گیرد و قابلیت شناسایی دقیق و کامل در حوزه‌های سیاسی و اجتماعی وجود ندارد.
عضو هیئت علمی پژوهشگاه فرهنگ و اندیشه گفت: نکته تکمیلی بحث ناهماهنگی شناختی است. روانشناسان شناختی کشف کرده‌اند که در انسان فرایند شناختی خاصی وجود دارد جایی که انسان به ناهماهنگی شناختی در کارهایش می‌رسد دستگاه‌های شناختی با تغییر خود، در حقیقت بدنبال درمان بی‌نظمی ذهنی با واقعیت ایجاد شده هستند.سوال اینجاست: آیا در هوش مصنوعی ناهماهنگی الگوریتمی وجود دارد؟ اگر چنین چیزی وجود داشته باشد که قرائنی در این باره وجود دارد، باید بگوییم می‌تواند منشا خیلی از خطاها در هوش مصنوعی قرار گیرد و به نظر می‌رسد سوگیری الگوریتمی از هوش مصنوعی قابل حذف نیست.
حجت الاسلام قائمی نیا در پایان نشست با تبیین دو دیدگاه در مورد سوگیری الگوریتمی توضیحاتی ارایه کرد و گفت در اینجا دو نظریه وجود دارد: اول اینکه برخی قائل به این هستند که هوش مصنوعی مستقل از انسان کار می‌کند.و عده ای دیگر بر این باور هستند که هوش مصنوعی با همکاری انسان کار می‌کند.
قائمی نیا در جمع بندی سخنان خود گفت: در واقع باید بپذیریم که ربات‌ها و هوش مصنوعی نمی‌توانند استقلال تام از انسان داشته باشند و همین عدم استقلال منجر به آلوده شدن سوگیری شناختی انسانی می‌شود. بر فرض اینکه بتوانند در این زمینه‌ها هوش مصنوعی عینیت ایجاد کند در علوم اجتماعی و روانشناسی و… ممکن نیست، زیرا سوگیری شناختی وجود دارد و در نتیجه باید گفت با ناهماهنگی الگوریتمی مواجه هست.
