ضرورت استفاده هوشمندانه از هوش مصنوعی در امر پژوهش

به گزارش روابط عمومی پژوهشگاه فرهنگ و اندیشه اسلامی، به مناسبت هفته پژوهش و با توجه به جایگاه پژوهشی پژوهشگاه فرهنگ و اندیشه اسلامی، گفتگویی با محمدحسن شاهنگی، مدیر پشتیبانی و خدمات پژوهشی و آموزشی پژوهشگاه پیرامون فعالیت‌ها، برنامه‌ها، اهداف و چشم‌اندازهای این مدیریت انجام داده‌ایم که در ادامه می خوانید:

کارویژه‌های شاخص در مدیریت پشتیبانی و خدمات پژوهشی و آموزشی کدامند؟

استانداردسازی و نمایه‌سازی نشریات در پایگاه‌های بین‌المللی را به طور جدی دنبال می‌کنیم. به روزرسانی‌،‌ تکمیل و ارتقا وب سایت نشریات پژوهشگاه بر اساس شاخص‌های کمیسیون نشریات وزارت علوم و بستر برای نمایه‌سازی در پایگاه‌های بین‌المللی SCOPUS و WOS در دستور کار قرار دارد. کارویژه دوم مدیر پشتیبانی و خدمات پژوهشی و آموزشی پژوهشگاه، طرح رصد فکری فرهنگی است که در ۶ گروه انجام گرفت. هدف نخست طرح رصد، توصیف وضعیت رویدادهای فکری، علمی و پژوهشی موجود و در گام دوم ارائه گزارش عملکرد کمّی است. همچنین تلاش شده وضعیت تولید آثار و اقبال مخاطب نسبت به آثار، مورد اشاره قرار گیرد تا در برنامه‌ریزی‌ها و سیاستگذاری‌های مدیریتی آتی این داده‌های آماری لحاظ شود. از پژوهشکده‌ حکمت و دین‌پژوهی، گروه‌های «فلسفه» و «کلام»، از پژوهشکده‌ فرهنگ و مطالعات اجتماعی، گروه‌های «مطالعات انقلاب اسلامی» و «ادبیات اندیشه» و از پژوهشکده ‌نظام‌های اسلامی، گروه‌های «فقه و حقوق» و «اخلاق» به عنوان گروه‌های هدف انتخاب شدند. این رصد در نیمه اول امسال کوشید تحفظ حداکثری به قلمروی موضوعی گروه‌های ۶گانه منتخب مورد بررسی داشته باشد و شاخص‌های سنجش و ارزیابی را براساس محورها و ریزمحورهای مصوب در این قلمروها تنظیم نماید. رصد مرتبط با مابقی گروه‌های پژوهشگاه نیز در دست انجام است.

در خصوص استفاده از هوش مصنوعی در امر پژوهش چه طرح‌هایی در زمینه‌ استانداردسازی پژوهش در نظر گرفته شده است؟

چاره‌ای نداریم جز اینکه به سمت استفاده هوشمندانه از هوش مصنوعی در امر پژوهش حرکت کنیم. در اردیبهشت سال جاری از سوی وزارت علوم در راستاي ساماندهی و تبیین نحوه بهره‌برداري از ابزارهاي هوش مصنوعی در فعالیتهاي پژوهشی، «راهنماي استفاده از ابزارهاي هوش مصنوعی در پژوهش» تهیه و ابلاغ شده است. آگاهی و پایبندي به اصول اخلاق پژوهش در استفاده از این ابزارها براي تمامی واحدهاي پژوهشی ضرورت دارد. این ابلاغیه بندهای مهمی دارد که عبارتند از الزامات اخلاقی (بند ۲)، مصادیق استفادة مجاز از هوش مصنوعی (بند ۵)، مصادیق استفادة غیرمجاز از هوش مصنوعی (بند ۶)، الزامات استناد و ارجاع به استفاده از ابزارهاي هوش مصنوعی (بند ۷)، سیاست ناشران دربارة استفاده از هوش مصنوعی در فرایند داوري (بند ۹)، سیاستهاي ناشران براي ویراستاران علمی مجلات در استفاده از هوش مصنوعی (بند۱۰)، استانداردهاي استفاده از ابزارهاي هوش مصنوعی در حوزه‌هاي مختلف علوم (بند ۱۱) و فرایندهاي نظارتی و ارزیابی تخلفات (بند ۱۳). در صدد هستیم این بندهای مهم را به طرق مختلف و به شکل مبسوط به اطلاع اعضای محترم هیئت علمی پژوهشگاه برسانیم.

مدیریت خدمات پشتیبانی آموزشی و پژوهشی چه کارگاه‌های دانش‌افزایی و مهارت‌آموزی را امسال تدارک دیده است؟

ناظر به موضوع هوش مصنوعی ۲ کارگاه مهم در دست برنامه‌ریزی جهت اجراست؛‌ اول کارگاه ابزارهای پژوهشی هوش مصنوعی است و دوم کارگاه هوش مصنوعی و اخلاق پژوهش می‌باشد. در کارگاه اول چت بات‌های متنی، محور کار هستند و در کارگاه دوم، محورهای امنیت داده‌ها، سرقت علمی، مشابهت‌یابی هوشمند مورد توجه قرار می‌گیرند. ضمن اینکه در سال جاری کارگاه‌های دیگری در غیر از موضوع هوش مصنوعی در مدیریت پشتیبانی پژوهش نیز برگزار شده است که کارگاه های سواد رسانه‌ای و کارگاه ارتقای مرتبه علمی اعضای محترم هیئت علمی از آن جمله‌اند.

ضرورت برگزاری کارگاه‌های مهارت‌محور در زمینه هوش مصنوعی چیست؟

استفاده از ابزار هوش مصنوعی در تحلیل داده‌های پیمایشی، داده‌کاوی شبکه‌های اجتماعی، تحلیل گفتمان، یا شبیه‌سازی نظامهای اجتماعی، رو به رشد است. بر اساس آمارهای رسمی منابع ذی‌ربط محققان ایرانی عمدتاً به ۲ منظور از هوش مصنوعی استفاده می‌کنند؛ اول خلاصه‌سازی مقالات، بررسی حجم وسیعی از اطلاعات و کمک به شناسایی مطالعات مرتبط با موضوع پژوهش و دوم برای تولید تصاویر، نمودارها یا اشکال گرافیکی. برخی ابعاد استفاده از هوش مصنوعی در کشورمان کمتر مورد استفاده محققان قرار می‌گیرد؛ مثلاً در زمینه ویرایش و بهبود زبانی متون قابلیت‌های هوش مصنوعی کمتر شناخته شده است. یا استفاده از هوش مصنوعی برای ایجاد ایده‌های اولیه و تدوین چارچوب کلی طرح پژوهشی امری مغفول است. مخاطرات جدی در زمینه استفاده از هوش مصنوعی در امر پژوهش وجود دارد؛ تولید منابع جعلی، ایجاد ارجاعات غیرواقعی، تغییر نادرست متون علمی یا ادعای مطالعات و داده‌های ساختگی شایع‌ترین این موارد است. همچنین بازنویسی آثار دیگران بدون ارجاع و ذکر منبع حتی با تغییر واژگان یا ساختار متن، غیرمجاز و نقض اصول اخلاق پژوهش محسوب می‌گردد.

رویکرد برنامه‌های این مدیریت در آینده ناظر به موضوع هوش مصنوعی چیست؟

در «راهنمـاي اسـتفاده از ابزارهاي هوش مصـنوعی در پژوهش» که ابلاغ شده است بیان می‌شود که رعایت اصول اخلاقی در استفاده از هوش مصنوعی در پژوهش نه تنها یک الزام حرفه‌ای، بلکه بنیانی حیاتی برای حفظ صداقت علمی، اعتماد عمومی و اعتبار نهادهای علمی به شمار می‌رود. در جهانی که فناوریهای نوین به سرعت در حال نفوذ به فعالیتهای علمی هستند استفاده نادرست یا غیرشفاف از هوش مصنوعی می‌تواند به تحریف واقعیتها، تولید دانش غیرقابل اتکاء و در نهایت بی‌اعتمادی جامعه  علمی و عمومی منجر شود. هوش مصنوعی باید در خدمت نیازها و ارزشهای انسانی باشد و کرامت و حقوق افراد را تضمین کند. بر اساس این نکات باید توجه داشت که مسئولیت کامل محتوای علمی اعم از صحت، اصالت و تطابق  با معیارهای علمی و اخلاقی همچنان بر عهده  پژوهشگران و نویسندگان است و استفاده از ابزارهای هوش مصنوعی هیچگونه مسئولیتی را از آنها سلب نمی‌کند.  این  ابزارها تحت هیچ شرایطی به عنوان صاحب امتیاز یا  پدیدآورنده  آثار علمی شناخته  نمی‌شوند. کاربران هوش مصنوعی باید مسئولیت نتایج و عواقب استفاده از این ابزارها را بر عهده بگیرند. اعضای محترم هیئت علمی باید آگاهی کامل از جنبه‌های فنی و اخلاقی از جمله ملاحظات و سیاستهای حریم خصوصی، مالکیت داده، امنیت اطلاعات و نحوه پردازش اطلاعات داشته باشند. پژوهشگران باید از سازوکارهای امن (مانند اجرای مدلهای هوش مصنوعی به صورت آفلاین یا برخط) برای تحلیل داده‌ها بهره گیرند.

سخن پایانی؟

سامانه‌های هوش مصنوعی ممکن است پیش‌فرض‌های از قبل‌تعیین‌شده الگوریتمی یا محتوایی داشته باشند که خواسته یا ناخواسته رویکرد کلی پیدا و یا پنهان یک پژوهش را تحت شعاع خود قرار دهند. هنگام استفاده از خروجی این ابزارها باید با دید نقادانه به بررسی آن پرداخته و از وارد‌شدن هر گونه سوگیری غیرموجه جلوگیری کرد. نباید فراموش کرد بازنگری نهایی متن بر عهده خود پژوهشگر است و نباید در این مرحله با تسامح  و اغماض وارد عمل شد.