اخلاق هوش مصنوعی در پژوهش دیگر بحثی نظری برای همایش‌های فلسفه نیست؛ پرسشی روزمره است که هر دانشجو و استادی با آن روبه‌روست. آیا مجازم دادهٔ مصاحبه‌هایم را در ChatGPT بارگذاری کنم؟ اگر بخشی از مقاله را با کمک هوش مصنوعی نوشته باشم، مالک متن هستم؟ مجلهٔ هدفم دربارهٔ افشای استفاده چه می‌گوید؟ اگر داوری از هوش مصنوعی برای خواندن مقاله‌ام استفاده کند، محرمانگی کارم چه می‌شود؟ این‌ها پرسش‌هایی‌اند که پاسخ نادرست به آن‌ها می‌تواند به رد مقاله، نقض حقوق شرکت‌کنندگان یا حتی پیامدهای حقوقی منجر شود.
این مقاله بر پایهٔ ایده‌های فصل ۹ کتاب Using AI in Academic Writing and Research (Springer, 2025) نوشته شده است؛ فصلی با عنوان «پیمودن چشم‌انداز مقرراتی و اخلاقی هوش مصنوعی در دانشگاه». نویسندگان کتاب، که یکی از آن‌ها، الدار هابر، استاد حقوق دانشگاه حیفاست، در این فصل مسائل حفاظت از داده، مالکیت فکری، الزامات انطباق، چالش‌های اخلاقی و نقش هوش مصنوعی در ارزیابی علمی را بررسی کرده‌اند. ما متن کتاب را ترجمه نکرده‌ایم؛ ایده‌های اصلی را با زبان خودمان شرح داده‌ایم و آن‌ها را با شرایط پژوهشگران ایرانی پیوند زده‌ایم.
این مقاله قسمت نهم از مجموعهٔ ده‌قسمتی ریسرچ اینتل بر پایهٔ این کتاب است. برای آشنایی با زمینهٔ کلی، هوش مصنوعی در پژوهش دانشگاهی و برای مهارت‌های عملی پایه، آموزش هوش مصنوعی برای دانشجویان را بخوانید.
پیام محوری فصل نهم این است که قانون و سیاست‌های نهادی از سرعت فناوری عقب‌ترند. بسیاری از پرسش‌ها هنوز پاسخ قطعی ندارند و دادگاه‌ها، دانشگاه‌ها و ناشران در حال شکل دادن به قواعد تازه‌اند. در چنین فضایی، پژوهشگر نمی‌تواند منتظر بماند تا همه‌چیز روشن شود؛ باید با احتیاط، شفافیت و آگاهی از اصول پایه عمل کند. کتاب تأکید می‌کند که هوش مصنوعی نه سودی بی‌چون‌وچراست و نه تهدیدی ذاتی برای صداقت علمی؛ اثر آن به شیوهٔ استفادهٔ ما بستگی دارد.
در این راهنما، مطالب را در سه بخش آورده‌ایم: چارچوب‌های حقوقی و حفاظت از داده، الزامات انطباق و چالش‌های اخلاقی، و نقش هوش مصنوعی در داوری، ارزیابی طرح‌های پژوهشی و ارزشیابی دانشجویان. در هر بخش، توصیه‌های عملی و جدول‌هایی برای تصمیم‌گیری سریع آمده است.
اخلاق هوش مصنوعی در پژوهش: چارچوب‌های حقوقی و حفاظت از داده
کتاب بحث را با یادآوری این نکته آغاز می‌کند که استفاده از هوش مصنوعی مولد در دانشگاه، مسائل حقوقی و مقرراتی پیچیده‌ای پدید می‌آورد. قوانین حفاظت از داده هنگام پردازش دادهٔ شخصی الزامات سخت‌گیرانه‌ای دارند، مسائل مالکیت فکری پرسش‌هایی دربارهٔ مالکیت، حق نشر و قانونی بودن دادهٔ آموزشی مدل‌ها مطرح می‌کنند، و سیاست‌های صداقت علمی به‌طور فزاینده‌ای شفافیت در استفاده را الزامی می‌دانند.
چالش‌های مقرراتی: وقتی قانون از فناوری عقب می‌ماند
چشم‌انداز مقرراتی هوش مصنوعی در جهان به سرعت در حال تغییر است. اتحادیهٔ اروپا با تصویب قانون هوش مصنوعی (AI Act) نخستین چارچوب جامع حقوقی برای این فناوری را ایجاد کرده که سیستم‌ها را بر اساس سطح خطر دسته‌بندی می‌کند و برای کاربردهای پرخطر الزامات سخت‌گیرانه‌ای می‌گذارد. در کنار آن، مقررات عمومی حفاظت از داده (GDPR) که کتاب بارها به آن ارجاع می‌دهد، استاندارد جهانی حریم خصوصی را شکل داده است.
ممکن است بپرسید این قوانین اروپایی چه ربطی به پژوهشگر ایرانی دارد؟ پاسخ این است که اثر آن‌ها فراتر از مرزهای اروپا است. اگر با همکاران اروپایی پروژهٔ مشترک دارید، اگر دادهٔ شرکت‌کنندگان اروپایی را جمع‌آوری می‌کنید، یا اگر مقاله‌تان را به مجله‌ای اروپایی می‌فرستید، این مقررات بر کار شما اثر می‌گذارند. افزون بر این، بسیاری از ابزارهای هوش مصنوعی سیاست‌های خود را بر پایهٔ همین قوانین تنظیم می‌کنند و اصول آن‌ها، مانند شفافیت، کمینه‌سازی داده و رضایت آگاهانه، اصول جهان‌شمول اخلاق پژوهش‌اند.
در ایران هم چارچوب اخلاق در پژوهش، به‌ویژه در پژوهش‌های پزشکی و علوم رفتاری، بر پایهٔ کمیته‌های اخلاق دانشگاهی و رهنمودهای ملی بنا شده است. این کمیته‌ها هنوز در بسیاری از موارد رهنمود مشخصی دربارهٔ هوش مصنوعی ندارند، اما اصول کلی آن‌ها، یعنی حفظ محرمانگی، رضایت آگاهانه و پرهیز از آسیب، به‌روشنی به استفاده از این ابزارها هم تعمیم می‌یابد. اگر پژوهش شما کد اخلاق دارد و قصد دارید در تحلیل داده از هوش مصنوعی استفاده کنید، بهتر است این موضوع را با کمیتهٔ اخلاق در میان بگذارید.
کتاب یادآوری می‌کند که چون حکمرانی هوش مصنوعی به سرعت در حال تحول است، به‌روز ماندن با سیاست‌های نهادی، چارچوب‌های حقوقی و بهترین شیوه‌ها ضروری است. آنچه امروز مجاز است، ممکن است سال آینده محدود شود و برعکس.
حفاظت از داده و حریم خصوصی
نخستین و فوری‌ترین مسئلهٔ اخلاقی، حریم خصوصی است. کتاب توضیح می‌دهد که بسیاری از ابزارهای هوش مصنوعی ورودی کاربر را روی سرورهای خارجی پردازش می‌کنند. یعنی هر چیزی که وارد این سیستم‌ها می‌کنید، ممکن است ذخیره، تحلیل یا حتی برای آموزش مدل‌های آینده استفاده شود، مگر آنکه خلاف آن صراحتاً اعلام شده باشد. این موضوع برای پژوهشگرانی که با دادهٔ شخصی، دست‌نوشته‌های محرمانه یا یافته‌های منتشرنشده کار می‌کنند، اهمیت حیاتی دارد.
بر پایهٔ GDPR، هر پردازشی روی دادهٔ شخصی باید قانونی، منصفانه و شفاف باشد و پژوهشگری که با ابزار هوش مصنوعی دادهٔ قابل‌شناسایی را پردازش می‌کند، باید مبنای قانونی برای این کار داشته باشد. کتاب مثالی روشن می‌زند: نسخهٔ رایگان برخی ابزارهای عمومی گفت‌وگوها را نگه می‌دارد و ممکن است برای آموزش مدل از آن‌ها استفاده کند، در حالی که نسخه‌های سازمانی همان ابزارها این کار را نمی‌کنند. پس انتخاب نسخهٔ ابزار، خود یک تصمیم اخلاقی است.
ناشناس‌سازی راه رایج کاهش خطر است، اما کتاب هشدار می‌دهد که ناشناس‌سازی راه‌حلی بی‌نقص نیست. می‌توانید به جای نام‌ها و جزئیات شرکت‌کنندگان، کد یا نام مستعار بگذارید؛ اما مدل‌های هوش مصنوعی گاهی می‌توانند جزئیات حذف‌شده را از بافت متن حدس بزنند و داده‌ای که تا حدی ناشناس شده، با ترکیب با منابع دیگر گاهی قابل‌شناسایی مجدد است. برای مثال، مصاحبه‌ای با «مدیر تنها بیمارستان یک شهر کوچک در فلان استان» حتی بدون نام هم قابل‌شناسایی است.
کتاب همچنین بر شفافیت در رضایت‌نامه تأکید می‌کند. اگر هوش مصنوعی در هر مرحله‌ای از پردازش یا تحلیل داده نقش دارد، فرم رضایت آگاهانه باید این را روشن بیان کند؛ مثلاً با جمله‌ای که بگوید در این مطالعه از ابزارهای مبتنی بر هوش مصنوعی برای تحلیل داده‌های ناشناس‌شده استفاده می‌شود و هیچ شناسهٔ شخصی پردازش نخواهد شد.
راه‌حل‌های دیگری که کتاب پیشنهاد می‌کند عبارت‌اند از: استفاده از مدل‌هایی که روی سرور خود مؤسسه یا رایانهٔ شخصی اجرا می‌شوند، بررسی اینکه ارائه‌دهندهٔ ابزار گزارش یا رونوشت جلسات را نگه می‌دارد یا نه، و در پروژه‌های بزرگ‌تر، انعقاد قرارداد پردازش داده (DPA) با ارائه‌دهنده. جدول زیر یک راهنمای سریع برای تصمیم‌گیری است:
| نوع داده | ابزار عمومی رایگان | نسخهٔ سازمانی یا مدل محلی |
|---|---|---|
| متن منتشرشده و عمومی | مجاز | مجاز |
| پیش‌نویس مقالهٔ خودتان | با احتیاط و غیرفعال کردن آموزش مدل | مجاز |
| دادهٔ ناشناس‌شدهٔ شرکت‌کنندگان | توصیه نمی‌شود | با تأیید کمیتهٔ اخلاق و ذکر در رضایت‌نامه |
| دادهٔ قابل‌شناسایی یا حساس | ممنوع | فقط با مبنای قانونی و حفاظت کامل |
| دست‌نوشتهٔ دیگران برای داوری | ممنوع | فقط اگر مجله صراحتاً اجازه دهد |
پیش از بارگذاری هر فایلی در ابزار هوش مصنوعی، از خود بپرسید: «اگر این داده فردا در دسترس عموم قرار گیرد، به چه کسی آسیب می‌رسد؟» اگر پاسخ «هیچ‌کس» نیست، آن داده را وارد ابزار عمومی نکنید.
مالکیت فکری و حق نشر
دومین حوزهٔ حقوقی، مالکیت فکری است. کتاب توضیح می‌دهد که هوش مصنوعی مولد می‌تواند بخش‌های بزرگی از متن را تولید کند، ادبیات را خلاصه کند و در ساختاردهی استدلال کمک کند؛ و همین توانایی‌ها پرسش‌های پیچیده‌ای دربارهٔ نویسندگی، مالکیت و انتساب پدید می‌آورند.
قانون حق نشر معمولاً فرض می‌کند که فقط نویسندگان انسانی می‌توانند صاحب حقوق مالکیت فکری باشند. کتاب اشاره می‌کند که ادارهٔ حق نشر ایالات متحده اعلام کرده آثاری که صرفاً توسط هوش مصنوعی تولید شده‌اند، مشمول حمایت حق نشر نیستند؛ هرچند آثاری که مشارکت خلاقانهٔ انسانی قابل‌توجهی دارند، می‌توانند حمایت شوند. پیام عملی برای پژوهشگر روشن است: هرچه سهم فکری و خلاقانهٔ شما در متن بیشتر باشد، ادعای مالکیت شما محکم‌تر است.
کتاب در اینجا به مفهوم «هم‌هوشی» (Co-Intelligence) از ایتن مالیک اشاره می‌کند که هوش مصنوعی را همکار می‌بیند، نه جایگزین نویسندهٔ انسانی. در این الگو، هوش مصنوعی کارایی و خلاقیت را افزایش می‌دهد، اما نقش نویسندهٔ اصلی را بر عهده نمی‌گیرد. این همان شیوه‌ای است که بسیاری از دانشگاهیان امروز به کار می‌برند: پالایش پیش‌نویس، پیشنهاد استدلال‌های جایگزین و بهبود وضوح، نه تولید کل مقاله.
توصیه‌های عملی کتاب برای حفظ مالکیت فکری:
- نسخه‌های پیش‌نویس را نگه دارید تا نشان دهید متن تولیدشده با کمک هوش مصنوعی چگونه توسط شما تغییر کرده است.
- استدلال‌های کلیدی را خودتان بسازید و متن ابزار را با استدلال خودتان بازنویسی کنید.
- در پروژه‌های گروهی، قواعد داخلی بگذارید و از ابتدا روشن کنید هر نویسنده چگونه از هوش مصنوعی استفاده می‌کند و چگونه افشا می‌شود.
- تصاویر و نمودارهای تولیدشده را بررسی کنید؛ کتاب هشدار می‌دهد که برخی تصاویر تولیدی ممکن است شباهت زیادی به آثار دارای حق نشر داشته باشند.
- یافته‌های ثبت‌اختراع‌پذیر را وارد ابزار عمومی نکنید؛ زیرا افشای زودهنگام ممکن است امکان ثبت اختراع را از بین ببرد یا اسرار تجاری را در معرض قرار دهد.
یک نکتهٔ ظریف دیگر که کتاب به آن می‌پردازد، اصالت است. حق نشر از ایده‌ها حمایت نمی‌کند، بلکه از بیان مشخص آن‌ها حمایت می‌کند. اگر پژوهشگران زیادی روی موضوعات مشابه از هوش مصنوعی خلاصه یا چارچوب مفهومی بخواهند، ممکن است خروجی‌هایی شبیه به هم بگیرند. این خطر «همسان‌سازی» می‌تواند به شباهت‌های ناخواسته میان مقاله‌ها و حتی اتهام سرقت علمی منجر شود. راه پیشگیری، استفاده از خروجی ابزار فقط به عنوان نقطهٔ شروع و بازنویسی جدی با صدای خودتان است. اگر در حال نوشتن پایان‌نامه هستید، مقالهٔ نوشتن پایان‌نامه با هوش مصنوعی مرزهای استفادهٔ مجاز را با جزئیات بیشتری توضیح داده است.
پیش از استفاده از هر ابزار تازه، سه سند را بخوانید: سیاست حریم خصوصی، شرایط استفاده و بخش مربوط به مالکیت خروجی‌ها. این کار بیش از ده دقیقه وقت نمی‌گیرد، اما روشن می‌کند داده‌های شما کجا می‌رود و چه کسی حق استفاده از خروجی را دارد.
یک موقعیت رایج دیگر هم ارزش اشاره دارد: پژوهش‌های مشترک با صنعت. اگر پایان‌نامه یا طرح پژوهشی شما با حمایت یک شرکت انجام می‌شود، معمولاً قراردادی دربارهٔ محرمانگی داده‌ها و مالکیت نتایج وجود دارد. وارد کردن داده‌های شرکت یا یافته‌های پروژه در ابزار عمومی هوش مصنوعی، ممکن است نقض همین قرارداد باشد، حتی اگر از نظر اخلاق پژوهش مشکلی نداشته باشد. پیش از هر استفاده، بندهای محرمانگی قرارداد را بخوانید و در صورت تردید از ناظر صنعتی پروژه اجازه بگیرید.
الزامات انطباق و چالش‌های اخلاقی
کتاب پس از بحث حقوقی، به دو موضوع مرتبط اما متمایز می‌پردازد: الزامات انطباق، یعنی قواعدی که دانشگاه‌ها، صندوق‌های پژوهشی، مجلات و همایش‌ها وضع می‌کنند؛ و چالش‌های اخلاقی عمیق‌تر که حتی با رعایت همهٔ قوانین هم از بین نمی‌روند، مانند سوگیری، ابهام و وابستگی بیش از حد.
الزامات انطباق: دانشگاه، صندوق پژوهشی، مجله و همایش
کتاب یادآوری می‌کند که برخلاف چارچوب‌های حقوقی که نسبتاً تثبیت‌شده‌اند، سیاست‌های نهادی دربارهٔ هوش مصنوعی هنوز در حال تحول‌اند و پژوهشگر باید قواعد خاصی را که بر کارش حاکم است، به‌طور مداوم پیگیری کند. چهار منبع اصلی این قواعد عبارت‌اند از:
| نهاد | الزامات رایج | اقدام پیشنهادی |
|---|---|---|
| دانشگاه | افشای استفاده در مقاله، پایان‌نامه و مواد درسی؛ محدودیت در ارزشیابی دانشجو | آیین‌نامهٔ دانشکده را بخوانید و با استاد راهنما مشورت کنید |
| صندوق پژوهشی | اعلام استفاده در نگارش طرح، تحلیل اولیه یا مرور ادبیات | راهنمای فراخوان را پیش از نوشتن طرح بررسی کنید |
| مجله | افشای استفاده؛ ممنوعیت درج هوش مصنوعی به عنوان نویسنده؛ قواعد تصاویر تولیدی | بخش «راهنمای نویسندگان» مجلهٔ هدف را بخوانید |
| همایش و داوری | قواعد دربارهٔ چکیده‌ها و ارائه‌های تولیدی؛ ممنوعیت بارگذاری دست‌نوشته در ابزار | سیاست همایش را بپرسید و در داوری محرمانگی را رعایت کنید |
دربارهٔ مجلات، نهادهای اصلی اخلاق نشر موضع روشنی گرفته‌اند. کمیتهٔ اخلاق نشر (COPE) اعلام کرده که ابزارهای هوش مصنوعی نمی‌توانند نویسندهٔ مقاله باشند، زیرا نمی‌توانند مسئولیت اثر را بپذیرند، و نویسندگان باید استفاده از این ابزارها را شفاف افشا کنند. سیاست ویراستاری نیچر هم استفاده از مدل‌های زبانی بزرگ را در بخش روش یا جای مناسب دیگر الزامی می‌داند و دربارهٔ تصاویر تولیدشده با هوش مصنوعی محدودیت‌های جدی دارد.
کتاب توصیه‌ای ساده اما کلیدی دارد: وقتی شک دارید، شفافیت بهترین راه است. اگر سیاستی روشن نیست، از مدیر گروه، دفتر حقوقی دانشگاه یا سردبیر مجله توضیح بخواهید. افشای استفاده، حتی در جایی که الزامی نیست، تقریباً هیچ‌وقت به شما آسیب نمی‌زند؛ اما پنهان کردن آن، اگر بعداً کشف شود، می‌تواند پیامدهای جدی داشته باشد. برای یک نمونهٔ عملی بیانیهٔ افشا، مقالهٔ ویرایش مقاله با هوش مصنوعی و مقالهٔ قدیمی‌تر استفاده از ChatGPT در مقاله را ببینید.
یک «پروندهٔ انطباق» برای هر مقاله بسازید: نام ابزارهای استفاده‌شده، تاریخ، نوع استفاده (ویرایش زبانی، ایده‌پردازی، کدنویسی) و متن سیاست مجلهٔ هدف را در آن ثبت کنید. هنگام ارسال مقاله یا پاسخ به پرسش سردبیر، این پرونده کارتان را بسیار آسان می‌کند.
برای پژوهشگران ایرانی، یک نکتهٔ ویژه وجود دارد: مجلات نامعتبر و جعلی معمولاً هیچ سیاست روشنی دربارهٔ هوش مصنوعی ندارند و حتی مقاله‌های آشکارا ماشینی را می‌پذیرند. نبود سیاست هوش مصنوعی در یک مجله می‌تواند یکی از نشانه‌های هشداردهنده باشد. برای شناخت این مجلات، مقالهٔ مجلات جعلی و لیست سیاه را بخوانید و اگر برای انتخاب مجلهٔ معتبر و فرایند ارسال به راهنمایی نیاز دارید، صفحهٔ چاپ مقاله ریسرچ اینتل در دسترس است.
سوگیری و بازتولید نابرابری‌های علمی
کتاب تأکید می‌کند که نگاه دوگانه به اخلاق هوش مصنوعی، یعنی «استفاده اخلاقی است یا نیست»، ساده‌انگارانه است. بسیاری از دانشگاهیان در برخورد نخست با این ابزارها، استفاده از آن را شبیه «تقلب» حس می‌کنند و این واکنش قابل‌درک است. اما چالش‌های اخلاقی جدی‌تر از خود استفاده ناشی نمی‌شوند، بلکه از شیوهٔ کار مدل‌ها برمی‌خیزند: سوگیری در دادهٔ آموزشی، ابهام در پاسخ‌ها و خطر وابستگی بیش از حد.
سوگیری شاید مهم‌ترین این چالش‌ها باشد. مدل‌ها روی حجم عظیمی از محتوای انسانی آموزش دیده‌اند و ناگزیر سوگیری‌های آن را به ارث برده‌اند. کتاب توضیح می‌دهد که هوش مصنوعی ممکن است پژوهشگران مشهور و مؤسسه‌های معتبر را بیش از حد ببیند و پژوهش‌های کمتر دیده‌شده را به حاشیه براند. وقتی از ابزار می‌خواهید پژوهش‌های یک حوزه را خلاصه کند، ممکن است مقاله‌های پراستناد را بر کارهای نوآورانه اما کمتر شناخته‌شده ترجیح دهد و بدین ترتیب سلسله‌مراتب موجود را تقویت کند.
کتاب اشاره می‌کند که این سوگیری برای پژوهشگران جوان و پژوهشگران مناطق یا رشته‌های کمتر نمایندگی‌شده اهمیت ویژه دارد. این دقیقاً وضعیت بسیاری از پژوهشگران ایرانی است: مقاله‌های فارسی، پژوهش‌های منتشرشده در مجلات داخلی و کارهای مرتبط با بافت منطقه‌ای، احتمالاً در دادهٔ آموزشی مدل‌ها کم‌نمایش‌اند. در نتیجه، اگر مرور ادبیات خود را فقط بر خروجی هوش مصنوعی بنا کنید، ممکن است پژوهش‌های مرتبط و مهم داخلی را از دست بدهید.
راه‌های مقابله با این سوگیری:
- جست‌وجوی ادبیات را با پایگاه‌های داخلی و منطقه‌ای هم انجام دهید، نه فقط با ابزارهای هوش مصنوعی.
- از ابزار صراحتاً بخواهید دیدگاه‌های جایگزین، پژوهش‌های کشورهای در حال توسعه یا انتقادهای وارد بر نظریهٔ غالب را هم بیاورد.
- فهرست منابع پیشنهادی ابزار را از نظر تنوع جغرافیایی، جنسیتی و نهادی بررسی کنید.
- در بحث مقاله، محدودیت‌های ناشی از سوگیری ابزارهای استفاده‌شده را صادقانه ذکر کنید.
سوگیری فقط به منابع محدود نمی‌شود. مدل‌ها ممکن است در تولید مثال‌ها، فرضیه‌ها یا حتی پرسش‌های پیمایش، کلیشه‌های جنسیتی، قومی یا فرهنگی را بازتولید کنند. اگر از هوش مصنوعی برای طراحی ابزار پژوهش، مانند پرسش‌نامه یا راهنمای مصاحبه، کمک می‌گیرید، خروجی را با این نگاه هم بازبینی کنید که آیا گروهی از شرکت‌کنندگان را نادیده گرفته یا با پیش‌فرض‌های نادرست توصیف کرده است.
جعبهٔ سیاه، سانسور پنهان و خطر وابستگی
چالش دوم، ابهام یا «جعبهٔ سیاه» بودن مدل‌هاست. کاربران معمولاً نمی‌دانند چرا مدل پاسخ مشخصی داده، از چه منابعی استفاده کرده یا آیا عوامل بیرونی بر خروجی اثر گذاشته‌اند. کتاب تأکید می‌کند که این ابهام در پژوهش علمی، که شفافیت و تکرارپذیری اصول بنیادین آن‌اند، به‌ویژه مشکل‌ساز است.
کتاب مثالی گویا می‌آورد: برخی مدل‌ها بر پایهٔ محدودیت‌های از پیش برنامه‌ریزی‌شده، پاسخ‌ها را تغییر می‌دهند یا محدود می‌کنند و این محدودیت‌ها گاهی انگیزهٔ سیاسی یا ایدئولوژیک دارند. نمونهٔ مشهور، مدل DeepSeek است که دربارهٔ برخی رویدادهای تاریخی چین پاسخ‌های مبهم یا سانسورشده می‌داد. این نمونه نشان می‌دهد که خروجی هوش مصنوعی ممکن است به‌طور نامحسوس تحت تأثیر ملاحظات غیرعلمی شکل گرفته باشد. البته این مسئله به یک مدل یا یک کشور محدود نیست؛ همهٔ مدل‌ها سیاست‌های محتوایی دارند که بر پاسخ‌ها اثر می‌گذارد.
برای پژوهشگرانی که در حوزه‌های حساس سیاسی، تاریخی یا اجتماعی کار می‌کنند، این نکته اهمیت دوچندان دارد. یک راه ساده، پرسیدن یک پرسش از چند مدل مختلف و مقایسهٔ پاسخ‌هاست؛ تفاوت‌های معنادار می‌تواند نشانهٔ سوگیری یا محدودیت باشد. اگر هم از مدل‌های یادگیری ماشین در تحلیل دادهٔ خود استفاده می‌کنید، روش‌های توضیح‌پذیری را که در مقالهٔ آینده هوش مصنوعی در پژوهش معرفی شده، به کار ببرید.
چالش سوم، وابستگی بیش از حد است. کتاب هشدار می‌دهد که اگر دانشجویان به‌طور معمول برای ساختن استدلال یا تولید بینش به هوش مصنوعی تکیه کنند، ممکن است دقت فکری لازم برای مواجههٔ عمیق علمی را پرورش ندهند. همین خطر برای پژوهشگران باتجربه هم وجود دارد: مهارتی که تمرین نشود، تحلیل می‌رود.
کتاب راه‌حل را در «سواد اخلاقی هوش مصنوعی» می‌بیند: به جای ممنوعیت کامل، دانشگاه‌ها می‌توانند از دانشجویان بخواهند کمک هوش مصنوعی را، درست مانند ارجاع به منابع، افشا کنند. این رویکرد هوش مصنوعی را ابزاری مشروع می‌شناسد و در عین حال جلوی فریبکاری را می‌گیرد.
هوش مصنوعی در داوری، ارزیابی طرح‌ها و ارزشیابی دانشجو
بخش پایانی فصل نهم به موضوعی می‌پردازد که کمتر به آن توجه شده است: استفاده از هوش مصنوعی نه توسط نویسنده، بلکه توسط ارزیاب. داوران مجلات، ارزیابان طرح‌های پژوهشی و استادانی که کار دانشجو را نمره می‌دهند، همه ممکن است از این ابزارها استفاده کنند. کتاب تأکید می‌کند که هوش مصنوعی می‌تواند این فرایندها را کارآمدتر کند، اما خطرهایی برای انصاف، شفافیت و پاسخ‌گویی به همراه دارد.
داوری همتا: کمک یا تهدید؟
کتاب داوری همتا را ستون نشر علمی اما فرایندی ناقص، زمان‌بر و در معرض سوگیری‌های انسانی می‌داند. ابزارهای هوش مصنوعی می‌توانند دست‌نوشته را خلاصه کنند، استدلال‌های اصلی را برجسته کنند، ضعف‌های روش‌شناختی را شناسایی کنند و نگرانی‌های اخلاقی احتمالی را علامت بزنند. این کارها می‌تواند بار داوران پرمشغله را کم کند.
اما کتاب دو نگرانی جدی را مطرح می‌کند. نخست، محرمانگی: دست‌نوشته‌ای که برای داوری فرستاده شده، اثری منتشرنشده و محرمانه است. بارگذاری آن در ابزار عمومی هوش مصنوعی می‌تواند محرمانگی را نقض کند و ایده‌های نویسنده را در معرض خطر قرار دهد. به همین دلیل بسیاری از ناشران چنین کاری را صراحتاً ممنوع کرده‌اند. دوم، بازتولید سلسله‌مراتب: چون مدل‌ها روی آثار گذشته آموزش دیده‌اند، ممکن است الگوهای استنادی و سوگیری‌های نهادی موجود را بازتاب دهند و پژوهش‌های دانشگاه‌های معتبر را بر کارهای ارزشمند اما کمتر شناخته‌شده ترجیح دهند.
اگر به عنوان داور دعوت شده‌اید، پیش از هر استفاده‌ای از هوش مصنوعی، سیاست مجله را بخوانید. در بسیاری از موارد، استفاده از ابزار برای بهبود زبان گزارش داوری خودتان، بدون بارگذاری متن مقاله، مجاز است؛ اما بارگذاری خود دست‌نوشته معمولاً مجاز نیست. داوری حاصل از هوش مصنوعی هم، اگر داور آن را بدون تفکر انتقادی ارائه کند، به نویسنده و جامعهٔ علمی ظلم است.
هرگز دست‌نوشته‌ای را که برای داوری دریافت کرده‌اید، در ابزار عمومی هوش مصنوعی بارگذاری نکنید، مگر آنکه مجله صراحتاً اجازه داده باشد. این کار نقض محرمانگی است و ممکن است ایده‌های منتشرنشدهٔ نویسنده را در معرض خطر قرار دهد.
ارزیابی طرح‌های پژوهشی و گرنت‌ها
کتاب توضیح می‌دهد که صندوق‌های پژوهشی هم در حال بررسی نقش هوش مصنوعی در ارزیابی طرح‌ها هستند. این ابزارها می‌توانند انطباق طرح با شرایط فراخوان را بررسی کنند، تعارض منافع احتمالی را شناسایی کنند و طرح‌ها را با پروژه‌های پیش‌تر تأمین‌شده مقایسه کنند. در نظر، این کار می‌تواند ارزیابی را نظام‌مندتر و کمتر در معرض سوگیری شخصی کند.
اما همان خطرهای داوری همتا اینجا هم وجود دارد. مدلی که روی طرح‌های موفق گذشته آموزش دیده، ممکن است طرح‌های محافظه‌کار و شبیه به گذشته را ترجیح دهد و ایده‌های نوآورانه و پرخطر را، که اتفاقاً گاهی مهم‌ترین پیشرفت‌ها از آن‌ها برمی‌خیزد، کم‌ارزش جلوه دهد. افزون بر این، اگر متقاضیان بدانند هوش مصنوعی طرح‌ها را غربال می‌کند، ممکن است طرح‌هایشان را برای «پسند ماشین» بنویسند، نه برای کیفیت علمی.
از سوی متقاضی هم مسئله‌ای وجود دارد: بسیاری از صندوق‌ها اکنون از متقاضیان می‌خواهند اعلام کنند آیا در نوشتن طرح از هوش مصنوعی استفاده کرده‌اند. اگر برای نوشتن طرح‌نامه از این ابزارها کمک می‌گیرید، مقالهٔ طراحی پژوهش با هوش مصنوعی و صفحهٔ نگارش پروپوزال ریسرچ اینتل راهنمایی‌های عملی برای استفادهٔ مسئولانه ارائه می‌دهند.
ارزشیابی دانشجویان و طراحی آزمون
سومین حوزه، ارزشیابی دانشجویان است. کتاب می‌پذیرد که هوش مصنوعی می‌تواند به استادان در نمره‌دهی مقاله‌ها، ارزیابی پاسخ‌های آزمون و ارائهٔ بازخورد کمک کند. برای آزمون‌های ساختاریافته مانند چندگزینه‌ای، صرفه‌جویی در زمان قابل‌توجه است و برای تکالیف تشریحی، ابزار می‌تواند دستور زبان، انسجام و ساختار استدلال را تحلیل کند.
اما کتاب محدودیت‌ها را جدی می‌گیرد: هوش مصنوعی نمی‌تواند اصالت، عمق تحلیل یا تفکر انتقادی را به‌طور کامل ارزیابی کند؛ یعنی دقیقاً همان کیفیت‌هایی که هستهٔ آموزش عالی‌اند. استفادهٔ بیش از حد از نمره‌دهی خودکار، ارزشیابی را به تشخیص الگوهای سطحی تقلیل می‌دهد. افزون بر این، چون مدل‌ها بر دادهٔ گذشته تکیه دارند، ممکن است ساختارهای گفتمانی غالب را تقویت کنند و دانشجویانی را که شیوهٔ نوشتن یا استدلال متفاوتی دارند، مثلاً دانشجویان غیرانگلیسی‌زبان، جریمه کنند.
در طراحی آزمون، کتاب می‌گوید هوش مصنوعی می‌تواند پرسش‌های چندگزینه‌ای، موضوع‌های مقاله و سناریوهای موردی بسازد، اما مدرس باید مطمئن شود این پرسش‌ها با اهداف یادگیری همخوان‌اند و فقط حفظیات را نمی‌سنجند.
دربارهٔ صداقت علمی دانشجویان، کتاب یادآوری می‌کند که ابزارهای سنتی تشخیص سرقت علمی همیشه در شناسایی متن تولیدشده با هوش مصنوعی مؤثر نیستند و ابزارهای «تشخیص هوش مصنوعی» هم خطای زیادی دارند و ممکن است دانشجوی بی‌گناه را متهم کنند. راه‌حل پیشنهادی کتاب، به جای ممنوعیت کامل، طراحی ارزشیابی‌هایی است که درگیری تحلیلی را می‌سنجند: نوشتن در کلاس، آزمون شفاهی، تکالیف مبتنی بر تأمل شخصی و پروژه‌هایی که فرایند کار را هم ارزیابی می‌کنند.
| کاربرد در ارزشیابی | فایده | خطر | توصیه |
|---|---|---|---|
| نمره‌دهی چندگزینه‌ای | صرفه‌جویی زیاد در زمان | کم | استفاده با بازبینی نمونه‌ای |
| بازخورد بر نوشتار | بازخورد سریع دربارهٔ زبان و ساختار | نادیده گرفتن اصالت و عمق | فقط مکمل بازخورد استاد |
| نمره‌دهی تشریحی | یکنواختی ظاهری | سوگیری علیه سبک‌های متفاوت | داوری نهایی انسانی |
| تشخیص متن ماشینی | هشدار اولیه | اتهام نادرست به دانشجو | هرگز تنها مبنای حکم نباشد |
| طراحی پرسش آزمون | تنوع و سرعت | پرسش‌های سطحی یا نادرست | بازبینی کامل توسط مدرس |
کتاب این بخش را با اصلی روشن به پایان می‌برد: شفافیت کلید است و هوش مصنوعی نباید جایگزین داوری انسانی شود، و خروجی آن هم نباید قطعی تلقی شود. دانشجو، داور و ارزیاب باید بدانند هوش مصنوعی چگونه و کجا به کار رفته و محدودیت‌هایش چیست. این اصل، همان ایده‌ای است که در مقالهٔ پایانی این مجموعه، همکاری انسان و هوش مصنوعی، به‌تفصیل گسترش یافته است.
سؤالات متداول
اخلاق هوش مصنوعی در پژوهش دقیقاً چه چیزهایی را شامل می‌شود؟
دست‌کم پنج حوزه: حفاظت از دادهٔ شرکت‌کنندگان و حریم خصوصی، مالکیت فکری و حق نشر، انطباق با سیاست‌های دانشگاه، مجله و صندوق پژوهشی، چالش‌هایی مانند سوگیری و ابهام مدل‌ها، و استفادهٔ منصفانه در داوری و ارزشیابی. افشای شفاف استفاده و نساختن داده یا منبع، اصول مشترک همهٔ این حوزه‌هاست.
آیا می‌توانم هوش مصنوعی را به عنوان نویسندهٔ همکار در مقاله ذکر کنم؟
خیر. نهادهایی مانند COPE و ناشران بزرگ تصریح کرده‌اند که هوش مصنوعی نمی‌تواند نویسنده باشد، زیرا نمی‌تواند مسئولیت محتوا را بپذیرد یا به پرسش‌ها پاسخ دهد. استفاده از ابزار باید در بخش روش یا قدردانی افشا شود و مسئولیت کامل محتوا با نویسندگان انسانی است.
دادهٔ مصاحبه‌های پایان‌نامه‌ام را می‌توانم در ChatGPT تحلیل کنم؟
اگر داده قابل‌شناسایی است، در نسخهٔ رایگان ابزارهای عمومی خیر. حتی برای دادهٔ ناشناس‌شده، بهتر است ابتدا با استاد راهنما و کمیتهٔ اخلاق مشورت کنید، از نسخه‌هایی که داده را برای آموزش مدل استفاده نمی‌کنند بهره ببرید و استفاده از هوش مصنوعی را در رضایت‌نامهٔ شرکت‌کنندگان ذکر کنید.
متنی که با کمک هوش مصنوعی نوشته‌ام، متعلق به من است؟
هرچه سهم فکری و خلاقانهٔ شما بیشتر باشد، ادعای مالکیتتان قوی‌تر است. متنی که صرفاً ماشین تولید کرده، در برخی نظام‌های حقوقی مانند آمریکا مشمول حمایت حق نشر نیست. نسخه‌های پیش‌نویس را نگه دارید، استدلال‌ها را خودتان بسازید و خروجی ابزار را با صدای خودتان بازنویسی کنید.
اگر داور یا استاد من از هوش مصنوعی برای ارزیابی کارم استفاده کند چه؟
شما حق دارید بدانید ارزیابی چگونه انجام شده است. اگر گمان می‌کنید داوری یا نمره‌ای صرفاً بر پایهٔ خروجی ماشین و بدون داوری انسانی بوده، می‌توانید مؤدبانه از سردبیر یا مدیر گروه توضیح بخواهید. بسیاری از مجلات و دانشگاه‌ها چنین استفاده‌ای را محدود یا ممنوع کرده‌اند.
جمع‌بندی
اخلاق هوش مصنوعی در پژوهش، مجموعه‌ای از ممنوعیت‌ها نیست؛ شیوه‌ای از کار است که بر شفافیت، احتیاط و مسئولیت انسانی بنا شده است. فصل نهم کتاب Using AI in Academic Writing and Research نشان می‌دهد که حفاظت از داده، مالکیت فکری، انطباق با سیاست‌ها، مقابله با سوگیری و ارزیابی منصفانه، همه به یک اصل بازمی‌گردند: هوش مصنوعی ابزار است و پاسخ‌گویی با انسان می‌ماند.
برای پژوهشگر ایرانی، این اصل یعنی پیش از هر استفاده، سیاست دانشگاه و مجله را بشناسد، دادهٔ شرکت‌کنندگان را محافظت کند، به سوگیری ابزارها علیه پژوهش‌های غیرغربی حساس باشد و استفادهٔ خود را صادقانه افشا کند. برای نگاه کلی به کاربردها، تحلیل داده با هوش مصنوعی را ببینید؛ برای آشنایی با اصول صداقت علمی، صفحهٔ صداقت علمی را بخوانید؛ و اگر در پایان‌نامه یا پروژهٔ خود با پرسش‌های اخلاقی روبه‌رو هستید، مشاوره پژوهشی و نگارش پایان‌نامه ریسرچ اینتل در کنار شماست.
برای آموزش‌ها و مشاوره‌های بیشتر پژوهشی به هوش پژوهشی سر بزنید.
منابع
- Haber, E., Jemielniak, D., Kurasiński, A., & Przegalińska, A. (2025). *Using AI in Academic Writing and Research: A Complete Guide to Effective and Ethical Academic AI*. Springer Nature. فصل ۹: Navigating the Regulatory and Ethical Landscape of AI in Academia. https://doi.org/10.1007/978-3-031-91705-9
- European Commission. AI Act: Regulatory framework for AI
- European Union. General Data Protection Regulation (EU) 2016/679
- U.S. Copyright Office. Copyright and Artificial Intelligence
- COPE. Authorship and AI tools
- Nature Portfolio. Editorial policies: Artificial Intelligence