دانشمند است و انسان نیست

غزال زیاری: اکتشافات علمی یکی از پیچیده‌ترین فعالیت‌های بشری به شمار می‌رود. در ابتدا دانشمندان باید با درک دانش موجود، شکاف‌ها را شناسایی کنند. آن‌ها در مرحله بعد، باید یک سؤال تحقیقاتی را فرموله کرده و آزمایش‌هایی را برای دستیابی به پاسخ طراحی کرده و وارد عمل شوند.

در مرحله بعد، نتایج آزمایش مورد تجزیه‌وتحلیل و تفسیر قرار خواهد گرفت که در این فرآیند ممکن است سؤالات تحقیقاتی دیگری نیز ایجاد شود.

ایجاد دانشمند مصنوعی

دراین‌بین این سؤال مطرح‌شده که آیا می‌توان بخشی از این فرآیند را به‌صورت خودکار و اتوماتیک انجام داد؟ اخیراً Sakana AI Labs از ایجاد یک “دانشمند هوش مصنوعی” خبر داده که درواقع یک سیستم هوش مصنوعی است که طبق ادعاهای مطرح‌شده، می‌تواند اکتشافات علمی درزمینهٔ یادگیری ماشینی را به روشی کاملاً اتوماتیک انجام دهد.

این سیستم با استفاده از مدل‌های زبان بزرگ (LLM) ، مثل مدل‌های مورداستفاده در ChatGPT  و دیگر چت ربات‌های هوش‌مصنوعی، می‌تواند با ایجاد طوفان فکری، ایده امیدوارکننده‌ای را انتخاب کرده و با کد نویسی الگوریتم‌های جدید، نتایج را ترسیم کند و درنهایت مقاله‌اش را بنویسد و آزمایش و یافته‌های آن را به همراه منابع تکمیل کند.

ساکانا مدعی است که این ابزار هوش‌مصنوعی می‌تواند چرخه کامل یک آزمایش علمی را با هزینه تنها ۱۵ دلار آمریکا برای هر مقاله انجام دهد که هزینه‌ای کمتر از هزینه یک وعده ناهار یک دانشمند است!

البته این‌ها فعلاً در حد چند ادعای بزرگ هستند و باید ببینیم که آیا محقق خواهند شد و حتی اگر چنین کاری عملی شود، آیا در اختیار داشتن لشکری از دانشمندان هوش‌مصنوعی که با سرعتی غیرانسانی، مقالات تحقیقاتی را تولید می‌کنند، اتفاق خوبی برای علم خواهد بود؟

یک کامپیوتر چطور وارد دنیای علم می‌شود؟

بسیاری از علوم در فضای باز انجام می‌شود و تقریباً تمام دانش علمی درجایی نوشته می‌شود؛ چراکه در غیر این صورت راهی برای دانستن و دسترسی به آن‌ها نخواهیم داشت. میلیون‌ها مقاله علمی به‌صورت رایگان و آنلاین در مخازنی مثل arXiv و PubMed در دسترس هستند.

مدل‌های زبان بزرگ (LLM) که با این داده‌ها آموزش‌دیده‌اند، زبان علم و الگوهای آن را می‌آموزند و بنابراین تعجب‌آور نیست که یک LLM مولد بتواند چیزی شبیه یک مقاله علمی خوب را تولید کند؛ اما آنچه مشخص نیست، این است که آیا یک سیستم هوش‌مصنوعی می‌تواند مقاله علمی جالب‌توجهی تولید کند یا خیر.

 این اتفاق هیجان‌انگیزی است؟

دانشمندان با به‌کارگیری این شیوه، به دنبال شنیدن چیزهایی که قبلاً شناخته‌شده‌اند، نیستند؛ بلکه می‌خواهند چیزهای جدید و متفاوتی یاد بگیرند که این مستلزم قضاوت درباره دامنه و ارزش یک مشارکت است.

سیستم ساکانا سعی می‌کند به دو طریق وارد عمل شود؛ در ابتدا ایده‌های مقالات برای مقایسه شباهت‌شان به تحقیقات موجود را بررسی می‌کند و ایده‌هایی که بیش‌ازحد شبیه باشند، کنار گذاشته می‌شوند.

شیوه دوم این است که سیستم Sakana با استفاده از یک LLM دیگر، در مورد کیفیت و تازگی مقاله تولیدشده مشورت و قضاوت می‌کند. در اینجا نیز نمونه‌های زیادی در بررسی آنلاین در سایت‌هایی مانند openreview.net، در نقد مقاله، کمک‌رسان خواهند بود.

ضعف هوش مصنوعی در قضاوت درباره خروجی‌ها

لازم به ذکر است که بازخورد درباره خروجی‌های هوش مصنوعی Sakana متفاوت است. برخی آن را تلاشی بیهوده می‌دانند و حتی بررسی خود سیستم از خروجی‌های آن‌هم در بهترین حالت، این مقالات را ضعیف ارزیابی می‌کند.

هرچند که انتظار می‌رود که با پیشرفت فناوری، این مسئله بهبود بیابد، اما سؤالی که مطرح است این است که آیا این مقالات علمی که به‌صورت خودکار تهیه می‌شوند، ارزشمند هستند یا خیر.

توانایی LLM برای قضاوت در مورد کیفیت تحقیق نیز یک سؤال بزرگ است. بررسی‌ها حاکی از آن است که LLM ها در قضاوت درباره خطر سوگیری در مطالعات و تحقیقات پزشکی عالی نیستند؛ هرچند که احتمالاً با گذر زمان، اوضاع بهبود خواهد یافت.

سیستم ساکانا، اکتشافات در تحقیقات محاسباتی را به‌صورت خودکار انجام می‌دهند که این بسیار ساده‌تر از سایر انواع علومی است که به آزمایش‌های فیزیکی نیاز دارند. آزمایش‌های ساکانا با کد انجام می‌شود که شامل متون ساختاری است که LLMها می‌توانند برای تولید آن‌ها آموزش ببینند.

حمایت از دانشمندان، نه جایگزین کردن آن‌ها

محققان هوش‌مصنوعی چندین دهه است که درحال‌توسعه سیستم‌هایی برای حمایت از علم بوده‌اند. با توجه به حجم عظیم تحقیقات منتشرشده، حتی یافتن مقالات مرتبط با یک سؤال علمی خاص هم چالش‌برانگیز به نظر می‌رسد.

ابزارهای جستجوی تخصصی از هوش مصنوعی برای کمک به دانشمندان در یافتن و ترکیب کارهای موجود استفاده می‌کنند. این‌ها شامل Semantic Scholar و البته سیستم‌های جدیدتری مانند Elicit، Research Rabbit، scite و Consensus هستند.

ابزارهای متن‌کاوی مثل PubTator به‌صورت عمیق‌تری به بررسی مقاله‌ها می‌پردازند تا نقاط کلیدی تمرکز مثل جهش‌ها و بیماری‌های ژنتیکی خاص و روابط تثبیت‌شده آن‌ها را بیابند؛ این موضوع بیش از هر چیز، در مدیریت و سازمان‌دهی اطلاعات علمی مفید است.

یادگیری ماشین درعین‌حال برای پشتیبانی از سنتز و تجزیه‌وتحلیل شواهد پزشکی در ابزارهایی مثل Robot Reviewer هم مورداستفاده قرار می‌گیرد. هدف بهره‌گیری از همه این ابزارها، کمک به دانشمندان در راستای انجام مؤثرتر کارهایشان است و نه جایگزین کردن دانشمندان با هوش مصنوعی.

احتمال تشدید مشکلات موجود

گرچه هوش مصنوعی ساکانا مدعی است که نقش دانشمندان انسانی را کاهش نخواهد داد، اما درهرحال، چشم‌انداز این شرکت از ایجاد یک اکوسیستم علمی کاملاً مبتنی بر هوش مصنوعی، پیامدهای متعددی در دنیای علم خواهد داشت. یکی از نگرانی‌های موجود این است که درصورتی‌که سیلی از مقالات تولیدی توسط هوش مصنوعی وارد دنیای علم شوند، ممکن است سیستم‌های هوش مصنوعی آینده برروی خروجی‌های هوش مصنوعی متمرکزشده و همین باعث فروپاشی مدل گردد؛ بدین معنا که هوش مصنوعی درنهایت در نوآوری، بی‌اثر شود.

هرچند که این پیامدهای احتمالی در دنیای علم به‌مراتب فراتر از تأثیرگذاری آن بر خود سیستم‌های علمی هوش مصنوعی خواهد بود.

در حال حاضر دنیای علم درگیر بازی‌های بدی شده و این مشکل زمانی بدتر می‌شود که بتوان یک مقاله علمی را با پرداخت تنها ۱۵ دلار و ارائه یک درخواست اولیه مبهم، تولید کرد.

نیاز به بررسی خطاها در کوهی از تحقیقات تولیدشده خودکار، می‌تواند بر توانایی دانشمندان واقعی غلبه کند. البته در اختیار داشتن حجمی از تحقیقات بیشتر با کیفیت مشکوک، نه‌تنها مشکلات را حل نمی‌کند، بلکه آن‌ها را بیشتر هم خواهد کرد.

علم اصولاً بر پایه اعتماد استوار است و دانشمندان بر یکپارچگی فرآیند علمی تأکید ‌دارند تا بدین ترتیب بتوانیم اطمینان حاصل کنیم که درک ما از جهان و دنیای ماشینی، معتبر و رو به بهبود است.

حالا یک اکوسیستم علمی که در آن سیستم‌های هوش مصنوعی بازیگران کلیدی هستند، باعث ایجاد سؤالاتی اساسی در مورد معنا و ارزش این فرآیند خواهد شد و این سؤال مطرح می‌شود که تا چه سطحی می‌توان به دانشمندان هوش مصنوعی اعتماد کرد. آیا این همان اکوسیستم علمی است که ما می‌خواهیم؟

منبع: sciencealert