سیستمهای هوش مصنوعی مولد اگرچه میتوانند به دانشمندان در شناسایی داروهای جدید کمک کنند، اما توانایی متقاعدکردن پژوهشگران درباره وجود پدیدههای زیستی غیرواقعی را نیز دارند. «توماس برگر» (Thomas Burger)، زیستشناس محاسباتی دانشگاه گرونوبل آلپ در فرانسه، میگوید الگوریتمهای هوش مصنوعی ممکن است با تولید دادههای مصنوعی، پدیدهای فرضی یا نادرست را به عنوان دستاورد علمی جا بزنند.
به گزارش ساینسآلرت، هوش مصنوعی مولد با یادگیری ویژگیها و روابط موجود در دادههای واقعی، محتوای جدید تولید میکند. اگرچه شهرت اولیه این فناوری به تولید متن و تصویر مربوط میشود، اما محققان درحالحاضر از آن برای طراحی پروتئینها، شبیهسازی عملکرد سلولها، پرکردن شکافهای نتایج آزمایشگاهی و تولید دادههای زیستی مصنوعی بهره میبرند.
ریسکهای استفاده از هوش مصنوعی در پژوهشهای علمی
توماس برگر در مقاله تحلیلی خود در ژورنال Patterns، ده کاربرد مختلف هوش مصنوعی مولد در زیستشناسی را ارزیابی کرده است. او میگوید بروز پدیده توهم در این سیستمها میتواند به معنای تولید الگوی مولکولی یا استنباطی ظاهراً معتبر باشد که در واقعیت زیستی هیچ ریشهای ندارد.
این خطای الگوریتمی پیامدهای ملموس و جبرانناپذیری دارد. هوش مصنوعی ممکن است یک کاندیدای دارویی کارآمد را به اشتباه رد کند، پژوهشگران را به سمت بررسی درمانهای بیاثر سوق دهد، یک اثر زیستی واقعی را پنهان سازد یا یک مکانیسم بیماری ساختگی را به عنوان یک کشف جدید مطرح کند.
مقاله برگر نشان میدهد که همه کاربردهای هوش مصنوعی سطح خطر یکسانی ندارند. مرز اصلی خطر جایی است بین اینکه آیا خروجی هوش مصنوعی را در دنیای واقعی آزمایش میکنیم یا به عنوان داده مصنوعی در مقالات علمی میآوریم.
غربالگری داروها یا طراحی پروتئینها جزو کاربردهای کمخطرتر هستند. در این فرایند، مدل هوش مصنوعی تعداد زیادی از کاندیداها را ارزیابی میکند و گروه کوچکی را برای آزمایشهای واقعی در اختیار دانشمندان قرار میدهد. اگر هوش مصنوعی دچار خطا شود، پژوهشگران وقت یا هزینه خود را روی یک گزینه ناموفق تلف میکنند، اما ماده نهایی همچنان باید اثربخشی خود را در آزمایش واقعی اثبات کند.
خطرات جدی زمانی بروز میکند که دادههای مصنوعی جایگزین اندازهگیریهای واقعی آزمایشگاهی شوند. اگرچه دادههای زیستی مصنوعی برای پر کردن دادههای مفقود، حفظ حریم خصوصی بیماران، ایجاد گروههای مقایسهای و کاهش استفاده از حیوانات آزمایشگاهی مفید هستند، اما افزودن یک ویژگی غیرواقعی توسط هوش مصنوعی میتواند دانشمندان را به این باور غلط برساند که اثر زیستی جدیدی را کشف کردهاند.
توماس برگر میگوید مسئله اصلی معمولاً مقایسه مستقیم یک توهم با یک کشف واقعی نیست، بلکه تحریف دادههای واقعی در طول فرایندهای محاسباتی پیچیده است. هوش مصنوعی طی پردازش سیگنالهای خام دریافتشده از ابزارهای زیستفناوری ممکن است سیگنالی را تقویت یا دگرگون کند. این تغییر جزئی بیآنکه یک کشف ساختگی مجزا شکل بگیرد، نتیجهگیری نهایی پژوهشگران را تغییر میدهد و تشخیص آن برای دانشمندان بسیار دشوار خواهد بود.
یکی از ابعاد جالب تحلیل برگر، احتمال دستیابی به کشفهای واقعی از دل توهمات هوش مصنوعی است. برگر این پدیده را با یافتن تصادفی (Serendipity) یا کشفهای غیرمنتظره ناشی از خطاهای آزمایشگاهی مقایسه میکند. همانطور که اشتباهات انسانی در آزمایشگاههای سنتی در گذشته به کشفهای بزرگی مانند پنیسیلین منجر شدند، توهم هوش مصنوعی نیز ممکن است فرضیه جدیدی ایجاد کند که پس از آزمایش واقعی به یک کشف علمی تبدیل شود.
بااینحال، دانشمندان میگویند حتی هیجانانگیزترین خروجیهای هوش مصنوعی تا زمانی که در یک آزمایش واقعی و مستقل تأیید نشوند، کشف علمی محسوب نخواهند شد. نحوه استفاده پژوهشگران از این ابزار تعیینکننده است؛ اگر خروجی هوش مصنوعی صرفاً فرضیهای برای آزمایش باشد، طی آزمایشها آن فرضیه رد میشود، اما اگر خروجی به عنوان واقعیت پذیرفته شود، فرضیه ساختگی وارد مدارک و اسناد علمی خواهد شد.
