هشدار تند معتبرترین ژورنال پزشکی جهان مقابل پزشک های مصنوعی
سلامت: در حالیکه تب استفاده از هوش مصنوعی در تشخیص و درمان داغ تر از همیشه است، مجله معتبر «نیچر مدیسین» با انتشار مقاله ای کوبنده، ادعاهای تبلیغاتی شرکت های فناوری را زیر سؤال برد و نسبت به دستاوردهای جبران ناپذیر اعتماد کور به چت بات ها گوشزد نمود.
به گزارش سلامت به نقل از خبر آنلاین و بر طبق گزارش هوشیو، در دنیای هوش مصنوعی، مرز بین «بهبود سلامت» و «فریب علمی» به مویی بند شده است. در حالیکه طبق آخرین آمارها در سال ۲۰۲۶، میلیونها نفر در سراسر دنیا بجای رفتن به پزشک، تشخیص بیماری خودرا به دست چت بات ها سپرده اند، جامعه علمی حال ترمز این قطار پرسرعت را کشیده است.
ژورنال معتبر Nature Medicine در جدیدترین شماره خود، با لحنی بی سابقه به نقد نفوذ سریع هوش مصنوعی در سیستم های درمانی پرداخته است. در قسمتی از این سرمقاله آمده است: «شواهد بر اساس این که ابزارهای هوش مصنوعی ارزش افزوده ای برای بیماران، پزشکان یا سیستم های بهداشتی ایجاد می کنند، بازهم نایاب است.»
این نشریه استدلال می کند که بازار امروز پر شده از محصولات و مقالاتی که ادعای «تأثیر بالینی مثبت» دارند، اما هیچ توافق جمعی بر سر این که چه سطح از شواهدی برای اثبات این ادعاها لازم است، وجود ندارد. نتیجه این آشفتگی، پیاده سازی سریع و خطرناک ابزارهایی است که هنوز در دنیای واقعی امتحان خودرا پس نداده اند.
گزارش های میدانی نشان میدهد که مدلهای بزرگ زبانی (LLM) با وجود ظاهر فریبنده، با مشکلات ساختاری دست وپنجه نرم می کنند:
تشخیص های اشتباه ۸۰ درصدی: مطالعه ای در ژورنال JAMA Medicine فاش کرد که مدلهای پیشرو هوش مصنوعی در رویارویی با علایم مبهم و پیچیده، در بالاتر از ۸۰ درصد موارد از تشخیص درست باز می مانند.
توهم در تحلیل تصاویر: برخی مدلها بدون آنکه تصویری به آنها ارایه شود، گزارش های بالینی مفصل و ساختگی از تصاویر رادیولوژی خیالی عرضه کرده اند.
بیماری های ساختگی: در یک آزمایش جالب، پژوهشگران دانشگاه گوتنبرگ دو مقاله جعلی درباره ی یک بیماری پوستی بطورکامل ساختگی منتشر کردند؛ دیری نپایید که هوش مصنوعی نه فقط وجود این بیماری را تأیید کرد، بلکه مقالات دیگری نیز با استناد به آن داده های غلط، به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشکده پزشکی هاروارد، اعتقاد دارد بااینکه هوش مصنوعی می تواند کارهای خسته کننده مثل کدنویسی برای تحلیل داده ها را سرعت ببخشد، اما اتکای بیش از اندازه به آن، «صلابت علمی» را قربانی می کند. او هشدار می دهد که داده های بیش ازحد تعمیم یافته و توهمات آماری هوش مصنوعی، درحال آلوده کردن بدنه دانش پزشکی هستند.
سرمقاله نیچر تاکید می کند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدلهای قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است. تا آن زمان که معیارهای مشخصی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها چیزی فراتر از یک ریسک بزرگ بر روی جان انسان ها نخواهد بود.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب