نکات کلیدی
- دریافت توصیههای سلامتی از طریق هوش مصنوعی میتواند خطرناک باشد و هرگز نباید جایگزین مشاوره یک متخصص پزشکی دارای مجوز شود.
- چتباتهای هوش مصنوعی ممکن است اطلاعات پزشکی قدیمی، نادرست یا بیش از حد کلی ارائه دهند.
- کارشناسان توصیه میکنند از ابزارهای هوش مصنوعی فقط برای کسب اطلاعات عمومی و پسزمینه استفاده شود و هرگونه توصیه بهدستآمده با پزشک متخصص بررسی گردد.
یک مرد ۶۰ ساله پس از مشاوره با ChatGPT بهجای نمک طعام از سدیم بروماید استفاده کرد و این تغییر باعث مسمومیت با بروماید و بستری شدن او بهمدت سه هفته در بخش روانپزشکی شد. این مورد بهخوبی خطرات بالقوه تکیه بر چتباتهای هوش مصنوعی برای توصیههای پزشکی را نشان میدهد. با این حال، براساس یک نظرسنجی اخیر، اکثر آمریکاییها اطلاعات بهدستآمده از هوش مصنوعی در زمینه سلامت را «تاحدودی قابلاعتماد» میدانند. کارشناسان هشدار میدهند که این اعتماد میتواند گمراهکننده باشد، زیرا این ابزارها هرگز جایگزین مراقبت حرفهای پزشکی نیستند.
Yana Iskayeva / Getty Images
چتباتهای هوش مصنوعی به سوابق پزشکی شما دسترسی ندارند
چتباتهای هوش مصنوعی به پروندههای پزشکی شخصی شما دسترسی ندارند و بنابراین نمیتوانند راهنمایی قابلاعتمادی درباره علائم جدید، شرایط موجود یا نیاز احتمالی به مراقبتهای اورژانسی ارائه دهند. از نظر علمی، فقدان دادههای شخصی منجر به تولید پاسخهای کلی و گاهی بیربط میشود که میتواند تصمیمگیری درمانی را مختل کند.
مارگارت لوزواتسکی، پزشک و معاون نوآوریهای سلامت دیجیتال در انجمن پزشکی آمریکا، میگوید که توصیههای پزشکی چتباتها بیشازحد کلی است و نمیتواند شرایط منحصربهفرد هر بیمار را در نظر بگیرد. بهترین استفاده از هوش مصنوعی در حال حاضر این است که به شما کمک کند سؤالات مناسبتری از پزشک بپرسید یا اصطلاحات پزشکی ناشناخته را بهتر درک کنید، نه اینکه مستقیماً درمان یا تغییر دارویی را پیشنهاد دهد.
اطلاعات ارائهشده توسط هوش مصنوعی ممکن است قدیمی یا نادرست باشند
هوش مصنوعی مولد بر دادههایی متکی است که با آنها آموزش دیده و این دادهها ممکن است آخرین دستورالعملهای پزشکی یا یافتههای علمی بهروز را شامل نشوند. برای مثال، مرکز کنترل و پیشگیری از بیماریها (CDC) اخیراً واکسن آنفلوآنزای بهروزشده را برای همه افراد بالای شش ماه توصیه کرده است، اما ممکن است برخی چتباتها هنوز این تغییر را در پایگاه دانش خود نداشته باشند.
یکی از مشکلات اساسی این است که حتی زمانی که چتباتهای هوش مصنوعی اشتباه میکنند، اغلب با اعتمادبهنفس پاسخ میدهند. این سامانهها میتوانند اطلاعات ناقص را با دادههای قدیمی ترکیب کرده و پاسخهای ظاهراً قانعکننده اما در واقع نادرست ارائه دهند. این پدیده در علم داده با عنوان «توهم هوش مصنوعی» شناخته میشود و میتواند عواقب بالینی جدی ایجاد کند.
برای نمونه، یک مطالعه منتشرشده در مجله Nutrients نشان داد که چتباتهای مشهوری مانند Gemini، Microsoft Copilot و ChatGPT میتوانند برنامههای غذایی نسبتاً خوبی برای کاهش وزن ارائه دهند، اما در متعادلسازی درشتمغذیها مانند کربوهیدراتها، پروتئینها، چربیها و اسیدهای چرب ناکام میمانند. این نقص میتواند پیامدهای متابولیکی نامطلوبی برای کاربر ایجاد کند.
آینسلی مکلین، پزشک و مشاور هوش مصنوعی در سلامت، تأکید میکند: «من بهشدت مرددم که به هر بیماری توصیه کنم براساس گفتههای ChatGPT اقدامی انجام دهد.» این هشدار بر نیاز به احتیاط جدی هنگام استفاده از این ابزارها در تصمیمگیریهای پزشکی تأکید میکند.
آیا راه امنی برای استفاده از هوش مصنوعی در سلامت وجود دارد؟
مکلین خاطرنشان میکند که رباتهای هوش مصنوعی مولد در حال حاضر تحت پوشش قوانین محرمانگی اطلاعات پزشکی مانند HIPAA قرار ندارند. او میگوید: «اطلاعات شخصی سلامت خود را وارد این سامانهها نکنید، چون ممکن است در هرجایی ذخیره یا استفاده شوند.» این مسئله نگرانیهای جدی درباره حریم خصوصی و امنیت دادههای بیماران ایجاد میکند.
هنگام جستوجوی اطلاعات پزشکی در خلاصههای تولیدشده توسط هوش مصنوعی، بهتر است بررسی کنید که آیا دادهها از منابع علمی معتبر یا سازمانهای پزشکی شناختهشده تهیه شدهاند یا خیر. همچنین باید تاریخ آخرین بهروزرسانی اطلاعات را کنترل کنید تا مطمئن شوید اطلاعات ارائهشده مطابق با استانداردهای فعلی پزشکی هستند.
لوزواتسکی امیدوار است که بیماران همچنان در صورت بروز علائم جدید به پزشک مراجعه کنند و اطلاعاتی را که از چتباتها دریافت کردهاند، صادقانه با پزشک در میان بگذارند. او میگوید که این کار به پزشک کمک میکند تا ارزیابی دقیقی از وضعیت بیمار داشته باشد و اقدامات اصلاحی لازم را انجام دهد.
او اضافه میکند که منطقی است اطلاعات بهدستآمده از هوش مصنوعی با پزشک بهاشتراک گذاشته شود و پرسیده شود: «آیا این اطلاعات دقیق است؟ آیا برای شرایط من قابلاجراست؟ اگر نه، چرا؟» همچنین میتوان از پزشک پرسید که آیا ابزار هوش مصنوعی معتبری برای استفاده بیماران وجود دارد یا خیر. این تعامل میتواند باعث شود بیماران از اطلاعات دیجیتال با رویکردی ایمنتر و علمیتر بهرهمند شوند.
آردایت برای اطمینان از صحت محتوای خود، که در سیاست ویراستاری ما ذکر شده است، از دستورالعملهای سختگیرانهای در زمینه منبعیابی پیروی میکند . ما فقط از منابع معتبر، از جمله مطالعات بررسیشده توسط همتایان، متخصصان پزشکی دارای مجوز، بیماران با تجربه عملی و اطلاعات از مؤسسات برتر، استفاده میکنیم.
- Annenberg Public Policy Center. Many in U.S. consider AI-generated health information useful and reliable.
- Kaya Kaçar H, Kaçar ÖF, Avery A. Diet quality and caloric accuracy in AI-generated diet plans: a comparative study across chatbots. Nutrients. 2025;17(2):206. doi:10.3390/nu17020206
- https://www.verywellhealth.com/why-you-should-never-use-chatgpt-for-health-advice-11794758
گردآوری، ترجمه و تدوین محتوای علمی در حوزه سلامت عمومی
تمام مقالات توسط دکتر فرزاد روشنضمیر بازبینی علمی میشوند.
اگر از رژیمهای تکراری نتیجه نگرفتهاید، فقط یک دوره با دکتر روشن ضمیر داشته باشید. هزینه رژیم طبق تعرفه ویزیت دکتری تخصصی در علوم پایه (PHD) پروانهدار در سال 1405، 357 هزارو 700 تومان می باشد.
جهت ارتباط در پیامرسانها به شماره زیر پیام دهید
09304881654
عضویت در کانال بله
