ChatGPT Health و تشخیص پزشکی
OpenAI بارها تکرار کرده است که هوش مصنوعی جایگزین پزشک نیست و فقط برای ایجاد دید کلی طراحی شده (البته بابت نگرانی از تبعات قانونی اشتباهات احتمالی!)، با این حال، گزارش مفصلی که جفری فاولر، خبرنگار فناوری واشنگتن پست، منتشر کرد، زنگ خطر را به صدا درآورد. او دادههای دهساله Apple Watch خودش را (۲۹ میلیون قدم و ۶ میلیون ضربان قلب!) به ChatGPT Health داد و پرامپ داد تا وضعیت سلامت قلبیاش را تحلیل کند و بگوید از نظر سلامت قبلی در چه وضعیتی است. پاسخ هوش مصنوعی؟ نمره F (شکست کامل)! پس از دریافت پاسخ از Chatgpt این خبرنگار فناوری شوکه شد و سریعا گزارش چت جی پی تی را برای پزشک فرستاد، اما پاسخ پزشک واقعی جالب بود و سرآغاز بحث های زیادی بر سر دخالت هوش مصنوعی در خدمات سلامت و پزشکی شد! پزشک با قاطعیت تحلیل Chatgpt را رد کرد و گفت اصلاً این ارزیابی پایه علمی ندارد، ریسک بیماری و قلبی شما بسیار پایین است و حتی بیمهام احتمالاً هزینه تست مجدد را پرداخت نخواهد کرد!
مشکل کجاست؟ آیا هوش مصنوعی اشتباه کرده است؟
ChatGPT Health بیش از حد به اعدادی مثل VO2 max (حداکثر ظرفیت مصرف اکسیژن) و تغییرات ضربان قلب که از ساعتهای هوشمند مثل اپل واچ دریافت شده بود تکیه میکند. این اعداد اغلب تخمینیاند و تحقیقات نشان میدهد اپل واچ معمولاً VO2 max را پایینتر از واقعیت نشان میدهد. اما هوش مصنوعی این اعداد را مثل نشانهای قطعی از سلامت ضعیف تفسیر میکند.
جالبتر و بدتر اینکه نتایج اصلاً پایدار نبود! در چتهای مختلف، نمره از F به B تغییر میکرد! گاهی نتایج آزمایش خون اخیر را نادیده میگرفت، گاهی حتی سن و جنسیت را فراموش میکرد. دکتر اریک توپول، یکی از چهرههای برجسته سلامت دیجیتال، هم هشدار داد: «این ابزار هنوز برای مشاوره پزشکی اصلا آماده نیست و وابستگیاش به دادههای نادقیق ساعتهای هوشمند، برای سلامت عمومی و جامعه مشکلساز است.»
در بررسی های بعدی صورت گرفته، ابزار مشابه Claude for Healthcare از Anthropic هم عملکرد مشابهی داشت؛ با وارد کردن دیتا و ورودی یکسان نمرهها بین C و B- نوسان میکرد! هر دو شرکت میگویند هدفشان جایگزینی پزشک نیست، اما همین لحن مطمئن و گزارشهای شخصیسازیشده چت بات ها میتواند افراد سالم را به وحشت بیندازد یا برعکس، کسانی که واقعاً نیاز به پیگیری دارند را به اشتباه آرام کند و حتی با اتکا به تحلیل چت جی پی تی، پیگیر درمان و وضعیت سلامتی خود نشوند.
چطور هوشمندانه و به درستی از این ابزارها استفاده کنیم؟
- دادهها را با دقت بررسی کنید و به چت بات بدهید
ساعتهای هوشمند محدودیت دارند؛ VO2 max و ضربان قلب فقط تخمینیاند. هرگز آنها را تنها مبنای قضاوت قرار ندهید. - همیشه با پزشک مشورت کنید
اگر نمره بدی گرفتید، وحشت نکنید؛ گزارش را برای متخصص ببرید. هوش مصنوعی هنوز نمیتواند جای نظر کارشناسی را بگیرد، و حتی اگر نتیجه خوبی گرفتین نیز اعتماد نکنید و با دید تردید به پاسخ چت بات نگاه کنید. - چند ابزار را مقایسه کنید
دادهها را در ChatGPT Health و Claude و ابزارهای دیگر نظیر Super Grok دیگر امتحان کنید، حتی بهتر است با خرید اکانت Chatgpt Plus، از مدل های بهتر و پیچیده تر برای تحلیل وضعیت سلامتی خود استفاده کنید، اگر تفاوت معناداری مابین پاسخ چت بات ها وجود داشت، هشدار مهمی از صحیح نبودن پاسخ ها است. - روی روندها تمرکز کنید، نه نمره کلی
افزایش قدم روزانه، خواب بهتر یا فعالیت منظم خیلی مهمتر از یک حرف الفبایی است. - صبر کنید؛ فناوری در حال پیشرفت است!
شاید چند ماه دیگر این ابزارها دقیقتر شوند، اما هنوز زود است و فعلاً با احتیاط و چشم باز استفاده کنید.
در نهایت، هوش مصنوعی پتانسیل فوقالعادهای برای کمک به درک و تحلیل دادههای سلامتی دارد، اما در حال حاضر، حداقل برای ارزیابیهای شخصی و حساس، هنوز به بلوغ نرسیده است. اگر از ChatGPT Health استفاده میکنید، نتایج را قابل توجه بدانید، اما اجازه ندهید آرامش شما را بگیرد یا بالعکس باعث آرامش کاذب شما بشود. در دنیای پزشکی، همیشه متخصص انسانی آخرین و مطمئنترین حرف را میزند.