استفاده از هوش مصنوعی به جای دکتر، این مرد را به لبه پرتگاه مرگ برد

دریافت توصیه پزشکی از هوش مصنوعی به جای دکتر، یک مرد را تا آستانه مرگ برد. این اتفاق، زنگ خطر اعتماد به فناوری هوش مصنوعی را به صدا درآورده است.

مدل‌های اخیر هوش مصنوعی در زمینه‌هایی مانند پیشنهاد رستوران و نگارش ایمیل توانسته‌اند کاربردهای مفیدی از خود نشان دهند، اما هنگامی که پای ارائه مشاوره‌های پزشکی به میان می‌آید، همچنان کاستی‌ها و محدودیت‌های آشکاری در عملکرد آن‌ها دیده می‌شود.

خطرات استفاده از هوش مصنوعی به جای دکتر

یک مرد پس از پیروی از یک برنامه سلامت ارائه‌شده توسط یک چت‌بات، در نهایت دچار عارضه‌ای نادر از نوع مسمومیت شد و کارش به بستری شدن در بیمارستان کشید. ماجرا از آنجا آغاز شد که این بیمار تصمیم گرفت با کاهش مصرف نمک یا همان کلرید سدیم، وضعیت سلامت خود را بهبود ببخشد. برای یافتن جایگزین، او همان کاری را انجام داد که امروزه بسیاری از مردم انجام می‌دهند: پرسش از ChatGPT.

گزارش‌ها حاکی از آن است که چت‌بات شرکت OpenAI ظاهراً سدیم برومید را به‌عنوان جایگزین پیشنهاد کرده بود. بیمار این ماده را به‌صورت آنلاین سفارش داد و سپس در رژیم غذایی خود گنجاند. هرچند از لحاظ شیمیایی درست است که سدیم برومید می‌تواند جایگزینی برای کلرید سدیم باشد، اما این کاربرد معمولاً در شرایطی مطرح است که هدف، ضدعفونی یا پاک‌سازی یک جکوزی باشد، نه بهبود طعم سیب‌زمینی سرخ‌کرده. با این حال، هوش مصنوعی این نکته اساسی و زمینه‌ساز را به‌طور کامل ذکر نکرده بود.

هوش مصنوعی می‌تواند شما را به لبه پرتگاه مرگ ببرد

سه ماه بعد، بیمار با توهمات پارانویید به بخش اورژانس مراجعه کرد و معتقد بود که همسایه‌اش قصد مسموم کردن او را دارد. پزشکان گزارش کردند: «در نخستین 24 ساعت بستری، بیمار دچار تشدید احساس بدبینی و همچنین توهمات شنوایی و بینایی شد که پس از تلاش برای فرار از بیمارستان، منجر به قرار گرفتن اجباری تحت مراقبت روان‌پزشکی به دلیل ناتوانی شدید عملکردی گردید.»

• چگونه مدل‌ های قدیمی‌ هوش مصنوعی ChatGPT را فعال کنیم؟
• اگر می‌خواهید زنده بمانید از هوش مصنوعی رژیم غذایی نگیرید
• سونامی هوش مصنوعی در راه است و کسانی که موج‌سواری نکنند، غرق خواهند شد

پس از آغاز درمان با داروهای ضد‌روان‌پریشی، وضعیت روانی بیمار تا حدی آرام شد و او توانست رژیم غذایی خود که بر اساس توصیه‌های هوش مصنوعی تنظیم کرده بود را توضیح دهد. این اطلاعات، به همراه نتایج آزمایش‌ها، تیم پزشکی را قادر ساخت تا تشخیص برومیسم یا مسمومیت ناشی از تجمع برومید را برای او قطعی کنند.

سطح طبیعی برومید در بدن اغلب افراد سالم معمولاً کمتر از حدود 10mg/L است، در حالی که آزمایش‌ها نشان داد سطح برومید در خون این بیمار به 1700mg/L رسیده بود. برومیسم در اوایل قرن بیستم نسبتا شایع بوده و تخمین زده می‌شود که در مقطعی تا حدود 8 درصد از بستری‌های روان‌پزشکی به این مسمومیت مرتبط بوده است. با این حال، از دهه 1970 و 1980 میلادی، با حذف تدریجی داروهای حاوی برومید، بروز این بیماری به شدت کاهش یافت.

پس از تشخیص، بیمار طی یک دوره سه‌هفته‌ای تحت درمان قرار گرفت و در نهایت بدون مشکل جدی از بیمارستان مرخص شد. نکته اصلی در این گزارش موردی، بازگشت یک بیماری قدیمی نیست، بلکه این واقعیت است که فناوری نوظهور هوش مصنوعی هنوز فاصله قابل‌توجهی با جایگزین‌کردن تخصص انسانی در امور حیاتی مانند توصیه‌های پزشکی دارد.

به گفته محققان: «باید در نظر داشت که ChatGPT و سایر سامانه‌های هوش مصنوعی ممکن است اطلاعات علمی نادرست تولید کنند، توانایی بررسی انتقادی نتایج را نداشته باشند و در نهایت باعث گسترش اطلاعات غلط شوند.» آن‌ها همچنین تأکید کردند: «به‌سختی می‌توان تصور کرد که یک پزشک متخصص، در مواجهه با بیماری که به دنبال جایگزینی ایمن برای کلرید سدیم است، نام سدیم برومید را مطرح کند.»

این پژوهش در مجله Annals of Internal Medicine: Clinical Cases منتشر شده است.