به گزارش پایگاه خبری پزشکان و قانون (پالنا)،
مهرناز آقانوری در گفت‌وگو با ایسنا اظهار کرد: در تشخیص‌های اولیه، یکی از مسائل موجود این است که بسیاری از بیمارستان‌ها و پزشکان با حجم بالایی از مراجعه‌کنندگان مواجه هستند و بیماران نیاز دارند در کوتاه‌ترین زمان ممکن به یک نتیجه اولیه دست یابند و اطمینان خاطر پیدا کنند. از سوی دیگر، ممکن است فاصله محل زندگی افراد تا مراکز درمانی زیاد باشد، فرصت کافی برای مراجعه، انجام آزمایش و ارائه نتایج به پزشک را نداشته باشند یا به هر دلیل دیگری به ابزارهای هوش مصنوعی مراجعه کنند.

وی افزود: این ابزارهای هوش مصنوعی، از آنجا که در هر زمان و هر مکان در دسترس هستند، مورد استقبال کاربران قرار گرفته‌اند. اگر از دیدگاه تخصصی به موضوع نگاه کنیم، یکی از ویژگی‌هایی که هوش مصنوعی می‌تواند به توانمندی‌های انسانی اضافه کند، قابلیت تحلیل یکپارچه داده‌های چندوجهی و چندبعدی است. به همین دلیل، هوش مصنوعی می‌تواند در این زمینه نقش کمک‌کننده داشته باشد. برای مثال، می‌تواند تصاویر، داده‌های مرتبط با سیگنال‌ها و اطلاعات متنی را به صورت همزمان ترکیب و تحلیل کند. این کار برای افراد باتجربه ممکن است ساده‌تر و امکان‌پذیرتر باشد، اما برای پزشکان تازه‌کار می‌تواند دشوار بوده و منجر به نتیجه‌گیری اشتباه یا ناقص شود. از نظر احتمال خطا نیز باید توجه داشت که اشتباهات پزشکی و خستگی انسانی همواره وجود دارند؛ اما در نگاه اول، ماشین خستگی‌ناپذیر است. تمامی این موارد سبب می‌شوند تصور کنیم که یک سیستم ماشینی در دسترس و کمک‌کننده می‌تواند بسیار مفید باشد.

عضو هیئت علمی گروه هوش مصنوعی دانشکده فناوری‌های نوین علوم پزشکی دانشگاه علوم پزشکی اصفهان بیان کرد: میزان اتکا به این ابزارها در حوزه‌های مختلف متفاوت است. بدیهی است که هوش مصنوعی به‌تازگی وارد نظام سلامت شده و این تحول هنوز در مراحل اولیه شکل‌گیری قرار دارد. در این مسیر با چند مشکل مواجه هستیم. نخست اینکه هوش مصنوعی بر پایه داده‌ها عمل می‌کند؛ بنابراین اگر داده‌ها ناقص باشند، بخشی از آن‌ها حذف شده باشد یا دچار سوگیری(بایاس) باشند، سامانه هوش مصنوعی توسعه‌یافته بر مبنای این داده‌ها نیز با مشکل مواجه خواهد شد و نمی‌توان به آن اعتماد کرد. در نتیجه، نخستین چالش موجود، مسئله داده‌ها است. در حال حاضر نیز به دلیل آن که اطمینان کافی نسبت به نحوه جمع‌آوری داده‌ها وجود ندارد و مشخص نیست تمامی پارامترهای لازم هنگام جمع‌آوری در نظر گرفته شده‌اند یا خیر، این موضوع به یک چالش اساسی تبدیل شده است.

آقانوری ادامه داد: دومین مشکل نیز به داده‌ها مربوط می‌شود، اما به دلیل اهمیت آن به صورت جداگانه مطرح می‌شود. در بسیاری از موارد، داده‌ها از یک جمعیت خاص جمع‌آوری می‌شوند. در چنین شرایطی، حتی اگر داده‌ها باکیفیت بوده و فاقد سوگیری باشند، نتایج حاصل تنها برای همان جمعیت اعتبار خواهند داشت. اگر همان مدل برای جمعیت دیگری به کار گرفته شود، ممکن است نتایج صحیحی ارائه نکند؛ زیرا ویژگی‌های جمعیت‌های مختلف با یکدیگر تفاوت دارند.

وی گفت: در مجموع، در شرایط فعلی این ابزارهای هوش مصنوعی هنوز به طور کامل قابل اعتماد نیستند. حتی اگر بخواهیم به آینده نیز نگاه کنیم، این ابزارها همواره در نقش کمک‌کننده پزشک باقی خواهند ماند؛ زیرا در هر مرحله از فرایند ممکن است خطایی رخ دهد و وجود یک ناظر انسانی برای تشخیص و اصلاح خطا ضروری است.

دکتری مهندسی پزشکی خاطرنشان کرد: منظور از ابزارهای هوش مصنوعی، الزاماً مدل‌های زبانی بزرگ (LLM) مانند چت‌جی‌پی‌تی و ابزارهای مشابه نیست. این‌ها ابزارهای عمومی و نسبتاً ساده‌ای هستند که با داده‌های تخصصی پزشکی آموزش ندیده‌اند. منظور از هوش مصنوعی در این بحث، دستیارهای هوش مصنوعی است که به‌طور اختصاصی برای نظام سلامت توسعه یافته‌اند. بنابراین، نباید این دو گروه از ابزارها با یکدیگر اشتباه گرفته شوند.

وی تصریح کرد: یکی از مهم‌ترین مشکلات الگوریتم‌های هوش مصنوعی که برای اهداف دیگر توسعه یافته‌اند و سپس وارد حوزه سلامت می‌شوند، همان مسئله سوگیری داده‌ها است. اگر چنین سوگیری‌ای وجود داشته باشد، نمی‌توان ریسک استفاده از نتایج آن‌ها را در حوزه سلامت پذیرفت. شاید در برخی حوزه‌های دیگر این میزان ریسک قابل قبول باشد و بتوان با اطمینان بیشتری از آن‌ها استفاده کرد، اما در حوزه سلامت چنین شرایطی وجود ندارد.

آقانوری اشاره کرد: به طور کلی، دو نوع ابزار در این حوزه وجود دارد؛ نخست، مدل‌های زبانی عمومی یا همان LLMها که در دسترس عموم قرار دارند؛ و دوم، ابزارهای تخصصی که با داده‌های پزشکی آموزش دیده‌اند و کاربران از آن‌ها بهره می‌برند. ابزارهایی که به‌ویژه در آینده توسعه خواهند یافت و بسیاری از همکاران من در حال حاضر روی آن‌ها کار می‌کنند، سامانه‌هایی هستند که در دسترس عموم قرار دارند اما به طور اختصاصی برای مسائل پزشکی طراحی شده‌اند؛ برای مثال، چت‌بات مشاوره برای مادران باردار که به‌طور دقیق با داده‌های مرتبط با مادران باردار آموزش داده شده است.

این استاد دانشگاه بیان کرد: به‌طور معمول، کاربران با این سامانه‌ها گفت‌وگو می‌کنند و پاسخ دریافت می‌کنند. گاهی افراد تصور می‌کنند که هوش مصنوعی توانمندتر از پزشک است و پزشکان توانایی تحلیل کافی ندارند؛ در حالی که این نگرش می‌تواند بسیار خطرناک باشد. به همین دلیل، خود این چت‌بات‌ها نیز همواره تأکید می‌کنند که پاسخ ارائه‌شده صرفاً یک نظر ماشینی است و مراجعه به پزشک ضروری خواهد بود. بنابراین، باید این موضوع در جامعه نهادینه شود که این ابزارها صرفاً می‌توانند به کاهش استرس اولیه افراد یا آشنایی مقدماتی آن‌ها با بیماری یا نتایج آزمایش‌هایشان کمک کنند. این ابزارها به هیچ عنوان برای درمان قابل استفاده نیستند و تشخیص قطعی نیز ارائه نمی‌دهند.

وی اظهار کرد: در مقابل، اگر ابزارهای تخصصی که برای یک هدف مشخص در نظام سلامت توسعه یافته‌اند، برای مثال سامانه‌های ویژه مادران باردار، مجوزهای لازم را از وزارت بهداشت دریافت کرده باشند، این موضوع نشان‌دهنده قابل اعتماد بودن آن‌ها است و عموم مردم می‌توانند از پاسخ‌ها و راهنمایی‌های آن‌ها استفاده کنند. البته دریافت چنین مجوزهایی به هیچ وجه ساده نیست و در حال حاضر نمونه‌ای از این دست که تمامی این مراحل را طی کرده باشد، در اختیار نداریم.

آقانوری در پایان گفت: لازم است چند نکته در جامعه به‌درستی نهادینه شود؛ نخست اینکه از ابزارهای هوش مصنوعی عمومی مانند LLMها برای امور مهم، از جمله تشخیص و درمان، استفاده نشود. دوم اینکه ابزارهای هوش مصنوعی همواره نقش کمک‌کننده به پزشک را دارند و جایگزین پزشک نیستند. سوم اینکه ابزارهای معتبر و دارای مجوز قابل اعتماد هستند و نباید به گونه‌ای عمل شود که هیچ‌کس به این ابزارها اعتماد نکند. اگر این سامانه‌ها مجوزهای لازم را دریافت کرده باشند و به‌درستی توسعه یافته باشند، می‌توانند بیماران را راهنمایی کنند و در موارد لازم نیز آنان را به پزشک ارجاع دهند.