مگنا چاکرابارتی دوری شیمر
مگنا چاکرابارتی، مجری رادیو WBUR، تابستان گذشته به دیدار برادرش در ساحل غربی رفته بود و از یک لیوان شراب لذت می برد و گفت که فکر می کند هوش مصنوعی قرار است تمدن را تغییر دهد. در حالی که آن دو به بحث درباره موضوعات دیگر ادامه دادند، این ایده در ذهن چاکرابارتی ماندگار شد و او و سردبیر ارشد و همکار دوری شیمر شروع به تحقیق در مورد این موضوع کردند. سری چهار قسمتی اصلی آنها، “سلامت هوشمندتر: هوش مصنوعی و آینده مراقبت های بهداشتی آمریکا” در ماه مه و ژوئن در برنامه بوستون “On Point” پخش شد. ارزش شنیدن را دارد (یا بخوانید، رونوشت ها نیز به صورت آنلاین ارسال می شوند).
چاکرابارتی و شیمر چهار ماه را صرف تحقیق و گزارش سریال کردند. آنها با حدود 30 کارشناس در سراسر کشور، از جمله پزشکان، دانشمندان کامپیوتر، حامیان بیماران، متخصصان اخلاق زیستی و تنظیم کننده های فدرال صحبت کردند. آنها همچنین کاترین گورمن را که پادکست هوش ماشینی “Talking Machines” را پایه گذاری کرد، به عنوان ویراستار مشاور استخدام کردند. نتیجه نگاهی عمیق به این است که چگونه هوش مصنوعی مراقبت‌های بهداشتی را متحول می‌کند و در عین حال به ملاحظات اخلاقی و مقررات فناوری، افرادی که آن را توسعه می‌دهند و بیمارانی که در انتهای آن هستند توجه می‌کند.
چاکرابارتی و شیمر در یک کتاب جدید با عنوان «چگونه این کار را انجام دادم» درباره روند گزارش دهی خود و موارد دیگر بحث کردند. (برای اختصار و وضوح، پاسخ ها کمی ویرایش شده اند.)
چرا تصمیم گرفتید در مراقبت های بهداشتی روی هوش مصنوعی تمرکز کنید؟
چاکرابارتی: به‌عنوان یک نمایش، ما به طور طبیعی تمایل داریم به راه‌هایی فکر کنیم که تغییرات عمده‌ای در نحوه زندگی‌مان اتفاق می‌افتد که به طور کامل آن را درک نمی‌کنیم و نیاز به بررسی عمیق‌تر دارد. در ابتدا، من می خواستم یک سریال بزرگ در مورد اینکه چگونه هوش مصنوعی تمدن را تغییر می دهد، انجام دهم.
شیمر: اینجا بود که من برای خرد کردن ایده تمدن وارد شدم (می خندد). مگنا برای من لینک های زیادی می فرستاد. من به تنهایی مطالعه می کردم و سعی می کردم بفهمم کجا می توانیم بیشترین کار را در زمینه هوش مصنوعی انجام دهیم، و پزشکی و مراقبت های بهداشتی مدام مطرح می شدند. ما نمایش های زیادی در زمینه فناوری و نظارت انجام داده ایم. به نظر می رسید که خطرات هوش مصنوعی در مراقبت های بهداشتی بسیار بالاتر از سایر صنایع است زیرا این سلامت ماست. علاوه بر این که پول زیادی برای هوش مصنوعی در مراقبت‌های بهداشتی صرف می‌شود، فضای خوبی برای تمرکز کردن گزارش‌هایمان به نظر می‌رسد.
چاکرابارتی: اگر این فناوری به درستی انجام شود، می تواند به ارمغان بیاورد [benefits] به مراقبت های بهداشتی هم از نظر هزینه و هم از نظر نتایج. این بخشی است که هوش مصنوعی در آن همه را تحت تاثیر قرار می دهد. و به راحتی قابل درک است که مهم نیست چه کسی به کدام قسمت گوش می دهد، آنها می توانند به نوعی با هم ارتباط برقرار کنند.
آیا می توانید در مورد روند گزارش خود صحبت کنید؟ چگونه کارشناسان را پیدا کردید و تصمیم گرفتید چه کسی را معرفی کنید؟
شیمر: من بدون اطلاع از چیزی وارد این موضوع شدم. من با صحبت با چند متفکر بزرگ در این فضا شروع کردم که گزارش هایی نوشته بودند تا سرم را در مورد اینکه چگونه می توانیم سریال را متمرکز کنیم. می‌دانستیم که داریم چهار قسمت می‌کنیم. برای رسیدن به این هدف، به یک برنامه منسجم برای آنچه می‌خواستیم به انجام برسانیم نیاز داشتیم. من فاز یک تحقیق و گزارش را داشتم و سپس شروع کردم به شناخت دقیق‌تر و دقیق‌تر با انواع افرادی که با آنها صحبت می‌کردم. برای صنعت بزرگی که هست، فضای بسیار کوچکی است. همین نام ها مدام مطرح می شد.
اوایل واقعا سخت بود. ما یک طرح بزرگ داشتیم که می‌خواستیم یک نمونه از هوش مصنوعی را که قبلاً در مراقبت‌های بهداشتی و پزشکی وجود داشت، انتخاب کنیم و از آن به عنوان شروع هر قسمت استفاده کنیم. این به نتیجه نرسید زیرا در آغاز فرآیندمان با مقاومت بسیار زیادی از سوی شرکت‌ها مواجه شدم. تردید زیادی از سوی صنعت وجود دارد که رسانه ها هوش مصنوعی را به عنوان روبات هایی ترسیم کنند که پزشکان شما را به دست گرفته و جایگزین می کنند. من از اینکه چقدر سخت بود مردم را به صحبت کردن در ماه‌های اولیه گزارش‌دهی واداشتم، متعجب شدم.
چاکرابارتی: توجه به این نکته مهم است که ما همچنین با حساسیت های طبیعی سر و کار داشتیم زیرا مراقبت های بهداشتی بود. یکی از کارهایی که از نظر فرآیندی بسیار مهم بود و دوری بسیار درخشان انجام داد، اعتمادسازی با منابع است تا آنها متوجه شوند که ما استقلال و یکپارچگی روزنامه نگاری خود را حفظ خواهیم کرد. هیچ‌کدام از آنها قرار نبود تبلیغی برای فناوری آنها شود، اما در عین حال، قرار بود با آن برخورد منصفانه‌ای شود. اگر دوری نمی توانست این کار را انجام دهد، دوره سریال نداشتیم.
Scheimer: در داخل، من باید به سؤالاتی در مورد اینکه چرا این سریال زمان زیادی را صرف کرده است، پاسخ می دادم. به عنوان مثال، من قصد دارم هفته آینده یک برنامه در مورد خطوط هوایی اجرا کنم. در عرض چند ساعت بعدازظهر دیروز، احساس کردم که کاملاً خوانده شده و آماده حرکت به جلو هستم. با این کار، احساس می‌کردم که باید سطح دانش و درک متفاوتی داشته باشم تا از سوی مهمان‌هایی که می‌خواهیم جدی گرفته شوم. این یک نوع فرآیند متفاوت بود.
چاکرابارتی: ما بیش از حد بر دریافت حقایق متمرکز بودیم و سعی می‌کردیم اطمینان حاصل کنیم که ایده‌ها و مفاهیم کاملاً پیچیده را بازنمایی می‌کنیم و در عین حال آنها را در دسترس قرار می‌دهیم. ما به سراغ افرادی می رویم که لیستی از ده ها سوال داشتند. همه اینها باید هم در گزارش قطعات تولید شده و هم در گفتگوهای زنده در هر ساعت گنجانده می شد. این حلقه دائمی تلاش برای ایجاد جزئیات بیشتر و بیشتر وجود داشت. آنچه دست به دست هم داد این بود که بسیاری از این اطلاعات در مجلات منتشر می شود. بنابراین ما مقالات زیادی را می کشیدیم و آنها را می خواندیم تا بتوانیم به مواردی که در متون علمی وجود دارد به دقت ارجاع دهیم.
چگونه اعتماد به منابع را جلب کردید؟ آیا راهنمایی برای اعضای ما وجود دارد؟
شیمر: تکالیف خود را انجام دهید. من باید با سطحی از درک وارد آن مصاحبه ها می شدم که به من اجازه می داد بلافاصله با کارشناسانی که با آنها صحبت می کردم رابطه برقرار کنم. من می توانم حتی به چند مصاحبه قبلی که در آنها سؤالات بالقوه احمقانه ای پرسیدم گوش کنم. خوشبختانه، آن افراد به اندازه کافی لطف داشتند که به من آموزش دهند، اما در مصاحبه های بعدی می توانستم بشنوم که وقتی پایه دانشی داشتم توانستم مکالمات بسیار بیشتر و عمیق تری داشته باشم.
همچنین، مانند هر داستان یا مصاحبه دیگری، از آنچه نمی دانید بپرسید و به افراد فرصت دهید تا در مورد نقش خود و چرایی شکاف درک فکر کنند. [with AI] وجود داشته است. دریافتم که حتی پزشکان بیمارستان‌های بزرگ بلافاصله نسبت به هوش مصنوعی احساس تدافعی می‌کنند، مثل اینکه هیچ‌کس نمی‌دانست که می‌تواند مزایایی داشته باشد، و تنها چیزی که دیدند این بود که چقدر می‌تواند بد باشد. دادن این فرصت به مردم برای گفتن، «این است که چرا فکر می‌کنم چیزهای خوبی از آن حاصل می‌شود»، فقط پرسیدن آن سؤال، در بسیاری از مصاحبه‌ها کمک کرد.
من چند موضوع را در مجموعه شما مشاهده کردم: فناوری نوید بزرگی دارد. مردم نگران این هستند که انسان ها همچنان مسئول اطلاعات باشند. نیاز به شفافیت با بیماران وجود دارد. آیا دیگرانی هستند که متوجه آنها شده اید؟
شیمر: مسئولیت هنوز یک علامت سوال بزرگ است. هیچ‌کس نمی‌داند چه کسی مسئول کاربرد الگوریتم‌ها است، خواه توسعه‌دهنده، سیستم بیمارستان یا خود پزشکان. این امر منجر به تردیدهای زیادی برای پذیرش این فناوری می شود زیرا سیستم های بهداشتی نمی خواهند این خطر را بپذیرند. هنوز سؤالات زیادی در مورد هزینه وجود دارد، هم فناوری و هم تأثیر آن بر هزینه مراقبت های بهداشتی. چیزی که ما به طور کامل پوشش ندادیم، اما قطعاً در قسمت چهارم به آن رسیدیم، نقش پرداخت‌کنندگان و اینکه چگونه شرکت‌های بیمه ممکن است نقشی در این که آیا هوش مصنوعی می‌تواند به پتانسیل خود برسد یا نه، بود.
چاکرابارتی: من به منابع دوری اعتبار می دهم که هم در مورد خوش بینی و هم در مورد واقع گرایی آنها در مورد هوش مصنوعی در مراقبت های بهداشتی صادق هستند. همه گفتند این پتانسیل بالایی دارد اگر درست انجام دهیم. اگر ما آن را به درستی انجام دهیم، بخش مربوط به توسعه و همچنین مقررات است. این موضوع بزرگی است که من دوست دارم ببینم افراد باهوش بیشتر درباره آن گزارش می دهند، مانند نحوه دریافت مقررات برای رسیدن به فناوری، به ویژه در مراقبت های بهداشتی. ما یک قسمت در مورد آن ساختیم اما هیچ پاسخ خوبی در آن نداشت زیرا هنوز خیلی تعریف نشده است.
سوال دیگر این بود که این فناوری برای چه کسی توسعه می یابد. همه می‌گویند که می‌خواهند به بیمار کمک کنند، اما گاهی اوقات یک برنامه یا فناوری هوش مصنوعی خاص برای سیستم سلامت مفید است و این لزوماً به معنای خوب بودن برای بیمار نیست. در سیستم مراقبت بهداشتی مانند ما، که پویایی مالی آن در مقایسه با سایر نقاط جهان بسیار منحصر به فرد است، این یک سوال واقعا مهم است.
آیا چیزی بود که در طول گزارش خود از آن شگفت زده شوید؟
Scheimer: در قسمت سوم ما در مورد مقررات و FDA، واقعاً من را شگفت زده کرد که سازمان فدرال که وظیفه تنظیم این فضا را دارد چقدر مجهز نیست. حتی با وجود تلاش‌هایی که انجام می‌دهند، به نظر نمی‌رسد که ما در جایی هستیم که بتوانیم این موضوع را به اندازه کافی تنظیم کنیم.
چاکرابارتی: مردم سعی می کنند در این فضا بسیار متفکر باشند، حداقل توسعه دهندگان و پزشکان و افرادی که با آنها صحبت کردیم. آنها بسیار مایلند که با سؤالات بزرگ دست و پنجه نرم کنند، و به نظر می رسد حداقل در تلاش برای انجام این کار هستند. چیزی که امیدوارم سریال ما به نتیجه برسد این است که این سؤالات را مطرح کند و آنها را کمی بیشتر به حوزه عمومی بکشاند. نکته دیگری که من را به عنوان یک روزنامه نگار و همچنین به عنوان یک بیمار به ویژه در قسمت اول شگفت زده کرد، این است که چقدر هوش مصنوعی در حال حاضر در سیستم مراقبت های بهداشتی استفاده می شود. در حال حاضر چیزهای زیادی در بازی وجود دارد، و بر مراقبت و بیمه، تصمیم‌گیری و غیره تأثیر می‌گذارد. این کاملاً چشم‌نواز بود.
شیمر: کاملا موافقم. من از شنیدن اینکه چگونه مردم با هدف رفع مشکلی در سیستم مراقبت های بهداشتی ما به این موضوع می آیند، بسیار خوشحال شدم. زیاد اوبرمایر [a physician and guest in episode 1] یک مثال عالی است او یک پزشک اورژانس بود و از ناتوانی اش در دانستن اینکه چه زمانی یک بیمار دچار حمله قلبی می شود آنقدر ناامید شده بود که اکنون بر روی تحقیق در مورد اینکه چگونه هوش مصنوعی می تواند آن را پیش بینی کند متمرکز شده است. من فکر می کنم که مردم با این نیت به این مشکل می رسند که بهترین کار را برای بیشتر بیماران انجام دهند. اگر آنها نتوانند این کار را انجام دهند، تقصیر سیستم ما خواهد بود.
آیا پیامی وجود دارد که امیدوارید شنوندگان با خود داشته باشند؟
Scheimer: امیدوارم به شنوندگان ابزارهایی داده باشیم تا مراقبت های خود را بهتر درک کنند، به مطب پزشک مراجعه کنند و بپرسند که آیا هوش مصنوعی در مراقبت از آنها نقش دارد و چگونه این امر بر مراقبت آنها تأثیر می گذارد. من فکر می کنم اکثر بیماران نمی دانند که الگوریتمی برای انجام این کار اجرا می شود. این آگاهی و درک عمیق‌تر از بیماران، فکر می‌کنم به آینده کمک خواهد کرد.
چاکرابارتی: موافقم. ایجاد آگاهی از چیزهایی که قبلاً در تاریکی بودند، تنها نشانه ای از هدف اصلی روزنامه نگاری است. مانند این است: «هی، همه چیز در چیزی در حال تغییر است که روی همه تأثیر می گذارد. حداقل در اینجا شانس شما برای یادگیری کمی در مورد آن است.
ما همچنین به دلیل ترکیبی از مثبت و منفی آنچه ممکن است با هوش مصنوعی در مراقبت های بهداشتی رخ دهد، نکاتی را برای روزنامه نگاران داریم. همانطور که یکی از مهمانان ما گفت، به خصوص در قسمت دوم، ما واقعاً نمی توانیم تعیین کننده آن را روی بیماران بگذاریم. ما باید عزم آن را بر روی سیستم، بیمارستان‌ها، تنظیم‌کننده‌ها و غیره بگذاریم تا «درست شود». آن پیام واقعاً من و دوری را به خانه رسانده است. این چیزی است که می‌دانم ما علاقه‌مندیم به پیگیری آن ادامه دهیم تا ببینیم آیا روند درست کردن آن همانطور که باید پیش می‌رود یا خیر.