聊天機器人越來越成為世界各地醫(yī)療保健的一部分，但它們是否鼓勵偏見?這就是科羅拉多大學(xué)醫(yī)學(xué)院的研究人員在深入研究患者使用模擬對話的人工智能 (AI) 程序時所提出的問題。
“有時被忽視的是聊天機器人的樣子——它的化身，”研究人員在發(fā)表于《內(nèi)科醫(yī)學(xué)年鑒》的一篇新論文中寫道。“當(dāng)前的聊天機器人化身從不露面的衛(wèi)生系統(tǒng)徽標(biāo)到卡通人物或類人漫畫不等。聊天機器人有一天可能成為患者醫(yī)生的數(shù)字化版本，具有該醫(yī)生的肖像和聲音。聊天機器人化身遠非無害的設(shè)計決定，而是提出了新的道德規(guī)范關(guān)于助推和偏見的問題。”
這篇題為“不僅僅是一張漂亮的臉蛋?聊天機器人中的輕推和偏見”的論文挑戰(zhàn)研究人員和醫(yī)療保健專業(yè)人員通過健康公平的視角仔細檢查聊天機器人，并調(diào)查該技術(shù)是否真正改善了患者的治療效果。
2021 年，Greenwall 基金會授予 CU Division of General Internal Medicine 副教授 Matthew DeCamp 醫(yī)學(xué)博士和他在 CU 醫(yī)學(xué)院的研究人員團隊研究圍繞聊天機器人的倫理問題。研究團隊還包括醫(yī)學(xué)博士、MBA 醫(yī)學(xué)博士 Annie Moore 教授、Joyce 和 Dick Brown 捐贈的患者體驗同情教授、即將入學(xué)的醫(yī)學(xué)生 Marlee Akerson 以及 UCHealth 體驗和創(chuàng)新經(jīng)理 Matt Andazola。
“如果聊天機器人是患者對醫(yī)療保健系統(tǒng)的所謂‘第一次接觸’，我們真的需要了解他們的體驗以及對信任和同情心的影響，”摩爾說。
到目前為止，該團隊已經(jīng)調(diào)查了 300 多人并采訪了另外 30 人，了解他們與醫(yī)療保健相關(guān)的聊天機器人的互動情況。對于領(lǐng)導(dǎo)調(diào)查工作的 Akerson 來說，這是她第一次接觸生物倫理學(xué)研究。
“我很高興我有機會在生物倫理學(xué)和人文科學(xué)中心工作，更讓我興奮的是我可以在CU讀醫(yī)的同時繼續(xù)這項工作，”她說。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！