用 ChatGPT 診斷兒科疾?。啃卵芯繚娎渌簻?zhǔn)確率僅 17%
1 月 4 日消息,紐約科恩兒童醫(yī)學(xué)中心的三位兒科醫(yī)生最近對大型語言模型 ChatGPT 的兒科疾病診斷能力進(jìn)行了評估,結(jié)果令人失望。他們讓 ChatGPT 診斷了 100 個隨機(jī)的兒科病例,結(jié)果發(fā)現(xiàn)其準(zhǔn)確率僅有 17%。IT之家注意到,這項(xiàng)研究發(fā)表在權(quán)威期刊《JAMA 兒科病學(xué)》上。
研究人員指出,兒科診斷尤其具有挑戰(zhàn)性,因?yàn)槌艘紤]患者的全部癥狀外,還必須將年齡納入考量。近年來越來越多的人將大型語言模型視為一種潛在的醫(yī)療診斷工具,為了評估其實(shí)際效用,研究人員收集了 100 個隨機(jī)的兒科病例,并讓 ChatGPT 診斷。
為了簡化操作,研究人員統(tǒng)一采用相同的方式向 ChatGPT 詢問每個病例。他們首先粘貼病例文本,然后讓其給出“鑒別診斷”和“最終診斷”。鑒別診斷是一種基于患者病史和身體檢查,初步列出可能的診斷,而最終診斷則是最有可能導(dǎo)致患者癥狀的原因。
ChatGPT 的回答由兩位未參與研究的兒科醫(yī)生進(jìn)行評分,評分分為“正確”、“錯誤”和“診斷不完整”三種。研究團(tuán)隊(duì)發(fā)現(xiàn),ChatGPT 只有 17 次回答被評為“正確”,其中 11 次雖然與正確診斷存在臨床關(guān)聯(lián),但仍存在錯誤。
研究人員表示,ChatGPT 目前顯然還無法作為診斷工具,但通過更具針對性的訓(xùn)練可能會提高其準(zhǔn)確性。他們進(jìn)一步建議,在未來改進(jìn)之前,ChatGPT 或許可以作為一種輔助工具,用于整理文件、協(xié)助撰寫研究文章或?yàn)榛颊咛峁┬g(shù)后護(hù)理指南等。