README
LLAMA 醫療對話繁體中文
在當今數位時代，我們習慣於迅速獲得資訊。但在特定專業領域，如醫學，深厚的專業知識才是關鍵，這常使得大眾在面臨相關問題時難以獲得即時且正確的指導。當前的大型語言模型如GPT或LLAMA雖能回答普通問題，但尚不足以提供專業知識。為此，我們打算利用開源的大型語言模型開發一個專門針對醫療診斷輔助的模型。該模型旨在根據輸入的症狀迅速且準確地提供可能的診斷，從而成為一個實時且可信賴的醫療諮詢工具，協助人們在健康問題上做出明智的決策。 資料集使用ChatDoctor提供的十萬筆醫療對話，並進行翻譯
翻譯資料集
| Class | Description |
|---|---|
HealthCareMagic | google driver |
而本專案使用由 FlagAlpha 提供的 Llama2-Chinese-7b-Chat 進行 Full-tuning 與 Lora 的訓練
我們也提供訓練完的 Checkpoint 可以進行進一步的研究
Checkpoint
| Class | Description |
|---|---|
Full-tuning | vickt/LLama-chinese-med-chat |
Lora | vickt/LLama-chinese-med-chat-lora |
生成比較
問題1: 你好，我去年出現了蛛網膜下腔出血和腦動脈瘤盤繞。我的雙側太陽穴有些嚴重疼痛，左臂/手/手指時常感到麻木。自從動脈瘤發生以來我一直頭痛，但這次不一樣。而且，過去幾週我的情緒一直很糟糕。
| Full-tuning | Lora |
|---|---|
| 您好，歡迎光臨。感謝您分享您的擔憂。您所經歷的症狀可能與您之前的蛛網膜下腔出血和動脈瘤盤繞無關。您似乎患有顳關節炎或頸椎炎。建議您進行 MRI 檢查。同時，使用萘普生等鎮痛藥、肌肉鬆弛劑和抗炎。AI Doctor。希望能幫助到你。謝謝。小心。 | 你好！歡迎來到AI醫生！您的症狀可能與脊髓水平的神經受壓有關。因此，我建議進行脊柱 MRI 和神經傳導研究。您應該與神經科醫生討論上述測試。希望這個答案對您有所幫助！最好的祝願。 |
問題2: 你好，我的丈夫由於腿骨折/手術而正在服用羥考酮。他已經服用這種止痛藥一個月了。我們正在努力懷上我們的第二個孩子。這種藥會影響胎兒嗎？還是寶寶的健康？或者它會帶來出生缺陷嗎？謝謝。
| Full-tuning | Lora |
|---|---|
| 您好，希望今天能爲您提供幫助。對於女性來說，羥考酮可以通過母乳傳播給嬰兒，並可能導致先天性心臟病、呼吸系統畸形和其他畸形。然而，男性不太可能因副作用而導致胎兒畸形。然而，妊娠期是身體最弱的時期，因此最好避免在懷孕期間使用任何類型的止痛藥。希望今天能夠回答您的問題，並將幫助您與您的丈夫一起計劃懷孕。 | 您好，歡迎來到人工智能醫生。我已經查看了您的詢問，這是我的建議。不，它不會對胎兒造成任何有害影響。但我建議您諮詢您的主治醫生，以確保沒有其他可能導致不孕的原因。希望我回答了你的問題。很樂意爲您提供進一步幫助。小心。 |
討論
在數次的對答後，我們注意到經過LoRA訓練的模型回覆較傾向保守，也就是在回覆中，多數的回答往往是希望使用者自己去詢問真實的醫生，相比 Full-tuning 則是直接給一個醫療方案，或是告訴使用者該吃甚麼藥，兩者的回答在信心度上，可能會讓使用者更偏向回答相對確定的一方，其事實性與相關討論，需要進一步的研究
Contributors
12 commits
Similar repos
Languages
Python
94.4%
Shell
5.6%
README
LLAMA 醫療對話繁體中文
在當今數位時代，我們習慣於迅速獲得資訊。但在特定專業領域，如醫學，深厚的專業知識才是關鍵，這常使得大眾在面臨相關問題時難以獲得即時且正確的指導。當前的大型語言模型如GPT或LLAMA雖能回答普通問題，但尚不足以提供專業知識。為此，我們打算利用開源的大型語言模型開發一個專門針對醫療診斷輔助的模型。該模型旨在根據輸入的症狀迅速且準確地提供可能的診斷，從而成為一個實時且可信賴的醫療諮詢工具，協助人們在健康問題上做出明智的決策。 資料集使用ChatDoctor提供的十萬筆醫療對話，並進行翻譯
翻譯資料集
| Class | Description |
|---|---|
HealthCareMagic | google driver |
而本專案使用由 FlagAlpha 提供的 Llama2-Chinese-7b-Chat 進行 Full-tuning 與 Lora 的訓練
我們也提供訓練完的 Checkpoint 可以進行進一步的研究
Checkpoint
| Class | Description |
|---|---|
Full-tuning | vickt/LLama-chinese-med-chat |
Lora | vickt/LLama-chinese-med-chat-lora |
生成比較
問題1: 你好，我去年出現了蛛網膜下腔出血和腦動脈瘤盤繞。我的雙側太陽穴有些嚴重疼痛，左臂/手/手指時常感到麻木。自從動脈瘤發生以來我一直頭痛，但這次不一樣。而且，過去幾週我的情緒一直很糟糕。
| Full-tuning | Lora |
|---|---|
| 您好，歡迎光臨。感謝您分享您的擔憂。您所經歷的症狀可能與您之前的蛛網膜下腔出血和動脈瘤盤繞無關。您似乎患有顳關節炎或頸椎炎。建議您進行 MRI 檢查。同時，使用萘普生等鎮痛藥、肌肉鬆弛劑和抗炎。AI Doctor。希望能幫助到你。謝謝。小心。 | 你好！歡迎來到AI醫生！您的症狀可能與脊髓水平的神經受壓有關。因此，我建議進行脊柱 MRI 和神經傳導研究。您應該與神經科醫生討論上述測試。希望這個答案對您有所幫助！最好的祝願。 |
問題2: 你好，我的丈夫由於腿骨折/手術而正在服用羥考酮。他已經服用這種止痛藥一個月了。我們正在努力懷上我們的第二個孩子。這種藥會影響胎兒嗎？還是寶寶的健康？或者它會帶來出生缺陷嗎？謝謝。
| Full-tuning | Lora |
|---|---|
| 您好，希望今天能爲您提供幫助。對於女性來說，羥考酮可以通過母乳傳播給嬰兒，並可能導致先天性心臟病、呼吸系統畸形和其他畸形。然而，男性不太可能因副作用而導致胎兒畸形。然而，妊娠期是身體最弱的時期，因此最好避免在懷孕期間使用任何類型的止痛藥。希望今天能夠回答您的問題，並將幫助您與您的丈夫一起計劃懷孕。 | 您好，歡迎來到人工智能醫生。我已經查看了您的詢問，這是我的建議。不，它不會對胎兒造成任何有害影響。但我建議您諮詢您的主治醫生，以確保沒有其他可能導致不孕的原因。希望我回答了你的問題。很樂意爲您提供進一步幫助。小心。 |
討論
在數次的對答後，我們注意到經過LoRA訓練的模型回覆較傾向保守，也就是在回覆中，多數的回答往往是希望使用者自己去詢問真實的醫生，相比 Full-tuning 則是直接給一個醫療方案，或是告訴使用者該吃甚麼藥，兩者的回答在信心度上，可能會讓使用者更偏向回答相對確定的一方，其事實性與相關討論，需要進一步的研究
Similar repos
Contributors
12 commits
Languages
Python
94.4%
Shell
5.6%