往下拉回到首頁
我想用舊電腦幫我先生做個 AI 聊天機器人,但記憶體只有 8GB,有人可以教我怎麼優化嗎?

我想用舊電腦幫我先生做個 AI 聊天機器人,但記憶體只有 8GB,有人可以教我怎麼優化嗎?

Building an offline AI companion for my disabled husband on a tight budget – need optimization help

欸你知道嗎,有個媽媽想自己做一個 AI 陪伴機器人給她先生用。她先生四肢癱瘓,白天一個人在家,他們住在很偏遠的地方,根本沒有朋友或鄰居可以陪他聊天,長期下來心理狀況也變差了。 她決定自己動手做一個離線 AI(就是不用連網路的那種),讓先生可以隨時有人聊天。但這裡有個問題──她的電腦只有 8GB 記憶體,根本跑不動一般的大型 AI 模型(LLM)。 簡單來說就是,她想把 AI 模型瘦身到能在這麼小的硬體上跑,但她沒有程式背景,不知道怎麼做。所以她在網路上問有沒有人可以給她建議。 說真的這個故事滿感人的,一個沒有技術背景的人為了改善家人的生活品質,硬是要自己學著做 AI。如果你對這種小型化 AI 或硬體優化有想法,這個媽媽應該很需要幫忙。

相關標籤

companion robotdisabilityAI optimizationoffline AIaccessibility technologycaregiver supportrural healthcare