有人拿过自己的微信聊天记录训练大模型吗？

This topic created in 726 days ago, the information mentioned may be changed or developed.

类似于这个项目里面的：
https://github.com/LC044/WeChatMsg
想玩一玩，但用运算力有可能造成隐私泄露，所以想问一下大概什么性能的机器能本地训练？

3 replies • 2024-11-12 09:35:47 +08:00

snoBall

Nov 11, 2024 via Android

真的没有人试过吗........

Volekingsg

Nov 11, 2024

因为这种少量（相对预训练）数据怎么通过训练让 LLM 记住且会利用，还不丢失原有能力是件比较困难的事情。不是简单的 CPT 或者 SFT 就可以的

pianjiao

Nov 12, 2024

好像在哪里看见过有人用聊天记录训练本地模型然后对话的。