Petals: Run LLMs at home, BitTorrent-style

> Petals：在本地运行大语言模型，采用类 BitTorrent 方式

HN 101 分 · 31 条评论 · 作者 snorbleck · 来源 petals.dev · HN 讨论

> HN 101 分 · 31 条评论 · 作者 snorbleck · 来源 petals.dev · HN 讨论

The text describes a system that enables users to generate and fine-tune large language models such as Llama 3.1, Mixtral, Falcon, and BLOOM using consumer-grade GPUs or Google Colab.

⋯ 继续阅读请开通会员 ⋯