İbrahim Bilgiç

İki saatte küçük bir dil modeli

19 adım0 bittiileriİngilizce ve Çince

64 milyon parametreli bir dil modelini tek ekran kartında baştan sona eğitmek: veri, ön eğitim, ince ayar, damıtma, LoRA.

Jingyao Gong · jingyaogong/minimind · Apache-2.0

Hazırlık

  1. 01Ortamı kurmak ve repoyu indirmekStep 0

Hazır modeli çalıştırmak

  1. 01Modeli indirmekDownload Model
  2. 02Komut satırında konuşmakCLI Inference
  3. 03İsteğe bağlı: web arayüzüWebUI
  4. 04İsteğe bağlı: başka çıkarım araçlarıThird-party Inference Frameworks

Kendi modelini eğitmek

  1. 01Veriyi indirmekDownload Data
  2. 02Ön eğitim (pretrain)Pretraining
  3. 03Talimat ince ayarı (SFT)Instruction Fine-tuning
  4. 04Eğitilen modeli denemekTest Trained Model

Verinin içi

  1. 01Sözcük bölücü (tokenizer)Tokenizer
  2. 02Ön eğitim verisiPretrain Data
  3. 03İnce ayar verisiSFT Data
  4. 04Pekiştirmeli öğrenme verisiRL Data

Modelin içi ve ileri eğitimler

  1. 01Model yapısıStructure
  2. 02Model ayarlarıModel Configuration
  3. 03Eğitim maliyetiTraining Cost
  4. 04Bilgi damıtmaKnowledge Distillation
  5. 05LoRA ile hafif ince ayarLoRA
  6. 06Araç çağırma ve uyarlanır düşünmeTool Calling

İçerik © Jingyao Gong ve katkıda bulunanlar, Apache-2.0. Liste reponun kendi dosyalarından alındı (2026-10-27, 233d00f).