Lektion 3 von 12

Datensatz: Formate, Upload & Qualität

Der Dataset-Block ist die Trainingseingabe. Drei Formate werden unterstützt — Datei hochladen oder Text direkt einfügen:

  • {"messages": [{"role":"user",...},{"role":"assistant",...}]} — Chat (empfohlen; nur der Assistant-Zug wird trainiert)
  • {"prompt": "...", "completion": "..."} — Prompt/Completion
  • {"text": "..."} oder jede einfache Zeile — freier Text

Nach dem Upload liefert Check quality einen vollständigen Bericht: Anzahl der Samples, Formatmix, Duplikate, erkannte Sprachen, ein Zeichen-/Token-Längenhistogramm und Warnungen. Persisch und Emojis werden vollständig unterstützt.

Datensatz-Qualitätsbericht
Tipp: Mindestens 2 Samples sind nötig; Samples über ~6000 Zeichen erhalten eine Warnung, weil sie bei maxlen abgeschnitten werden. Für einen sauberen Eval-Split deduplizieren.
Kursinhalt · Lektion 3 von 12
TheTensorTune workbench