← Všechny AI tipy

LLM Wiki

Karpathyho „idea file": místo aby model při každém dotazu hledal ve zdrojích, průběžně píše a udržuje trvalou wiki z Markdownu, která se s každým zdrojem obohacuje.

  • Článek
  • AI

Účel

Karpathyho „idea file" — text, který se nemá číst jako návod, ale předat vlastnímu agentovi a nechat ho z něj postavit konkrétní implementaci. Popisuje jediný vzor: místo aby model při každém dotazu znovu dohledával odpovědi ve zdrojových dokumentech (klasický RAG), průběžně píše a udržuje trvalou wiki z propojených Markdown stránek, která mezi tebou a zdroji sedí natrvalo.

Instead of just retrieving from raw documents at query time, the LLM incrementally builds and maintains a persistent wiki. (…) The knowledge is compiled once and then kept current, not re-derived on every query.

Architektura má tři vrstvy: raw (neměnné zdroje, model do nich nikdy nezapisuje), wiki (vše psané modelem — souhrny, stránky entit a pojmů, index) a schéma (CLAUDE.md / AGENTS.md, kde je popsaná struktura a workflow; podle Karpathyho právě tenhle soubor dělá z chatbota disciplinovaného údržbáře wiki).

Nad tím tři operace:

  • Ingest — přidáš zdroj, model ho přečte, probere s tebou hlavní body, založí souhrn a projde napříč wiki všechny stránky, kterých se to dotklo (Karpathy uvádí 10–15 stránek na jeden zdroj).
  • Query — ptáš se nad wiki, ne nad zdroji. Klíčová poznámka: dobrá odpověď se zakládá zpátky do wiki jako nová stránka, aby se průzkum kumuloval stejně jako zdroje.
  • Lint — periodická kontrola zdraví: rozpory mezi stránkami, tvrzení přebitá novějším zdrojem, osiřelé stránky, chybějící křížové odkazy.

Navigaci drží dva soubory: index.md (katalog obsahu, model ho čte první při dotazu — podle autora stačí zhruba do stovky zdrojů bez jakékoli embedding infrastruktury) a log.md (append-only časová osa s pevným prefixem, aby šla parsovat grepem).

Zdroje