Survival LLM: een gratis AI-assistent die blijft werken als internet uitvalt
Een open-source app zet een AI-model en een noodbibliotheek met 930.000 Wikipedia-artikelen op je eigen computer. Na de installatie heeft hij geen internet meer nodig.
Wat er gebeurde
Hoe lang blijft eten in de koelkast goed als de stroom uitvalt? Een gratis app beantwoordt zulke vragen zonder internet, met een AI-model en een noodbibliotheek die allebei op je eigen computer staan.
Survival LLM verscheen op 24 oktober op GitHub en ging op 27 oktober rond op Hacker News, waar het 539 punten en ruim tweehonderd reacties kreeg. De maker noemt zich op GitHub Brangus en zegt verder niets over zichzelf. De code is open source, onder de MIT-licentie, en binnen een week verschenen tien versies, onder meer met een geheugen voor persoonlijke notities.
De bibliotheek bevat zo’n 930.000 van de meest gelezen Wikipedia-artikelen, medische naslag als WikiMed en MedlinePlus, noodgidsen van Ready.gov en de Amerikaanse gezondheidsdienst CDC, militaire handboeken voor eerste hulp en overleven, en praktische hulp van wikiHow, iFixit en Stack Exchange. Alles samen is een download van ongeveer 9 gigabyte, zonder Wikipedia en iFixit 1,3 gigabyte. Je kunt eigen pdf’s, Word-bestanden en notities toevoegen, zoals de handleiding van je aggregaat.
Welk model je krijgt, hangt af van het geheugen van je computer. Een Mac met 128 GB of meer krijgt NVIDIA Nemotron 3.5 Super (80 GB), een Mac met 32 tot 96 GB Qwen3.8 27B (18 GB), een Windows-pc met minstens 32 GB Nemotron 3.5 Lightning (25 GB) en een computer met 16 tot 31 GB IBM Granite 4.2 8B (6 GB). Elk antwoord noemt de artikelen waar het uit komt, en die open je met de gebruikte passage gemarkeerd.
Op Hacker News waren de reacties gemengd. Iemand die een orkaan van categorie 5 had meegemaakt, schreef dat zoiets toen een zegen was geweest. Anderen vroegen waarom je niet gewoon een doorzoekbaar archief of boeken gebruikt, en waar je de stroom vandaan haalt als alles uitvalt.
AI-modellen maken fouten. Elk antwoord laat zijn bronnen zien, zodat je het kunt controleren.
Uit de uitleg van Survival LLM op GitHub, vertaald
De achtergrond
Wikipedia zonder internet bestaat al lang
In 2006 maakte Emmanuel Engelhart een versie van Wikipedia die zonder internet werkt en noemde die Kiwix. Kiwix pakt hele websites in tot één bestand, een ZIM-bestand, en wordt gebruikt in afgelegen dorpen, vluchtelingenkampen en op onderzeeërs. Survival LLM bouwt een groot deel van zijn bibliotheek uit zulke ZIM-bestanden, samen zo’n 50 gigabyte, en maakt er platte tekst met een zoekindex van.
Hoe een groot model op een laptop past
Een taalmodel bestaat uit miljarden getallen. Qwen3.8 27B heeft er 27 miljard; met 16 bits per getal zou dat zo’n 54 gigabyte zijn. Door elk getal in ongeveer 4 bits op te slaan, kwantiseren heet dat, past het model in 18 gigabyte. macOS laat de grafische kant van een Mac maar zo’n driekwart van het geheugen gebruiken, en daarom vraagt het grootste model van 80 gigabyte een Mac met 128 GB.
Open modellen worden intussen snel beter. IBM-topman Arvind Krishna zei bij de kwartaalcijfers van IBM, volgens The Register, dat ze nu zo’n 90 procent zo goed zijn als de beste gesloten modellen, voor 10 tot 25 procent van de prijs.
Antwoorden uit de bibliotheek
Het model antwoordt niet uit zijn geheugen, maar zoekt eerst. De app knipt de bibliotheek in stukjes van zo’n 1.500 tekens en doorzoekt die op woorden, met officiële bronnen hoger in de lijst. Het model leest wat het vindt en antwoordt met de bronnen erbij.
De maker testte acht modellen met 22 vragen over stroomuitval en eerste hulp. Andere AI-modellen beoordeelden de antwoorden blind, tegen officiële richtlijnen van onder meer de CDC, de Britse NHS en het Rode Kruis. Nemotron 3.5 Super had de kern 21 keer goed, Granite 4.2 8B 14 keer. De maker zegt er eerlijk bij dat de test op een eerdere versie van de bibliotheek liep.
Onze analyse
Het slimme zit in de bibliotheek, niet in het model
Het mooie aan Survival LLM is niet dat er een model zonder internet draait. Het is hoe het in elkaar zit: het model is de bibliothecaris, niet de encyclopedie. Het zoekt in een vaste verzameling, noemt zijn bronnen, en de app controleert die bronnen ook nog. Dat beantwoordt de vraag waarom je niet gewoon zoekt: zoeken werkt als je de juiste woorden kent, en een model helpt juist als je die niet kent. Al hebben de critici gelijk dat het model het nog steeds mis kan hebben.
Wat de meeste berichten missen, is de eerlijkheid van de maker. Die publiceert de gevaarlijke antwoorden, de verzonnen bronnen en welke modellen daarom afvielen. Dat is de les voor iedereen die AI inzet: test met echte vragen en bouw controles in. En zie een goed testresultaat niet als een goede beslissing. In een studie uit 2025 met 1.298 deelnemers vonden modellen op zichzelf in 94,9 procent van de gevallen de juiste aandoening, maar mensen die met een model werkten in minder dan 34,5 procent, niet beter dan de groep die zelf een bron koos.
Voor organisaties laat dit zien dat het principe volwassen wordt: AI die draait op hardware die je zelf in handen hebt, zonder internet blijft werken en uit je eigen documenten antwoordt, met de bron erbij. Onze inschatting: voor handboeken, procedures en dossiers wordt dat de gewone keuze, juist waar gegevens niet naar buiten mogen.
Wat opvalt
- Ook de gevaarlijke antwoorden staan erbij Granite 4.2 3B raadde af een tourniquet om een arm te leggen en zei 3 voet, nog geen meter, van een gevallen stroomkabel te blijven, terwijl de richtlijn 35 voet is, ruim 10 meter. De maker biedt dat model daarom niet aan.
- Modellen verzinnen bronnen In een test met 14 vragen noemde het grootste model zes keer een bron die het nooit had geopend. De app vervangt zo’n bronregel nu door de artikelen die het model echt las.
- Groter is niet altijd beter Qwen3.8 27B van 18 gigabyte had de kern even vaak goed als het model van 80 gigabyte: 21 van de 22 keer. Wel duurde een antwoord 40 seconden in plaats van 12.
- Stroom blijft de grens Op een MacBook Pro trekt de app zo’n 100 watt tijdens een antwoord. Een volle accu is volgens de maker goed voor ongeveer 100 tot 300 vragen.
Wat het voor jou betekent
AI die zonder internet werkt en uit eigen documenten antwoordt, is geen experiment meer. Of je erop kunt bouwen, hangt af van het model, de documenten en hoe goed je test.
- Houd gevoelige vragen binnen Draait het model op eigen hardware, dan verlaten vragen en documenten het gebouw niet, en werkt het ook als internet hapert.
- Laat het antwoorden uit je eigen stukken Een model dat in jullie handboeken en procedures zoekt en de bron noemt, kunnen je collega’s controleren. Een model dat uit zijn geheugen praat niet.
- Test met je eigen vragen Maak een lijst met echte vragen waarvan je het antwoord kent, zoals de maker met 22 vragen deed, en let vooral op antwoorden die gevaarlijk fout zijn.
Wat wij ermee kunnen · Oplossingen
We zetten AI op jullie eigen kantoor
We leveren AI-servers voor op kantoor: een Apple Mac Studio, los van internet, met open modellen als Mistral, Gemma en gpt-oss, zodat gevoelige gegevens de deur niet uitgaan. En met onze AI-kennisbank stellen je collega’s vragen over jullie handboeken en instructies in gewone taal, en krijgen ze direct antwoord met de bron erbij.
Welke vragen zouden jullie liever binnen de deur houden?
Vertel ons met welke documenten jullie werken. We denken mee over AI op een eigen server en reageren altijd binnen één werkdag.