Wat is het?
Bij een open-weight model publiceert de maker de volledige modelgewichten, vaak met een gebruikslicentie. Je kunt het model op eigen hardware draaien, fine-tunen en in producten inbouwen. Dat is een fundamenteel ander distributiemodel dan een gesloten API-dienst.
Hoe werkt het technisch?
- De maker traint het model en publiceert de parameterbestanden plus vaak een tokenizer en gebruiksinstructies.
- Je downloadt het model en serveert het met inference-software op eigen GPU’s of servers.
- “Open weight” is niet automatisch “open source”: licenties verschillen. Sommige beperken commercieel gebruik of zeer grote diensten; lees de voorwaarden altijd.
- Modellen bestaan in veel groottes; kleinere varianten draaien op bescheiden hardware, vooral gekwantiseerd.
Wat kun je ermee bouwen?
- Volledig private AI-toepassingen: data verlaat je eigen infrastructuur niet.
- Gefinetunede specialisten die je echt bezit, zonder afhankelijkheid van een leverancier.
- Producten met voorspelbare kosten: je betaalt hardware, geen tokens per API-call.
Commercieel gebruik
open-weight modellen maken vendor-onafhankelijkheid en kostenbeheersing mogelijk. Bij hoog, stabiel volume is self-hosting vaak goedkoper dan API-tarieven. In gereguleerde sectoren (zorg, overheid, financieel) is het een sterke optie, al blijven de AVG-plichten gelden (rechtsgrond, art. 9 voor gezondheidsgegevens, DPIA) en kan een cloud-API met EU-dataopslag en verwerkersovereenkomst eveneens toelaatbaar zijn. Ook kun je een gefinetunede variant als eigen intellectueel eigendom inzetten in je product.
Sterke combinaties
met kwantisatie en lokale deployment voor betaalbaar self-hosting, met LoRA-fine-tuning voor domeinspecialisatie, en met modelroutering: open modellen als eerste lijn, cloudmodellen als backup.
Belangrijkste 20%
- De beste open modellen liggen in de praktijk niet ver achter de beste gesloten modellen; voor veel zakelijke taken is het verschil klein of irrelevant.
- “Open” betekent vrij om te gebruiken binnen de licentie — controleer die licentie vóór je er een product op bouwt.
Praktijkvoorbeeld (fictief)
Een zorginstelling wil dossiers samenvatten, maar patiëntgegevens mogen niet naar externe API’s. Het IT-team draait een open-weight model op eigen servers achter de firewall. Artsen krijgen een samenvattingsknop in het dossiersysteem; alle verwerking blijft intern. Dat verkleint het privacyrisico, maar een DPIA en de andere AVG-plichten blijven nodig.