Het lokale taalmodel in Conan Metadata, Gemma 4 E2B, mag alleen een term kiezen die in jouw waardelijst staat, en alleen als die term bij het hele document past. Past geen enkele term, of staat het antwoord niet in de tekst, dan blijft het veld leeg. Een medewerker aanvaardt elk voorstel voor het in de export komt.
Wat mag een lokaal taalmodel wel en niet?
Conan Metadata gebruikt Gemma 4 E2B, een instruction-tuned model onder de Apache-2.0-licentie. Het draait op je eigen computer; er gaat geen documenttekst naar een AI in de cloud. Wat het model mag, is bewust beperkt:
- Het draait alleen als je om voorstellen vraagt.
- Het vult alleen lege velden die jij als AI-veld markeerde.
- Het baseert elk voorstel op wat in het document staat, zonder feiten te verzinnen.
- Een beschrijving vat het bestand samen in één of twee zinnen.
- Vaste gegevens zoals grootte en datums gaan nooit door het model.
Staat het antwoord niet in het document, dan blijft het veld leeg. Leeg is beter dan verzonnen.
Waarom alleen termen uit je eigen waardelijst?
Classificeren in een archief of volgens een ordeningsplan is geen vrije tekst. Als het model “offerte” zou bedenken terwijl jouw lijst “prijsaanvraag” zegt, sluit de export niet meer aan op je schema. Daarom kiest het alleen uit de lijst die jij aanmaakte of inlaadde.
Twijfelt het model, dan blijft het veld leeg in plaats van de minst slechte term te kiezen. Dat levert soms een paar lege velden meer op, maar elk ingevuld veld is dan wel een veld waar je op kunt bouwen. Die ruil maken we graag.
Waarom een lokaal model en geen cloud-AI?
Omdat de documenten die je beschrijft vaak persoonsgegevens bevatten. Elk document dat naar een externe AI-dienst gaat, is onder de AVG een verwerking door een derde, met vragen over verwerkersovereenkomsten, opslaglocatie en hergebruik. Dat geldt in België en Nederland op dezelfde manier, en de toezichthouders, de GBA en de Autoriteit Persoonsgegevens, kijken daar steeds scherper naar. Met een model op je eigen computer stellen die vragen zich niet. Een klein model is minder krachtig dan de grote cloudmodellen, maar voor een beschrijving van twee zinnen of een keuze uit een lijst heb je die kracht ook niet nodig.
Welke hardware heeft het model nodig?
Ongeveer 3,5 GB schijfruimte en 8 GB werkgeheugen. Dat volstaat op een gewone kantoor-pc. Heb je die ruimte niet, of wil je geen model gebruiken, dan werk je verder met velden uit het bestand en handmatige invoer.
Veelgestelde vragen
Keurt Conan voorstellen automatisch goed?
Nee. Een voorstel blijft in afwachting tot een medewerker het aanvaardt, aanpast of afwijst.
Werkt het model in het Nederlands?
Ja. Het model werkt in het Nederlands en het Engels, net als de rest van Conan.
Kan ik het model uitschakelen?
Ja. Het staat standaard uit en draait alleen als je om voorstellen vraagt. Zonder model blijft Conan Metadata volledig bruikbaar.
Gaat er documenttekst naar het internet?
Nee. Het model draait lokaal via een meegeleverde runtime. Er gaat niets naar een AI-dienst in de cloud.
Kevin Van de Mieroop is zaakvoerder van A.N.T., het bedrijf achter Conan. A.N.T. werkt met overheden en organisaties aan digitale archivering, automatisering en informatiebeheer.