Demo door PitchAI voor de marktconsultatie Kantoorbrievenmodule van Dienst Toeslagen · alleen fictieve gegevens · geen officieel product van Dienst Toeslagen
Benchmark

Wat de AI-taalhulp meetbaar doet

Alle 24 fictieve brieven zijn door dezelfde stappen gegaan als in de werkbank. Leesbaarheid is gemeten met vaste formules. Voor de correctietest zijn in elke brief bewust fouten ingebouwd, met een vaste seed, zodat de meting herhaalbaar is.

61.2 → 40.5LIX gemiddeld (lager = makkelijker)
40.3 → 61.3Flesch-Douma (hoger = makkelijker)
30.8 → 12.0woorden per zin
0 → 2brieven op indicatief B1-niveau (van 24)
100.0%feiten behouden na herschrijven (116 van 116)
98%ingebouwde fouten gevonden (106 van 108)
96%direct juist gecorrigeerd
0.75onterechte foutmeldingen per foutloze brief

Feitenbewaking: 4 AI-voorstellen automatisch geweigerd omdat ze een gegeven uit het dossier zouden veranderen (bijvoorbeeld een jaartal of bedrag). Vaste regels alleen vonden 85% van de ingebouwde fouten; met AI-eindredactie 98%.

Gevonden per fouttype

Paars: vaste regels alleen. Groen: regels plus AI-eindredactie.

Spelfout (24)
100% · 100%
dt-fout (16)
0% · 88%
Verkeerd bedrag (18)
100% · 100%
Verkeerde datum (15)
100% · 100%
Ontbrekende bezwaarclausule (18)
100% · 100%
Informele toon (je/jij) (17)
100% · 100%

Leesbaarheid per sjabloon (LIX)

Grijs: oorspronkelijke tekst. Geel: na vereenvoudigen naar B1.

AL-OB-01 Algemeen - ontvangstbe
65.7 → 38.0
BR-AF-01 Betalingsregeling - af
60.3 → 43.0
BR-TK-01 Betalingsregeling - to
59.7 → 39.3
HT-NB-01 Huurtoeslag - definiti
59.2 → 39.6
HT-TV-01 Huurtoeslag - terugvor
61.0 → 43.8
KO-TV-01 Kinderopvangtoeslag -
61.6 → 41.6
ZT-IV-01 Zorgtoeslag - verzoek
62.1 → 38.1
ZT-WV-01 Zorgtoeslag - wijzigin
60.0 → 40.3

Per brief

DossierSjabloonLIX voorLIX naFD voorFD naNiveauFeitenFoutenGevondenJuist hersteldModelDuur
Z-2026-0401HT-NB-0158.441.244.561.1C2 → B2 6/6555LongCat 2.5 (gratis reservemodel)53.8 s
Z-2026-0402HT-NB-0160.738.842.263.5C2 → B2 8/8555LongCat 2.5 (gratis reservemodel)57.5 s
Z-2026-0403HT-NB-0158.438.744.563.1C2 → B2 5/5555LongCat 2.5 (gratis reservemodel)37.5 s
Z-2026-0404HT-TV-0161.044.437.751.0C2 → B2 3/3555LongCat 2.5 (gratis reservemodel)60.0 s
Z-2026-0405HT-TV-0161.043.737.752.8C2 → B2 3/3544geen taalmodel beschikbaar (regelgebaseerde terugval)184.4 s
Z-2026-0406HT-TV-0161.043.238.955.1C2 → B2 2/2555LongCat 2.5 (gratis reservemodel)37.1 s
Z-2026-0407ZT-WV-0160.039.441.961.9C2 → B2 4/4555LongCat 2.5 (gratis reservemodel)41.8 s
Z-2026-0408ZT-WV-0160.041.842.060.4C2 → B2 5/5555LongCat 2.5 (gratis reservemodel)69.2 s
Z-2026-0409ZT-WV-0160.039.841.961.5C2 → B2 4/4554LongCat 2.5 (gratis reservemodel)38.4 s
Z-2026-0410ZT-IV-0162.235.941.964.8C2 → B2 4/4333LongCat 2.5 (gratis reservemodel)61.1 s
Z-2026-0411ZT-IV-0162.639.743.866.5C2 → B2 5/5333LongCat 2.5 (gratis reservemodel)28.7 s
Z-2026-0412ZT-IV-0161.538.643.665.6C2 → B2 4/4322LongCat 2.5 (gratis reservemodel)37.7 s
Z-2026-0413KO-TV-0161.541.435.153.4C2 → B2 3/3555LongCat 2.5 (gratis reservemodel)54.2 s
Z-2026-0414KO-TV-0161.541.634.754.4C2 → B2 3/3555LongCat 2.5 (gratis reservemodel)55.1 s
Z-2026-0415KO-TV-0161.941.935.154.7C2 → B2 2/2555LongCat 2.5 (gratis reservemodel)32.7 s
Z-2026-0416BR-TK-0158.437.241.168.5C2 → B2 8/8555LongCat 2.5 (gratis reservemodel)52.9 s
Z-2026-0417BR-TK-0162.342.136.859.5C2 → B2 8/8555LongCat 2.5 (gratis reservemodel)42.8 s
Z-2026-0418BR-TK-0158.438.641.166.4C2 → B2 10/10555LongCat 2.5 (gratis reservemodel)40.4 s
Z-2026-0419BR-AF-0160.343.038.454.9C2 → B2 5/5555LongCat 2.5 (gratis reservemodel)47.2 s
Z-2026-0420BR-AF-0160.343.737.655.6C2 → B2 4/4555LongCat 2.5 (gratis reservemodel)40.3 s
Z-2026-0421BR-AF-0160.342.238.456.5C2 → B2 5/5555LongCat 2.5 (gratis reservemodel)42.6 s
Z-2026-0422AL-OB-0167.736.340.674.7C2 → B1 5/5333LongCat 2.5 (gratis reservemodel)46.0 s
Z-2026-0423AL-OB-0165.637.242.973.4C2 → B1 5/5332LongCat 2.5 (gratis reservemodel)34.0 s
Z-2026-0424AL-OB-0163.840.545.772.7C2 → B2 5/5333LongCat 2.5 (gratis reservemodel)29.1 s

Gedraaid op 2026-10-20 08:31 UTC · modellen: LongCat 2.5 (gratis reservemodel) (1 brief zonder antwoord van het model: regelgebaseerde terugval) · promptversie 2026-10-20.2 · seed toeslagen-2026-10-20 · totale duur 20.4 min.

Methode

  • LIX = gemiddelde zinslengte + percentage woorden van meer dan 6 letters. Onder de 40 is goed leesbaar; boven de 50 moeilijk. Flesch-Douma = 206,835 − 0,93 × woorden per zin − 77 × lettergrepen per woord (Nederlandse variant van Flesch).
  • Indicatief niveau: B1 als LIX ≤ 38, gemiddeld ≤ 14 woorden per zin, geen ambtelijke woorden en ≤ 15% lijdende vorm. Dit is een indicatie, geen officiële B1-toets. Een echte toets met lezers hoort bij de implementatie.
  • Vergrendelde blokken tellen mee. De bezwaarclausule, betaalgegevens en ondertekening zijn juridisch vastgestelde tekst en worden niet herschreven, maar tellen wel mee in de scores van de hele brief. Daarom eindigen de meeste brieven op indicatief B2. Vereenvoudiging van die vastgestelde teksten hoort bij de redactie van het sjabloon, niet bij de AI per brief.
  • Feitbehoud: elk bedrag, elke datum, elk kenmerk en rekeningnummer uit de brief moet letterlijk terugkomen in de herschreven tekst. Zo niet, dan weigert de werkbank het voorstel.
  • Correctietest: per brief worden 4 tot 6 fouten ingebouwd (spelling, dt-fout, verkeerd bedrag, verkeerde datum, weggelaten bezwaarclausule, informele toon). Een fout telt als gevonden als een bevinding precies die plek aanwijst; juist hersteld als het voorstel de oorspronkelijke tekst teruggeeft.
  • Vals alarm: dezelfde controle op de foutloze brief; elke melding van spelling, grammatica, consistentie of een ontbrekend element telt als onterecht. Toon- en stijladviezen tellen niet mee. De onterechte meldingen komen vrijwel alleen van de AI (stijlvoorkeuren gelabeld als grammatica); de vaste regels gaven er geen.