Ongeveer twee jaar geleden begonnen we met de ontwikkeling van een machine learning-model voor named entity recognition (NER) op facturen. We hadden toen nog geen grote facturendataset beschikbaar, dus bouwden we een detectiemodel met een XGBoost-classifier. Nu er meer data beschikbaar is, geloven we dat we een grote sprong voorwaarts kunnen maken op vlak van performantie door ons AI-model aan te passen. Om state-of-the-art prestaties te behalen, is het nodig om informatie uit inhoud én lay-out te combineren.
Om dit aan te pakken, gebruiken we een artificieel neuraal netwerk getraind op onze facturendataset. Concreet wordt het netwerk toegepast op een grid van tekst, om de documentstructuur mee te nemen, terwijl woorden als features worden ingebed voor hun semantische betekenis. We verbeterden de nauwkeurigheid verder door verschillende soorten data-augmentatie toe te voegen en een attention-module in de CNN-netwerkstructuur in te bouwen.
Om woorden om te zetten naar embeddings die belangrijke semantische betekenis bevatten, gebruikten we Word2Vec. Dit soort embedding-modellen zet tekst om in een numerieke vorm die neurale netwerken begrijpen, door gebruik te maken van de contextinformatie van elk woord. We zetten alle numerieke velden om naar patronen om de kwaliteit van onze eigen embeddings te verbeteren.
Zelfs met een relatief kleine dataset (rond de 600 unieke factuursjablonen) presteert ons model verrassend goed. De resultaten tonen een grote sprong voorwaarts ten opzichte van ons vorige factuurmodel van een jaar geleden (op een gemengde testset van gekende en ongekende factuursjablonen). Het wordt nog interessanter als we kijken naar de herkenningsscores op nieuwe, ongeziene sjablonen — een complexe taak die met de vorige versie zeker niet mogelijk was. Het resultaat: erg competitieve scores, die nog verder verbeterd kunnen worden door te trainen op klantspecifieke datasets, tot een bijna volledig correcte velddetectie.
Uiteraard blijven we onze technieken voor documentanalyse verbeteren. Op dit moment ontwikkelen we technieken om ons model voor een specifieke klant te verbeteren, zonder last te hebben van "catastrophic forgetting" (een neuraal netwerk dat getraind wordt op nieuwe data, heeft de neiging zijn eerder aangeleerde vaardigheden te vergeten). Daarnaast breiden we de IxorDocs AI-toolkit verder uit, zodat die NER en classificatie kan uitvoeren op allerlei soorten gestructureerde en ongestructureerde documenten.
Voor een meer diepgaande uitleg, neem een kijkje op onze Medium-blog (https://medium.com/ixorthink/using-neural-networks-for-invoice-recognition-b30f795328).
