Bonjour à tous,
J'écris ce post pour vous faire un retour d'expérience de l'utilisation d'un NPU Intel avec Frigate, et celle du modèle YoloV9. Depuis la version 18.1 de HAOS et l'ajout des drivers, nous avons accès au NPU de Intel et donc j'ai voulu tester tout ça.
Avant toute chose la config de test :
- HAOS installé sur un Dell Micro (Ultra Core 235T et 16Go de RAM) très largement surdimensionné mais récupéré à très bon prix donc autant l'utiliser
- Frigate installé en add on directement dans HAOS (version Full Access)
- 6 caméras avec enregistrement en 4K uniquement sur détection, et détection sur flux 720p/5fps
- Modèle tester YoloV9 taille M 320x320, donc pas le moins gourmand
Voici une capture d'écran synthétique du monitoring côté Frigate :
Les résultats sont plutôt convainquant après 1 mois en prod dans mon usage.
La vitesse d'inférence est stable autour de 20ms donc confortable pour mes 6 caméras, au vu du modèle utilisé.
La charge iGPU varie en fonction des détections/enregistrements mais reste sous les 40/50% en pic généralement. Idem pour la charge du NPU qui varie mais reste sous les 60% en pic. Ces résultats sont à prendre avec des pincettes car valable dans mon environnement.
Le modèle YoloV9 M 320x320 est lui aussi convainquant, les détections se font très bien et je n'ai remarqué aucun faux positif, ou faux négatif même si plus difficile à tester.
Enfin, je me suis amusé (enfin Claude...) à créer une carte pour visionner les clips enregistrés par Frigate, directement depuis le dashboard, avec une logique de filtres et un système de scrolling pour naviguer parmi les clips, voici un aperçu :
Cliquer sur un clip ouvre le lecteur dans une pop-up avec la possibilité de le télécharger.
Je peux vous partager le JS de la carte si certains sont intéressés (installation manuelle).
Voilà, pour ceux qui ont accès à un NPU Intel n'hésitez pas à l'utiliser pour Frigate ça fonctionne plutôt bien !