Hola sebastianus, yo hace poco que he empezado con la simulación aérea y cuando configuraba la cámara y el facetrackNoir tuve problemas similares a los tuyos.
Es verdad que no tengo la misma cámara que tu (PS3 Eye) pero compartimos el W10 y el software de facetrack. Te digo los problemas que tenía yo y que versiones del soft tengo y como lo fui solucionando por si te puede dar luz.
FacetrackNoir (1.7) - Recuerdo que la 2.0 me daba problemas aunque no recuerdo que.
Tracker Source 1st: PointTracker (1.0)
Game protocol: FreeTrack 2.0
En primer lugar, lo primero que tuve que hacer para que la cámara cogiese los puntos de los led fue bajar la ganancia y exposición de la cámara que estaba en automático. Haciendo esto la cámara ve la imagen totalmente negra y solamente al encender los LED traza los tres puntos. Para hacer esto tuve que configurar en "Tracker Source 1st" como "faceAPI V3.2.6". Seleccionado este modo, darle a START para arrancar la aplicación, y darle a "Settings" en el cuadro de "Tracker Source 1st". Se te abrirá la ventana de configuración y dentro de ella hay un cuadro que pone "Camera", pinchando ahí se abrirá una segunda ventana donde te indicará el modelo de cámara, resolución etc... y abajo a la derecha el "Drivers Controls" donde configurar la Ganancia (Gain) y la exposición (Exposure). Yo lo tengo configurado prácticamente al mínimo. Ojo, recuerda que yo tengo la PS3 Eye y puede ser diferente a lo tuyo.
Una vez hayas dejado estos valores a tu gusto vuelve a seleccionar PointTracker 1.0 y prueba, debería mantener los valores de ajuste de la cámara y haber solucionado muchos problemas.
Por otro lado, otra cosa que me ocurría era que la imagen que me recogía me aparecía casi azul, y no reconocía los LED porque para el programa la zona azul es la zona a registrar. Esto lo solucioné con la primera forma que antes te escribí pero según pude leer en el manual (ahora no funciona la WEB) hay una forma de "reducir" esa zona azul para ser mas selectivo. Creo que era la barra de "Threshold" ubicada en la ventana de Settings del FreeTrack. Yo lo tengo prácticamente a la derecha y aunque con la primera solución se me solucionaron todos los problemas la verdad es que si lo enciendo por el día con ventanas abiertas no me da problemas tampoco.
Prueba esto que te he dicho y ya me vas diciendo por si te puedo echar una mano en algo mas. Si necesitas mas ayuda o fotos sobre las ventanas necesitaré un poco mas de tiempo para hacerlo pero lo podría hacer.
Un saludo y suerte