Si vous voulez vous lancer dans l'aventure, alors AR.js est la bibliothèque qu'il vous faut.

De plus, elle possède déjà de très bonnes fonctionnalités et est capable de fonctionner à 60 fps

Enfin, comme elle est sous licence MIT, vous pouvez l'utiliser pour vos prochaines appalications personnelles comme professionnelles, l'adapter à vos besoins et surtout participer à son développement.