Le protèle est le seul membre vivant du genre Proteles. Il est classé parmi les hyènes dans sa propre sous-famille, Protelinae, qui est opposée aux hyènes actuelles (Hyaeninae) et forme leur taxon frère. Certains systématistes considèrent que les différences dans la structure corporelle et le mode de vie sont si grandes qu'ils placent le protèle dans sa propre famille, les Protelidae. Cependant, cette division n'est pas adoptée dans les publications taxonomiques récentes.
Sur la base de l'aire de répartition divisée, deux sous-espèces sont distinguées : La forme nominale Proteles cristata cristata comprend les animaux d'Afrique australe et Proteles cristata septentrionalis ceux de l'Afrique de l'Est. En 2021, il a été proposé d'élever les deux au rang d'espèces indépendantes car la différence génétique entre les sous-espèces est plus grande que celle entre le loup (Canis lupus) et le chacal doré (Canis aureus). Les deux formes de protèle peuvent également être distinguées extérieurement et anatomiquement. Proteles cristata septentrionalis a un pelage plus clair que Proteles cristata cristata, le motif des rayures est moins distinct et les rayures se décomposent en un motif ponctuel irrégulier sur le cou. La largeur postorbitale est à Proteles cristata septentrionalis significativement plus grande que Proteles cristata cristata.
Les auteurs d'ouvrages plus anciens considéraient le protèle comme une des premières branches de la hyène. D'après les études morphologiques de Werdelin et Solounias, les Protelinae et les Hyaeninae se sont séparés il y a 18 à 20 millions d'années, ce qui signifie que les protèles auraient évolué à partir d'espèces d'hyènes anciennes comme les Plioviverrops. Les études moléculaires de Koepfli et al. à partir de 2005, on est cependant arrivé à la conclusion que les deux lignées ont divergé il y a environ 10,6 millions d'années. Il est donc concevable que les protèles se soient développés à partir d’une branche de hyènes qui possédait déjà les dents puissantes typiques des hyènes proprement dites. Les protèles auraient pu occuper une niche écologique qui était auparavant à peine occupée par des prédateurs.
Proteles transvaalensis est un fossile parent du protèle dont les restes, vieux d'environ 1,5 million d'années, ont été découverts à Swartkrans en Afrique du Sud. Il était plus gros que l'animal d'aujourd'hui et ses molaires étaient encore plus grosses. Il existe également d'autres découvertes d'Afrique du Sud qui datent d'environ un million d'années et ne peuvent plus être distinguées des protèles d'aujourd'hui.