Le Caracal est un mammifère de la famille des félidés de taille moyenne avec de longues jambes et une queue relativement courte qui représente 30 % de la longueur du corps de l'animal. Il se distingue par la présence d'un bouquet de longs poils noirs à l'extrémité des oreilles, dépassant quasiment leur longueur, caractéristique qu'il partage avec le Lynx et avec le chat des marais (Felis chaus). Son poil est court d'une couleur gris fauve à rougeâtre uniforme sur le dos, les côtés et la queue. Le menton, la gorge, la poitrine, le ventre et l'intérieur des jambes sont blanchâtres et peuvent être tachetés de spots rougeâtres ou fauves pales. Le train arrière très musclé est plus haut que le train avant. Les pattes du Caracal sont assez larges avec cinq doigts sur les pattes antérieures (dont le premier ne touche pas le sol) et quatre sur les postérieures munis de griffes rétractables de 3 cm de long. Le Caracal possède de nombreux poils raides qui émergent d'entre ses coussinets lui assurant un bon appui sur les sols meubles. 

Le crane est haut et bombé, la mâchoire courte avec une denture assez particulière. En effet, la majorité des individus ne possède pas de première petite prémolaire supérieure ce qui leur confère, tout comme le Lynx, un total de 28 dents mais dans 8 % des cas la présence de cette prémolaire leur confère une denture conforme à celle de la famille Felidae avec 30 dents. La tête du Caracal comporte des marques faciales caractéristiques qui comprennent une ligne très foncée allant du bas du bord interne de chaque œil au museau, une autre verticale passant au centre de la face très marquée sur le front et plus fine vers le museau et enfin, une marques allongée verticale très foncée au-dessus du bord interne des yeux. Deux marques blanchâtres encadrent les yeux et deux autres sont présentes de chaque côté du nez sous les narines. Des spots très foncés marquent la naissance des moustaches (vibrisses). L'arrière des oreilles, triangulaires et pointues, est noir. La surface intérieure du pavillon est recouverte de petits poils blancs. Les yeux sont de couleur claire, généralement verdâtres pouvant varier du marron au bleu. La pupille est plutôt ronde, potentiellement légèrement oblongue verticalement. 

Les mâles peuvent atteindre une longueur de 106 cm sans la queue pour un poids maximal de 20 kg. Les femelles sont plus petites avec une longueur maximales de 103 cm sans la queue et un poids maximal de 16 kg.