De Heem est né à Utrecht sous le nom de Johannes van Antwerpen. Il étudia d'abord auprès de son père David de Heem l'Ancien (1570-1631), puis auprès de Balthasar van der Ast. Son « deuxième prénom », Davidsz, est un patronyme faisant référence au nom de son père : en néerlandais, un nom se terminant par -sz est comme -son en anglais et Mac- en écossais, ce qui signifie « fils de » le reste du nom. Il vécut à Leyde de 1625 à 1629 environ, où il étudia en 1629 auprès de David Bailly (1584- vers 1657). Son nom professionnel, « de Heem », signifie littéralement « la maison ».

Il s'installa dans les Pays-Bas méridionaux et rejoignit la guilde de Saint-Luc d'Anvers en 1635 ou 1636 et devint bourgeois de cette ville en 1637. Cependant, il était souvent absent, comme en témoignent les droits qu'il devait payer pour cela. Son talent remarquable lui valut une réputation considérable. Il ne pouvait guère satisfaire la demande. De Heem était considéré comme l'un des plus grands peintres de son temps. Il était bien payé et un portrait du prince Guillaume III entouré d'un cartouche de fleurs et de fruits fut vendu pour 2000 florins, l'un des prix les plus élevés jamais payés pour un tableau au cours du Siècle d'or hollandais. Ses fils travaillaient avec lui dans son atelier sur les commandes de nouveaux tableaux. Il retouchait leurs œuvres et apposait sa signature sur les tableaux.

Il resta à Anvers jusqu'en 1667, date à laquelle il retourna à Utrecht, où les archives font état de sa présence de 1668 à 1671. Il quitta Utrecht en 1671 lorsque les troupes françaises s'approchèrent de la ville. On ne sait pas quand il revint finalement à Anvers, mais sa mort y est mentionnée dans les livres de la guilde.

Van Heem se maria deux fois, d'abord avec Alette van Weede avec qui il eut trois enfants survivants à sa mort en 1643, dont l'un, Cornelis, deviendra peintre de natures mortes. Il se remarie en 1644 avec Anna Catherina Ruckers avec qui il aura six autres enfants, dont Jan qui deviendra également peintre de natures mortes.

Outre ses deux fils, il a plusieurs apprentis : Michiel Verstylen, Alexander Coosemans, Thomas de Klerck, Lenaert Rougghe, Theodor Aenvanck, Andries Benedetti, Elias van den Broeck, Jacob Marrel, Hendrik Schoock et Abraham Mignon.