Khoma voit le jour en 2002 en Suède dans la ville d' Umeå grâce à un trio d'amis d'enfance :  Jan Jämte , Johannes Persson et Frederik Kihlber- ces deux derniers connus également dans le groupe Cult Of Luna .

Un premier EP baptisé Tsunami voit le jour en 2004. Celui-ci s'écoule rapidement à 1000 exemplaires et il est ainsi réédité. Ils sont ainsi remarqués par le label RoadRunner et sortent un second album en 2006 The Second Wave, comprenant des nouveaux titres ainsi que des morceaux du prédécesseur réarrangés.

Après des concerts et un long moment d'absence, ils sortent un troisième album nommé A Final Storm en 2010.