Janne «JB» Christoffersson (гитара/вокал), Fox (басс) и Iggy (барабаны) начали играть вместе под названием Smack в своем родном городе Стокгольме еще в 1996 году. В 1999 году к группе присоединился новый барабанщик Fredrik «Trisse» Liefvendahl и группа в обновленном составе записала демо состоящее из 3х треков. Эта запись привела к тому, что группа засветилась на сборнике от Waterdragon Records «Waterdragons Greatest Hits Vol. 1» (2000).
После этого сборника группа поучаствовала на 7»сплите с Spiritual Beggars (к которым, кстати, JB вскоре присоединился в качестве вокалиста) вышедшим на Southern Lord Records. Эти записи привлекли внимание начальника лейбла Rise Above Ли Дорриана. К тому моменту группа успела переименоваться в Grand Magus. Выбор такого названия был продиктован больше всего тем, что музыкальная составляющая группы стала результатом слияния классического hard rock 70х и stoner rock (сами участники называют это Doom Blues).
В начале 2001 года , группа засела в местной das Boot Studios, в роли продюссера выступил небезизвестный Fred Estby (барабанщик Dismember). Спустя несколько недель группа вернулась из студии с одноименным первенцем, котрый был издан в Европе на Rise Above Records и в Америке на лейбле Music Cartel в самом начале 2002 года. Нужно добавить, что к тому моменту Janne стал искользовать инициалы J.B. и пристроился на роль вокалиста к шведам Spiritual Beggars.
Далее последовал альбом, «Monument» (2003), который в целом был в том же ключе что и дебют: смесь doom, blues, stoner во многом походившая на ранние альбомы Black Sabbath. В 2005 году группа разродилась альбомом «Wolf’s Return». В это альбоме уже появились изменения в звучании - группа стала использовать ходы более близкие к heavy metal, блюзы и стонер несколько отошли на задний план. Вместе с тем, звук группы стал более самобытным и проводить аналогии стало гараздо сложенее. На следующий, 2006 год, группу покинул барабанщик Trisse и вскоре его заменил SEB.
В 2008 году группа выпускает альбом «Iron Will» который был признан альбомом года по версии журнала Sweden Rock. Стилистически альбом продолжает линию «Wolf’s Return».
