ARTILLERY se formó en junio de 1982 en Taastrup, un suburbio de Copenhague, por el baterista Carsten Nielsen y el guitarrista Jørgen Sandau. Después de probar a varios músicos, la formación finalmente se convirtió en los guitarristas Jørgen Sandau y Michael Stützer, el bajista Morten Stützer, el baterista Carsten Nielsen y el cantante principal Per Onink. Per Onink se fue poco después y fue reemplazado por el cantante Carsten Lohmann.
Luego, el grupo grabó las demos We Are the Dead en 1983 y Shellshock + Deeds of Darkness en 1984.
El primer debut profesional de ARTILLERY se produjo a principios de 1985 con la inclusión de la canción Hey Woman en el volumen uno de la serie de compilaciones Speed Metal Hell que fue lanzada por New Renaissance Records.
Más tarde ese año, Carsten Lohmann se fue y fue reemplazado por Flemming Rönsdorf. Más tarde, ese mismo año, ArRTILLERY grabó un tercer demo, Fear of Tomorrow, firmó con Neat Records y lanzó su primer álbum, también titulado Fear of Tomorrow. En 1986, Carsten Nielsen fue contactado por Quorthon de BATHORY preguntándole si estaba interesado en tocar la batería para BATHORY. Carsten Nielsen rechazó la oferta, ya que pensó que ARTILLERY se convertiría en una banda mucho más grande que BATHORY. Su segundo álbum, Terror Squad, fue lanzado en 1987.
Después del lanzamiento en 1998 de un CD recopilatorio (el primero de este tipo de la banda), Deadly Relics del sello Mighty Music, con una mezcla de antiguas grabaciones de demos y dos canciones de la cinta promocional de 1989, la banda decidió reformar como trío (Flemming, Morten y Michael), para grabar un cuarto álbum, Back, que fue editado en 1999 por Die Hard Music, al que siguieron algunos conciertos, siendo uno de ellos el gran festival alemán WACKEN. Luego, en 2000, ARTILLERY decidió dividirse nuevamente.
El 6 de noviembre de 2007, Michael confirmó en el sitio web oficial de ARTILLERY recién inaugurado que estaban nuevamente activos. Sin embargo, el veterano cantante de ARTILLERY, Flemming Rönsdorf, no participó. El 27 de noviembre del mismo año, se confirmó que el cantante Søren “Nico” Adamsen sería el nuevo líder. Esta formación continuó grabando dos álbumes: When Death Comes de 2009 y My Blood de 2011. Hicieron una extensa gira y también lanzaron un DVD en vivo y un álbum en vivo, ambos titulados One Foot In The Grave – The Other In El Thrash (2009).