Bring Me The Horizon (также их часто называют "BMTH"), начали свое существование в штате Шеффилд, Великобритания 2004 год из нескольких распавшихся групп. Они получили своё название, взяв за основу фразу из фильма Пираты Карибского моря, которую произнёс Капитан Джек Воробей: "Now... Bring me that horizon." После простой замены "that" на "the", Bring Me The Horizon стало официальным названием группы. Они писали музыку, которую они хотели написать, играли музыку, которую они хотели играть, и играть в свое удовольствие и в любом месте. На это потребовалось какое то время, чтобы получить признание, но они получали только много негативных комментариев по поводу своей музыки и выступлений, но при этом продолжали играть.

После нескольких месяцев постоянных концертов у группы постепенно начала создаваться своя небольшая база поклонников. Их музыка начала занимать головы все большего и большего количества фанатов в их родном городе. Группа играла лишь то, что сама хотела как играть, так и в последующем слушать. Примерно в это время, Bring Me The Horizon записали 3 песни с Оливером Сайксом. Песни назывались: Shed Light/Metal Song, Who Want's Flowers When You're Dead? Nobody и незавершенная инструментальная версия Rawwwrr!. Качество записи и вокала было очень низким, что помешало группе продавать альбомы на своих концертах, как планировалось ранее.

После постоянных репетиций и шоу, они вскоре привлекло внимание лейбла Thirty Days Of Night и выпустили свой дебютный EP "This Is What The Edge Of Your Seat Was Made For". После нескольких туров в другие области Великобритании, Bring Me The Horizon подписали контракт с другим большим лейблом Visible Noise в августе, который имел также контракты с такими группами как Lostprophets и Bullet For My Valentine. В январе они снова выпустили свой EP и он получил гораздо больше внимания и признания, чем ранее.