중세의 기악음악은 악보로 보존된 것이 극히 소수이며 악기도 거의 남아 있지 않다. 그러나 당시의 세밀화, 회화, 조각이나 연회, 축제 그리고 궁정에서의 여흥 등에 대한 묘사, 서ㅏㄹ, 시들을 통해서 악기들이 사회의 각 계층에서 음악적 삶에 매우 중요한 역할을 했다는 것을 알 수 있으며, 악기들로만 연주된 상당량의 음악이 있었을 것으로 추정된다.
중세에는 우리가 상상하는 것보다 더 다양한 소리의 악기들이 있었다. 이 시기의 악기는 완전히 수공품이었기 때문에, 같은 종류의 악기라도 규격화되지 않아 현의 수, 크기, 모양 등이 지역에 따라 달랐다.
관악기로는 플루트, 리코더, 숌shawm(현대의 오보에 같은 리드 악기), 코넷cornet(트럼펫과 비슷한 악기), 부이진buisine(나팔꽃 모양의 벨을 가진 길고 곧은 트럼펫), 색버트sackbut(중세의 트롬본), 봉바르드bombard(숌 족의 일종), 백파이프, 프레텔fretel(팬파이프의 시골품 타입), 차임 벨, 카릴롱carillon(교회의 종루에 매달려져 있는 한벌의 종들로, 건반이나 페달을 눌러 소리나는 악기)등이 있었고, 타악기로는 심벌즈, 탬버린, 종, 트라이앵글과 네이커스nakers(케틀 드럼), 타보르tabor(작은 드럼) 같은 다양한 종류이ㅡ 드럼들이 있었다.
현악기로는 비엘vielle(바이올린의 조상), 레베크rebec(비엘보다 작으며 음역은 높다), 살터리psaltery(쳄발로의 전신), 류트, 허디-거디hurdy-gurdy(비올의 몸통과 비슷한 형태의 찰현악기) 등이 있었고, 건반악기는 들고 다닐 수 있는 이동형 오르간portative organ과 큰 사이즈의 고정형 오르간positive organ이 있었다.
초기 오르간은 적어도 한 사람은 뒤에서 풀무질을 하고, 연주자는 건반을 손으로 세게 내리눌러서 작동시키는 매우 원시적인 악기였고, 그 소리는 몇 킬로미터 떨어진 곳에서도 들을 수 있을 정도로 무척 컸다고 한다. 점차로 오르간은 복잡한 다성음악을 연주할 수 있도록 유연한 악기로 발전하게 되었다. 14세기의 한 교회에는 2,500개 이상의 파이프를 가진 오르간도 제작되었다고 한다.
기악음악들이 거의 남아 있지 않은 것은 오랜 세월이 지나는 동안 소실되기도 했지만, 그보다 더 큰 이유는 대부분의 음악들이 처음부터 악보로 기록되지 않았기 때문이다. 악보화되지 못했던 것은 기악음악의 대부분이 즉흥음악이었으며, 또 중세 동안 정신적인 면의 절대적인 지배자였던 교회가 문화 전반을 엄격히 규제하면서 세속음악에 대해 그리 호의적이지 않았고, 특히 기악음악에 대해 가졌던 멸시와 경계심 때문으로 추측된다.
이 시대에 교회가 권장하는 음악은 성악음악이었고, 이후에 다성음악이 발달했을 때에도 교회는 악기 연주가 신자들의 마음을 교란시킨다하여 오르간 이외의 악기 사용을 금지했다.
수많은 필사본의 세밀화에서 볼 수 있듯이, 전례음악은 일반적으로 무반주로 노래되었다. 그러나 특별한 경우에 오르간이 참여했고, 아주 큰 축제에서는 다른 악기들도 사용되었던 것으로 보인다. 당시의 회화나 세밀화들을 보면 세속음악, 특히 기악음악에 대해 취했던 교회의 태도를 충분히 짐작할 수 있다. 교회음악은 주로 천사들이 연주하는 모습으로 그리는 반면에, 세속음악을 연주하는 연주자의 모습은 악마와 같은 모습의 동물로 표현하기도 했다. 또는 필사본의 세밀화에서 '묵시록'의 원로들이 연주하는 모습은 중요한 위치에 그려진 반면, 종글뢰르의 연주장면은 필사본의 경계나 가장자리로 밀려나서 그려져 있다.
악기에 대한 가장 최상의 정보는 당시의 음악가들이 쓴 이론적 저술들에서 얻을 수 있을 것이다. 그러나 중세의 음악 논서들은 일반적으로 음악적 비례이론이나 하모니 론에 집중했을 뿐, 음악의 실제적인 면, 즉 음악이 연주되었던 방식 자체를 논의하거나, 악기에 대한 정보를 언급한 저술들은 극히 소수였다. 그러므로 당시의 연주 실제에 대한 정보를 얻으려면 문헌적 자료, 기록 보관서의 고문서들에 나타난 단편적인 정보들, 그리고 도상학적 자료에 눈을 돌려야 한다.
12세기 필사본에 실린 다윗 왕이 음악가들에 의해 둘러싸인 모습을 그린 그림을 보면 하프가 세속적인 악기들인 코넷, 비엘, 프레텔, 차임벨, 카릴롱과 함께 연주되고 있다.
이와 같은 그림이 실제로 당시에 교회에서 연주되었던 방식을 반영하는 것으로 본다면, 이러한 악기 앙상블이 분명 전례와 12세기와 13세기의 오르가눔 같은 다성음악에 화려한 광휘를 더해주었을 것이다. 그러나 중세의 도상학적 자료에서 나타난 정보는 오히려 현실을 왜곡시키는 경우가 간혹 있기 때문에, 이들 회화나 조각 등에 나타난 증거를 여과 없이 그대로 받아들여서는 안된다.
중세 음악에 관련된 도상학적 자료들을 잘 살펴보면, 상당수의 자료들에서 그 시대에는 시대 감각이나 현실 감각이나 현실 감각이 거의 없었다는 사실을 알 수 있다. 대부분의 중세 화가들은 구약성서에 나오는 다윗 왕을 묘사할 때, 자신들이 살고 있던 중세 유럽 시대의 악기를 들고 있는 모습을 그렸고, 당시의 학자들 또한 성경에 나오는 악기를 마치 유럽 고딕시대의 악기와 똑같은 것으로 생각하고 논의했다. 악기들의 모양과 크기, 연주자의 연주자세 등도 각 자료들마다 일관성 없이 그려져 있는 경우가 많고, 일관성 있게 그려져 있는 경우에는 그것들이 의미하는 바에 대해 확신할 수 없는 경우가 많이 나타난다.
그러므로 도상학적 자료를 분석하는 데 있어 항시 그 작품이 가지고 있을 수 있는 허구나 상징주의를 염두에 두어야 한다. 예를 들면, 살터리 같은 악기의 모습에서 열 개의 현은 당시 살터리의 현의 수가 열 개였다는 것을 보여주기보다는 '십계명'을 상징하기 위해서, 또는 시편 33의 열 줄의 살터리를 상징하기 위한 것으로 이해되어야 하며, 악기의 삼각형 모양 또한 삼위일체를 사징하기 위한 것으로 보아야 한다.