"Буюк (Голямата) джамия" e най-старата запазена постройка в София от средновековния период на града.

Както е било обичай за османското строителство, около джамията е имало и други сгради: хан, медресе, водохранилище и чешма.

По време на Руско-турската война изоставената джамия е била превърната в болница.

В края на 1879 г. Министерството на Народното просвещение я предоставя на сформираната месеци преди това библиотека, към която “се предполага да се уреди музей за старини”.

Официалното откриване на библиотеката в джамията е на 2 март 1880 г.

През 1938 – 1940 г., след завършването на новите крила, е извършен първият след 1900 г. основен ремонт на джамията и разпределението на помещенията добива настоящия си вид.

Музейната сграда е силно разрушена по време на бомбардировките над София през 1943 г.

Едва през 1948 г. Музеят отново отваря вратите си за публика. През 1999 – 2000 г. южният лапидариум и дворът пред него са преустроени в арткафе и сега е едно от любимите места за софиянци.