Музеј града Београда основан је 15. октобра 1903. године под називом Општински музеј и библиотека. Године 1911. из Конака кнегиње Љубице иселили су се Касациони и Апелациони суд, те је су просторије припале Општинском музеју. Након Првог светског рата, залагањем личности из културног круга Београда, међу којима је био и су били: Бранислав Нушић, начињени су напори да се обезбеде средства за даљи рад Музеја. Први попис музејског материјала датира из 1929. године и бројао је 155 предмета, да би се наредне године број предмета удвостручио. Прва музејска изложба Планови и слике старог Београда отворена је 19. априла 1931. године.
Општински музеј и библиотека добили су своју сталну зграду 1935. године, у улице Кнегиње Љубице 1, данас Змај Јовина 1, у којој се и данас налазе административне просторије Музеја.
Музеј се издваја као самостална установа 1941. године под именом Градски музеј, а први управник Музеја био је др Миодраг Грбић, археолог, кустос Музеја кнеза Павла. Током Другог светског рата библиотека музеја је радила све до 1943. године с мањим прекидима, што је издваја у односу на друге градске библиотеке. Средином 1945. године, Градски музеј бива преименован у Музеј града Београда.
Данас, у фонду Музеја се чува преко 157. 000 предмета који сведоче о развоју главног града од праисторије до савременог доба. Предмети су распоређени у три одсека, за археологију, историју и историју културе и уметности. Уз основне збирке, у Музеју се налази и преко 40 легата. Осим наведених одсека, у Музеју града Београда постоји и Одсек за заштиту у склопу којег се налазе Документациони центар, Служба за конзервацију и Служба за едукацију.
Музеј је надлежан и за 20 различитих објеката од чега је 11 музеја у саставу. Ти музеји су: Музеј Иве Андрића, Музеј Јована Цвијића, Музеј Паје Јовановића, Збирка икона Секулић, Конак кнегиње Љубице, Археолошки локалитет Винча, Завичајни музеј Земуна, Завичајни музеј Жаркова, Музеј Младеновца, Музеј Томе Росандића, Музеј бањичког логора, Спомен дом Степе Степановића и споменички комплекс Стефану Немањи. Поред наведених музеја, Музеј града Београда баштини и легат Роберта Цихлера Гашпаревића, музичке и књижевне легате, и располаже с неколико излагачких изложбених просторија, које ће ускоро бити отворене за јавност, међу којима су: Нова зграда Музеја у Ресавској бр. 40 б, Модерна сцена Музеја града Београда и Салон Музеја града Београда.
Као изузетно важна грана рада Музеја града Београда истиче се издаваштво. Прва публикација објављена је 1954. године, Годишњак града Београда. Развојни пут ове серијске публикације отпочео је идејом да се у Годишњаку публикују текстови који помажу разумевању и разоткривању богате историје Београда и да стручној и широј културној јавности понуди на увид резултате најновијих истраживања. У више од пола века свог трајања, ова публикација је пратила васколику прошлост, али и савремени живот Београда, поставши својеврстан трезор у коме је похрањено памћење о граду. До сада је објављено 67 бројева ове публикације, на преко 15.000 страница, у којем је учествовало преко 400 аутора. Поред ове серијске публикације, Музеј града Београда се може похвалити са преко 400 издања у виду монографија, часописа, публикација, каталога, водича и зборника. За публикације у издаваштву Музеја града Београда су писали Дивна Ђурић Замоло, Жељко Шкаламера, Никола Кусовац, Милена Јефтић Ничева Костић, Јара Рибникар, Никола Црнобрња, Миланка Тодић, Ирина Суботић, Надежда Андрић, Тома Росандић, као и многбројни истраживачи, професори и други заљубљеници у Београд и благо које он чува. Публикације се штампају и на енглеском језику што посебно омогућава иностраним зналцима да користе литературу за будућа истраживања.
Поред основне музејске делатности, Музеј града Београда активно учествује у креирању савремене ликовне, примењене и музичке сцене, подржавајући уметнике, нарочито младе, пружајући им прилику да прикажу своје радове и приреде концерте у области класичне музике. Музеј града Београда на годишњем нивоу приреди низ самосталних и групних изложби, домаћих и иностраних аутора.
