Idea utworzenia w Gdańsku instytucji muzealnej była obecna w życiu kulturalnym miasta już w 1. połowie XIX wieku. Przyczyniła się do tego aktywność Towarzystwa Sztuk Pięknych (Kunstverein), założonego w 1835 roku, które od zarania swej działalności dokonywało zakupów obrazów z myślą o przyszłej muzealnej galerii malarstwa.
Jeden z członków-założycieli Towarzystwa, malarz Johann Carl Schultz, późniejszy inicjator powstania Stowarzyszenia na Rzecz Zachowania Starodawnych Budowli i Zabytków Sztuki Gdańska (1856), podczas podróży do Włoch w 1844 roku poznał rzeźbiarza Rudolfa Freitaga i namówił go na przyjazd do Gdańska. Freitag objął stanowisko profesora gdańskiej Szkoły Sztuk Pięknych i zaangażował się w urzeczywistnienie idei organizacji muzeum. W 1848 roku uzyskał prawo do zamieszkania w zrujnowanym budynku dawnego klasztoru franciszkańskiego, który stanowił własność Ministerstwa Wojny. Przeniósł tu własny zbiór rzeźb, odlewów gipsowych, wyrobów rzemiosła artystycznego i kolekcję różnorodnych „starożytności”. Dzięki uporowi Freitaga zabytkowa budowla uniknęła rozbiórki i została ostatecznie przekazana miastu przez rząd królewski w Berlinie w 1864 roku. Rzeźbiarz przez wiele lat podejmował starania o utworzenie muzeum, gromadząc zabytki z Gdańska i okolic i bezskutecznie zabiegając o fundusze na odbudowę gmachu, wysyłając petycje do króla pruskiego i władz miasta. Formalne powołanie instytucji muzealnej umożliwiła dopiero fundacja gdańskiego kupca Carla Gottfrieda Klosego (1794-1868) oraz jego spadkobierców, Friedricha i Johanny Caroliny Henningsów, którzy przekazali na ten cel kwotę 60 000 talarów oraz obrazy o wartości 4 000 talarów. W dniu 30 marca 1870 roku formalnie powołano „Gdańskie Muzeum Miejskie założone przez Carla Gottfrieda Klosego i jego spadkobierców”, które stało się własnością miasta. Zarząd Muzeum stanowiło dwunastoosobowe kolegium kuratorskie; pierwszym kustoszem został Rudolf Freitag. Na początku 1872 roku ukończono remont i przebudowę gmachu według projektu budowniczego miejskiego Juliusa Alberta Lichta. W grudniu tego roku otwarto dla publiczności pierwszą wystawę sztuki w Galerii Obrazów, zorganizowało ją Towarzystwo Przyjaciół Sztuk Pięknych. Pierwszą wystawę zorganizowaną przez Muzeum Miejskie otwarto 1 marca 1873.
W 1872 przeniesiono do Muzeum, a w 1875 roku formalnie włączono do zbiorów cenną kolekcję zgromadzoną przez gdańskiego kupca Jacoba Kabruna (1759-1814), przekazaną na mocy testamentu Akademii Handlowej w Gdańsku (1814). Kolekcja zawierała ponad 300 obrazów, głównie flamandzkich i holenderskich, a także prawie 2000 rysunków i akwarel oraz około 11 tysięcy dzieł graficznych. W strukturze Muzeum funkcjonowała jako wydzielony zbiór z odrębną osobowością prawną.
W 1884 roku przeniesiono do gmachu Muzeum Miejskiego zbiory Muzeum Rzemiosł Artystycznych (Westpreussisches Provinzial Gewerbe-Museum). Była to instytucja powołana w Gdańsku 28 grudnia 1881 roku, jako oddział założonego ponad rok wcześniej Muzeum Prowincji Zachodniopruskiej (Westpreuβisches Proninzialmuseum) z siedzibą w Zielonej Bramie. Zbiorem założycielskim Muzeum Rzemiosł Artystycznych stała się zakupiona przez Związek Prowincji Zachodniopruskiej za 9000 marek kolekcja Eduarda Ludwiga Garbego, gdańskiego kupca i kolekcjonera, licząca ponad 400 obiektów. Składały się na nią wyroby ceramiczne – w większości fajanse, zabytki z miedzi i mosiądzu oraz meble. Początkowo zbiór był przechowywany w domu jednego z członków komisji założycielskiej, Oskara Bischoffa, przy ul. Kowalskiej 3 w Gdańsku. Od chwili przeniesienia kolekcji do siedziby Muzeum Miejskiego w kwietniu 1884 roku, połączone instytucje funkcjonowały jako Stadt- und Kunstgewerbemuseum. Pierwszą ekspozycję rzemiosła otwarto dla publiczności w krużgankach klasztoru franciszkańskiego 5 sierpnia 1885 roku.
Funkcję dyrektora Muzeum Rzemiosł Artystycznych sprawował Johannes Heise, konserwator zabytków prowincji Prusy Zachodnie. Po jego śmierci w 1899 roku zastąpił go Oskar E.S. Bischoff, kurator Muzeum Miejskiego z ramienia Zarządu Miasta. W 1912 roku kierownikiem obu placówek został Hans F. Secker, który w 1916 roku otrzymał tytuł dyrektora. Tę funkcję sprawował do 1922 roku; doprowadził do ostatecznego połączenia obu muzeów, modernizacji, przebudowy i udostępnienia nowych galerii. W 1921 roku Muzeum Rzemiosł Artystycznych oficjalnie przestało istnieć jako odrębna placówka, a jego zbiory stały się jednym z działów Muzeum Miejskiego. W tej formie instytucja funkcjonowała do wybuchu II wojny światowej. Po włączeniu Gdańska do Trzeciej Rzeszy i ustanowieniu Okręgu Gdańsk – Prusy Zachodnie, Muzeum przemianowano na Stadtmuseum und Gaumuseum für Kunsthandwerk zu Danzig. Zbiory ewakuowane do podgdańskich miejscowości oraz w głąb Rzeszy w latach 1943-1944, po zakończeniu działań wojennych stopniowo powracały do zniszczonego budynku dawnego klasztoru franciszkanów, przejętego przez polskie władze. Stały się one podwaliną kolekcji utworzonego w 1948 roku Muzeum Pomorskiego, któremu w 1972 nadano rangę Muzeum Narodowego.