Podnět k založení muzea v Krnově dal ředitel reálky Josef Wünsch, jehož žádost o založení muzea podaná dnem 3. 5. 1882 byla městským zastupitelstvem kladně vyřízena. Pro muzeum byly vyčleněny dvě místnosti v nově postavené budově reálky a zde byly všechny v úvahu přicházející předměty nejen soustředěny, ale i zpřístupněny veřejnosti. V počátečních letech své existence však muzeum nemělo mnoho příznivců ani dobré podmínky pro rozvoj a mělo spíše charakter školního kabinetu.

V rychle se rozvíjejícím a vzkvétajícím  městě  průmyslového charakteru  rostl i zájem obyvatelstva o zachování paměti na minulost města a tím i o muzeum. Proto již v roce 1895 vzniká druhé muzeum ve městě a to muzeum živnostenského spolku, soustřeďující svůj zájem především k umělecko-historické oblasti a řemeslné výrobě. Jeho předsedou se stal dr. Conwall Spatzier, mezi členy patřily např. stavitel Ernst Latzel, průmyslník Karl Josephy, malířský mistr Anton Raida, stavitel varhan Otto Rieger a další významní občané města.

Po postavení nové obecné chlapecké školy na dnešním Dvořákově okruhu byly městem živnostenskému muzeu poskytnuty prostory ve staré dnes již zbořené hlavní škole na tehdejším Kostelním náměstí. Do těchto prostor byly přestěhovány i sbírky městského muzea, od té doby spravované živnostenským muzeem. Muzeu byly prostory poskytnuty bezplatně a navíc se muzejnímu výboru podařilo sjednat finanční výpomoc od knížete Jana z Liechtensteinu, Slezského zemského sněmu, Slezské obchodní a živnostenské komory v Opavě a od krnovské spořitelny. To umožnilo rozvinout dosti bohatou výstavnickou činnost s velmi dobrou návštěvností. Mezi nejúspěšnější výstavy patřila výstava ke 100. výročí znovuotevření cvilínského poutního kostela (1897), výstava z díla malíře Krumpholze či výstava předmětů dovezených dr. Conwallem Spatzierem z jeho cesty kolem světa.

V roce 1902 byl předsedou živnostenského muzea zvolen ředitel Odborné textilní školy v Krnově ing. Heinrich Kinzer, který byl od roku 1899 členem muzejního výboru. Tento na slovo vzatý odborník byl pro obě muzea nedocenitelným přínosem. Za třicet let své působnosti ve vedení muzea položil základ systematické muzejní činnosti a sbírkotvornému fondu a jeho pravidelnému rozšiřování.

Přes  bohatou  a  úspěšnou  činnost  muzejní  i  výstavní,  trpěla obě muzea prostorovými nesnázemi a byla stěhována z místa na místo. Kladným přínosem peripetií se stěhováním však bylo, že si představitelé města při jednáních o muzeu uvědomili, že jeho sbírky již mají poměrně slušnou hodnotu a začali se vážněji zabývat jeho umístěním. Vše se podařilo poměrně zdárně vyřešit roku 1911, kdy bylo pro muzeum městem vyčleněno šest místnosti v prvním patře kláštera minoritů a obě muzea tímto sloučena v jedno.

V období první světové války bylo muzeum uzavřeno. Aktivita muzea se v  poválečném období opět soustředila na výstavní činnost. V této době se městské zastupitelstvo začíná o muzeum více zajímat a v rozpočtu města je na podporu a udržování muzea každoročně pamatováno značnou částkou. V roce 1921 se krnovské muzeum stává členem spolku německých muzeí v Československé republice. Tehdy rozvíjelo rozsáhlou sbírkotvornou činnost, především v oblasti archeologie, a bylo výrazně obohaceno o předměty z archeologických výzkumů prováděných ve 20. a 30. letech na lokalitách obou cvilínských kopců. Do daného období spadá i vznik kvalitní a početné sbírky předmětů dokumentujících textilní výrobu, a to především díky úzkému sepětí muzea s tehdejší Odbornou tkalcovskou školou v Krnově osobou ing. Heinricha Kinzera, ředitele této školy a muzea zároveň.

Do historie muzea se výrazně zapsalo období druhé světové války a především její konec v roce 1945, kdy bylo po válce z pohraničí Krnova odsunuto původní německé obyvatelstvo. Po roce 1945 tak vykročilo muzeum do nové etapy své existence, což nebylo v nově osídleném pohraničí snadné. Budova kláštera minoritů byla po válce natolik poškozená, že muzeum muselo být vystěhováno. Sbírky muzea byly skladištním způsobem umístěny do budovy Silesie na Mikulášské ulici, kam byly po roce 1945 umístěny i svozy vybavení zámků v Linhartovech, Hošťálkovech, Slezských Rudolticích a Jindřichově. Ze zámeckých inventářů se bohužel dochovalo jen velmi málo.

V roce 1949 poskytla správa města muzeu budovu bývalého sirotčince na Revoluční ulici č. 20. Muzeum začalo opět rozvíjet svou činnost a díky obětavé práci mnoha nadšenců bylo v roce 1950 zpřístupněno veřejnosti. Instalace byla z pochopitelných důvodů spíše přehledem o sbírkách muzea. Přesto mělo jeho znovuotevření pro kulturní život města velký význam. V padesátých letech převzal správu muzea městského charakteru Okresní národní výbor Krnov, čímž dostalo muzeum okresní charakter.   V  roce 1959  byla  v  muzeu  otevřena  nová  regionální   expozice,   obohacená   především o prehistorii Krnovska a přírodní vývoj této oblasti.

Po územní reorganizaci v roce 1960, kdy Krnov ztratil statut okresního města, ztrácí i krnovské muzeum okresní charakter a je ve druhé polovině roku 1963 spojeno s bruntálským muzeem pod společným názvem Vlastivědný ústav, později změněným na Okresní vlastivědný ústav. Tím počíná úpadek krnovského muzea, které se stává jen pobočkou Okresního vlastivědného muzea v Bruntále. Navíc  pobočkou,  která  musí  neustále  hájit  svou  existenci.  I  přes  tuto nepříznivou  situaci muzeum i nadále pokračovalo ve své činnosti. V roce 1964 byla zpřístupněna nová regionální expozice na velmi slušné úrovni. Významné obohacení přinášela muzeu a kulturnímu životu města i různá zájmová sdružení, rozvíjející v průběhu let svou činnost při muzeu. Nepříznivý byl pro muzeum rok 1965, kdy muzeum muselo uvolnit přízemí budovy pro potřeby Lidové školy umění. Byla zrušena galerie výtvarného umění 19. a 20. století, část přírodovědné sbírky byla odvezena do Bruntálu a sbírkové předměty byly nevhodně uloženy do sklepů a na půdu budovy.

V druhé polovině 60. let a  v 70. letech aktivita muzea téměř ustala. Nedostatečné personální obsazení a další nejrůznější nesnáze vedly ze strany Okresního vlastivědného muzea ke snaze o likvidaci krnovské pobočky a převezení  sbírek do Bruntálu. Jen díky úsilí členů muzejní rady se tak nestalo a krnovské muzeum bylo ochuzeno „jen“ o přírodovědnou sbírku a knihovnu. V roce 1980 byl již stav sbírkového fondu natolik kritický, že byla zrušena stálá expozice z roku 1964 a v místnostech byly vybudovány provizorní depozitáře. Přesto, že muzeum bylo uzavřeno veřejnosti, rozvíjelo i nadále svou výstavní činnost v podobě výtvarných a politických výstav. Velkým pozitivem se stalo soustředění vlastivědného kroužku, numismatického kroužku a Kruhu přátel výtvarného umění při muzeu. 

V roce 1988 opět hrozilo krnovskému muzeu zrušení a převedení sbírek pod správu Okresního vlastivědného ústavu v Bruntále. Proti tomuto postupu se naštěstí mimo jiné postavila i řada dobrovolných muzejních spolupracovníků společně s tehdejší kulturní komisí Městského národního výboru  a  navrhovanou centralizaci  se  podařilo  zastavit. V  roce  1990  naopak  začalo město usilovat o převedení instituce zpět pod Krnov, což se uskutečnilo v roce 1993.

Špatný technický stav sídla muzea na Revoluční ulici byl v roce 1996 důvodem nového stěhování  sbírek  do  jiných  prostor.  Nové působiště Městské muzeum nalezlo v bývalé rodinné vile na Zacpalově ulici 1, kde  sídlilo společně s Městským informačním a kulturním střediskem, jehož je součástí. V podkroví tohoto objektu mělo muzeum postupně depozitáře, dvě kanceláře, badatelnu a malou místnost pro drobné konzervátorské a restaurátorské zásahy. Nejreprezentativnějšími prostorami této vily byla hala přes dvě patra, dvě přízemní místnosti a velká místnost v patře spolu se dvěmi menšími. Ty sloužily k realizaci muzejních výstav, které byly doplňovány výstavami prezentujícími současné výtvarné umění. V tomto objektu strávilo Městské muzeum spolu s MIKSem téměř 15 let.

Počínaje rokem 2006 se začalo muzeum ucházet o granty a projekty vypisované Ministerstvem kultury ČR nebo Moravskoslezským krajem. Díky úspěchům s některými žádostmi se podařilo muzeu získávat finanční prostředky na restaurování částí svého sbírkového fondu, pořízení výstavnického fundusu nebo nákup odborné literatury. Od roku 2005 pak začalo město Krnov přispívat účelově vázanou finanční částkou na nákup nových sbírkových předmětů a muzeum tak mohlo začít systematicky rozšiřovat svoje sbírky. Z důvodu prostorového omezení výstavní síně ve vile na Zacpalově ulici byla veřejnost ochuzena o stálou expozici muzea. Bohatý sbírkový fond byl proto návštěvníkům prezentován v podobě dlouhodobých muzejních výstav. Připomeňme alespoň některé expozice otevřené ve vile na Zacpalově ulici jako „Poklady minulosti“, „Historie textilnictví v Krnově“, „Střípky minulosti“, „Pravěké památky Krnovska“, „Když řinčí zbraně“ nebo „Oživená tradice slezského čepce.“ Úspěch měly i některé expozice zapůjčené z jiných muzeí, jako např. „Velké prádlo“ nebo „Stromy jako domy“. Od jara roku 2008 pak dostal MIKS do užívání Flemmichovu vilu v Krnově a Městské muzeum uspořádalo několik menších expozic i zde. Nejhodnotnější byla „Expozice secese a moderny“ a expozice „Pánského pokoje“. Koncem roku 2009 se pracovníci muzea rozhodli absenci stálé expozice týkající se Krnova a Krnovska aspoň částečně nahradit dlouhodobými tematickými expozicemi představujícími určité epochy nebo problematiku týkající se Krnova. První takovou byla expozice „Minorité v Krnově“, která zároveň patřila mezi poslední velké muzejní výstavy otevřené ve vile na Zacpalově ulici.

I přesto, že zainteresovaným osobám byla patrně vždy zřejmá skutečnost o nevyhovujícím a víceméně provizorním umístění muzea i MIKSu ve vile na Zacpalově ulici, naděje, že příští stěhování muzea bude již přímo do odpovídajících prostor, nebyly naplněny. Poté, co se městu Krnov podařilo získat budovu bývalého Dělnického domu, v jejíž větší části celá desetiletí funguje kino Mír 70, rozhodlo se z důvodů šetření nákladů pro přestěhování MIKSu i Městského muzea z vily na Zacpalově ulici do části Dělnického domu, ve které byl dříve provozován internát SPgŠ a SZŠ Krnov. Tam muzeum nalezlo své dosavadní působiště od podzimu roku 2011. Přesněji, jsou zde depozitáře, kancelář a badatelna. Jako výstavní prostory muzeum využívá Flemmichovu vilu, ve které pořádá také lektorské programy a celodenní interaktivní programy pro širokou veřejnost.

Ačkoliv se možnosti pro aktivity muzea počínaje rokem 2010 opět poněkud zhoršily – z finančních důvodů Město Krnov pozastavilo dotaci na rozšiřování sbírkového fondu a Ministerstvo kultury ČR zrušilo množství grantů, v nichž se dříve muzeum mohlo pokoušet uspět se žádostmi, dařilo se doposud i nadále muzeum své aktivity přinejmenším udržovat. Úspěšné bylo muzeum ve snahách o dotaci z programů vypisovaných Evropskou unií na mikroprojekty příhraniční spolupráce. Pokračují a kvalitativně se zlepšují například také lektorské aktivity muzea. Činnost muzea je zaměřena především na dokumentaci společenského a kulturního vývoje ve městě Krnov formou originálních hmotných předmětů a jejich uchovávání pro budoucí generace. Těžiště práce spočívá ve tvorbě sbírek, v práci se sbírkami a v jejich prezentaci široké veřejnosti v podobě expozic, výstav, katalogů, kulturních pořadů a přednášek. Důležitá je také kulturně-výchovná činnost, výzkumné a publikační aktivity muzea a lektorská činnost.

Městské muzeum Krnov je členem Asociace muzeí a galerií České republiky a v souladu se zněním zákona č. 122/2000 Sb., o ochraně sbírek muzejní povahy a o změně některých dalších zákonů, je sbírkový fond muzea zapsán do centrální evidence sbírek Ministerstva kultury ČR.

Podstatná část sbírkového fondu muzea má charakter historických sbírek, menší část je umělecko-historická. Nejrozsáhlejším fondem muzea je numismatická sbírka mincí, bankovek, medailí a řádů. Druhý největší, a badatelsky  nejvyužívanější, fond tvoří archeologie – většinou se jedná o střepový materiál z místních archeologických výzkumů a náhodných nálezů. Významný je rovněž fond textilnictví, národopisu, sbírka uměleckohistorických předmětů – obrazy, plastiky, cínové, skleněné, keramické a porcelánové předměty – a kolekce fotografických materiálů, dokumentující historický vývoj města a jeho nejbližšího okolí. Zbývající část  sbírek tvoří  zbraně,  mapy  a plány,  nábytek,  knihy, písemné materiály muzejní povahy a další drobné předměty ze dřeva, kovu a textilu. Sbírkové předměty pocházejí nejčastěji z lokality Krnovska a Slezska, popřípadě území českých zemí a střední Evropy. Výjimku tvoří soubor koptských tkanin a zlomek sbírkových předmětů pocházejících z oblasti Orientu. Část krnovského muzejního inventáře si mohou prohlédnout rovněž  návštěvníci Koncertní síně v Krnově a Kudlichovy rozhledny v Úvalně.

Mimo muzejní výstavy, které prezentují bohatý sbírkový fond muzea, je důležitou součástí výstavních aktivit pořádání výtvarných výstav, zachycujících polohy různorodosti umění v mezinárodním kontextu. Nelze opomenout také tématicky zaměřené výstavy.

Správcové a ředitelé muzea:

• Josef Wünsch, 1882
• dr. Cornwall Spatzier, 1895–1897
• Ernst Latzel, 1897–1899
• prof. Robert Frenzel, 1899–1902
• ing. Heinrich Kinzer, 1902–1932
• prof. Ernst Kober, 1933–?
• akad. mal. Julius Raida, ?–1941

Vedoucí, správcové a pracovníci muzea

• prof. Hubert Tichý, 1945–1947
• Karel Dlouhý, 1947–1958
• Karel Sedláček, 1958
• František Mach, 1958–1959
• Věra Sekaninová-Házová, 1958–1959
• Jan Kummer, 1959–1966
• Karel Strobách, 1960–1963
• Marie Novotná, 1960
• Oldřich Ruml, 1966-1972
• Vladimíra Candrová-Kostrhounová, 1972–1992
• Petr Teplárek, 1993–1995
• Mgr. Ludmila Marková – vedoucí muzea, 1997–2006
• Bohumil Králik – správce sbírek, 1996–2007
• Mgr. Svatopluk Bříza (externí spolupráce), 2005–2020
• Mgr. Ivana Gerlichová (Zajícová) – vedoucí muzea, 2006–
• Mgr. Alexandr Michl-Bernard – historik a správce sbírek, 2008–
• Mgr. Stanislav Klívar – muzejní pedagog, 2010–2012
• PhDr. Ľubica Mezerová 2019–2022
• Jana Vrobelová 2021–