Banícke múzeum v Rožňave bolo založené v roku 1902 z iniciatívy Boršodsko-gemerskej skupiny Krajinskej uhorskej baníckej a hutníckej spoločnosti, za podpory mesta Rožňava a finančných darov Františky a Dionýza Andrássyovcov. Myšlienkovým tvorcom bol autor monografie gemerského baníctva, vtedajší riaditeľ baní na Železníku Gustáv Eisele.
Účelová stavba budovy múzea bola postavená v roku 1905 podľa projektu Alexandra Mullera, riaditeľa rožňavských baní. Prvá expozícia s baníckou a hutníckou tematikou a početné mineralogické zbierky v nej boli prvýkrát sprístupnené až v roku 1912.
V tomto roku vzniklo aj Mestské múzeum v Rožňave. Pri jeho zrode stáli rožňavskí mestskí vzdelanci na čele s predsedom Rožňavského besedného spolku Ladislavom Rézom a stredoškolskí profesori, z ktorých iniciatívne vynikol známy historik Dr. Rudolf Hazslinszky, ktorý sa stal jeho prvým riaditeľom.
Mestské múzeum bolo v období medzi dvoma vojnami vďaka všestranne vzdelanému riaditeľovi Kolomanovi Tichymu mimoriadne aktívne. Bansko-hutnícke múzeum, z dôvodu zabratia účelovej budovy vojskom, žandárstvom, školstvom a knižnicou, nevyvíjalo žiadnu činnosť. Obe inštitúcie sa zlúčili v roku 1940. Prvá stála expozícia bola otvorená v roku 1943 a delila sa na dve časti: bansko-hutnícko-mineralogickú a všeobecne historickú. Aj keď bola táto expozícia otvorená len 12 mesiacov, riaditeľ Tichy zaviedol progresívne metódy práce: do múzejnej práce zapojil širší aktív dobrovoľníkov, svoje poznatky zverejňoval v odborných časopisoch, publikoval výsledky spracovania archiválií a muzeálií, pripravil sériu rozhlasových relácií.
Osud múzea značne poznačili vojnové roky. Časť zbierkovího fondu bola odcudzená a až do roku 1956 slúžila budova múzea rôznym účelom mimo múzejníctva. Až po zásahoch Československého zväzu múzeí a politických a štátnych orgánov bolo objektu prinavrátené pôvodné poslanie a prvá povojnová expozícia, orientovaná na baníctvo a hutníctvo Gemera, bola otvorená v máji 1956.
Najväčší materiálny a personálny rozmach zaznamenalo múzeum v rokoch 1974 - 1985. Pribudli ďalšie objekty, do múzea prichádzali školení odborníci, rástol počet zbierok a expozícií a pravidelne sa pripravovali krátkodobé výstavy. Tie sa plánovite od roku 1989 inštalujú v Expozícii výtvarného umenia. V roku 1981 bola otvorená expozícia Príroda Slovenského krasu a priľahlých oblastí, v roku 1982 bola iniciatívou pracovníkov múzea v pivničných priestoroch vytvorená expozícia Banské pracoviská. V máji 1995 bola po rekonštrukcii opäť otvorená Expozícia baníctva a hutníctva Gemera, v roku 1990 sa v priestoroch Obrazárne Andrássyovcov vytvorili podmienky na stálu výstavu výtvarných diel. Posledná, šiesta stála expozícia múzea - Historická expozícia - prezentačný múzejný depozitár, vznikla v roku 1999 na základe potreby ochrany a prezentácie množstva vzácnych predmetov z fondov múzea.
Rozhodujúce roky v histórii múzea:
1902 - vznik Bansko-hutníckeho múzea v Rožňave
1912 - otvorenie prvej expozície Bansko-hutníckeho múzea v Rožňave
1912 - založenie Mestského múzea v Rožňave a otvorenie jeho prvej expozície
1931 - obnovenie činnosti Mestského múzea po prvej svetovej vojne
1938 - fúziou dvoch rožňavských múzeí vzniklo Rožňavské bansko-hutnícke a mestské múzeum
1943 - 1.8. - otvorenie stálej expozície zjednoteného múzea
1943 - 1.11. - Rožňavské bansko-hutnícke a mestské múzeum bolo zatvorené
1956 - obnovenie múzejnej činnosti po druhej svetovej vojne - Okresné múzeum v Rožňave