Огромная коллекция ценностей первоначально размещалась в родовом доме Бурылиных, но вскоре он стал тесен, поэтому он перестроил особняк и в 1904 году в нем был открыт первый бурылинский музей. Таким образом, фабрика стала для Дмитрия Геннадьевича лишь средством пополнения коллекции, каждый вечер, приходя домой, он спускался в музей и работал там до поздна. 9 июля 1912 года Бурылин обратился к властям с просьбой разрешить строительство на своей земле по Ивановской и Александровской улицам музей. Городская дума дала добро, и 25 августа1912 года состоялась закладка специального здания для музея. Проект художника-архитектора П.А.Трубникова был выбран на конкурсной основе. Несмотря на то, что средств постоянно не хватало Бурылин выбирал только самые лучшие материалы, поэтому строительство постоянно затягивалось. Однако в новое еще не достроенное здание с 17 октября 1914 года уже был открыт доступ посетителей. Торжественное открытие музея состоялось 26 декабря 1914 года. Естественно, что музей, где разместилась коллекция всевозможных "редкостей и древностей", нуждался в тщательном изучении и систематизации экспонатов. По этой причине Д.Г.Бурылин приглашал иногородних (в основном столичных) ученых, специалистов по этнографии, книговедению, нумизматике, которые занимались описанием коллекций. Но даже несмотря на все работы, собранные экспонаты так и не были доконца систематизированы при жизни Бурылина.