Osnivanje Biblioteke rezultat je dugogodišnje želje grupe entuzijasta iz našega grada da se od fonda knjiga i arhivske građe, koji je naslijeđen od Behram-begove medrese i drugih islamskih institucija koje su ranije postojale u Tuzli, formira biblioteka. Prvobitno je bilo zamišljeno da to bude islamska biblioteka. Inicijativnu grupu, koja je 30. januara 1992. godine održala i svoj prvi sastanak, činili su: Hasan-ef. Spahić, predsjednik Odbora Islamske vjerske zajednice Tuzla, Besim-ef. Čanić, sekretar i zamjenik muftije tuzlanskog, profesor Ahmet Mešić, profesor Enver Mulahalilović, prof. dr. Ahmed Kasumović, Enisa Žunić, direktor Narodne i univerzitetske biblioteke Tuzla i Mirsada Suljić, službenica Islamske vjerske zajednice Tuzla. Veliki doprinos osnivanju i radu Biblioteke dali su današnji reisu-l-ulema Husein-ef. Kavazović (tada je obnašao funkciju tuzlanskog muftije) i tuzlanski muftija Vahid-ef. Fazlović (tada je obnašao funkciju direktora Behram-begove medrese u Tuzli).

Biblioteka je počela s radom 3. juna 1993. godine kada je djelovala u sklopu Medžlisa Islamske zajednice Tuzla. Nakon izvjesnog vremena, Biblioteka je postala samostalna institucija, a od 2005. godine prelazi u novu zgradu gdje i sada djeluje na adresi Solni trg, br. 6.