Aanvankelijk gelegen buiten de eerste stadsomheining, vanaf de 14de eeuw intra muros en begrensd door de Heembeemd in het noorden, de Sint-Catharinakerk ten westen en de Kanunnik De Deckerstraat ten zuiden.

Ontstaan uit de zogenaamde Infirmerie, een gesticht voor oude priesters, waarrond de oude en gebrekkige begijnen zich vestigden door toedoen van Oda van Waelhem, nadat het Groot Begijnhof in 1259 buiten de stadsomwalling werd opgericht. In 1260 zogenaamd Domus debilium beghinarum. Het gesticht was eerst afhankelijk van het Groot Begijnhof, maar werd zelfstandig vanaf 1295. Omstreeks 1300 benaming "Godshuis van Sint-Maria Magdalena" naar de gelijknamige kapel, verwoest in 1300, heropgebouwd in 1305, opnieuw verwoest door de Geuzen in 1580 en hersteld in 1588. Vanaf de tweede helft van de 16de eeuw benaming "Klein Begijnhof", met eigen kapelaan voor de erediensten, doch onder de jurisdictie van de pastoor van de Sint-Catharinaparochie.

Het begijnhof was een gesloten hof met drie poorten: één in de Heembeemd, gesloopt in 1798; twee in de Kanunnik De Deckerstraat waarvan deze tegenover de Schoutetstraat in 1798 werd gedicht en gesloopt in de tweede helft van de 19de eeuw. De monumentale ingangspoort aan de Klein Begijnhofstraat werd in 1730 gebouwd en eveneens gesloopt in 1798.

Een aquarel van J.B. De Noter (19de-eeuws) en een tekening van J.F. Mardulyn vertonen aan de huidige Kanunnik De Deckerstraatzijde een omheiningsmuur met de monumentale ingangspoort, met rechts een klein voetgangersdeurtje en aansluitend een groot traditioneel hoekpand (heden nummer 2 samen met pand Kanunnik De Deckerstraat nummer 40). Achter deze muur staat ten westen de kapel met aanpalende bebouwing (waaronder het huidige Kanunnik De Deckerstraat nummer 42). Het interieur, het gewelf en de bedaking van de kapel werd gerestaureerd in 1769; in 1799 verkocht als nationaal goed, in 1822 door de stad opgekocht en ingericht als jongensschool. Nu als turnzaal deel uitmakend van de stedelijke gemengde lagere school.

Heden nog vertoont het Klein Begijnhof een relatief gesloten karakter. De straat Klein Begijnhof geeft via twee overbouwde rondboogpoortjes (nummer 2 en 12-14) toegang tot Klein Begijnhof/Bogaard, een haast vierkant pleintje, waarrond de huisjes grosso modo U-vormig zijn ingeplant. De meeste panden, opgetrokken in traditionele bak- en zandsteenstijl, dateren in kern voornamelijk uit de 16de en de 17de eeuw. Overwegend breedhuizen van twee bouwlagen onder zadeldak, meestal twee of drie traveeën. De oorspronkelijke kruiskozijnen werden veelal aangepast, soms met behouden sponningsbeloop, negblokken en dorpels onder ontlastingssysteem, onder meer bij Klein Begijnhof nummer 8 en 16-18. De meeste voorgevels in deze straat werden in de tweede helft van de 19de eeuw aangepast (zie nummer 8; nummer 10 verbouwd tijdens de 19de eeuw).

In Klein Begijnhof/Bogaard vertonen de nummers 7-17 het uitzicht van een totaalproject, opgetrokken in een vereenvoudigde en "armere" versie van de zogenaamde bak- en zandsteenstijl, namelijk bakstenen rijhuizen onder zelfde kroonlijsthoogte, zonder speklagen en hoekblokken, doch met kruiskozijnen onder gekoppeld ontlastingssysteem (bewaard bij nummer 9) en onder aflijnende steigergaten. Ook behielden enkele deurtjes hier gedeeltelijk hun geprofileerd beloop en hoekblokken, onder meer bij nummer 9 en 11. Het merendeel van de panden in deze straat werd recent grondig gerestaureerd (zie nummer 6, 8, 9, 10, 13, 14 en 17).

Heden maakt het Klein Begijnhof deel uit van het herwaarderingsgebied "wijk Klein Begijnhof-Heembeemd", erkend krachtens een besluit van de Vlaamse Executieve van 30 juli 1982, overeenkomstig de bepalingen van het besluit van 2 juni 1982. Dit impliceert onder meer het behoud, de bevordering of herstel van de woon- en leeffunctie door herwaarderingswerken, zoals renovatie, sloping, aangepaste invul- en vervangingsbouw. Dit gebied, circa 12 hectare groot, wordt in het noorden begrensd door de Edgard Tinellaan, ten oosten door de Frederik de Merodestraat (oneven nummers vanaf nummer 73), in het zuiden door de Van Hoeystraat (even nummers) en de Kanunnik De Deckerstraat (even nummers) en ten westen door de Sint-Katelijnestraat (even nummers vanaf nummer 66). Naast de talrijke geplande woningverbeteringen en nieuwe bouw door het Stadsbestuur, O.C.M.W. (Openbaar Centrum voor maatschappelijk Welzijn) en M.G.W. (Mechelse Goedkope Woning) kwamen reeds verschillende realisaties tot stand, namelijk de aanleg van het "Dymphinarium", een ontmoetingspleintje op de hoek van de Zelestraat en de Bornstraat (1974) en van een voorlopig speelplein tussen de Zelestraat en de Nokerstraat; woningverbetering (1977-1981): Goswin de Stassartstraat nummer 129, Heembeemd nummer 3, 34, 37 en 110, Jodenstraat nummer 50, Kanunnik De Deckerstraat nummer 44, Klein Begijnhof/Bogaard nummer 12, Sint-Katelijnekerkhof nummer 20, Zelestraat nummer 44, 57, 85, 87 en 99; naast sloping van een aantal panden en nieuwe bouw.