Umocnienie Małe powstało jako drugi fort twierdzy. Ulokowane zostało w jej wschodniej części, nad samą Narwią. Połączone było z Umocnieniem Dużym za pomocą wału z suchym rowem fortecznym oraz drogą forteczną wzdłuż tego wału. Fort miał za zadanie bronić, oprócz przedpola, także drogi wodnej na Narwi.

Wschodni fort powstał jako dzieło o narysie przypominającym nieregularny bastion. Lewy bark i czoło zwrócone były ku przedpolu, natomiast prawe, mniejsze czoło (bark) w stronę Narwi. Przed fortem powstała głęboka fosa równoległa do lewego czoła. Fosa ta na pewnym odcinku wypełniona została wodą bezpośrednio z rzeki. Wzdłuż lewego barku fosa była już płytsza i łączyła się z rowem fortecznym biegnącego wokół twierdzy wału. Mniej więcej u styku lewego czoła i lewego barku fosa została przegrodzona kojcem (kaponierą?).

Zasadniczo fort wyposażony był w jeden, bardzo wysoki wał przeznaczony dla artylerii i piechoty. Pomiędzy czołem fortu a fosą usypano mały, ziemny rawelin. Komunikacja z rawelinem odbywała się po poprowadzonej mniej więcej w połowie wysokości stoku wału drodze. Poniżej lewego barku, począwszy od koszar szyjowych, powstał niski wał biegnący wzdłuż rzeki a kończący się odcinkiem równoległym do czołowej, mokrej w tym miejscu, fosy. Powstały tu stanowiska artylerii broniącej rzeki. Aktualnie teren zamknięty tym najniższym wałem jest zalany przez wody Jeziora Zegrzyńskiego. Ponad taflę Zalewu wyłania się jedynie szczyt dawnego wału tworząc swoista groblę.

Głęboka sucha fosa broniona była z rawelinu oraz przegradzającej ją kaponiery. Kaponiera ta (a może raczej skrzyżowanie kojca z kaponierą) posiada wielce oryginalny kształt. Zaczyna się w skarpie i posiada tam dwa stanowiska artylerii. Dalej kaponiera przechodzi w poprzek fosy kierując się przy tym ku górze. Następnie chodnik skręca w prawo ciągle idąc ku górze. Na całym tym odcinku korytarz posiada strzelnice dla broni ręcznej tworząc galerię bojową.

Na końcu kaponiery umieszczono kolejne dwa stanowiska dla artylerii fortecznej. Umieszczone tu były armaty szybkostrzelne Nordenfelt kalibru 57mm na podstawie kazamatowej. W podłodze znajdują się charakterystyczne otwory służące jako zrzutnia na łuski od zużytych pocisków. Dzięki nietypowej budowie kaponiery można było z niej ostrzeliwać zarówno fosę jak i wał fortu.

Łączność z kaponierą zapewniała poterna mająca swój wylot na dziedziniec fortu. Wyjście to osłonięte zostało dość dużą przelotnią. Umieszczono tu także dwie izby przeznaczone na podręczny skład amunicji. Aby zabezpieczyć się przed wilgocią izby te oddzielono od wnętrza wału dodatkowym chodnikiem. Cały schron był oświetlony, tylko że nie było tutaj generatora. Co ciekawe na potrzeby generatora przeznaczono ostatnie pomieszczenie kaponiery i stamtąd pociągnięto zasilanie (być może aby nie umiejscawiać go koło prochowni). Generator pozwalał także na wyposażenie kaponiery w reflektor do oświetlania fosy.

W szyi fortu umieszczono małe koszary, przez które biegło jedyne wejście na dziedziniec. Przejście to zamknięte zostało wielkimi, dwuskrzydłowymi pancernymi drzwiami. Koszary posiadają w sumie pięć oddzielnych izb. Dwie były przeznaczone na potrzeby żołnierzy. Wyposażono je w komplet okien zabezpieczonych pancernymi okiennicami. Kolejne dwie izby w skrzydłach fortu pełniły rolę półkaponier. Przy lewym skrzydle było pomieszczenie techniczno-gospodarcze w którym umieszczono m.in. generator energii elektrycznej. Całe koszary przykryte były wałem który zamykał fort od południa.

W trakcie modernizacji twierdzy w latach 1906-1908 na wale wybudowano dwa schrony artyleryjskie. Przeznaczone one były na schronienie dla załogi oraz na podręczny magazyn amunicji.

W ramach zmian w armii carskiej w 1909 roku podjęto decyzję o likwidacji Twierdzy Zegrze. Jednak ze względów finansowych poprzestano na opracowaniu planów wysadzenia fortyfikacji a na fizyczną likwidację fortów zabrakło już pieniędzy.

Umocnienie Małe przeżyło obie wojny bez większych uszkodzeń. Widać jedynie ślady pocisków na murach oraz przestrzeliny w pancernych okiennicach koszar

Przez wiele lat po II wojnie światowej fort był zamknięty dla zwiedzających (teren wojskowy). Przez lata sąsiadował z wojskowym ośrodkiem wypoczynkowym. Współcześnie na dziedzińcu zorganizowane było miejsce na imprezy plenerowe. W roku 2004 koszary pomalowano w paskudny kamuflaż, który historycznie nigdy tu nie występował oraz uprzątnięto teren przed wejściem. Przestrzenie wewnątrz koszar nie doczekały się żadnego zagospodarowania. Niestety razem z zamknięciem sąsiadującego ośrodka wypoczynkowego także fort został porzucony.

Na terenie fortu kręcono fragmenty filmu "Pokłosie". Częściowo na obiekcie pozostały dekoracje filmowe m.in. brukowana droga, słupki przy schodach oraz napisy w schronie na wale.

Fort Umocnienie Małe oficjalnie jest nadal terenem wojskowym i teoretycznie zamkniętym oraz chronionym. Jednakże ochrona przyjeżdża na miejsce tylko czasami w ramach patrolu, więc da się go zwiedzić zachowując minimum ostrożności. Koszary są zamknięte, ale można wejść do schronów i poterny z kaponierą. Wejście na teren raczej od strony jeziora.