Le massif de la Montagne des Français offre un formidable bastion naturel avec ses hautes falaises de calcaire. C'est un excellent point d'observation qui a été le théâtre des affrontements majeurs dans la Baie.

Il a été pris par les Français en 1890 aux soldats de la reine Ranavalo III.

Ils a ensuite été le "dernier carré" de Français de Vichy au cours de l'opération "Iron clad" en 1942, au cours de laquelle le Anglais ont repris le contrôle de la Baie pour éviter qu'elle ne soit mise à disposition des forces Japonaises, alors en Birmanie.

On accède au fort par une chaussée qui aboutit à un tunnel d'une centaine de mètres. Ce tunnel, creusé dans la roche, semble avoir accueilli un système de câbles / poulies pour faciliter l'accès.

Une muraille de pierres sèches délimite une enceinte au sommet de la falaise.

Un grand bâtiment en retrait comprends une salle de bain et un four à pain.