Le club a été fondé le 6 mars 1902 sous le nom de Madrid Football Club. C'était une émanation d'un club d'étudiants (parmi eux des étudiants de Oxford et de Cambridge) appelé Football Sky et créé en 1895 à l' Institución Libre de Ensenanza. Ce club s'était scindé en 1900 en deux clubs appelés New Foot-Ball de Madrid et Español de Madrid. En 1902, Español de Madrid s'était lui-même scindé en deux, donnant naissance au Madrid FC. Son premier président fut Juan Padrós Rubio, d'origine catalane. Son frère Carlos Padrós fut aussi ultérieurement président du club.
Le Madrid Foot-Ball Club a adopté la tenue d'un des plus fameux clubs amateurs anglais, Corinthians de Londres, maillot et pantalon blancs. Le club dispute son premier match dès le 9 mars 1902 ; c'est un match d'entraînement entre des joueurs du club. Le 22 mars 1902, le club madrilène reçoit l'un de ses plus précieux renforts : Arthur Johnson, un authentique entraîneur anglais.
La première confrontation face au FC Barcelone remonte au 13 mai 1902 ; c'est un revers pour les Madrilènes (3-1) mais dans la même compétition, ils battent un autre club barcelonais, l'Espanyol Barcelone (3-2), et remportent ainsi le premier trophée du club (Copa de la Gran Peña).
En 1902, le Madrid FC a proposé de créer une compétition pour célébrer le couronnement du roi Alphonse XIII d'Espagne. Cette compétition est devenue la Coupe d'Espagne. Le Madrid FC a remporté pour la première fois cette coupe en 1905.
En janvier 1904, le club absorbe trois clubs madrilènes (Moderno, Amicale et Moncloa). À noter que l'Amicale était le club des Français de Madrid.
Madrid FC de 1902 à 1920, le club reçoit l'onction royale (décret d'Alphonse XIII du 29 juin 1920) et est rebaptisé Real Madrid Club de Fútbol.
Le club fut à l'origine de la création du premier championnat d'Espagne de football en 1928. Il remporte son premier championnat en 1932.
Retour à la dénomination Madrid C.F., à l'arrivée du régime républicain en 1931 jusqu'en 1941, la guerre civile de 1936-1939 va interrompre violemment toute activité sportive. Le stade du Madrid C.F. est utilisé comme camp de prisonniers.
