Il Rottweiler si annovera fra le razze di cani più antiche. La sua origine risale ai tempi dei Romani. All’epoca era un cane da guardia e da bestiame. Seguì le legioni romane quando attraversarono le Alpi, proteggendo gli uomini e conducendo il bestiame. Quando le legioni si insediarono nella regione di Rottweil, questi cani si trovarono a contatto con quelli indigeni e si produssero degli incroci fra le due varietà. Le principali funzioni del Rottweiler restarono la guardia e la guida delle grandi mandrie, e anche la difesa del proprietario e dei suoi beni. La vecchia città imperiale di Rottweil finì per concedergli il suo nome: cane da macellaio di Rottweil, perché i macellai li allevavano soltanto in funzione delle loro prestazioni come cani da utilità.

Si sviluppò così nel corso degli anni una razza del tutto eccezionale di cani da guardia e da mandrie, utilizzata anche come animale da tiro. Quando all’inizio del XX secolo la polizia ebbe bisogno di cani da servizio, venne esaminato anche il Rottweiler, che si rivelò perfettamente adatto alle missioni di cane di polizia. Fu ufficialmente riconosciuto come tale già nel 1910.