Nato con il nome di Richard, si iscrisse alle corse come Jim dopo aver deciso insieme a suo fratello maggiore James, anch'egli pilota automobilistico e poleman alla 500 Miglia di Indianapolis 1958, di utilizzare il nome di quest'ultimo per poter correre senza aver ancora raggiunto l'età minima; a sua volta James iniziò a correre con il nome di Dick, diminutivo di Richard.[1] Quello che doveva essere uno stratagemma temporaneo finì per segnare i fratelli Rathmann per tutta la loro vita.
Tra il 1950 e il 1960 la 500 Miglia di Indianapolis faceva parte del Campionato Mondiale, per questo motivo Rathmann ha all'attivo anche 10 Gran Premi, una vittoria e tre secondi posti in F1.
Rathmann muore nel 2011 ed il suo corpo è stato cremato.