No, Weià mulleri su se ukorijenili i u Americi, pa je Johny odrastao u okolici Pitsburga, otac mu je bio rudar u tamošnjim rudnicima uglja, a on je kao dječak počeo plivati i osvojio je za SAD na Olimpijadi u Parizu 1924. 3 zlatne medalje, u plivanju, a plivao je i u vaterpolo reprezantacji i SAD na istoj Olimpijadi i sa njima osvojio brončanu medalju. Ä etiri godine kasnije, u Amsterdamu 1928. je osvojio još dvije zlatne medalje.