Ai Giochi olimpici di Berlino nel 1936 era considerato uno dei favoriti per le medaglie nel salto in lungo. Nei primi tre salti di finale si mise in luce andando per due volte oltre il record olimpico di 7,73 m stabilito nel 1928 ad Amsterdam dallo statunitense Ed Hamm. Nei tre salti conclusivi si migliorò ulteriormente fino a 7,87 m, ma la sua miglior misura non fu sufficiente a battere lo statunitense Jesse Owens, che, dopo un primo salto nullo, raggiunse prima 7,94 m, poi 8,06 m. Dopo l'argento vinto nel lungo, Long gareggiò anche nel salto triplo, ma concluse al decimo posto con la misura di 14,62 m.