Lungo circa un metro, questo animale doveva possedere un aspetto intermedio tra quello dei pesci e quello degli anfibi; il corpo era lungo e piatto, simile a quello dei tipici pesci crossotterigi (come Eusthenopteron), ma il cranio era già molto simile a quello di un vertebrato terrestre. Le pinne non sono note attraverso resti fossili, ma è lecito supporre che fossero simili a quelle carnose di animali simili come Panderichthys; forse erano già simili a zampe, come quelle di Tiktaalik. L'elpistostege doveva essere un formidabile predatore, stando alla ricostruzione del cranio munito di denti acuminati e di grandi fauci. Rispetto a Panderichthys, l'elpistostege era dotato di un muso più allungato, di orbite più piccole e arrotondate e di differenti proporzioni delle ossa dermiche nel cranio.