Cântecul a fost preluat de multe ori, cel mai frecvent fiind vorba de versiunea lui Jimmie Rodgers. Printre artiștii care l-au cântat se numără Tommy Duncan, Webb Pierce, Pink Anderson, Johnny Cash, Jim Cash, Jim Jackson, Leon Russell, Mother McCree’s Uptown Jug Champions (cu Jerry Garcia), Merle Haggard, Doc Watson, Prism, Suzy Bogguss (cu Chet Atkins ) Pokey LaFarge, și Tim Blake Nelson cu The Soggy Bottom Boys în filmul și coloana sonoră pentru O Brother, Where Art Thou? A fost, de asemenea, unul dintre primele cântece învățate de o adolescentă Joan Baez. Cântecul apare sub diferite titluri, inclusiv „He’s in the Jailhouse Now”, iar unele versiuni folosesc versul „She’s in the graveyard now” în refren.
Înainte de 1930, mai multe versiuni diferite ale acestuia au fost înregistrate și protejate prin drepturi de autor. Cea mai veche este versiunea din 1915 a lui Davis și Stafford, care are versuri despre un bărbat pe nume Campbell care trișează la un joc de cărți și despre o alegere coruptă. În 1924, Whistler’s Jug Band din Louisville, Kentucky, l-a înregistrat sub titlul „Jail House Blues”, care avea același titlu ca o celebră melodie de blues a lui Bessie Smith, dar care era, de fapt, același cântec ca și „In the Jailhouse Now”.
În 1927, Earl McDonald’s Original Louisville Jug Band a făcut o altă înregistrare a cântecului. Doi bluesmen afro-americani au înregistrat, de asemenea, cântecul înainte de Rodgers: Blind Blake (în 1927), și Jim Jackson (în ianuarie 1928). Jackson a înregistrat, de asemenea, drepturile de autor asupra cântecului înaintea lui Rodgers. În cele din urmă, în 1930, Memphis Sheiks (un pseudonim pentru Memphis Jug Band) a înregistrat-o într-o versiune despre care cercetătorii au afirmat adesea, deși în mod eronat, că este o preluare a lui Jimmie Rodgers. Versiunea melodiei și a versurilor pe care au folosit-o este în mod clar derivată din interpretările Louisville Jug Band, nu din Rodgers. Pe unele dintre înregistrările celor de la Memphis Sheiks, un interpret de vodevil afro-american pe nume Bert Murphy este creditat pentru scrierea cântecului.
La scurt timp după ce Rodgers a înregistrat cântecul, au apărut trei versiuni suplimentare care în mod clar nu erau cover-uri ale lui Rodgers. Boyd Senter și ai săi Senterpedes au făcut o versiune de jazz în 1929 pentru Victor Records (publicată pe #22010, și mai târziu reeditată pe Bluebird Records #5545); Gene Kardos și orchestra sa au făcut, de asemenea, o versiune de jazz în 1932 pentru Victor; și Billy Mitchell a făcut o versiune la pian stride și shouter în 1936 pentru casa de discuri Bluebird.
După Rodgers, cea mai cunoscută versiune a cântecului a fost cea a lui Webb Pierce, care a avut un hit country nr. 1 cu acest cântec în 1955. Versiunea lui Pierce a stat pe locul 1 în topul country Billboard timp de 21 de săptămâni, devenind al treilea cântec din istoria topului care a stat atât de mult timp în clasament; anterior, Eddy Arnold („I’ll Hold You in My Heart (Till I Can Hold You in My Arms)”, 1947) și Hank Snow („I’m Movin’ On”, 1950) au realizat această performanță. Timp de 58 de ani, aceste trei melodii au deținut recordul de longevitate pentru cele mai multe săptămâni pe locul 1, cu 21 de săptămâni, doar câteva melodii ajungând la o lună de a egala recordul până la începutul anilor 1960. În cele din urmă, la 10 august 2013, piesa „Cruise” a celor de la Florida Georgia Line a depășit piesa lui Pierce „In the Jailhouse Now” pentru cele mai multe săptămâni pe locul 1, când a petrecut a 22-a săptămână pe locul 1.
Când Johnny Cash a înregistrat cântecul în 1962, a folosit un set de versuri mai umoristice, bazate pe versiunea din 1915; după ce Campbell este închis, soția sa Sadie are o aventură cu șeriful. Cash a învățat această versiune de la muzicienii afro-americani din trupele de jonglerie din Memphis. În ciuda acestui fapt, cei mai mulți scriitori susțin că Cash a preluat cântecul lui Jimmie Rodgers, ceea ce ascunde și mai mult faptul că melodia provine de la interpreții afro-americani și a fost menținută vie într-o tradiție de vodevil și jug band timp de multe decenii.
Cântecul și-a recăpătat popularitatea ani mai târziu, când Sonny James a înregistrat o versiune live în timpul unui concert din 1976 la Tennessee State Prison. Versiunea lui James a inclus acompaniamentul trupei Tennessee State Prison Band, și a ajuns pe locul 15 în clasamentul Hot Country Singles în 1977.
Versiunea lui Jimmie Rodgers a fost cântată de Gene Autry în filmul său din 1941 „Back in the Saddle.”
În O Brother, Where Art Thou? „Delmar” (Tim Blake Nelson) cântă o interpretare, cu „Pete” (John Turturro) cântând yodel între versuri, înainte de numărul principal al Soggy Bottom Boys, „Man of Constant Sorrow”. Celelalte cântece ale „Soggy Bottom Boys” sunt sincronizate pe buze, dar Tim Blake Nelson își cântă propria voce pe acest cântec, în timp ce yodeling-ul lui Turturro este de fapt interpretat de Pat Enright de la Nashville Bluegrass Band.
În 1979, cântecul a fost interpretat într-un spectacol blackface în musicalul One Mo’ Time de Vernel Bagneris. Musicalul a fost reluat pe Broadway în 2002. Versiunea cântecului folosită în spectacol a fost aceeași cu cea înregistrată de Louisville Jug Bands în anii 1920.
Brad Paisley a folosit refrenul pentru finalul piesei „Mr. Policeman”, un cântec de pe albumul său 5th Gear din 2007. Au fost scrise versuri noi pentru a oferi un final la povestea cântecului.
>.