Roy Clark ist der Sohn von zwei Amateurmusikern, aber seit 2015 gibt es keine Informationen über seine Eltern oder seine unmittelbare Familie außerhalb seiner Frau. 1957 heiratete er Barbara Joyce Rupard.
Während Roy Clark in Virginia geboren wurde, wuchs er in New York auf und verbrachte die meiste Zeit in Washington, DC. Schon in jungen Jahren hatte er einen starken musikalischen Hintergrund und mit 14 begann er zu spielen Mandoline, Gitarre und Banjo. Durch sein Engagement für seine Musik gewann er zwei nationale Banjo-Meisterschaften. Neben seiner musikalischen Karriere verfolgte er auch eine Sportkarriere, versuchte sich als Baseballspieler, dann als Boxer. Schließlich beschloss er, sich auf seine musikalischen Fähigkeiten zu konzentrieren und trat mit 17 Jahren zum ersten Mal in der Grand Ole Opry auf.
Mitte der 1950er-Jahre trat Roy Clark regelmäßig in Jimmy Deans TV-Show auf, aber Dean feuerte ihn schließlich wegen seiner Verspätung. Die musikalische Karriere von Roy Clark endete jedoch nicht damit, und er spielte in den 1960er Jahren für Wanda Jackson. In dieser Zeit verfolgte er auch seine Solokarriere. 1963 unterschrieb er bei Capitol Records und nahm mehrere Hits auf, bevor er für ABC Records aufnahm.
