Jim Boeheims erste Ehe, die ungefähr 18 Jahre dauerte, dauerte von 1976 bis 1994. Seine erste Frau war Elaine Boeheim, mit der er eine Tochter hat, Elizabeth, jetzt Junior am Colby College in Maine ab 2015.
Boeheim, der derzeitige Cheftrainer der Herren-Basketballmannschaft der Syracuse University, ist jetzt mit Juli Boeheim verheiratet, mit der er drei Söhne hat: James Arthur III und die Zwillinge Jack und Jamie. Die beiden sind seit 1997 verheiratet. Nachdem Boeheim 2001 an Krebs erkrankt war, gründeten sie gemeinsam die Jim and Juli Boeheim Foundation, die sich der Kinderfürsorge sowie der Krebsbehandlung und -prävention widmet.