Der Schauplatz von Eugenias Colliers "Sweet Potato Pie" ist ein Zimmer im 14. Stock eines noblen Hotels an der Fifth Avenue in New York City. Ein Großteil der Kurzgeschichte spiegelt die Erinnerungen des Erzählers an Armut seiner Familie.
Der Schauplatz für einen Teil der Geschichte ist die Wohnung in Harlem, in der Charley, der Bruder des Erzählers, lebt. In dieser Umgebung trifft sich der Erzähler Buddy mit Charley und seiner Familie. Der Dialog in diesem Teil von "Sweet Potato Pie" zeigt deutlich, was Charley für seinen Bruder Buddy empfindet, was durch Charleys Beharren darauf unterstrichen wird, dass Buddy die braune Papiertüte nicht ins Fifth Avenue Hotel trägt. „Ich nehme an, wir alle handeln nach den Symbolen, die für uns von Bedeutung sind“, überlegt der Erzähler, „und für Charley symbolisiert eine braune Papiertüte das bescheidene Leben, von dem er dachte, dass ich es noch hinter mir habe.“