Ende 1945 wurde Schmidt nach Cordingen, einem kleinen Dorf in der Lüneburger Heide, entlassen. Dort wohnte er mit seiner Frau in einem kärglich eingerichteten Zimmer im Mühlenhof der Cordinger Mühle. In Schwarze Spiegel beschreibt Schmidt seine damalige Wohnung, in die er den Ich-Erzähler einbrechen lässt:
... „diesmal kam ich von hinten in den Mühlenhof; […] : armselige Einrichtung : ein Bett mit Bretterboden, ohne Kissen und Federbetten, bloß 5 Decken. Ein zerwetzter Schreibtisch, darauf zwanzig zusammengelaufene Bücher in Wellpappkartons als Regälchen; ein zersprungener winziger Herd (na, der hat das große nasse Loch auch nicht erheizen können !) […]. Papier in den Schüben; Manuskripte; ‚Massenbach kämpft um Europa‘; ‚Das Haus in der Holetschkagasse‘; ergo ein literarischer Hungerleider, Schmidt hatte er sich geschimpft.“
Schmidt arbeitete zunächst als Dolmetscher in der Hilfspolizeischule in Benefeld. Nach deren Auflösung Ende 1946 entschloss er sich, fortan als freier Schriftsteller zu leben. Die folgenden Jahre waren – wie für einen großen Teil der deutschen Bevölkerung – von einer Armut bestimmt, die in sein Werk Eingang fand, v. a. in die in Cordingen entstandene Erzählung Brand’s Haide. Ohne die CARE-Pakete seiner in Amerika lebenden Schwester wäre er, so gestand er in einer Widmung, „längst verhungert“. Noch 20 Jahre später beklagte er: „Wir hatten ja nicht einmal SchreiPapier in jenen Jahren, dicht nach ’45; mein ‹Leviathan› ist auf TelegramFormulare notiert“.1946 schrieb Schmidt die Erzählungen Leviathan und Enthymesis, 1948 Gadir, die der Rowohlt Verlag 1948 zur Veröffentlichung annahm. Zum Vertragsabschluss fuhren die Schmidts, die sich eine Zugfahrt nicht leisten konnten, mit dem Tandem nach Hamburg. Auch der Vertrag mit dem Rowohlt Verlag, der selbst in finanziellen Schwierigkeiten steckte, und die Veröffentlichung des Erstlings Leviathan 1949 konnten Schmidts finanzielle Notlage aber nicht beenden. Sie wurde durch Mietstreitigkeiten noch verschärft.
1950 wurde ihm – gemeinsam mit vier Kollegen – der Große Akademie-Preis für Literatur der Mainzer Akademie zuerkannt, den er aus den Händen seines Vorbilds Alfred Döblin entgegennehmen konnte. Das Preisgeld von 2000 DM sorgte vorübergehend für eine finanzielle Entspannung. Derweil wurden die Schmidts nach Gau-Bickelheim bei Mainz, d. h. in die französische Besatzungszone, umgesiedelt, eine Erfahrung, die Schmidt später in Die Umsiedler (1953) gestaltete. Hier entstand die Erzählung Schwarze Spiegel. Schon 1951 zog das Paar dann nach Kastel an der Saar um. Hans Werner Richter, Martin Walser, Alfred Andersch und Schmidts zeitweiliger Verleger Heinrich Maria Ledig-Rowohlt drängten Schmidt 1949 und 1953, sich an den Tagungen der Gruppe 47 zu beteiligen, doch der lehnte auch ab, als Ledig-Rowohlt andeutete, er könne den Preis der Gruppe erhalten: „Ich eigne mich nicht als Mannequin; lassen Se man […] Ich nähre mich lieber redlich und still vom Übersetzen als von literarischer 175erei“.
