Gründe:

I. Im Rahmen einer Steuerfahndungsprüfung war in den Unterlagen des Klägers und Beschwerdeführers (Kläger) eine Rechnung vom 20. Juli 1990 gefunden worden, in der der Kläger Umsatzsteuer in Höhe von 110 623,54 DM gesondert ausgewiesen hatte. Der Beklagte und Beschwerdegegner (das Finanzamt --FA--) erhöhte die Umsatzsteuer für 1990 gemäß § 14 Abs. 3 des Umsatzsteuergesetzes (UStG) 1980 um die ausgewiesene Steuer.

Im Jahr 1996 berichtigte der Kläger die Rechnung vom 20. Juli 1990. Das FA setzte die Umsatzsteuer für 1996 jedoch fest, ohne die Berichtigung zu berücksichtigen. Die hiergegen erhobene Klage nahm der Kläger zurück.

Mit Antrag vom 16. Juni 1998 beantragte der Kläger den "Erlass der Umsatzsteuer 1996 gemäß § 227 AO ". Das Finanzgericht (FG) gab der Klage mit Urteil vom ... statt und tenorierte wie folgt: "Unter Aufhebung des ablehnenden Verwaltungsaktes ... wird die Umsatzsteuer in Höhe von 110.623,54 DM (56.560,92 EUR) erlassen." Das FA verstand das Urteil als Verpflichtung zum Erlass einer entsprechenden Verfügung, die es am 8. Juli 2003 erließ.