作曲家としては、ピアノ協奏曲、ピアノ独奏曲、歌曲、三重奏曲といった様々なジャンルの作品を遺しています。彼の作品で特筆すべきは、1870年に初演されたオラトリオ『ルース』(Ruth)です。この初演では、妻ジェニー・リンドがソプラノソロを担当し、これが彼女にとって最後の公的な音楽公演となりました。また、1863年にはウィリアム・スタンデール・ベネットと共に『英国の合唱読本』(Chorale Book of England)を共同で編纂しており、音楽研究や教育への関心も示しています。
1887年に妻ジェニー・リンドに先立たれた後、ゴルトシュミットは彼女の芸術的遺産を後世に伝えるため、その生涯を綴った伝記『ジェニー・リンド その芸術家としての道程』(Jenny Lind. Ihre Laufbahn als Künstlerin)を1891年に出版しました。彼はその後もロンドンで暮らし続け、1907年2月24日、77歳で静かに息を引き取りました。