1963年，时任农垦部部长的王震将军，为创作反映军垦战士战天斗地精神的纪录片《军垦战歌》，特意邀请了几位他熟悉并信任的诗人、记者前往新疆。受邀者包括郭小川（时任《人民日报》特约记者）、贺敬之与柯岩夫妇等。
采风活动从1963年7月开始，持续了约半年时间。诗人们几乎走遍了新疆大地，深入兵团基层，特别是当年11月抵达了南疆的第三师前进总场。在那里，他们亲眼目睹了军垦战士在戈壁沙漠中创造良田的火热劳动场面，深受震撼。
贺敬之还访问了359旅的老战士和来自上海的支边青年，与他们同吃同住，积累了丰富的素材和情感。《西去列车的窗口》最终于1963年底在新疆阿克苏创作完成。其创作灵感直接来源于诗人在西行列车上与支边青年的深入交谈，以及新旧两代“战士”精神传承的感人场景。
这首诗于1964年1月22日在《人民日报》发表后，立即引起了巨大反响。诗中“在九曲黄河的上游，在西去列车的窗口……”等激昂又深情的诗句，迅速被广大青年传抄、朗诵，成为了一个时代的精神号角。