成功湖的來源，諸說紛紜，最常聽見的說法是日治時期人工開鑿的消防池。但其實早在日本人進駐赤土崎興建軍事工廠前，此湖的紀錄已然浮現紙面：1904年，日本人繪製的《臺灣堡圖》上，十八尖山之下，竹塹城通往竹東跟寶山的阡陌之間，未得真名的湖泊，但已隱約可辨其形。到了1920年代，透過更為精準的測量法，在二萬五千分之一《臺灣地形圖》上，我們終於清晰看見它的身影。
時間來到日治後期，1943-1944年，隨著戰爭的腳步聲，第六海軍燃料廠新竹支廠（以下簡稱六燃）以飛快的速度被建設起來。現今本校部分區域在當時屬於工廠的福利設施地帶，如：海軍醫院、宿舍區、軍官俱樂部等，日籍高級技師及軍官宿舍區即位於成功湖旁邊（現今工研院光明新村），而成功湖也被改建為該廠的消防蓄水池，池中有管道穿越光復路，通往北面的燃料廠。
二戰結束，原屬六燃的土地設施，由經濟部和國防部共同接手，但交接後此地並沒有進一步的生產活動，原屬軍事工廠的管制區域，被封印起來，荒煙蔓草再度掩蓋了人類活動的痕跡。
1949年，中央政府遷臺，隨之到來的大批軍眷需要安置，被管制起來的六燃廠區，當時部分屬國防部接管。於是，六燃大煙囪廠房（約今建美路一帶）周圍，各式眷村的眷舍迅速建立起來。帶著一家一戶的煙火氣，人群再度回到湖邊。除了隔著光復路遙望的眷村外，距離成功湖更近的，是居住在原日本高級技師宿舍的中油研究人員。
1950年代，新竹研究所成為中油的訓練中心，負責石油鑽探專業人員的招募與培訓工作，聯合國與美國也陸續派員來臺協助，在新竹研究所上課。研究人員就近住在湖畔宿舍（現光明新村），每日往返，必經過消防池，他們覺得很像紐約長島的Lake Success，便以此名暱稱之，不過還不夠響亮，只在少部分人的口耳相傳間。
1955年，清華在臺建校之際，四處尋覓校址，後落腳新竹。中油與縣政府先後劃撥土地，供清華興建原子爐及拓展校地，成功湖也被納入清華校園中，成為「水木清華」不可或缺的一份子。
朱樹恭教務長回憶，當初為湖命名之際，想起了聯合國（臨時）總部所在的Lake Success，故建議以「成功湖」為名，校方考量到「成功」的美好寓意，便據此定名。朱教務長此前曾任新竹研究所的代所長，想必他是聽過這個研究人員口耳相傳的暱稱，故而沿用之。
以臺灣的歷史脈絡來看，但凡以「成功」為名的標的物，易使人聯想到鄭成功，清華的成功湖在這點上倒顯得獨樹一幟，源起於近代中美合作的時空背景。
