芝山岩遺址的發現，是在1896年，日本教師 粟野傳之丞在芝山岩山腳下拾獲像是石斧的石器，可說是台灣考古史上最早被發現的史前文化遺址。

芝山岩為一座孤立小山，舊名「圓山仔」。是一座第三紀之砂岩小山。其頂部平坦，係「松山期臺北湖」時代，小山沒入湖中，海浪沖打山頂而形成的台地。今日在山頂和山坡的岩石上，仍可見到被海浪沖打所留下的痕跡。山的總面積約25000平方公尺，山頂平坦約8000平方公尺。山頂海拔高度約40公尺，山下周圍平地海拔約7公尺。在史前時代，山頂、山坡及山下周圍平地，皆可作人類棲息活動之所。芝山岩600 萬年前，隨今日台灣露出海面後未完全改變，忠實紀錄台北盆地的滄海桑田，是台灣唯一有7個文化層之處。

在六千年前，古台北盆地還是一個鹹水湖，當時露出湖面的僅有芝山、圓山、寶藏巖三處較高之小山丘，也就是三座島嶼，其餘地方全被湖水淹沒。後來經長期泥沙淤積，湖水因湖緣切割陸續流失，才慢慢變成沼澤地，進而再現台北盆地的原貌。

芝山岩在六百年前，凱達格蘭族的支系毛紹翁社原住民就到此，過著漁獵游耕的生活，從遺址中出土人工栽培的炭化稻穀，配合大量的農具，可知當時一定有精熟的稻作，大量的鹿、豬、羌、魚的殘骸，可知當時人亦盛行狩獵、漁撈。這個文化在台灣找不出它的源始，學者推測可能來自於浙南閩北地區沿海一帶。

康熙初年，居住在唭哩岸附近的漳州人，和番人達成開發此地區的協議，因此，漳州族群遷居而入住此地。芝山岩原座落在「芝蘭街」，在早期被命名為「芝蘭山」。漳州人落居此地後，為了紀念家鄉漳州的勝地－芝山，而將他更名為「芝山岩」。

經清領時期、日治時期、國民政府時期，先後以保安林和天然紀念物、文化遺跡、或情報局軍事重地等來保護，一律不准開發。所以芝山文化生態綠園的展示舘及探坑，保留了豐沛的考古、人文、地質、生態資料，走訪綠園就像開啟一座秘密的寶庫。 

芝山文化生態綠園在2005年12月31日，由當時擔任台北市長的馬英九先生主持開幕儀式，從此台北市民多了一個既有文化，又有自然生態的公園。到此一遊一方面可做森林浴，另一方面更可做一次豐盛的文化饗宴，她可使我們體會到老祖先的生活點滴，及台北城市的歷史印記。

1945年美軍航照圖
(中研院 人文社會科學研究中心地理資訊科學研究專題中心 台北市百年歷史地圖)

1945年，日治時期結束，芝山岩在日治時期被指定為天然紀念物，從美軍的航照圖中看出，山上僅有左側惠濟宮與右側的神社，芝山岩周圍多為農田。

1967年台北市舊航照影像
(中研院 人文社會科學研究中心地理資訊科學研究專題中心 台北市百年歷史地圖)

到了1967年，隨著台北市人口成長，芝山岩山腳下與周圍開始有聚落產生，四周出現了許多的房子。芝山岩的山頂上也因為人為活動的影響，有些區域裸露出來，呈現白色。

2019年台北航照圖(Google Earth)

到了現今，已經看不出芝山岩周圍有農田存在的痕跡，芝山岩周圍已經被許多的房子所包圍，芝山岩成為都市中的一顆綠寶石，且芝山岩上的植物也長得更加茂密，成為都市中的動植物的棲息地，就像是都市叢林中綠寶石!