1874年 (明治7年) アメリカ長老教会宣教師クリストファー・カラゾルス (Christopher Carrothers) が田村直臣や原胤昭をはじめとする築地大学校の生徒達や東京基督公会の安川亨などと東京第一長老教会を設立しカラゾルスが仮牧師に就任。
1876年 (明治9年) カラゾルス仮牧師が辞任。О・М・グリーン (Oliver Olsmby Maclean Green) が仮牧師に就任。
1878年 (明治11年) 芝区露月町 (ろげつちょう、現在の港区新橋五丁目) へ移転し、芝露月町教会に改称。安川亨牧師が初代牧師に就任。
1884年 (明治17年) 虎ノ門教会と合併し、芝教会に改称。芝区愛宕町 (現在の港区西新橋三丁目) に移転する。和田秀豊牧師が2代目牧師に就任。
1888年 (明治21年) アメリカ長老教会の援助により煉瓦造3階建ての会堂が建立される。
1901年 (明治34年) 石原保太郎牧師が3代目牧師に就任。
1906年 (明治39年) 石原保太郎牧師が日本基督教会伝道局の招聘により満州に派遣されたため無牧となる。
1908年 (明治41年) 星野光多牧師 (両国教会と兼牧) が4代目牧師に就任。
1920年 (大正9年) 富田満牧師が5代目牧師に就任。
1922年 (大正11年) 新会堂建立。
1923年 (大正12年) 関東大震災により会堂焼失。
1924年 (大正13年) 木造仮会堂を建立。
1936年 (昭和11年) 東京府東京市芝区西久保桜川町14番地の新会堂に移転。
1941年 (昭和16年) 日本基督教団創立。日本基督教会大会議長だった富田牧師が教団統理に就任。
1943年 (昭和18年) 東京都芝区西久保桜川町14番地に地名変更。東京都制施行による。
1943年 (昭和18年) 会堂が政府に徴用されたため渋谷区栄通に仮移転。
1945年 (昭和20年) 終戦により徴用解除され、元の会堂に復帰。
1947年 (昭和22年) 東京都港区芝西久保桜川町14番地に地名変更。芝区が赤坂区・麻布区と合併して新たに港区が成立したため。
1961年 (昭和36年) 稲垣徳子牧師が6代目牧師に就任。
1977年 (昭和52年) 東京都港区虎ノ門一丁目20番15号に地名変更。住居表示実施のため。地名から「芝」の名前が消えるが、当教会は名称変更せずそのまま「芝教会」を名乗る。
2001年 (平成13年) 齋藤正彦牧師が7代目牧師に就任。
2002年 (平成14年) 山本尚忠牧師が8代目牧師に就任。
2003年 (平成15年) 当ウェブページ開設。
2005年 (平成17年) 松下恭規牧師が9代目牧師に就任。
2013年 (平成25年) 石井道夫牧師が10代目牧師に就任。
2015年 (平成27年) 虎ノ門一丁目地区第一種市街地再開発事業として都市計画決定。会堂はこの中のA-2街区 (教会棟) として建て替えられることになる。
2016年 (平成28年) 再開発事業の進捗に伴い仮会堂 (港区虎ノ門一丁目16番4号 アーバン虎ノ門ビル内) に移転。
2017年 (平成29年) 再開発事業 建設工事着工
2019年 (令和元年) 東京都港区虎ノ門一丁目17番3号に地名変更。再開発による街区変更のため。
2020年 (令和2年) 建築工事完了公告を受け教会棟が芝教会の新会堂として献堂される。これを受け仮会堂から新会堂に戻り礼拝を守り始める。しかし新型コロナウイルス感染症の影響により、すべての礼拝と諸集会の休止措置に追い込まれる。
2023年 (令和5年) 新型コロナウイルス感染症の5類感染症移行を受け、礼拝、聖餐式及び一部の集会を通常通りに守り始める。