Az Eötvös Loránd Tudományegyetem (ELTE TTK) Ásvány-Kőzettani Intézetének keretein belül 1950-ben az MTA támogatásával létrehoztak egy kis létszámú, de jól finanszírozott kutatócsoportot a geokémia fejlesztése céljából. Ezen alapulva, 1955. jan. 1-jén, az akkor önállósuló Kőzettan-Geokémiai tanszékhez kapcsolódva, azzal Szádeczky-Kardoss Elemér, akadémikus, tanszékvezető révén perszónál unióban hozták létre az MTA Geokémiai Kutatólaboratóriumát (GKL) az ELTE TTK Budapest, VIII. ker. Múzeum krt.4/a. épületében.

Az 1956-ban bekövetkezett kisebb visszaesés után a következő 20 évben a kutatóhely - az MTA más intézményeihez hasonlóan - extenzíven fejlődött Szádeczky-Kardoss Elemér akadémikus igazgató irányításával. A személyzeti állomány 1974-re 26 fős volt, amelyből 15 fő volt a kutató. A kor szintjén modernnek számító nagyműszer parkkal rendelkezett. Mindennek következtében sokirányú tematikát műveltek sikeresen a GKL-ben, amelyek nagy része az országban úttörő jelentőségű volt.

Az igazgató nyugdíjba vonulásával - az MTA koncentrációs törekvései miatt - másik négy természettudományos kutatóhellyel összevonva, az 1975.jan. 1-jével újonnan alapított MTA Természettudományi Kutatólaboratóriumai (MTA TTKL) keretében működött tovább a GKL, tudományos és személyzeti-gazdálkodási önállóságának megtartása mellett, az MTA újonnan épített Budapest, XI., Budaörsi út 45. sz. alatti Kutatóházában. A GKL igazgatója Pantó György lett, aki 1999-ig folyamatosan vezette a kutatóhelyet. A kor követelményeinek megfelelően az alapkutatások mellett az alkalmazott kutatás és a gyakorlati feladatok ellátása iránti fogékonyság növekedett. Így a korábbi kutatási irányzatok részben átalakultak, részben a nemzetközi trendhez igazodva újabb témacsoportok jelentek meg (pl. RFF-ek geokémiája, csillámszerkezetek és agyagásványok szerkezet kutatása kőzet genetikai és szerkezetfejlődési céllal, biomarkerek alkalmazása a szénhidrogén-genetikában, környezet geokémia, később izotóp geokémia). Ennek megfelelően, a korábbi nagyműszerek elöregedésével ezek újakkal történő pótlása, valamint újabb nagy-műszer (tömegspektrográf) bevezetése történt. Mindez a nemzetközi kapcsolatok nagymérvű fejlesztésével, valamint a hazai ipari kutatással történő széleskörű együttműködéssel valósulhatott meg.

A GKL igazgatója, Pantó György 1990-ben az MTA lev. tagja, majd 1995-ben rendes tagja lett, Árkai Pétert pedig 1998-ban levelező taggá választották.

Az MTA konszolidációs törekvéseinek megfelelően 1998. január 1-jén megszüntették a korábbi MTA TTKL-t és egyben létrehozták az MTA Földtudományi Kutató Központot (MTA FKK), amelynek keretében a GKL másik két földtudományi kutatóhellyel összevontan, de továbbra is önálló tudományos személyzeti és gazdálkodási irányítással, Árkai Péter, az MTA lev. tagja igazgatásával folytatta munkáját. Az FKK főigazgatója Pantó György akadémikus lett, aki az Igazgató Tanács közreműködésével koordinálta az új intézmény közös ügyeit. 2005 január 1-től az FKK (és benne a Geokémiai Kutatólaboratórium) - névváltoztatással - tudományos, jogi és gazdasági szempontból önálló Geokémiai Kutatóintézetté (GKKI) alakult át. A GKKI székhelye változatlanul az MTA Budaörsi úti Kutatóháza maradt. A GKKI az MTA Földrajztudományi Kutatóintézetével és Geodéziai és Geofizikai Intézetével együtt az MTA Földtudományi Kutatóintézeteinek Társulását hozta létre. 2008. január 1-től a Geokémiai Kutatóintézet igazgatója Demény Attila, akit az MTA közgyűlése 2010-ben levelező, 2016-ban rendes tagnak választott.

Az intézet 2012. január 1-től az MTA Csillagászati és Földtudományi Kutatóközpontjában, Földtani és Geokémiai Intézet néven működik, igazgatója Demény Attila akadémikus. A kutatóközpont a Magyar Kutatási Hálózathoz (HUN-REN) tartozik.