Las Comunidades Judías comenzaron a organizarse en Ceuta y Melilla en el siglo XIX, y en La España peninsular en los años de la Primera Guerra Mundial, aunque la vida judía en Sevilla, Madrid y Barcelona existía desde el último tercio del siglo XIX, celebrándose el culto de las festividades religiosas en domicilios particulares.

Entre 1914 y 1918 se crearon las sinagogas de Madrid, Barcelona y Sevilla, que perduraron hasta la guerra civil. El primer gobierno franquista cerró las sinagogas e ilegalizó a las comunidades judías en la Península (no en Ceuta ni en Melilla, y por supuesto no en el Protectorado de España en Marruecos) hasta el final de la segunda guerra mundial.

A partir de 1945 se empezaron tímidamente a abrir oratorios judíos en estas ciudades, pero las comunidades como tales continuaron ilegalizadas, hasta 1964 en que se legalizaron no como comunidades religiosas sino dentro de la ley de Asociaciones Políticas que el régimen franquista estableció en el marco de los llamados “Veinticinco Años de Paz”.

En  ese mismo año de 1964 las comunidades de Madrid y  Barcelona crearon el llamado Consejo Comunal Israelita, cuyo primer Secretario General fue D. Carlos Benarroch.

En 1967 el régimen franquista aprobó una Ley de Libertad Religiosa (en realidad un sistema de tolerancia similar al establecido por la Constitución de 1876), y a su amparo se fueron creando comunidades en Málaga, Alicante, Valencia, Palma de Mallorca, Tenerife, Las Palmas y posteriormente en Torremolinos y Marbella.

La Constitución de 1978 y la Ley orgánica de Libertad Religiosa de 1980 crearon un nuevo marco para las minorías religiosas. Con fecha del 16 de Julio de 1982 se creó por las Comunidades Israelitas de Barcelona, Ceuta, Madrid y Melilla, la Federación de Comunidades Israelitas de España, de conformidad con La ley de Libertad religiosa 7/1980 de 5 de Julio y el Real Decreto de 9 de enero de 1981. A la Federación se fueron incorporando las distintas comunidades judías del país. En el año 2004 la Federación cambió su nombre por el de Federación de Comunidades Judías de España.

Inicialmente la representación máxima de la Federación la ostentaba el Secretario General hasta que veinte años después, en el 2002, se cambiaron los estatutos para pasar a un régimen presidencialista. El primer Secretario General de la Federación, creada en 1982, fue D. Samuel Toledano. En 1994 asumió el cargo D. Carlos Schorr quien lo desempeñó hasta el año 2003. Con el cambio de Estatutos, la FCJE ha sido presidida por Jacobo Israel Garzón  entre los años 2003 y 2011 y desde abril de 2011, por D. Isaac Querub Caro.