OFAJ je 1962. godine osnovao Joseph Rovan, francuski Židov koji je preživio koncentracijske logore u Njemačkoj, te je shvatio kako duboko neprijateljstvo između dvije države ne može biti zaustavljeno nasiljem i ratom, već boljim upoznavanjem, razumijevanjem i tolerancijom druge strane.