Die Deutsch-Jemenitische Gesellschaft wurde am 25. Juli 1970 in Schwaig bei Nürnberg gegründet. Gründungsväter waren die Journalisten und Schriftsteller Joseph U. Graf und Rudolph E. Bollinger. Beide hatten früh den Teil des Jemen bereist, der bis 1967 unter britischer Oberhoheit stand. Sie waren begeistert von der herben Schönheit des Landes zwischen Aden und dem Hadramaut. Die Gastfreundschaft der Menschen und ihrer Stammesfürsten fesselten Graf und Bollinger. Ihr Interesse richtete sich auch auf den Bergjemen, die Arabische Republik Jemen, als dort 1969 der Bürgerkrieg erlosch. Nun war für Joseph U. Graf die Zeit gekommen, einen Verein der Freunde des Jemen, eben die DJG, zu organisieren. Er wurde an jenem 25. Juli 1970 zu ihrem Ersten Vorsitzenden gewählt.

1981 wurde Prof. Dr. Horst Kopp zum Ersten Vorsitzenden der DJG gewählt. Unter seiner Leitung meisterte der Verein die Herausforderung der Hochkonjunktur des Jemen-Tourismus. Geograph von Beruf, war es Horst Kopp möglich, die DJG und folglich deren Klientel mit den ersten verlässlichen Landkarten des Jemen auszustatten. Als Herausgeber des Jemen Report, der er bis heute ist, verbreitete Horst Kopp qualifiziertes Wissen über den Jemen und half vielen Erstreisenden, das Land zu verstehen.

Im Mai 1994 übernahm Peter H. Hellmuth den Vorsitz der DJG. Mit der Vereinigung beider Jemen-Staaten 1990 waren dem Tourismus neue Landesteile erschlossen worden, und mit der deutschen Wiedervereingung gelangte auch viel Sachverstand aus der DDR hinsichtlich des zuvor sozialistisch regierten Südjemen in die DJG. Insbesondere wurden die Mitglieder der ehemaligen Freundschaftsgesellschaft DDR-Südjemen integriert, so dass der DJG auch ein Fundus von Wissen, z.B. über die bis dahin geheimnisvolle Insel Sokotra im Arabischen Meer, zufiel.

Aus dem Kreis der Gründungsmitglieder von 1970 nehmen nur noch zwei Zeitzeuge eine offizielle Funktion im Verein wahr: Prof. Dr. Walter W. Müller und Peter Wald als Beiratsmitglieder.