Группа возникла в сентябре 1968 года в западногерманском городе Херминге из остатков прежде существовавшей музыкальной коммуны Amon Duul. Беглецы отказались от ортодоксальной идеологии предыдущего состава (альтернативный состав Amon Duul I выпустил только один альбом, содержащий немногим больше, чем политические декларации) и отныне избегали на своем пути "откровенной агитации с помощью лобовых текстов". Вместо богов, могил, алхимиков и прочих аксессуаров мистического репертуара зазвучали электроусиленные полеты фантазии во времена Древнего Рима. Музыканты исполняли научно-фантастический рок с религиозными оттенками.
Постепенно они улучшали качество своей музыки, синтезируя ее из андеграундных ораторий с джазовыми импровизациями, толикой хард-рока и звуковой экзотикой. Помимо наивного подражания Pink Floyd, оркестральной шок-электроники Mothers of Invention и психоделического рока Jefferson Airplane, музыканты из Amon Duul II привнесли в свое звучание так много виртуозности, что в 1972 году Melody Maker утверждал, что они "являются первой немецкой группой, ставшей неотъемлемой частью международной музыкальной сцены". В своей арт-роковой направленности группа много позаимствовала у Штокхаузена и первых апологетов синтезаторной музыки, желая "вернуть широкую популярность музыке типа бетховенской".