Эппис и Богерт сразу взяли курс на игру хард-рока с элементами блюза, акустического буги и (позже) кантри. Был подписан контракт с филиалом Atlantic Records Atco Records (на котором ранее были подписаны и Vanilla Fudge), был ангажирован продюсер Билл Шталь, и началась работа над одноимённым дебютным альбомом. Он вышел в 1970 году. На нём 8 песен, 2 из них (Parchman Farm Моуза Эллисона и You Can\'t Judge A Book By The Cover Вилли Диксона), остальные - группового сочинения, в том числе No Need To Worry, длина которой на концертах доходила до 25 минут, Oleo с бас-гитарным соло Богерта и Feel So Good, где Эппис исполняет соло на ударных. В целом, за исключением полуакустической баллады My Lady From South Of Detroit, альбом выдержан в хард-блюзовой стилистике с влияниями буги-рока. С обложкой были определённые проблемы, поскольку начальству лейбла не понравилось изображение кактуса на ней.
Cactus выступали вместе с Джими Хендриксом (на последнем году его жизни), Grateful Dead и другими именитыми группами, но их часто спешно снимали с гастролей из-за того, что они зачастую имели, по мнению консервативных промоутеров, слишком большой успех у публики. Участники группы (Джим МакКарти в меньшей степени) вели ярко выраженный \"антиреспектабельный\" способ жизни - дебоширили, наркоманили, громили номера гостиниц, в которых останавливались. Оззи Осборну (как вспоминает Богерт) выступление Cactus на разогреве у Black Sabbath чуть не стоило жизни. На концертах Cactus пускались, как уже отмечалось выше, в 20-минутные импровизации, а Дэй порой иронично коверкал названия залов, где они выступали. У Дэя вообще создался яркий бунтарский образ, и, как говорили позже, \"он был типичный хиппи, боровшийся против жестоких социальных клише\". Бунтарство Дэя нашло своё отражение в текстах песен \"Hometown Bust\", \"Restrictions\" и \"Bag Drag\". Именно на него было направлено большинство критики в адрес Cactus.
К 1971 году у группы появился новый, более известный, продюсер - Эдди Крамер. Он спродюсировал два их следующих студийных альбома. Первый из них - \"One Way Or Another\". Благодаря Крамеру, качество записи улучшилось, и материал лучше - в музыкальном и текстовом плане. Акустической гитары (в основном той, что Джиму МакКарти некогда подарил Джими Хендрикс) значительно больше, и это видно по попурри Big Mama Boogie, и Song For Aries. Эта композиция, кстати - первый инструментал Cactus. Rockout Whatever You Feel Like - первая композиция группы, где поёт Богерт. А ещё на альбоме есть каверы на песни Long Tall Sally (Литл Ричард) и Feel So Bad (Чак Виллис), наиболее известный заглавный трек, One Way Or Another, вышеупомянутая Hometown Bust, и Rock\'N\'Roll Children. Всего 8 композиций, как и на первом альбоме.
Второй альбом, спродюсированный Крамером - \"Restrictions\". К 1971 году всплыли композиторские противоречия между Богертом и МакКарти, и на половине записи альбома МакКарти ушёл из группы. Из-за этого на песне \"Token\' Chokin\'\" на гитаре играет Рон Ли Джек. Среди остальных композиций присутствуют кавер на ещё одну песню Вилли Диксона \"Evil\", вышеупомянутые политизированные треки \"Restrictions\" и \"Bag Drag\", скрыто политизированный акустический инструментал \"Mean Night In Cleveland\", самая длинная студийная композиция Cactus \"Guiltless Glider\" с небольшим соло на ударных и менее известные треки \"Alaska\" и \"Sweet 16\".
Вслед за МакКарти ушёл и Расти Дэй, под сильным давлением Atlantic, а на замену ему пришёл Пит Френч из группы Leaf Hound (с ними он играет до сих пор). Рон Ли Джек в Cactus долго не задержался, и на замену ему пришёл Вернер Фритчлингс. Ангажировав ещё и клавишника Дуэйна Хитчингса, Cactus записали свой четвёртый альбом Hot\'N\'Sweaty. Три первых трека (Swim, Bad Mother Boogie, Our Little Rock\'N\'Roll Thing) - с фестиваля Mar de Sol-Y-Pop в Пуэрто-Рико, 3 апреля 1972 года. Ещё четыре трека (Bad Stuff, которую многие считают лучшей композицией состава Эппис-Хитчингс-Богерт-Френч-Фритчлингс, Bringing Me Down, Bedroom Mazoorka, Telling You), а также полуминутная композиция Underneath The Arches - записаны в студии.
Постоянные замены в составе и окончательное восстановление Джеффа Бека подтолкнули Эпписа и Богерта к тому, чтобы распустить Cactus вообще. Группа Beck, Bogert & Appice наконец-то была создана, но долго не просуществовала. Тем временем Хитчингс набрал новых музыкантов, и, выступая как The New Cactus Band, выпустил один альбом. Расти Дэй несколько раз выступал как Cactus в конце 1970-х годов, а 6 марта 1982 года погиб от неудачной наркосделки.
В 2006 году Эппис, Богерт и МакКарти воссоздали Cactus, вместе с вокалистом Джимми Кьюнзом, бывшим участником Savoy Brown, выступили 9 июня 2006 года на фестива