Карл Фредерик Кэнделл Палмер родился 20 марта 1950 года в Хедсуорте (Великобритания). Видимо, будущая профессия мальчика была предопределена с младенчества, поскольку все в его семье были музыкантами: дед играл на барабанах, бабушка была виолончелисткой симфонического оркестра, отец пел, танцевал играл на ударных, мать также владела различными инструментами. В детстве старший бат Карла решил пойти по стопам отца и деда и выбрал барабан и гитару, а сам он, по примеру бабушки, стал изучать классическую виолончель. Однако, увидев в 1959 году фильм «Drum Crazy», Карл был очень впечатлён, а его новым кумиром стал Бадди Рич – легендарный ударник. Семья поддерживала любые музыкальные увлечения детей, поэтому уже на одиннадцатилетние Палмер плучил в подарок свою первую барабанную установку. Последующие несколько лет Карл усердно осваивал инструмент и совершенствовал свою технику, при этом постоянно давал публичные выступления: сначала играл в коллективе отца, а затем выступал в оркестросм на местной радиостанции. Уже в четырнадцать лет Палмер играл в профессиональном коллективе «The Mecca Dance Band», через год он перешёл в другую группу, но и там пробыл недолго. В шестнадцать лет Карл Палмер уже имел репутацию серьезного барабанщика, ещё два года он оттачивал своё мастерство группе The Thunderbirds, игравшей блюзовую музыку и соул, кстати, продюсером группы был сам Мик Джаггер. Когда Палмеру исполнилсь восемнадцать лет, он получил приглашении занять место ударника в популярном на то время коллективе The Crazy World of Arthur Brown после того, как из него ушёл Драхен Такер. Группа в этот момент пребывала на пике славы, и Карл отправился в её составе в большое турне, в котором вместе с ними выступал легендарный Джимми Хендрикс.. Однако, отношения Палмера с новой группой не залаладились, к тому же подводило здоровье, поэтому окончания гастролей Карл возвращается на родину и вместе с гитаристом Вингсентом Крэйном создаёт собственную группу  Atomic Rooster. Публика очень хорошо приняла новый коллектив, игравший очень популярный в конце шестидесятых прогрессив-рок, их композиции занимали высокие позиции в чартах Великобритании, а дебютный альбом, содержавший множество сольных партий Палмера на ударных, принеё музыканту репутацию виртуозного барабанщика. В 1970 году на молодого талантливого музыканта обратили внимание Грег Лейк, основатель группы King Crimson, он вместе с клавишником Китом Эмерсом предлжил Карлу проити прослушивание для новой группы. Палмер пришёл на прослушивание, сыграл, и сразу был принят. Первые концерты нового коллектива Emerson, Lake & Palmer были не очень успешны, причиной тому, возможно, были слишком большие ожидания фанатов  от именитых музыкантом, либо неожиданный выбор репертуара  (коллектив взялся за создание кавер-версий классических произведений), который не был понят публикой. Однако, первый же альбом группы занял пятое место в британских чартах, и недавний провал был тут же забыт. Хит «Lucky Man» сделал их чрезвычайно популярными.