Многосторонняя творческая деятельность Кая Йоханнсена сконцентрирована вокруг Штутгартской соборной церкви — главной церкви Штутгарта и прилегающего региона Германии, где он выступает в роли музыкального руководителя и регента Штутгартского церковного хора (Stuttgarter Kantorei). Кроме того, Кай Йоханнсен руководит ансамблем солистов «Искусство голоса» (Stimmkunst) и Штутгартской коллегиальной филармонии. Являясь также художественным руководителем Штутгартской коллегиальной музыкальной ассоциации, он отвечает за организацию серии еженедельных концертов «Час церковной музыки», концерты в рамках которой ежегодно посещают свыше 20 000 слушателей. Постоянным источником вдохновения для Кая Йоханнсена является церковный орган с 81 регистром и 4 мануалами, построенный в 2004 году компанией «Мюляйзен» (Mühleisen).
В 2009 году основными проектами Кая Йоханнсена в качестве дирижёра были роль художественного руководителя Недели Баха Штутгартской международной академии им. И. С. Баха, запись Мессы ля-бемоль мажор Шуберта, а также выступления с «Реквиемом» Берлиоза и ораторией «Сон Геронтия» Эдуарда Элгара. В качестве органиста Кай Йоханнсен выступал с Симфонией № 8 Видора, дал концерт в Соборе Парижской Богоматери и вместе с трубачом Вольфгангом Бауэром выступил с «Осенней песней» Вильгельма фон Грюнелиуса. Кроме того, он выступал с Штутгартской филармонией с Концертом соль-минор Й. Райнбергера и Органной симфонией К. Сен-Санса.
Кай Йоханнсен активно изучает и выступает с органными произведениями Иоганна Себастьяна Баха, а в 1997 и 2007 году выступал с полным собранием его сочинений. Его выступления 2007 года были записаны на 17 компакт-дисков. 5 компакт-дисков, записанных им для серии «Академия Баха», были удостоены таких наград, как «Золотой диапазон» (Франция) и награда Германской ассоциации звукооператоров «Золотой Бобби». Помимо органных произведений, Кай Йоханнсен выступает в качестве пианиста, камерного исполнителя и дирижёра и с другими произведениями Баха, такими как Вариации Гольдберга, Бранденбургские концерты и «Страсти по Матфею».
Благодаря глубокому изучению старинной музыки концертный репертуар Кая Йоханнсена, помимо произведений Баха и импровизаций, также включает произведения немецких и французских композиторов-романтиков. Эта часть его репертуара нашла отражение в компакт-дисках с записями произведений Мендельсона, Брамса, Регера, Видора, а не так давно и Вьерна (24 «Пьесы-фантазии», записанные в дрезденской Церкви Богородицы).
Одной из любимейших музыкальных форм Кая Йоханнсена является импровизация. Гармония его импровизаторского стиля напоминает Тернемира, Алена и Дюрюфле, а в ритме его импровизаций просматривается влияние джаза. Записи его импровизаций по мотивам рождественских и пасхальных гимнов вышли на двух компакт-дисках, на некоторое время снискавших огромную популярность среди любителей музыки.
Кай Йоханнсен выступал в качестве солиста и аккомпаниатора со многими широко известными ансамблями. Его можно услышать на компакт-дисках Берлинского филармонического оркестра под управлением Клаудио Аббадо (Бах, Моцарт), Штутгартского филармонического оркестра под управлением Габриэля Фельца (Штраус, Скрябин), а также на записи Псалмов Чарльза Айвза, сделанной Вокальным ансамблем Юго-западного радио (Германия) под управлением Маркуса Крида. Компакт-диск с записью шести сонат И. С. Баха для клавесина и скрипки, сделанной Каем Йоханнсеном совместно со скрипачкой Кристиной Буш, получил много лестных отзывов.