
Yannick H.,
TLDR;
KI-Initiativen scheitern nicht an Technologie - sie scheitern, weil sie an einer einzigen begeisterten Person hängen, die dann mal Urlaub macht. Ein pragmatisches AI Kompetenzteam mit 3-5 Personen, die je 2 Stunden pro Woche investieren, verankert KI-Kompetenz dauerhaft in der Organisation. Das Modell skaliert nicht mit Headcount, sondern mit Klarheit über Rollen, Mandat und Entscheidungskriterien.

Das Problem: KI hängt an einer Person
Kennst du das?
Du hast jemanden im Unternehmen, der wirklich Feuer gefangen hat für KI. Der alle Artikel liest, ChatGPT-Prompts testet, Copilot erkundet, intern evangelisiert. Ohne ihn gäbe es keine KI-Initiative überhaupt.
Und dann geht er zwei Wochen in die Ferien.
Und alles steht still.
Das ist kein Ausnahmefall - das ist das typische Muster, das wir in KMU immer wieder sehen. KI-Begeisterung existiert, aber als Einzelperson-Initiative, nicht als Organisationskompetenz. Sobald der "KI-Mensch" beschäftigt, krank oder weg ist, versandet alles.
Das Problem ist nicht mangelnde Motivation. Es ist fehlendes strukturelles Fundament.
Genau dafür ist ein AI Kompetenzteam da.
Was ein AI Kompetenzteam nicht ist
Bevor wir zum Aufbau kommen: Lass uns kurz über das reden, was du nicht brauchst.
Grosse Unternehmen bauen "AI Centers of Excellence" mit 20, 30, manchmal 50 Personen. Eigene Abteilung, eigenes Budget, eigene Roadmap-Zyklen, Governance-Komitees mit sechs Unterschriften. Das ist Enterprise-Denken für Enterprise-Probleme.
Als KMU mit 80 oder 300 Mitarbeitenden brauchst du das nicht. Und ehrlich gesagt wäre es auch kontraproduktiv - zu viel Struktur lädt Bürokratie ein und verlangsamt genau die Beweglichkeit, die du als KMU hast.
Was du brauchst, ist etwas Kleineres und Wirksameres.
3 bis 5 Personen. Keine Vollzeitstellen. Ein klares Mandat. Und eine regelmässige Zusammenkunft, die auch dann stattfindet, wenn der KI-Begeisterte gerade Urlaub hat.
Think about it like a working group, not a department.

Abbildung: Der Unterschied zwischen einem klassischen Enterprise AI Center of Excellence und dem pragmatischen KMU-Modell, gleiche Funktion, ein Bruchteil des Aufwands.
Die fünf Rollen - und was sie wirklich bedeuten
Hier ist die wichtigste Klarstellung: Diese Rollen sind keine Jobtitel und keine Vollzeitstellen. Es sind Funktionen, die jemand in deiner Organisation übernimmt - parallel zu seiner regulären Arbeit.
AI Champion (Geschäftsleitung)
Das ist die Person, die das Mandat vergibt und nach oben vertritt. Nicht operativ involviert, aber präsent. Wenn die Geschäftsleitung hinter dem Kompetenzteam steht, werden Entscheidungen schneller getroffen und Budget freigegeben. Wenn nicht, wird das Team nach drei Monaten still wieder eingeschlafen sein.
Die Funktion des AI Champions besteht nicht darin, selbst KI-Piloten zu leiten. Sondern darin, den Rücken freizuhalten.
AI Coordinator (Operativ)
Das ist die Person, die das Kompetenzteam am Laufen hält. Terminkoordination, Backlog-Pflege, Entscheidungen dokumentieren, Follow-ups verfolgen. In einem KMU ist das oft jemand aus der IT oder Projektleitung - jemand, der Strukturen mag und Dinge nicht einschlafen lässt.
Der AI Coordinator ist der stille Motor des Teams.
Domain Experts (2-3 Personen aus den Fachbereichen)
Das ist vielleicht die unterschätzteste Rolle. Du brauchst Menschen, die wissen, wie die Arbeit wirklich funktioniert - in Produktion, im Kundendienst, in der Buchhaltung. Ohne sie bewertest du KI-Use-Cases im Vakuum.
(Wir haben Piloten gesehen, die technisch einwandfrei waren und trotzdem gefloppt sind - weil niemand gefragt hatte, ob der Prozess so überhaupt funktioniert, wie der IT-Kollege dachte.)
Tech Lead (IT/Data)
Jemand, der die technische Seite beurteilen kann. Nicht unbedingt ein KI-Spezialist - aber jemand, der weiss, welche Daten verfügbar sind, welche Integrationen realistisch sind, und welche Anbieterversprechen mit Vorsicht zu geniessen sind.
Compliance-Vertreter
Gerade in der Schweiz, gerade mit EU AI Act, NIS2 und DSGVO im Hintergrund: Ein KMU, das KI einführt, ohne jemanden mit Compliance-Blick dabei zu haben, baut sich Risiken auf. Das muss keine Vollzeit-Compliance-Person sein - oft genügt jemand aus dem Legal- oder Risk-Bereich, der regelmässig mitliest.
Was das Team tatsächlich tut
Jetzt kommt der praktische Teil. Denn ohne konkreten Aufgabenrahmen wird aus einem "Kompetenzteam" schnell ein weiteres Treffen ohne Wirkung.
Hier sind die fünf Kernaufgaben:
Use-Case-Bewertung. Das Team sammelt KI-Ideen aus allen Bereichen und bewertet sie systematisch. Nicht jede Idee ist einen Pilot wert. Gute Bewertungskriterien: Wie hoch ist das Datenpotenzial? Wie klar ist der Geschäftsvorteil? Wie aufwendig ist die Umsetzung? Was passiert, wenn es nicht funktioniert?
Pilotbegleitung. Wenn ein Use Case in die Umsetzung geht, ist das Team nicht der Umsetzer - aber es ist der kritische Begleiter. Es stellt sicher, dass Erfolgskriterien definiert wurden, bevor der Pilot startet.
Governance-Sicherstellung. Welche KI-Tools dürfen genutzt werden? Welche Daten dürfen ins Modell? Wer genehmigt neue KI-Anwendungen? Diese Fragen müssen nicht in einem 40-seitigen Policy-Dokument beantwortet werden. Aber sie müssen beantwortet sein - am besten bevor jemand vertrauliche Kundendaten in ein öffentliches LLM tippt.
(Wir haben darüber mehr in unserem Beitrag zu KI-Governance für KMU geschrieben - wenn du dort noch keine Grundlage hast, wäre das ein guter Startpunkt.)
Wissenstransfer. Das Kompetenzteam ist die interne Lerninstanz. Was hat im Pilot funktioniert? Was nicht? Welche Tools haben sich bewährt? Dieses Wissen muss aktiv geteilt werden - in kurzen Updates, internen Demos, kurzem Schulungsformat.
Vendor-Evaluation. Der KI-Markt ist gerade laut. Jeder Anbieter verspricht Transformation in 30 Tagen. Das Kompetenzteam schafft den Filter: Welche Anbieter werden getestet? Nach welchen Kriterien? Wer trifft die Entscheidung?
Wie ihr zusammenarbeitet
Das Design des Arbeitsprozesses ist fast wichtiger als die Rollenverteilung.
Zwei Stunden pro Woche, alle zusammen. Das klingt wenig - ist es auch, bewusst. Mehr als das lädt Leute dazu ein, sich zu entziehen, weil es "zu viel Aufwand" ist. Zwei Stunden sind vertretbar.
Ein gemeinsames Backlog. Alle Use Cases, laufenden Piloten und offenen Fragen landen an einem Ort. Nicht in fünf verschiedenen E-Mail-Threads. Ein einfaches Trello-Board oder ein freigegebenes Notion-Dokument genügt.
Klare Entscheidungskriterien. Das Team entscheidet nicht alles - aber was in seinen Entscheidungsbereich fällt, braucht klare Spielregeln. Welche Use Cases gehen in den Pilot? Was kostet zu viel? Was ist aus Compliance-Gründen ausgeschlossen? Diese Regeln sollten auf einer Seite passen.
Keine langen Protokolle. Entscheidungen werden dokumentiert, nicht Diskussionen. Was wurde beschlossen? Wer macht was bis wann?

Abbildung: Der Arbeitsrhythmus eines pragmatischen AI Kompetenzteams, minimaler Koordinationsaufwand, maximale Klarheit über nächste Schritte.
Der Aufbau in sechs Monaten
Viele Teams versanden, weil sie zu abstrakt starten. Hier ist ein konkreter Fahrplan - nicht als festes Regelwerk, aber als Orientierung.
Monat 1-2: Team zusammenstellen und Mandat klären
Identifiziere die fünf Rollen in deiner Organisation. Sprich die Personen einzeln an - erkläre, was auf sie zukommt (2h/Woche, keine neue Vollzeitaufgabe). Hol das Go der Geschäftsleitung. Halte das Mandat in zwei Absätzen schriftlich fest: Was ist die Aufgabe des Teams? Was entscheidet es? Was nicht?
Startet in Monat 2 mit dem ersten Use-Case-Inventar. Was sind die KI-Ideen im Unternehmen? Fangt nicht mit den grossen Projekten an - fangt mit dem an, was die Leute ohnehin schon machen oder andenken.
Monat 3-4: Ersten Pilot starten, Governance-Grundlagen setzen
Wählt einen Use Case mit klarem Business-Nutzen und überschaubarer Komplexität. Setzt Erfolgskriterien, bevor ihr anfangt. Kleiner ist besser - ein Pilot, der in sechs Wochen Ergebnisse liefert, ist wertvoller als ein Grossprojekt, das nach drei Monaten noch in der Planung steckt.
Parallel: Schreibt eine erste KI-Richtlinie. Kein Doktorarbeit-Dokument. Welche Tools sind erlaubt? Welche Daten dürfen genutzt werden? Wer genehmigt neue Anwendungen?
(Wir haben dazu einen Artikel speziell zu KI-Training und Sensibilisierung geschrieben - gut als Begleitmassnahme zum Pilot.)
Monat 5-6: Messen, lernen, ausrollen
Wertet den ersten Pilot aus. Was hat funktioniert? Was nicht? Was würdest du anders machen? Teilt die Learnings intern.
Startet den zweiten Pilot - diesmal idealerweise in einem anderen Bereich des Unternehmens. Rollt erste Trainingsmassnahmen aus, damit das Wissen nicht nur im Kompetenzteam bleibt.
Nach sechs Monaten habt ihr: einen abgeschlossenen Pilot mit messbaren Ergebnissen, eine Governance-Grundlage, und ein Team, das weiss, wie es arbeitet.
Das ist mehr, als die meisten KMU nach einem Jahr KI-Initiativen vorweisen können.
Was regelmässig schiefgeht
Wir haben KMU beim Aufbau dieser Strukturen begleitet. Hier sind die Fehler, die wir am häufigsten gesehen haben:
Zu formell zu schnell. Ein Kick-off-Workshop mit Berater, ein 10-seitiges Charter-Dokument, ein vierteiliger Governance-Ausschuss - und dann kommt der erste Termin und die Hälfte der Leute haben keine Zeit. Fang klein an. Wachse mit dem Team.
Zu IT-zentrisch. Wenn das Kompetenzteam hauptsächlich aus IT-Leuten besteht, bewertet ihr Use Cases aus einem Blickwinkel, der nicht repräsentativ ist. Die Person aus dem Kundendienst oder der Produktion bringt Kontext, den kein Techniker hat.
Kein Executive Sponsorship. Das ist der häufigste Todeskuss. Ohne eine Person auf Führungsebene, die das Team abstützt und bei Ressourcen- oder Entscheidungsfragen den Rücken freizuhält, versinkt das Kompetenzteam in der operativen Belastung des Alltags.
Use Cases ohne Erfolgskriterien starten. "Wir schauen mal, was dabei rauskommt" ist kein Pilot. Es ist ein Experiment ohne Lerneffekt. Bevor jeder Pilot startet: Was ist Erfolg? Wie messen wir ihn? Bis wann entscheiden wir?
Das Team zu gross machen. Über fünf Personen hinaus nimmt der Koordinationsaufwand stark zu und die Entscheidungsgeschwindigkeit ab. Lieber fünf Personen mit klaren Rollen als acht Personen ohne.
Ein Blick auf den KI-Readiness-Check
Bevor oder während ihr das Kompetenzteam aufbaut, lohnt sich ein ehrlicher Blick auf den Reifegrad eurer KI-Bereitschaft. Nicht als Bremse, sondern als Orientierung: Welche Use Cases sind realistisch mit den Daten, die ihr habt? Wo fehlt noch Grundlage?
Wir haben einen KI-Readiness-Check entwickelt, der genau das abdeckt. Der hilft dem Team, von Anfang an realistisch zu priorisieren, statt mit Projekten zu starten, die an Datenqualität oder fehlender Infrastruktur scheitern.
Mehr dazu auch in unserem Artikel zu KI im KMU zwischen ChatGPT-Chaos und echtem Geschäftswert.

Abbildung: Der pragmatische Aufbauplan, zwei Monate Fundament, zwei Monate erster Pilot, zwei Monate lernen und ausrollen.
Die drei Erkenntnisse
KI-Kompetenz ist eine Organisationsfrage, keine Einzelperson-Frage. Solange das Wissen und die Energie bei einer Person konzentriert sind, ist jede Initiative zugleich fragil. Ein AI Kompetenzteam verteilt Verantwortung und macht KI-Adoption resilienter gegen Abwesenheiten, Kündigungen und operative Drucksituationen.
Klein und klar schlägt gross und diffus. Drei Personen mit klarem Mandat und regelmässigem Rhythmus liefern mehr als ein zehnköpfiges Komitee ohne Entscheidungsrahmen. Die Versuchung, die Struktur zu gross zu denken, ist real - widersteht ihr aktiv.
Die ersten sechs Monate entscheiden über den Charakter des Teams. Was ihr in dieser Zeit aufbaut - wie ihr Entscheidungen trefft, wie ihr mit Misserfolgen umgeht, wie ihr Wissen teilt - das prägt, wie das Team in zwei Jahren funktioniert. Baut Gewohnheiten, nicht Strukturen.
Wenn du ein AI Kompetenzteam aufbauen möchtest und nicht sicher bist, wo du anfangen sollst, sprechen wir gerne mit dir. Nicht um eine grosse Initiative zu verkaufen - sondern um gemeinsam herauszufinden, was für eure Organisation sinnvoll ist. Mehr dazu auf unserer KI-Beratungsseite.


