Kündige dein KI-Diktier-Abo: Ein 100 % lokales Push-to-Talk-Setup auf dem Mac

Ich spreche schneller, als ich tippe. Den meisten geht es so: Wir sprechen etwa dreimal so schnell, wie wir tippen, und der Abstand wird größer, je müder man ist. Genau deshalb sind KI-Diktiertools wie Wispr Flow so erfolgreich. Du hältst die fn-Taste, sprichst, lässt los, und ein paar hundert Millisekunden später erscheint sauberer, korrekt gesetzter Text in der App, die gerade aktiv ist. Kein “ähm”, kein “äh”, kein halber Satz, den du mittendrin korrigiert hast. Beim ersten Mal fühlt sich das wie Magie an.

Das Ganze hat allerdings zwei Haken. Erstens ein Monatsabo, das nie endet. Zweitens landet jedes gesprochene Wort in der Cloud eines anderen: deine Slack-Nachrichten, deine E-Mails an den Aufsichtsrat, deine Notizen zu Kandidaten, deine Gedanken zu einer Akquisition. Für einen großen Teil meiner Arbeit ist allein der zweite Punkt ein K.-o.-Kriterium.

Also habe ich genau denselben Workflow auf meinem Mac nachgebaut, komplett offline. Dasselbe fn-Push-to-Talk, dieselbe sofortige KI-Bereinigung, dasselbe Gefühl unter einer Sekunde. Der Unterschied: Alles läuft zu 100 % lokal, funktioniert auch auf 8.000 Fuß ohne WLAN und kostet eine einmalige Lizenz statt einer Rechnung für immer.

Dieser Beitrag beschreibt das komplette Setup. Es dauert etwa 10 Minuten.

Für wen ist das? Für alle mit einem Apple-Silicon-Mac, die diktieren (oder es wollen) und entweder keine Abos mögen, mit vertraulichem Material arbeiten oder beides.

Update aus dem Alltag: Angefangen habe ich mit Ollama und einem kleinen Open-Weight-Modell für die KI-Bereinigung. Nach einigen Wochen im Einsatz habe ich mein tägliches Diktieren auf Apples integriertes On-Device-Modell in MacWhisper umgestellt, und für die meisten ist das die bessere Wahl. Warum, erklärt der Realitätscheck weiter unten. Ollama bleibt im Guide, als Power-Tool für aufwendigere Umformatierungen.

---

Die Idee in einem Satz

Kombiniere MacWhisper Pro (lokale Spracherkennung, einmalige Lizenz) mit einem lokalen Sprachmodell, das das Rohtranskript jedes Mal bereinigt, wenn du die Taste loslässt: Apples integriertes On-Device-Modell für den Alltag oder ein Modell in Ollama, wenn du mehr Kontrolle willst.

Zwei Stufen, beide auf deinem Rechner:

1. Sprache zu Text: MacWhisper verwandelt deine Stimme in ein Rohtranskript, inklusive aller Füllwörter.
2. Text zu sauberem Text: Ein lokales LLM schreibt das Transkript so um, wie du es eigentlich sagen wolltest, und MacWhisper fügt es an der Cursorposition ein.

Die Cloud-Tools machen exakt dasselbe. Nur eben auf ihren Servern.

Der Stack

Ebene	Was ich nutze	Warum
Hardware	Jeder Apple-Silicon-Mac	Dank Unified Memory lädt ein mehrere Gigabyte großes Modell in unter einer Sekunde von der SSD
Spracherkennung	MacWhisper Pro	Schnelle lokale Modelle (Whisper Large-v3 Turbo, NVIDIA Parakeet), systemweites Diktieren, Push-to-Talk
KI-Bereinigung (Standard)	Apples On-Device-Modell (Apple Intelligence)	In macOS integriert, sofort, kein zusätzlicher RAM, nichts zu installieren
KI-Bereinigung (Power-Tool)	Ollama unter localhost:11434 mit einem Non-Thinking-Modell (gemma4:12b, qwen2.5:7b)	Volle Kontrolle über das Modell für aufwendige Umformatierungen: lange Sprachnotizen zu strukturierten Stichpunkten, formelle E-Mails

Die eigentlich spannende Erkenntnis: Die Bereinigung ist eine kleine Aufgabe. Du bittest das Modell nicht, über die Welt nachzudenken. Es soll Füllwörter löschen, bei Selbstkorrekturen die letzte Version behalten und Zahlen formatieren. Ein kleines On-Device-Modell kann das hervorragend. Dafür brauchst du kein Frontier-Modell, und schon gar nicht musst du deine Worte an eines schicken.

(Wer das große Bild zum lokalen Betrieb von Modellen sucht: Darüber habe ich in Lokale LLMs auf Apple Silicon und Gemma 4 lokal betreiben geschrieben.)

---

Schritt 1: Die fn-Taste freigeben

Standardmäßig belegt macOS die fn-Taste (Globus) mit der Emoji-Auswahl oder der eigenen Diktierfunktion. Wir wollen sie für uns.

1. Öffne Systemeinstellungen → Tastatur.
2. Setze Taste 🌐 drücken für → Nichts tun.

Das war’s. Jetzt kämpft kein System-Popup mehr mit MacWhisper um die Taste.

Schritt 2 (optional): Ollama und ein lokales Modell installieren

Wenn du Apples integriertes Modell nutzt (meine Empfehlung für das tägliche Diktieren, siehe Realitätscheck unten), kannst du diesen Schritt komplett überspringen. Voraussetzung ist, dass Apple Intelligence unter Systemeinstellungen → Apple Intelligence & Siri aktiviert ist. Ollama lohnt sich, wenn du volle Kontrolle über das Modell willst oder aufwendigere Umformatierungen brauchst.

Lade Ollama für Mac herunter, installiere es und hole dir das Modell:

ollama pull qwen2.5:7b

Kurzer Test, ob es läuft und schnell ist:

ollama run qwen2.5:7b "Clean this up: ähm also ich denke wir sollten uns, äh, am Dienstag treffen, nein warte, am Mittwoch so gegen drei"

Welches Modell? Angefangen habe ich mit qwen3.5:4b, weil es winzig und clever ist. In der Praxis passt ein klassisches Non-Thinking-Modell besser zum Diktieren (mehr dazu im Realitätscheck): gemma4:12b, wenn du 16 bis 24 GB RAM oder mehr hast, oder qwen2.5:7b als leichtere Option. Alles Größere ist für die Diktat-Bereinigung verschwendet; du zahlst mit Latenz und bekommst fast nichts dafür.

Die Speicher-Erkenntnis: Behalte den Standard-Timeout von 5 Minuten

Ollama entlädt ein Modell standardmäßig nach 5 Minuten Inaktivität. Mein erster Impuls war, das Modell dauerhaft im Speicher zu halten. Auf Apple Silicon ist das unnötig.

Dank Unified Memory und schneller SSDs lädt ein 4 bis 8 GB großes Modell in etwa einer Sekunde neu, sobald du es brauchst. Das Standardverhalten ist also eigentlich ideal: Solange du diktierst, bleibt das Modell warm; wenn du aufhörst, gibt es den RAM wieder frei für Browser, IDE oder Docker-Container. Den Kaltstart merkst du kaum.

Option für Power-User: Wenn du ständig diktierst und null Kaltstarts willst, halte das Modell eine Stunde lang geladen:

launchctl setenv OLLAMA_KEEP_ALIVE "1h"

Beende Ollama danach und starte es neu, damit es die Variable übernimmt. (launchctl setenv überlebt keinen Neustart; führe den Befehl erneut aus oder lege ihn in ein Login-Skript, wenn es dauerhaft gelten soll.)

Schritt 3: Push-to-Talk in MacWhisper auf fn legen

1. Öffne MacWhisper → Settings → Dictation.
2. Setze das Push-to-Talk-Kürzel auf die fn-Taste.
3. Wähle ein schnelles lokales Transkriptionsmodell. Whisper Large-v3 Turbo ist ein hervorragender Allrounder, besonders wenn du zwischen Sprachen wechselst; Parakeet ist für Englisch extrem schnell.

Probier es aus: fn halten, einen Satz sagen, loslassen. An der Cursorposition sollte ein Rohtranskript erscheinen. Noch nicht bereinigt. Das kommt im nächsten Schritt.

Schritt 4: Einen Dictation Prompt anlegen (keinen Transcription Prompt)

An diesem Schritt bleiben die meisten hängen, denn MacWhisper kennt zwei Arten von KI-Prompts, die ähnlich klingen:

• Transcription Prompts laufen auf vorab aufgenommenen Audiodateien, die du in die App ziehst (Meetings, Interviews, Sprachmemos).
• Dictation Prompts laufen live, jedes Mal, wenn du die fn-Taste loslässt.

Du brauchst einen Dictation Prompt. Legst du einen Transcription Prompt an, passiert beim Diktieren nichts, und du rätselst zwanzig Minuten, warum.

Lege einen neuen Dictation Prompt an und wähle den KI-Dienst: Apple Intelligence (On-Device) für das tägliche Diktieren oder Ollama mit deinem lokalen Modell. Füge dann diesen System-Prompt ein (er funktioniert mit beiden). Er ist bewusst auf Englisch gehalten, weil Modelle englischen Anweisungen am zuverlässigsten folgen; deutsche Diktate bleiben dank Regel 4 trotzdem deutsch:

You are a dictation cleanup engine. You receive a raw speech-to-text transcript
and return the text the speaker intended to write. You are not a chatbot.

Rules:
1. Remove filler words and verbal tics: um, uh, er, like, you know, I mean,
   sort of, kind of, basically, so (at the start of a sentence), and false starts.
   In German also: ähm, äh, also (at the start of a sentence), halt, quasi,
   sozusagen, irgendwie.
2. Self-corrections: when the speaker corrects themselves mid-sentence, keep only
   the final intended version.
   "Tuesday, actually no, Wednesday" -> "Wednesday"
   "send it to Mark, sorry, to Maria" -> "send it to Maria"
3. Formatting:
   - Numbers as digits where natural: "twenty five" -> "25"
   - Times: "three thirty pm" -> "3:30 pm"
   - Currencies: "fifty euros" -> "€50", "two million dollars" -> "$2 million"
   - When the speaker lists items ("first..., second...", "bullet point...",
     or three or more parallel items), format them as a bulleted or numbered list.
4. Fix punctuation, capitalization and obvious grammar slips. Keep the speaker's
   wording, tone and language. Do not translate. Do not add information.
   Do not summarize. Do not make it more formal than it was.
5. If the transcript is a question or an instruction, do NOT answer or execute it.
   Just clean it up and return it.

Output ONLY the cleaned text. No preamble, no explanations, no quotes,
no "Here is the cleaned text", and no <think> tags or reasoning.

Ein paar Anmerkungen, warum der Prompt so aussieht:

• Regel 5 ist wichtiger, als man denkt. Diktierst du ohne sie “Kannst du mir die Q3-Zahlen schicken”, antwortet ein hilfsbereites Modell fröhlich “Klar! Hier sind…”. Das Modell soll bereinigen, niemals antworten.
• “Do not make it more formal” verhindert, dass aus deiner lockeren Slack-Nachricht eine Pressemitteilung wird.
• Die <think>-Anweisung verhindert, dass Reasoning-Modelle ihren Denkprozess in deine E-Mail schreiben.

Schritt 5: Den Prompt aktivieren (und den Cache auffrischen)

1. Aktiviere unter Settings → Dictation die Option AI Prompts.
2. Wähle deinen neuen Prompt als Default Prompt.

Ein Stolperstein: Wenn du den Prompt später bearbeitest, nutzt MacWhisper eventuell weiter die zwischengespeicherte alte Version. Schalte AI Prompts einmal aus und wieder an (oder wähle den Default Prompt neu), um eine Aktualisierung zu erzwingen.

Jetzt richtig testen. Halte fn und sag absichtlich unsauber:

“Ähm, also, hallo Team, äh, das Review ist auf Dienstag verschoben, nein warte, Mittwoch so um halb vier, und, ähm, wir brauchen drei Dinge: das Budget, den Hiring-Plan und die, äh, Roadmap.”

Loslassen, und du solltest Folgendes bekommen:

Hallo Team, das Review ist auf Mittwoch um 15:30 Uhr verschoben. Wir brauchen drei Dinge:

• Das Budget
• Den Hiring-Plan
• Die Roadmap

In deutlich unter einer Sekunde, ohne dass irgendetwas deinen Mac verlässt.

---

Realitätscheck: Ollama vs. Apples integriertes On-Device-Modell

Ursprünglich wollte ich die Textbereinigung über ein lokales LLM in Ollama laufen lassen (qwen3.5:4b oder gemma4:12b), um maximale Kontrolle über den Output zu haben. In der Praxis zeigten sich jedoch schnell zwei Probleme.

Versteckte Latenzen und Thinking-Loops. Moderne Reasoning-Modelle wie Qwen 3.5 denken bei API-Anfragen oft erst sekundenlang im Hintergrund nach (<think>-Tags), bevor sie den eigentlichen Text ausgeben. Der Prompt kann ihnen verbieten, das Nachdenken anzuzeigen, aber er macht es nicht kostenlos. Das bremst den schnellen Diktier-Flow spürbar aus und blockiert manchmal sogar das automatische Einfügen.

RAM-Verbrauch. Ein externes 4B- bis 12B-Modell belegt 4 bis 8 GB Unified Memory, solange es geladen ist, oder es muss nach dem automatischen Entladen erst wieder frisch in den Speicher geladen werden.

Die bessere Lösung für 95 % aller Fälle: Apples eigenes Modell

Nachdem ich in MacWhisper auf das systemeigene Apple-Modell (Apple Intelligence, On-Device) zurückgewechselt habe, war sofort klar, dass dies für den Alltag die deutlich überlegene Wahl ist:

1. Keine spürbare Latenz (Instant-Paste). Das Modell läuft direkt auf Apples Hardware, deshalb erfolgt die Bereinigung von Füllwörtern (“ähm”, “sozusagen”, “quasi”), Grammatik und Zeichensetzung praktisch ohne Verzögerung nach dem Loslassen der fn-Taste.
2. Kein zusätzlicher RAM-Hunger, kein Setup-Ballast. Es muss kein separater Ollama-Server im Hintergrund laufen, und es wird kein Arbeitsspeicher für andere Apps blockiert.
3. Absolut stabil. Keine API-Timeouts, keine hängenden Warteschlangen und keine unerwünschten Reasoning-Ausgaben im Text.

Meine Empfehlung: Nutze für das tägliche Diktieren das integrierte Apple-Modell in MacWhisper. Es liefert genau das verzögerungsfreie Wispr-Flow-Gefühl ohne Wartungsaufwand. Greife nur dann zu Ollama, idealerweise mit einem klassischen Non-Thinking-Modell wie gemma4:12b oder qwen2.5:7b, wenn du komplexe Umformatierungen brauchst, etwa das automatische Umwandeln langer Sprachnotizen in strukturierte Stichpunktlisten oder formelle E-Mails. Mit einem App Specific Prompt oder einem zweiten Dictation Prompt ist das ein Wechsel mit einem Klick.

---

Power-User-Tipp: Hold-to-Talk über eine Daumentaste der Maus

Sobald das Diktieren per fn funktioniert, lohnt sich eine weitere Gewohnheit aus Wispr Flow: Diktieren per Maustaste. Wenn eine Hand ohnehin auf der Maus liegt (beim Durchsehen eines Dokuments, Durchklicken eines Designs, Drehen eines CAD-Modells), unterbricht der Griff zur fn-Taste den Flow. Eine Daumentaste, die du beim Sprechen hältst, tut das nicht.

Warum du eine kleine Brücke brauchst

MacWhisper kann nur Tastatur-Kürzel belegen. Und proprietäre Maustreiber wie 3Dconnexions 3DxWare für die CadMouse Pro oder Logitech Options+ fangen die Maustasten meist ab, bevor macOS sie sieht, und können eine Taste nicht auf die alleinstehende fn-Taste legen.

Die Lösung ist eine Brücke in zwei Schritten: Die Maussoftware sendet eine ungenutzte Funktionstaste (F19), und Karabiner-Elements (kostenlos, Open Source) macht aus F19 die fn-Taste. Das Ergebnis: echtes Hold-to-Talk auf Maus und Tastatur gleichzeitig.

Daumentaste  ->  F19 (Maussoftware)  ->  fn (Karabiner-Elements)  ->  MacWhisper Push-to-Talk

Einrichtung

1. Die Daumentaste in der Maussoftware auf F19 legen

Öffne dein Maus-Tool (zum Beispiel Systemeinstellungen → 3Dconnexion / 3DxWare oder Logitech Options+). Stelle sicher, dass Any Application / All Applications ausgewählt ist, damit die Belegung systemweit gilt, wähle deine bevorzugte Daumentaste und weise ihr den Tastendruck F19 zu. Kaum eine Tastatur hat eine F19-Taste, es gibt also keine Konflikte.

2. F19 in Karabiner-Elements auf fn umleiten

1. Öffne die Karabiner-Elements Settings und klicke auf Simple Modifications (oberster Eintrag in der linken Seitenleiste).
2. Lass in der mittleren Spalte For all devices markiert und klicke im rechten Bereich auf + Add item.
3. Klicke auf das linke Dropdown (---), scrolle in der langen Tastenliste zum Abschnitt Function keys und wähle f19.
4. Klicke auf das rechte Dropdown (---), scrolle zum Abschnitt Modifier keys und wähle fn.

3. Einhändiges Hold-to-Talk testen

Klicke in ein beliebiges Textfeld, halte die Daumentaste, sprich und lass los. Karabiner übersetzt den Tastendruck in ein durchgehendes Halten von fn, was MacWhisper und deinen lokalen Bereinigungs-Prompt auslöst, ohne dass du die Tastatur berührst. Deine fn-Taste funktioniert weiterhin genau wie vorher.

---

Bonus: App Specific Prompts

Das Einzige, was Cloud-Tools können und dieses Setup nicht von Haus aus: Kontextbewusstsein für den Bildschirm. Sie erkennen, in welcher App du bist, und passen den Ton an.

MacWhispers Antwort darauf sind App Specific Prompts, und ehrlich gesagt gefällt mir das besser, weil es explizit ist. Dupliziere deinen Dictation Prompt und hänge Varianten an einzelne Apps:

• Slack / Nachrichten: locker, kurze Sätze, keine Begrüßung oder Grußformel.
• Mail: richtige Absätze, vollständige Sätze, etwas formeller.
• Deine IDE / Claude Code / Terminal: Fachbegriffe, Dateinamen und Code-Bezeichner exakt wie gesprochen, keine Listenformatierung, keine Emojis.

Zehn Minuten Setup, und du hast eine Tonsteuerung, die deterministisch ist statt geraten.

---

Was du gewinnst, was du eintauschst

Was du gewinnst

• Kein Monatsabo. Eine einmalige MacWhisper-Pro-Lizenz plus das Modell, das ohnehin in deinem Mac steckt (oder kostenlose Open-Weight-Modelle). Das ist die ganze Rechnung.
• 100 % Offline-Privatsphäre. Nichts wird hochgeladen. Damit taugt das Setup für vertrauliche Board-Unterlagen, HR-Gespräche, medizinische oder juristische Notizen und alles unter NDA.
• Funktioniert überall. Im Flugzeug, im Zug, im Hotel mit miserablem WLAN. Kein Netz, kein Problem.
• Praktisch identische Geschwindigkeit und Genauigkeit. Beim täglichen Diktieren merke ich ehrlich keinen Unterschied.
• Volle Kontrolle. Der Prompt gehört dir. Wenn dir an der Bereinigung etwas nicht gefällt, änderst du eine Zeile, statt einen Feature-Request zu stellen.

Was du eintauschst

• Etwa 10 Minuten Setup statt Plug-and-Play-Onboarding.
• Kein automatisches Kontextbewusstsein für den Bildschirm. App Specific Prompts decken 90 % davon ab, aber du konfigurierst es selbst.
• Dein Mac macht die Arbeit. Mit Apples Modell kostet das praktisch nichts. Wenn du den Ollama-Weg gehst, plane 4 bis 8 GB RAM ein, solange das Modell geladen ist.

Warum das über das Diktieren hinaus wichtig ist

Diktieren ist ein perfektes Beispiel für ein Muster, das mir immer wieder begegnet: Viele “KI-Features” sind kleine, klar umrissene Transformationen, die ein lokales Modell genauso gut erledigt wie ein Frontier-Modell. Ein Transkript bereinigen, Felder extrahieren, Text umformatieren, eine Nachricht klassifizieren. Dafür braucht es kein Rechenzentrum. Es braucht ein kleines Modell, einen strikten Prompt und eine schnelle Maschine, und Apple Silicon (das dieses kleine Modell inzwischen gleich mitliefert) macht diese Kombination fast kostenlos.

Jedes Mal, wenn du so einen Fall findest, wirst du gleichzeitig ein Abo, ein Datenschutzrisiko und eine Netzwerkabhängigkeit los. Ein Tausch, der sich lohnt.

fn halten. Sprechen. Loslassen. Und deine Worte bleiben auf deinem eigenen Rechner.