.GGUF Dateiendung
Um .GGUF-Dateien unter Windows zu öffnen, installieren oder laden Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere Desktop-Laufzeit mit GGUF-Unterstützung).
Eine .gguf-Datei laden Sie üblicherweise in eine GGUF-fähige lokale LLM-Laufzeit – z. B. llama.cpp, LM Studio, Ollama mit passendem Modell oder ein anderes Desktop-Programm mit expliziter GGUF-Unterstützung. Normale Allzweck-Apps (Texteditor, Mediaplayer, Office) können GGUF nicht sinnvoll öffnen, weil es ein binäres Modellformat ist.
Zuletzt aktualisiert: 12. Juni 2026
Auf Ihrem Gerät öffnen
Wählen Sie Ihr Betriebssystem für eine Schritt-für-Schritt-Anleitung.
So öffnen Sie .GGUF-Dateien
Nutzen Sie diese plattformspezifischen Anleitungen, um .GGUF-Dateien sicher zu öffnen.
Windows
- Installieren oder laden Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere Desktop-Laufzeit mit GGUF-Unterstützung).
- Führen Sie das Tool aus und geben Sie den Pfad zu Ihrer .gguf-Modelldatei an (für llama.cpp erfolgt dies normalerweise durch Übergabe der Modelldatei als Befehlszeilenargument).
- Wenn das Tool ein nicht unterstütztes Modell oder Format meldet, überprüfen Sie, ob die Toolversion GGUF unterstützt und dass es sich bei dem Modell tatsächlich um eine GGUF-Datei handelt.
Mac
- Installieren oder laden Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere Desktop-Laufzeit mit GGUF-Unterstützung).
- Starten Sie das Tool und laden Sie die .gguf-Modelldatei (normalerweise durch Angabe des Dateipfads in einem Befehl oder einer Konfiguration).
- Wenn das Laden fehlschlägt, versuchen Sie es mit einem neueren Build des Tools, das GGUF explizit unterstützt.
Linux
- Installieren oder erstellen Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere Laufzeit mit GGUF-Unterstützung).
- Führen Sie das Programm aus und übergeben Sie Ihre .gguf-Datei als Modelleingabe (üblicherweise über ein CLI-Flag oder ein Positionsargument, je nach Tool).
- Wenn Sie einen Format-/Metadatenfehler erhalten, stellen Sie sicher, dass die Modelldatei eine gültige GGUF-Datei ist und dass Ihre Laufzeit die jeweilige Modellvariante unterstützt.
iOS
- GGUF-Dateien werden unter iOS in der Regel nicht direkt geöffnet; übertragen Sie die .gguf auf einen Desktop und laden Sie sie mit einer GGUF-fähigen lokalen LLM-Laufzeit (llama.cpp ist ein gängiges Beispiel).
Android
- GGUF-Dateien werden unter Android in der Regel nicht direkt geöffnet; übertragen Sie die .gguf auf einen Desktop und laden Sie sie mit einer GGUF-fähigen lokalen LLM-Laufzeit (llama.cpp ist ein gängiges Beispiel).
Sicherheitshinweise
- Eine .gguf-Datei ist ein binärer Blob, der von ML-Laufzeiten analysiert werden soll. Sie sollte keine aktiven Skripte enthalten, kann aber dennoch Schwachstellen in der Software auslösen, die sie analysiert, wenn die Datei fehlerhaft oder in böswilliger Absicht erstellt wurde.
- Laden Sie GGUF-Modelle möglichst nur in gepflegter, aktueller GGUF-fähiger Software (z. B. aktuelle llama.cpp-Builds oder andere aktiv gewartete lokale LLM-Tools), denn das Hauptrisiko liegt im Parser und der Laufzeitumgebung.
- Behandeln Sie GGUF-Dateien als nicht vertrauenswürdige Eingaben, wenn sie aus unbekannten Quellen stammen. Sie können sehr groß sein und beim Herunterladen oder Laden zur Erschöpfung der Ressourcen (RAM/Festplatte) führen.
Wenn Sie die Datei nicht erwartet haben
Diese Endung steht meist für Daten, Text oder strukturierte Inhalte – nicht für ein ausführbares Programm an sich. Typisch ist eher Täuschung (Betrugs-Anhang oder irreführender Dateiname). Bei vertrauenswürdigen Absendern braucht es selten pauschale Antivirus-Floskeln; die verlinkten Tools sind für die Extra-Prüfung unerwarteter Downloads gedacht.
Avast offers free and premium antivirus software that protects against viruses, malware, ransomware, and phishing. Scan files before opening them to ensure safety.
NortonNorton 360 delivers comprehensive antivirus protection, VPN, and identity theft monitoring. Scan files for threats before opening to keep your device secure.
Wir erhalten möglicherweise eine Provision über Affiliate-Links. Das unterstützt unsere kostenlosen Dateiendungs-Guides.
Datei lässt sich nicht öffnen?
Die häufigsten Ursachen und Lösungen, wenn .GGUF-Dateien nicht geöffnet werden können.
Häufige Ursachen
- Nichts kann die Datei „öffnen“ (es ist kein Dokument)
- Das Tool meldet, dass das Modell/Format nicht unterstützt wird
- Das Modell wird geladen, aber die Inferenz ist extrem langsam oder schlägt aufgrund von Ressourcen fehl
Lösungsschritte
- Verwenden Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere kompatible Laufzeit) statt eines Dokumentbetrachters.
- Laden Sie das Modell aus dem Tool heraus (häufig über ein Befehlszeilenargument, das auf den .gguf-Pfad verweist).
Betriebssystem-spezifische Fehlerbehebung
Was ist eine .GGUF-Datei?
GGUF ist ein Binärformat zum Speichern von Modelltensoren zusammen mit Metadaten in einer einzigen Datei, das für die Inferenz mit GGML und auf GGML basierenden Executoren gedacht ist. In der Dokumentation zu llama.cpp wird GGUF als das Format beschrieben, das zum Speichern und Verteilen quantisierter Sprachmodelle verwendet wird und für schnelles Laden/Speichern optimiert ist.
Hintergrund
GGUF ist mit dem GGML/llama.cpp-Ökosystem verbunden und wird hauptsächlich zum Verpacken und Verteilen von Sprachmodellen für lokale Inferenz verwendet. In der Praxis ist eine GGUF-Datei normalerweise „das Modell“, auf das Sie ein Inferenztool richten, wenn Sie ein kompatibles LLM auf Ihrem Computer ausführen möchten.
Eine Schlüsselidee von GGUF ist die Bündelung sowohl der Tensordaten (Modellgewichte) als auch der Metadaten in einer Binärdatei, was die Portabilität und Startzeit beim Laden von Modellen für die Inferenz verbessern soll. Dies erleichtert die Verteilung quantisierter Varianten großer Modelle, die häufig als eigenständige .gguf-Dateien geteilt werden.
Da es sich bei GGUF um einen Modellcontainer für maschinelles Lernen und nicht um ein Austauschformat für Trainingspipelines handelt, drehen sich typische Workflows um die Wahl eines GGUF-fähigen lokalen Inferenztools (llama.cpp ist eine gängige Open-Source-Option; viele Desktop-Apps laden ebenfalls GGUF), die Auswahl der GGUF-Modelldatei und die anschließende Inferenz (Chat/Vervollständigungen). Die Hugging Face-Dokumentation beschreibt GGUF auch als Modelldateiformat für die Inferenz mit GGML und hebt schnelles Laden/Speichern in Verteilungskontexten hervor.
Weiterführende Literatur
Weitere Informationen zum .GGUF-Format.
Häufige .GGUF-Probleme
Nichts kann die Datei „öffnen“ (es ist kein Dokument)
GGUF ist ein binärer Modellcontainer, daher hat ein Doppelklick darauf in einem Dateimanager normalerweise keine sinnvolle Wirkung oder fordert Sie auf, eine App auszuwählen.
- Verwenden Sie ein GGUF-fähiges lokales LLM-Tool (z. B. llama.cpp oder eine andere kompatible Laufzeit) statt eines Dokumentbetrachters.
- Laden Sie das Modell aus dem Tool heraus (häufig über ein Befehlszeilenargument, das auf den .gguf-Pfad verweist).
Das Tool meldet, dass das Modell/Format nicht unterstützt wird
Nicht jedes GGML-basierte Programm unterstützt jedes Modelldateiformat oder jede GGUF-Variante; Ältere Builds erkennen GGUF möglicherweise nicht.
- Aktualisieren Sie auf eine aktuelle Version/einen aktuellen Build Ihres GGUF-fähigen Tools, das GGUF explizit unterstützt (z. B. einen aktuellen llama.cpp-Build).
- Stellen Sie sicher, dass die Dateierweiterung mit dem tatsächlichen Inhalt übereinstimmt und dass es sich bei der Datei um ein echtes GGUF-Modell handelt (kein anderes umbenanntes Format).
Das Modell wird geladen, aber die Inferenz ist extrem langsam oder schlägt aufgrund von Ressourcen fehl
GGUF-Dateien können große Modelle darstellen; Selbst quantisierte Modelle erfordern möglicherweise viel RAM/VRAM und Rechenleistung, abhängig von der Modellgröße und Ihrer Hardware.
- Probieren Sie eine kleinere GGUF-Modellvariante (weniger Parameter) oder eine stärker quantisierte GGUF-Variante für Ihre Hardware aus.
- Schließen Sie andere Anwendungen, um Speicher freizugeben, und stellen Sie sicher, dass die Laufzeit für Ihr System konfiguriert ist (z. B. nur CPU vs. verfügbare Beschleunigung, wie von Ihrem gewählten Tool unterstützt).
FAQ
Ist GGUF dasselbe wie ein „quantisiertes Modell“?
GGUF ist ein Dateiformat zum Speichern von Modellen (Tensoren und Metadaten). Im llama.cpp-Ökosystem wird es üblicherweise zur Verteilung quantisierter Sprachmodelle verwendet, aber GGUF selbst ist das Containerformat und keine spezifische Quantisierungsmethode.
Kann ich eine .gguf-Datei in einem Texteditor öffnen?
Nicht sinnvoll. GGUF ist ein Binärformat; ein Texteditor zeigt unlesbare Bytes. Verwenden Sie stattdessen ein GGUF-fähiges lokales LLM-Tool.
Wofür sollte ich GGUF-Dateien verwenden?
Sie dienen vor allem der Inferenz mit GGUF-fähigen lokalen LLM-Tools und Laufzeiten (llama.cpp ist ein weit verbreitetes Open-Source-Beispiel) und zum Verteilen von Modellen mit schnellem Laden und Metadaten.
Verfügt GGUF über einen offiziellen MIME-Typ?
Das IANA-Medientypenregister gibt keinen offiziellen, von der IANA registrierten Medientyp für GGUF an. Wenn Sie einen application/x-*-Stiltyp in freier Wildbahn sehen, behandeln Sie ihn als inoffiziell.
Ähnliche Dateiendungen
Vergleichen Sie verwandte Formate in derselben Kategorie, um schneller das richtige Tool zu finden.