Neues aus dem MSH TECHRADAR

Ollama – Lokale KI mit voller Datenkontrolle

Im Rahmen unseres Techradars bewerten wir regelmäßig Technologien, die für unsere Kunden und Partner relevant sein könnten. Ein aktuelles Thema ist der verantwortungsvolle Einsatz von Künstlicher Intelligenz (KI) – insbesondere im Hinblick auf Datenschutz und Datenhoheit.

Ein Tool, das in diesem Zusammenhang zunehmend Aufmerksamkeit erhält, ist Ollama.

Was ist Ollama?
Ollama ist eine Plattform, mit der sich KI-Anwendungen lokal auf eigenen Geräten betreiben lassen – ganz ohne Cloud-Anbindung oder externe Dienste.

Das bedeutet

  • Keine Daten verlassen das Unternehmen.
  • Die KI läuft vollständig unter eigener Kontrolle.
  • Es können verschiedene Arten von KI-Funktionen genutzt werden – je nach Bedarf.

Man kann sich Ollama vorstellen wie ein Baukastensystem: Je nach Aufgabe – etwa Texte schreiben, Fragen beantworten oder Informationen zusammenfassen – wird die passende KI-Funktion gestartet. Diese läuft dann direkt auf dem eigenen Rechner oder Server.


Warum ist Ollama relevant für den Techradar?
 
In der Kategorie „Strategie“ bewerten wir Technologien, die wir in naher Zukunft genauer prüfen möchten. Ollama erfüllt mehrere Kriterien, die es für eine mögliche Aufnahme in unseren Tech-Stack interessant machen:

  • Datenschutzfreundlich: Die Daten bleiben im Unternehmen und unterliegen keiner externen Verarbeitung.
  • Flexibel und modular: Verschiedene KI-Funktionen lassen sich je nach Bedarf kombinieren.
  • Offen und transparent: Die Plattform ist anpassbar und nachvollziehbar.
  • Erweiterbar: Ollama lässt sich mit weiteren Werkzeugen verbinden, um unternehmensspezifisches Wissen einzubinden – etwa durch die Kombination mit Dokumentensuche oder internen Datenquellen.

Einsatzszenarien
Ollama eignet sich besonders für Unternehmen, die

  • KI intern testen oder produktiv einsetzen möchten,
  • hohe Anforderungen an Datenschutz und Compliance haben,
  • keine Cloud-Abhängigkeit wünschen,
  • eigene Datenbestände für KI-Anwendungen nutzen wollen.

Beispiele sind interne Assistenzsysteme, die technische Dokumente analysieren oder Texte automatisch erstellen – alles unter voller Kontrolle.

Fazit
Ollama steht exemplarisch für eine neue Generation von KI-Werkzeugen, die leistungsfähig, flexibel und datenschutzkonform sind. Im Techradar des MSH ordnen wir Ollama aktuell in der Kategorie „Strategie“ ein – mit dem Ziel, das Tool in konkreten Projekten zu evaluieren und seine Einsatzfähigkeit zu prüfen.

Sie haben Interesse oder
Fragen zu diesem Thema?

Sprechen Sie uns gerne an.

Let's connect