Schlagwort: Freie Software

Offline Ki – Ollama auf Linux

Einfache Installation und Nutzung großer Sprachmodelle

In der Welt der Künstlichen Intelligenz spielen große Sprachmodelle eine immer wichtigere Rolle. Mit Ollama, einem Open-Source-Tool, lassen sich diese Modelle direkt auf einem lokalen System betreiben. Besonders für Entwickler und KI-Enthusiasten bietet Ollama eine praktische Möglichkeit, leistungsstarke Sprachmodelle offline zu nutzen.

Was ist Ollama?

Ollama ist eine Software, mit der sich verschiedene vortrainierte Sprachmodelle ausführen lassen. Diese Modelle können für unterschiedliche Zwecke eingesetzt werden, wie z. B. Textgenerierung, Code-Vervollständigung oder Sprachverarbeitung.

Die offizielle Website von Ollama bietet eine große Auswahl an trainierten Modellen: https://ollama.com.

Installation von Ollama auf Linux

Die Installation von Ollama erfolgt über den Terminal. Dazu genügt ein einfacher Befehl:

curl -fsSL https://ollama.com/install.sh | sh

Nach der Eingabe installiert sich die Software automatisch und ist sofort einsatzbereit.

Sprachmodelle herunterladen und nutzen

Um ein Sprachmodell zu nutzen, kann man es direkt von der Ollama-Website auswählen und herunterladen. Jedes Modell hat unterschiedliche Spezifikationen und ist für verschiedene Einsatzzwecke optimiert.

Ein Beispiel ist Starcoder2, ein Modell, das Entwickler beim Programmieren unterstützt.

Sobald ein Modell ausgewählt wurde, erhält man auf der Website den passenden Terminal-Befehl zur Installation, zum Beispiel:

ollama pull starcoder2

Nach dem Download kann das Modell direkt im Terminal gestartet werden:

ollama run starcoder2

Verfügbare Modelle anzeigen

Falls man sich nicht sicher ist, welche Modelle bereits installiert sind, kann man mit folgendem Befehl eine Liste abrufen:

ollama list

Hier sieht man alle heruntergeladenen Modelle, die man dann individuell starten kann.

Fazit

Ollama ist eine praktische Lösung für alle, die KI-Modelle lokal auf ihrem Linux-System ausführen möchten. Dank der einfachen Installation und der großen Auswahl an verfügbaren Modellen bietet es eine flexible Möglichkeit, mit modernen Sprachmodellen zu arbeiten – ganz ohne Cloud-Abhängigkeit.

Hast du bereits Erfahrungen mit Ollama gemacht? Teile deine Eindrücke in den Kommentaren!

Michael hat die Dokumentation von seinem Vortrag beim März-Treffen hier zur Verfügung gestellt.

Ollama-auf-LinuxHerunterladen

Jahresabschluss am Donnerstag 12. Dezember um 19:00 Uhr

mit einem gemütlichen Weihnachtstreff am Donnerstag, 12.12.2024 19:00 Uhr beim Italiener im Schachtweg lässt die WOBLUG das Jahr ausklingen. Wichtig: Es sind ein paar Plätze reserviert, aber dennoch bitten wir ALLE, die dabei sein möchten, um eine kurze Rückmeldung.

Freie Software unterstützen

In diesem Jahr hat sich die Befürchtung vom Portal netzpolitik.org leider bewahrheitet. Das Next Generation Internet-Programm der EU-Kommission, welches seit Jahren freie, quelloffene Software fördert, wurde zurückgefahren. Dieses wird von der Free Software Foundation FSFE bemängelt. Freie Software ist eine der wenigen Möglichkeiten gegen die Dominanz von US-Unternehmen. Die Microsoft-Steuer kostet Europa Milliarden.
Fazit: Am besten sorgen wir selbst für eine stabile Finanzierung der FSFE. Werdet Teil der Bewegung für Softwarefreiheit.

Frohe Festtage und einen guten Start ins neue Jahr,
Norbert Schulze

www.woblug.de



Das Ende von Windows 10

Der auslaufende Support von Windows 10 und das notwendige Upgrade zu Windows 11: Eine Analyse der Probleme und ein Vorschlag für den Wechsel zu Linux

Einleitung

Im kommenden Jahr läuft der offizielle Support von Microsoft für Windows 10 aus. Dies bedeutet, dass es keine Sicherheitsupdates oder technischen Support mehr geben wird. In Anbetracht dessen steht ein Upgrade zu Windows 11 bevor. Doch welche Probleme bringt Windows 11 mit sich, und gibt es vielleicht eine bessere Alternative?

Die Probleme von Windows 11

1. Kompatibilitätsprobleme und Systemanforderungen

Eines der ersten Probleme, mit denen Nutzer konfrontiert werden, sind die erhöhten Systemanforderungen von Windows 11. Viele ältere PCs erfüllen die neuen Hardwarevoraussetzungen nicht, was zu erheblichen Kosten für Hardware-Upgrades führen kann. Besonders ärgerlich ist, dass selbst einige relativ neue Geräte inkompatibel sind.

2. Zwangs-Updates und Kontrolle

Windows 11 setzt verstärkt auf Zwangs-Updates, was viele Nutzer als Eingriff in ihre Autonomie sehen. Diese Updates können unerwartet erfolgen und führen nicht selten zu Unterbrechungen und Problemen im Arbeitsfluss.

3. Privatsphäre-Bedenken

Ein großes Problem bei Windows 11 sind die erweiterten Telemetrie- und Datenverfolgungsfunktionen. Microsoft sammelt umfangreiche Nutzerdaten, was bei vielen Anwendern erhebliche Privatsphäre-Bedenken hervorruft. Die Datenschutzbestimmungen von Windows 11 sind im Vergleich zu Windows 10 noch strenger, was bedeutet, dass Microsoft mehr Kontrolle über die Nutzerdaten hat.

4. Abhängigkeit von Microsoft-Diensten

Windows 11 integriert sich nahtlos mit einer Vielzahl von Microsoft-Diensten, was einerseits praktisch ist, andererseits aber auch eine erhöhte Abhängigkeit von diesen Diensten bedeutet. Dies kann problematisch sein, wenn es zu Ausfällen oder Änderungen in den Nutzungsbedingungen kommt.

Warum Linux eine attraktive Alternative sein könnte

Angesichts der genannten Probleme stellt sich die Frage: Gibt es eine Alternative zu Windows 11? Die Antwort lautet: Ja, Linux. Hier sind einige Gründe, warum ein Wechsel zu Linux in Betracht gezogen werden sollte:

1. Offene und transparente Software

Linux ist ein Open-Source-Betriebssystem, was bedeutet, dass der Quellcode für jedermann zugänglich ist. Dies führt zu einer hohen Transparenz und der Möglichkeit, die Software an eigene Bedürfnisse anzupassen.

2. Bessere Kontrolle über Updates

Bei Linux haben Nutzer die volle Kontrolle über Updates. Es gibt keine Zwangs-Updates, und die Nutzer können selbst entscheiden, wann und welche Updates sie installieren möchten.

3. Stärkere Privatsphäre

Linux-Betriebssysteme sind bekannt für ihre starken Datenschutzfunktionen. Es gibt keine umfangreiche Telemetrie oder erzwungene Datensammlung, wie es bei Windows 11 der Fall ist. Nutzer können sicher sein, dass ihre Daten nicht ohne ihre Zustimmung gesammelt oder verwendet werden.

4. Vielfalt und Anpassungsfähigkeit

Es gibt viele verschiedene Linux-Distributionen, die für unterschiedliche Bedürfnisse optimiert sind. Ob man ein schlankes System für ältere Hardware, eine Distribution für Entwickler oder eine benutzerfreundliche Oberfläche sucht – es gibt für jeden Bedarf das passende Linux.

Fazit

Der bevorstehende Support-Stopp für Windows 10 und das notwendige Upgrade zu Windows 11 werfen viele Fragen auf. Die erhöhten Systemanforderungen, Zwangs-Updates und vor allem die erheblichen Privatsphäre-Bedenken machen Windows 11 für viele Nutzer unattraktiv. Ein Wechsel zu Linux könnte eine sinnvolle Alternative sein. Es bietet mehr Kontrolle, bessere Datenschutzoptionen und die Freiheit, das System nach den eigenen Wünschen zu gestalten. Angesichts dieser Vorteile lohnt es sich, Linux als ernsthafte Option zu prüfen, wenn der Support für Windows 10 ausläuft.

Quellen:

  1. Heise.de – Hardwareanforderungen Windows 11
  2. Heise.de – Kompatibilitätsprobleme
  3. Heise.de – Zwangs-Updates
  4. Heise.de – Datenschutz Windows 11
  5. Heise.de – Telemetrie
  6. Heise.de – Microsoft-Dienste Integration

Hier klicken, um den Inhalt von YouTube anzuzeigen.
Erfahre mehr in der Datenschutzerklärung von YouTube.

„Meine 5 Tipps für Linux Einsteiger – Die hätte ich auch gern‘ gehabt! – Linux für Anfänger 2023“ direkt öffnen