Bedeutung & Anwendung – Verständlich und ohne Fachbegriffe
On-Device LLMs sind KI-Sprachmodelle, die direkt auf Ihrem Geraet laufen. Das kann ein Smartphone, ein Laptop oder ein Tablet sein. Die Daten werden nicht an einen Server im Internet geschickt.
Wenn Sie ChatGPT oder eine aehnliche KI nutzen, wird Ihre Eingabe an einen Server gesendet. Dort wird die Antwort berechnet und zurueckgeschickt. Bei On-Device LLMs passiert alles auf Ihrem Geraet. Ihre Daten bleiben bei Ihnen.
Erstens: Besserer Datenschutz. Keine Texte, Dokumente oder Fragen verlassen Ihr Geraet. Zweitens: Es funktioniert ohne Internet. Drittens: Die Antworten kommen schneller, weil keine Daten hin- und hergeschickt werden muessen.
On-Device-Modelle sind kleiner als Cloud-Modelle. Sie koennen nicht so komplexe Aufgaben loesen. Fuer einfache Aufgaben wie Zusammenfassungen, E-Mail-Entwuerfe oder Textkorrektur reichen sie aber aus.
Apple Intelligence auf dem iPhone, Gemini Nano von Google auf Pixel-Handys und Microsofts Phi-Modelle auf Windows-Geraeten. Auch das Open-Source-Modell Llama von Meta kann auf dem eigenen Computer betrieben werden.
Die bereitgestellten Informationen dienen ausschließlich der allgemeinen Orientierung. Für Richtigkeit, Vollständigkeit und Aktualität wird keine Gewähr übernommen. Die Inhalte sind nicht rechtsverbindlich und nicht Bestandteil einer Leistungsbeschreibung.