Gadgets and Devices

Opera ermöglicht Benutzern das Herunterladen und lokale Verwenden von LLMs

Written by smirow

Das Webbrowser-Unternehmen Opera gab heute bekannt, dass es Benutzern nun ermöglichen wird, erweiterte Sprachmodelle (LLMs) lokal auf ihren Computern herunterzuladen und zu verwenden. Diese Funktion wird zunächst für Opera One-Benutzer bereitgestellt, die Updates über den Entwickler-Feed erhalten, und ermöglicht Benutzern die Auswahl aus über 150 Modellen aus über 50 Familien.

Zu diesen Modellen gehören Llama von Meta, Gemma von Google und Vicuna. Die Funktion wird Benutzern im Rahmen des AI Feature Drops-Programms von Opera zur Verfügung stehen, um Benutzern einen frühen Zugriff auf bestimmte KI-Funktionen zu ermöglichen.

Das Unternehmen gab an, dass es das Open-Source-Ollama-Framework im Browser verwendet, um diese Modelle auf Ihrem Computer auszuführen. Derzeit sind alle verfügbaren Vorlagen eine Teilmenge der Ollama-Bibliothek, aber in Zukunft plant das Unternehmen, Vorlagen aus verschiedenen Quellen einzubeziehen.

Bildnachweis: Oper

Das Unternehmen erwähnte, dass jede Variante mehr als 2 GB Speicherplatz auf Ihrem lokalen System beanspruchen wird. Sie müssen also auf Ihren freien Speicherplatz achten, um zu vermeiden, dass Ihnen der Speicherplatz ausgeht. Insbesondere unternimmt Opera beim Herunterladen einer Vorlage keine Maßnahmen, um Platz zu sparen.

„Opera bietet zum ersten Mal Zugriff auf eine große Auswahl lokaler LLMs von Drittanbietern direkt im Browser. Es wird erwartet, dass sie kleiner werden, da sie sich immer mehr auf die anstehenden Aufgaben spezialisieren“, sagte Jan Standal, Vizepräsident von Opera, in einer Erklärung gegenüber TechCrunch.

Bildnachweis: Oper

Diese Funktion ist nützlich, wenn Sie verschiedene Modelle lokal testen möchten. Wenn Sie jedoch Platz sparen möchten, gibt es zahlreiche Online-Tools wie HuggingChat von Poe und Quora, mit denen Sie verschiedene Modelle erkunden können.

Opera spielt seit letztem Jahr mit KI-basierten Funktionen. Das Unternehmen startete im vergangenen Mai einen Assistenten namens Aria in der Seitenleiste und führte ihn im August in der iOS-Version ein. Im Januar kündigte Opera an, einen KI-gestützten Browser mit eigener Engine für iOS zu entwickeln, da die EU-Gesetze zum digitalen Markt (DMAs) von Apple verlangten, die obligatorische Anforderung für die WebKit-Engine für mobile Browser zu streichen.

About the author

smirow

Leave a Comment