So nutzen Sie einen Open-Source-Chatbot (z. B. Phi-3 Mini) lokal und kostenlos

Dies ist ein automatisch aus dem Italienischen übersetzter Text. Wenn Sie unsere Arbeit schätzen und sie gerne in Ihrer Sprache lesen, denken Sie über eine Spende nach, damit wir sie weiterhin durchführen und verbessern können.

Wir haben ein gefunden twittern (leider müssen wir es hin und wieder nutzen, weil es dort oben immer noch viele, viele interessante Leute gibt, aber Sie wissen, dass wir es bevorzugen Mastodon) Von Paul Couvert Darin wird erklärt, wie Sie das Phi-3-Mini-Modell von Microsoft ohne besondere technische Kenntnisse oder anspruchsvolle Tools kostenlos auf Ihrem Computer verwenden können. Das Modell Phi-3 Mini stammt, wie erwähnt, von Microsoft, ist es aber auch Open Source. Mit dieser Methode können Sie ein offenes Tool verwenden, ohne Ihre Daten an Microsoft weitergeben oder zulassen zu müssen, dass Microsoft seine KI mit Ihren Daten trainiert.

Es tut uns leid, dass Sie das nicht können siehe den Tweet Wenn Sie nicht bei Twitter registriert sind, ist diese neue brillante Idee von Musk vielleicht eine der schlechtesten unter den vielen schlechten, die er hatte, aber wir werden versuchen, sie so gut wie möglich für Sie zusammenzufassen, indem wir Ihnen die richtigen Werkzeuge zur Verfügung stellen in der Lage, Phi-3 Mini lokal zu verwenden.

So nutzen Sie einen Chatbot (z. B. Phi-3 Mini) lokal und kostenlos

Dem ersten Tweet liegt diese Vergleichstabelle der verschiedenen Modelle bei.

Wir beginnen mit LM Studio

1. Zuerst installieren LM Studio. Es ist völlig kostenlose Software und für macOS, Windows und Linux verfügbar. LM Studio besteht aus einigen Teilen Open Source gefällt der Version über die Befehlszeile. Es sammelt jedoch keine Daten und kann offline verwendet werden (natürlich nach dem Herunterladen der LLMs). Alternativ können Sie auch einen Blick darauf werfen Jan was stattdessen ist Open Source. Sobald Sie die richtige Version für Ihr Betriebssystem heruntergeladen haben, führen Sie sie aus und installieren Sie sie dann auf Ihrem Computer.
2. Suchen Sie nach der Installation und Ausführung Phi-3 auf der Hauptseite des geöffneten Programms und wählen Sie dann microsoft/Phi-3-mini-4k-instruct-gguf und laden Sie dann rechts die Version herunter Q4.
3. Beginnen wir nun mit der Verwendung von Phi-3. Klicken Sie links auf den Reiter mit dem Chat-Symbol und dann auf Weiter Neuer Chat. Oben, wo es heißt „Wählen Sie ein Modell zum Laden aus“, drücken Sie auf Phi-3 Mini und Sie können den Chatbot lokal und völlig kostenlos nutzen.

Das ist alles so, in diesem Fall benötigen Sie weder eine Internetverbindung noch müssen Sie Ihre Telefonnummer angeben E-Mail-Adresse an jemanden, der einen Chatbot ausnutzen kann.

Offensichtlich greift unser Beispiel den Tweet auf, weil er vom Autor als einer der besten angesehen wird. Aber natürlich empfehlen wir Ihnen im Rahmen des Programms, jedes andere verfügbare Modell zu verwenden, wenn Sie dies bevorzugen.

Leider funktionieren diese Modelle auf einigen sehr alten Computern möglicherweise nicht lokal. In diesem Fall gibt es nicht viele andere Lösungen als die Verwendung von a Datenschutzfreundlicher Chatbot wie die, die wir aufgelistet haben dieser Artikel von uns.

Dieses Tag @treue Alternativen wird verwendet, um diesen Beitrag automatisch an zu senden Feddit und erlauben Sie jedem im Fediversum, dazu Stellung zu nehmen.

Treten Sie Communities bei