Je onderwijsassistent op je eigen pc

Laat een reactie achter
Rate this post

De recente actualiteit heeft getoond dat een AI kan uitvallen of geblokkeerd worden door een vreemde overheid. Daarom is het belangrijk alternatieven te kennen. In deze bijdrage hebben we het over lokaal geïnstalleerde AIs – in een andere hebben we het over Mistral, een Franse AI. In beide gevallen houden we de elders uitgewerkte agenten voor ogen – zonder te vergeten dat het niet over échte agenten gaat, scripts die zelf stappen zetten.

We willen het over drie pistes hebben:

  1. Jan.ai (de makkelijkste)
  2. LM Studio (de meest flexibele)
  3. Open WebUI (de meest krachtige, maar ook de meest technische)

De twee eerste werken we uit, en voor de derde geven we bronnen.

1 – Jan.ai

  • Installeer jan.ai
  • Start een gesprek
  • Maak een nieuw project
  • Selecteer ‘Assistent’ om er een nieuwe te maken
  • Vanaf nu heb je een project met die voorgedefinieerde prompt. helaas kan je geen bijlagen meegeven

2 – LocalLM Studio

  • Installeer LM Studio – lmstudio.ai/
  • In LM Studio, download en installeer de AI die je wil gebruiken zoals Gemma (een gereduceerde versie van Gemini) of Minimistral (een gereduceerde versie van Mistral)
  • Start een chat
  • Maak een system prompt
  • Geef de prompt en geef een naam
  • Als je aan de slag bent met je AI, kan je die system prompt gebruiken

3 – Open WebUI

3a – Stappen:

  • Installeer Ollama en Docker
  • Installeer Open WebUI in Docker
  • Conecteer met een of meerdere AI providers
  • In Workspace, Models, maak je een model. Geef een naam, instructies (system prompt) en bijlagen (knowledge)

3b – Informatie

Pro en contra

  • PRO
    Een lokaal geïnstalleerde AI kan niet extern uitgeschakeld worden, of plots ontoegankelijk gemaakt
    Je gegevens blijven in je eigen omgeving, ze gaan niet naar de cloud.
  • CONTRA
    Andere taalmodellen gedragen zich mogelijk anders dan wat je gewoon bent. Blijf experimenteren!
    Sowieso is een AI geen vrijstelling voor nadenken: blijf kritisch voor wat je vraagt, en voor het resultaat.
    En ook hier geeft een slechte prompt een slecht resultaat.

Meer informatie

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *