17
submitted 9 months ago by Suoko@feddit.it to c/localllama@sh.itjust.works

Linux package available like LM Studio

top 9 comments
sorted by: hot top controversial new old
[-] Deceptichum@sh.itjust.works 7 points 9 months ago

Why use this over so Ollama?

[-] Suoko@feddit.it 6 points 9 months ago

LM Studio has integrated image recognition, while AnythingLLM has implemented RAG

[-] photonic_sorcerer@lemmy.dbzer0.com 5 points 9 months ago

Is it FOSS? Can you plug in any model you want?

[-] priapus@sh.itjust.works 3 points 9 months ago

MIT licensed and yes

[-] pennomi@lemmy.world 3 points 9 months ago

It’s MIT licensed apparently

[-] doodlebob@lemmy.world 2 points 8 months ago* (last edited 8 months ago)

Do you know if there is openai API compatibility? More specifically I'd like to get home assistant to interact with the LLM via the custom OpenAI hacs addon

[-] mapto@feddit.it 0 points 9 months ago

Ma qualcuno di voi è riuscito a trovare un'applicazione utile? Sarei curioso a vedere come si comporta, perché chatgpt-4 fa proprio schifo

[-] Suoko@feddit.it 1 points 9 months ago

Io ci scrivo testi formali, script bash, faccio leggergli kotlin e lo uso per analisi veloci di fatti avvenuti (quest'ultima cosa fattibile solo con gemini o gli LLM collegati al web)

[-] mapto@feddit.it 1 points 9 months ago

La mia impressione è che va bene solo nei casi che sono talmente semplici, che dopo riesca facilmente a verificare che non ci siano errori.

Nel mio caso non trovo tanti occasioni di fare qualcosa che è più veloce rileggere e potenzialmente correggere, piuttosto che farlo da capo.

Dall'altra parte, a volte se becco un errore, invece che correggere, chiedo di nuovo e sputa una cosa abbastanza diversa.

this post was submitted on 31 Mar 2024
17 points (75.8% liked)

LocalLLaMA

2374 readers
6 users here now

Community to discuss about LLaMA, the large language model created by Meta AI.

This is intended to be a replacement for r/LocalLLaMA on Reddit.

founded 2 years ago
MODERATORS