Ollama

O Ollama é uma ferramenta de código aberto que permite executar qualquer modelo de linguagem em uma máquina local. Aproveitando o poder de processamento do seu computador, esta ferramenta pode ajudá-lo a gerar respostas sem a necessidade de acessar um LLM online. E o melhor de tudo é que você sempre obterá respostas, mesmo que o seu PC tenha recursos limitados. No entanto, hardware ineficiente pode reduzir significativamente a velocidade de geração de tokens.

Aproveite o potencial de modelos de linguagem poderosos

O Ollama facilita muito a instalação de diferentes modelos equipados com bilhões de parâmetros, incluindo Llama 3, Phi 3, Mistral e Gemma, simplesmente inserindo seus respectivos comandos. Por exemplo, se você quiser executar o poderoso Llama 3 da Meta, basta usar ollama run llama3 no console para iniciar a instalação. Observe que, por padrão, o Ollama irá gerar conversas através do CMD do Windows. Além disso, recomenda-se ter o dobro do espaço livre em relação ao tamanho de cada LLM que você adicionar.

Conversas fluidas

Assim como com os modelos de linguagem que você pode executar na nuvem, o Ollama permite armazenar respostas anteriores para obter mais coesão e contexto. Como resultado, você pode criar uma conversa muito bem estruturada que aproveitará todo o potencial dos LLMs mais sofisticados.

Instale uma interface alternativa

Graças ao repositório "ollama-webui", é possível aproveitar todo o potencial do Ollama com uma interface muito mais visual, semelhante ao ChatGPT. Executando o comando Docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main no Docker, você poderá implementar um container que ajudará a obter um design visual muito mais intuitivo.

Crie seu próprio LLM

O Ollama também permite que você crie seu próprio LLM para uma experiência muito mais personalizada. Ao fazer a sua própria configuração, você pode integrar diferentes modelos ao mesmo tempo para obter respostas que combinam os recursos de cada assistente.

Baixe o Ollama para Windows e aproveite as infinitas possibilidades que esta ferramenta impressionante proporciona, permitindo-lhe usar qualquer LLM localmente. Isso aumentará sua privacidade e você não precisará compartilhar informações online com os riscos que isso pode acarretar.