adrienbrault/
nous-hermes2pro

5,245 1 year ago

NousResearch/Hermes-2-Pro-Mistral-7B

Models

View all →

36 models

nous-hermes2pro:Q2_K

2.7GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_S

3.2GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_M

3.5GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_L

3.8GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_0

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_S

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_M

4.4GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_0

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_S

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_M

5.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q6_K

5.9GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q8_0

7.7GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q2_K-json

2.7GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q2_K-tools

2.7GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_L-json

3.8GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_L-tools

3.8GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_M-json

3.5GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_M-tools

3.5GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_S-json

3.2GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q3_K_S-tools

3.2GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_0-json

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_0-tools

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_M-json

4.4GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_M-tools

4.4GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_S-json

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q4_K_S-tools

4.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_0-json

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_0-tools

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_M-json

5.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_M-tools

5.1GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_S-json

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q5_K_S-tools

5.0GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q6_K-json

5.9GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q6_K-tools

5.9GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q8_0-json

7.7GB · 32K context window · Text · 1 year ago

nous-hermes2pro:Q8_0-tools

7.7GB · 32K context window · Text · 1 year ago

Readme

github.com/adrienbrault/ollama-nous-hermes2pro

Ollama models of NousResearch/Hermes-2-Pro-Mistral-7B-GGUF.

$ ollama run adrienbrault/nous-hermes2pro:Q4_0 'Hey!'

Hello! How can I help you today? If you have any questions or need assistance, feel free to ask.

There are -tools and -json tags with the recommended system prompt for function calling and json mode.

You provide the tools with the user message:

$ ollama run adrienbrault/nous-hermes2pro:Q4_0-tools "<tools>$(cat examples/tool-stock.json)</tools>

Fetch the stock fundamentals data for Tesla (TSLA)"

<tool_call>
{"arguments": {"symbol": "TSLA"}, "name": "get_stock_fundamentals"}
</tool_call>

Or a schema for the json mode:

$ ollama run adrienbrault/nous-hermes2pro:Q4_0-json "<schema>$(cat examples/user-schema.json)<schema>

Adrien Brault was born in 1991"

{"firstName": "Adrien", "lastName": "Brault", "age": 30}