LLM local phi3 mit Ollama

In diesem Video werden wir einige kleine Codes einbinden und erklären, wie man das Sprachmodell Phi3 von Microsoft installiert und damit interagiert.

Über den folgenden Link können Sie auf die offizielle Ollama-Website zugreifen und die Anwendung herunterladen:

https://www.ollama.com

Code zur Interaktion mit dem Modell in Python, ohne die While-Schleife einzubinden:

import ollama

user_prompt = input('Cesar: ')
response = ollama.generate(model='phi3', prompt=user_prompt)
print(response['response'])

Python-Code zur wiederholten Interaktion mit dem Modell, bis wir das Wort „Auf Wiedersehen“ eingeben:

import ollama

# Bucle para preguntar continuamente hasta que el usuario escriba 'adios'
while True:
    # Solicitar al usuario que introduzca el prompt
    user_prompt = input('Cesar: ')

    # Verificar si el usuario escribió 'adios' para terminar el bucle
    if user_prompt.lower() == 'adios':
        print('¡Hasta luego!')
        break

    # Generar la respuesta utilizando el prompt del usuario
    response = ollama.generate(model='phi3', prompt=user_prompt)

    # Imprimir la respuesta
    print(response['response'])

Schreibe einen Kommentar Antworten abbrechen

Schreibe einen Kommentar