Offenlegung des 11434-Ports im Docker-Container für den Zugriff auf das lokale Ollama-Modell ⇐ Python

[Guest]

Ich versuche, das lokale Ollama 2-Modell, das Port 11434 auf meinem lokalen Computer verwendet, mit meinem Docker-Container zu verbinden, auf dem Linux Ubuntu 22.04 ausgeführt wird. Ich kann bestätigen, dass das Ollama-Modell definitiv funktioniert und über http://localhost:11434/ zugänglich ist. In meinem Docker-Container führe ich auch den GmailCTL-Dienst aus und konnte erfolgreich eine Verbindung mit der Google/Gmail-API herstellen, um E-Mails vom Google-Konto zu lesen und zu senden. Jetzt möchte ich auf eine E-Mail warten und das LLM die E-Mail an den Absender zurückantworten lassen. Allerdings kann ich den Port 11434 nicht veröffentlichen, um das Modell mit dem Container zu verbinden.
Ich habe versucht, die Datei devcontainer.json einzurichten, um die Ports weiterzuleiten:

Code: Select all

{ "name": "therapyGary", "build": { "context": "..", "dockerfile": "../Dockerfile" }, "forwardPorts": [80, 8000, 8080, 11434] }

Ich habe versucht, die Ports in der Docker-Datei offenzulegen:
EXPOSE 80
EXPOSE 8000
EXPOSE 8080EXPOSE 11434`
Diese scheinen die Ports zum Container hinzuzufügen und Docker kennt sie, aber wenn ich den Portstatus für das aktuell verwendete Image überprüfe, erhalte ich dies Nachricht:
"Fehler: Kein öffentlicher Port '11434' veröffentlicht für 5ae41009199a"
Ich habe auch versucht, die Datei docker-compose.yaml einzurichten:

Code: Select all

services: my_service: image: 53794c7c792c # Replace with your actual Docker image name ports: - "11434:11434" - "8000:8000" - "8080:8080" - "80:80"

Aber es scheint ein Problem damit zu geben, bei dem jeder Container damit automatisch stoppt.
Ich habe versucht, das Ollama-Modell zu stoppen , bevor Sie den Container ausführen, um keinen Konflikt zu erzeugen, aber das hat auch nicht geholfen. Alle Vorschläge sind sehr willkommen.
Vielen Dank!
-- bearbeiten -- Dockerfile-Code hinzufügen:
VON ubuntu:22.04
ENV DEBIAN_FRONTEND=noninteractive
ENV GMAILCTL_VERSION=0.10.1
Führen Sie apt-get update && apt-get install -y aus

python3

python3-pip

xdotool

curl

software-properties- allgemein

libreoffice

unzip

&& apt-get clean
RUN pip3 install --upgrade pip
LAUF pip3 install google-api-python-client google-auth-httplib2 google-auth-oauthlib Pandas-Anfragen
RUN useradd -ms /bin/bash devuser
RUN mkdir -p /workspace && chown -R devuser:devuser /workspace
USER root
WORKDIR /workspace
KOPIEREN. .
RUN chown -R devuser:devuser /workspace
EXPOSE 80
EXPOSE 8000
EXPOSE 8080
EXPOSE 11434
CMD [ "bash" ]