Added kokoro
This commit is contained in:
@@ -43,6 +43,7 @@ ufw_outgoing_traffic:
|
|||||||
- 443 # HTTPS
|
- 443 # HTTPS
|
||||||
- 853 # DNS over TLS
|
- 853 # DNS over TLS
|
||||||
- 11434 # Ollama
|
- 11434 # Ollama
|
||||||
|
- 8880 # Kokoro-FastAPI
|
||||||
|
|
||||||
ufw_default_forward_policy: "ACCEPT"
|
ufw_default_forward_policy: "ACCEPT"
|
||||||
|
|
||||||
|
|||||||
@@ -36,6 +36,7 @@ ufw_enable: true
|
|||||||
fw_allowed_ports:
|
fw_allowed_ports:
|
||||||
- { rule: "allow", port: "22", proto: "tcp" }
|
- { rule: "allow", port: "22", proto: "tcp" }
|
||||||
- { rule: "allow", port: "11434", proto: "tcp" }
|
- { rule: "allow", port: "11434", proto: "tcp" }
|
||||||
|
- { rule: "allow", port: "8880", proto: "tcp" }
|
||||||
|
|
||||||
ufw_outgoing_traffic:
|
ufw_outgoing_traffic:
|
||||||
- 22 # SSH
|
- 22 # SSH
|
||||||
|
|||||||
@@ -0,0 +1,21 @@
|
|||||||
|
- name: Setup Kokoro FastApi
|
||||||
|
hosts: kokoro
|
||||||
|
vars:
|
||||||
|
podman_user: "{{ kokoro_user | default('kokoro') }}"
|
||||||
|
podman_group: "{{ kokoro_group | default('kokoro') }}"
|
||||||
|
podman_user_home: "{{ kokoro_home | default('/home/kokoro') }}"
|
||||||
|
podman_user_folders:
|
||||||
|
- data
|
||||||
|
pods:
|
||||||
|
- name: kokoro
|
||||||
|
repo:
|
||||||
|
image: ghcr.io/remsky/kokoro-fastapi-gpu
|
||||||
|
ports:
|
||||||
|
- "0.0.0.0:{{ kokoro_port | default(8880) }}:8880/tcp"
|
||||||
|
device:
|
||||||
|
- "nvidia.com/gpu=all"
|
||||||
|
|
||||||
|
tasks:
|
||||||
|
- name: Setup Pods
|
||||||
|
ansible.builtin.include_tasks:
|
||||||
|
file: tasks/podman.yml
|
||||||
Reference in New Issue
Block a user