VoidLLM

Windows
VoidLLM
Ir a descargas

VoidLLM funciona como pasarela autohospedada entre aplicaciones y proveedores de modelos de lenguaje para administrar accesos y consumo.

Se orienta a equipos que necesitan centralizar proveedores, claves y límites. El panel es una herramienta de administración: no incluye por sí mismo los modelos ni sustituye las cuentas o servidores de los proveedores. Puedes encontrar más programas para Windows y consultar Askimo para conversar con modelos de IA.

Características de VoidLLM

  • Claves virtuales para aplicaciones y usuarios.
  • Permisos organizados por usuarios, equipos y organizaciones.
  • Límites de solicitudes y presupuestos de tokens.
  • Alias para dirigir solicitudes a los modelos configurados.
  • Balanceo entre despliegues y recuperación ante fallos.
  • Panel de uso, costes estimados y metadatos de solicitudes.

Ventajas y desventajas

Ventajas

  1. Centraliza la configuración de varios proveedores.
  2. Puede ejecutarse como un binario con interfaz web incorporada.

Desventajas

  1. Necesita una configuración y administración propias.
  2. Los servicios remotos mantienen sus costes y condiciones.

Novedades de VoidLLM

  • El paquete importado no especifica versión, por lo que no se le asigna un número.
  • La descripción se basa en la documentación del proyecto; las funciones concretas dependen de la compilación utilizada.

Requisitos del sistema

  • Windows con el binario de la arquitectura correspondiente.
  • Claves de administración y cifrado configuradas y conservadas.
  • Acceso a los proveedores o servidores de modelos elegidos.
  • Almacenamiento persistente y copias de la configuración y base de datos.

Información contrastada con la documentación del proyecto y las historial de publicaciones.

Capturas de pantalla

Interfaz de VoidLLM publicada por el desarrollador.
Interfaz de VoidLLM publicada por el desarrollador.

Ficha técnica

Desarrollador
Voidmind y colaboradores
Licencia
Business Source License 1.1; consultar sus condiciones
Idioma
Multilenguaje
Tamaño
Consultar en el enlace de descarga
Arquitectura
Según el paquete de descarga
Versión
No indicada en el paquete
Sistema
Windows
voidllm.rar 3 servidores Google DrivePixeldrainSnvme

Clave del archivo:

Comentarios

Comentando como invitado · se revisa antes de publicarse

    Aún no hay comentarios. ¡Sé el primero en opinar!