Desde mediados del 2024 está disponible en Europa nuestro appliance de IA generativa Private GPT. Una solución lista para funcionar desde el primer minuto y que permite conversar con nuestros datos en lenguaje natural de una forma segura y privada.

La solución de Fsas Technologies

Private GPT es un appliance que ofrece una solución de IA Generativa conversacional en modo texto (no multimodal por el momento), con arquitectura RAG que permite consumir información propia, es decir, nos permite dialogar con nuestros datos en lenguaje natural.

Es una solución que lleva pre-instalados todos los componentes HW y SW necesarios para ofrecer todas sus funcionalidades sin necesidad de consumir ningún servicio externo, es decir, ofrece toda su funcionalidad sin necesidad de conexión a Internet, sólo con la conexión a la intranet de la compañía.

La solución incluye soporte empresarial (HW, SUSE, NVIDIA AI, …) en todos sus componentes y ofrece, durante el periodo de vigencia del soporte contratado, no sólo la corrección de cualquier problema de HW o SW, sino también la evolución del propio SW para incluir nuevas funcionalidades en función de la evolución tecnológica y la demanda de los clientes.

Además de disponer de una interfaz de usuario en forma de consola Web, la solución Private GPT dispone de una API a través de la cual se puede acceder a las funcionalidades externas para su integración con casi cualquier componente externo: bases de datos, agentes externos, otros modelos lingüísticos grandes, herramientas empresariales propias…ya sea directamente o a través del protocolo MCP (Model Context Protocol)

La solución ofrece de serie la integración con Directorio Activo/LDAP y la integración con Confluence.

¿Qué aporta esta solución?

  • Eficiencia en costes: Sin costes ocultos. Sin límite de usuarios. Sin limitación por tokens empleados.
  • Seguro y Privado. Solución in situ, sin consumo de servicios externos ni tráfico de datos fuera de la organización.
  • Personalizable a múltiples casos de uso. Solución adaptable a múltiples casos de uso y las necesidades específicas de cada cliente.
  • Ahorro en tiempo. En aprox. 1 hora desde la entrega del appliance el cliente puede estar usando todas sus funcionalidades.

Ventajas Estratégicas

  • Seguro y Privado. Solución in situ, sin consumo de servicios externos ni tráfico de datos fuera de la organización. En condiciones estándar de uso puede cumplir con cualquier regulación sobre la privacidad y seguridad de la información (Dora, NIS2, IA Act, …)
  • Evolución constante. Roadmap dinámico que va incorporando funcionalidades y mejoras en función de la evolución de la tecnología y las demandas del mercado. Permite que los expertos propios del cliente se centren en aportar valor al negocio, despreocupándose de la complejidad de mantenimiento y actualización de la tecnología de IA Generativa que evoluciona muy rápidamente.
  • Personalizable a múltiples casos de uso. Solución adaptable a múltiples casos de uso y las necesidades específicas de cada cliente. La API y el servidor MCP, permiten integrarlo fácilmente con casi cualquier solución propia del cliente para explotar al máximo su potencial.

Ventajas Operativas

  • Seguro y Privado. Solución in situ, sin consumo de servicios externos ni tráfico de datos fuera de la organización. En condiciones estándar de uso puede cumplir con cualquier regulación sobre la privacidad y seguridad de la información (Dora, NIS2, IA Act, …)
  • Personalizable a múltiples casos de uso. Solución Flexible con una arquitectura de referencia adaptable a diferentes necesidades de uso o crecimiento. Integración de usuarios DA/LDAP, conector con gestores de información (Confluence), aislamiento de usuarios y documentos, API de integración de usuarios, fuentes documentales y chats…
  • Evolución constante. Roadmap dinámico que va incorporando funcionalidades y mejoras en función de la evolución de la tecnología y las demandas del mercado.
  • Ahorro en tiempo. En aprox. 1 hora desde la entrega del appliance el cliente puede estar usando todas sus funcionalidades. Por otro lado, se dispone de un único punto de contacto (SPOC) para el soporte de toda la solución (HW + SW)

Ventajas Financieras

  • Eficiencia en costes. Sin costes ocultos. Sin límite de usuarios. Sin limitación por tokens empleados. La solución es propiedad del cliente: tanto el HW como el SW (licencias perpetuas). El cliente paga el mantenimiento correctivo (HW) y evolutivo (SW) durante el periodo acordado. A la finalización del contrato la solución no deja de funcionar, tan sólo no se puede disfrutar del soporte o mantenimiento.
  • Modo CAPEX. Inversión inicial con soporte para 1, 3 o 5 años. Cualquier mejora desarrollada por FUJITSU para la solución, está disponible para el cliente sin coste alguno.
  • Modo OPEX (FUJITSU uSCALE). Pago mensual en modo servicio durante el periodo contratado (3 o 5 años). El HW siempre está bajo el uso exclusivo del cliente y alojado donde este prefiera (datacenter propio, ISP/Collocator/Hoster)
  • Ahorro en tiempo. Retorno de la inversión desde el primer momento. Único punto de contacto (SPOC) para el soporte de toda la solución (HW + SW)

Soluciones personalizadas

Pese a que la solución Private GPT es un appliance con una configuración y funcionalidades y precio cerrado, se ofrece una cierta flexibilidad de personalización cuando el cliente y la oportunidad lo requieren.

Bespoke Private GPT

Al margen de las funcionalidades disponibles por Private GPT en su versión actual, o las previstas en su roadmap (hay una nueva versión cada dos meses aprox.), es posible ofrecer funcionalidades personalizadas.

Hay dos tipos:

  • Plugins específicos desarrollados por DASU como elementos especiales: por ejemplo, integración con Outlook o Teams
  • Soluciones diseñadas a medida para el cliente. En este caso pueden ser realizadas por DASU o por algunos partners de nuestro ecosistema habilitados para ello.

Ecosistema de Partners y Alianzas

Al margen de las alianzas en el caso del HW ya conocidas, en el caso del SW también se han desarrollado alianzas que permiten construir soluciones personalizadas para nuestros clientes. Nos referimos, por ejemplo, a alianzas con Mistral AI y Cohere. Este último está entre los 5 más valorados del ranking de LLM a nivel mundial. Estos acuerdos nos permiten ofrecer a los clientes, no solo los productos estándar que esos fabricantes ofrecen, sino soluciones personalizadas con modelos de lenguaje personalizados, entrenados específicamente para el cliente o con garantías de cumplimiento, por ejemplo, en el caso de la regulación europea.

Por otro lado, Fsas Technologies ha desarrollado en parte de los países europeos, y particularmente en España, el desarrollo de un ecosistema de partners especializados en AI, que nos permiten abordar casi cualquier proyecto relacionado con la IA la IA Generativa en particular. Partners como SADE, EDNON, Clase10, Omega Peripheals, ECONOCOM y el ITI, conocen nuestra solución de Private GPT y que pueden abordar proyectos específicos en torno a la misma.

AI Testdrive

Al margen de la solución de PrivateGPT, la oferta de Fsas Technologies en relación con la inteligencia artificial es algo más amplia que este producto. Ya antes de la comercialización de Private GPT se disponía de una infraestructura dedicada para poner a prueba ideas de implantación de soluciones de IA en los clientes: AI TestDrive. Alrededor de esta infraestructura también se había establecido un ecosistema de partners y proveedores (como BrainPool y Gramatics), que permitían la aproximación al mercado de la IA con servicios personalizados de consultoría o implantación de soluciones a medida. Debemos recordar que los acuerdos vigentes con BrainPool nos permiten disponer de los servicios de cualquier profesional especializado en IA o ciencia de datos en sólo 24h.

Ventajas de Private GPT

Algunos de los puntos fuertes de la solución Private GPT de Fsas Technologies son:

  • Privacidad y soberanía de los datos. Todo lo que necesita la solución para operar, salvo la documentación del cliente, está integrada en el sistema y no requiere de ningún servicio externo para funcionar. Puede operar desconectado de la red externa ofreciendo de esta manera la mayor seguridad frente a amenazas externas.
  • Lista para funcionar. Desde el primer minuto. La solución se ofrece al mercado con todo el HW y SW pre-instalado.
  • Mantenimiento evolutivo. Como hemos mencionado, el problema del despliegue in situ de las soluciones de IA o IA Generativa reside fundamentalmente en la obsolescencia provocada por la rápida evolución de estas tecnologías. Uno de los puntos más fuertes, es el mantenimiento evolutivo de la solución Private GPT. Esto permite a los clientes mantener sus herramientas en la vanguardia tecnológica sin costes añadidos (forma parte del soporte incluido con la solución)
  • Proveedor de confianza. Este tipo de tecnologías es complejo y evoluciona muy rápidamente. Confiar el diseño, desarrollo y mantenimiento de soluciones basadas en esta tecnología a un pequeño proveedor o incluso a un conjunto reducido de personal técnico de la propia organización, supone un riesgo para la empresa. Fujitsu/Fsas Technologies es una empresa con casi 100 años de existencia y una probada reputación en el mercado.

Referencias

Sobre Fsas Technologies

Fsas Technologies Europa es un proveedor líder de soluciones avanzadas para Datacenter. Combinamos nuestro equipo de primer nivel con tecnología preparada para el futuro, lo que permite a clientes y socios en Europa aprovechar el poder de la infraestructura para una transformación digital sostenible. Como empresa de Fujitsu, Fsas Technologies se dedica a utilizar su experiencia para hacer realidad el propósito del Grupo Fujitsu: aportar confianza a la sociedad a través de la innovación y hacer que el mundo sea más sostenible.

Juan Antonio García

Juan Antonio García

Senior Consultant HPC / AI / Quantum

”Entrada