Preguntas frecuentes sobre la IA generativa de Oracle Analytics

¿Utiliza la IA generativa de Oracle Analytics más de un modelo o un sistema de modelos interdependientes?

Oracle Analytics no implementa modelos de IA generativa encadenados o interdependientes. Cada modelo funciona como un componente independiente, lo que simplifica la evaluación del rendimiento, los controles de acceso y los procesos de gestión de riesgos. Oracle evalúa continuamente los modelos y las arquitecturas más adecuados para una amplia gama de casos de uso de análisis y puede actualizar o cambiar sus modelos y arquitectura preferidos a lo largo del tiempo.

¿Qué categoría de modelos se utiliza en el producto? ¿Se ha desarrollado el modelo internamente o lo ha desarrollado un tercero?

Las capacidades de IA generativa de Oracle Analytics utilizan modelos básicos de proveedores de IA consolidados que están configurados para despliegues empresariales. Para obtener una lista actual de nuestros modelos de IA generativa, consulte Modelos de IA generativa previamente entrenados.

¿Se supervisa y prueba el modelo de forma continua? ¿Con qué frecuencia?

Los modelos se vuelven a validar con cada nueva versión y se solucionan las incidencias de rendimiento a medida que se identifican. Durante el desarrollo, Oracle utiliza métricas estándar de aprendizaje automático, que incluyen las puntuaciones de precisión, recuperación y F1, para validar los modelos de IA antes del despliegue. Oracle Analytics utiliza datos sintéticos para la evaluación de modelos junto con un juego de datos organizados manualmente. La evaluación de modelos se centra en la precisión y la deriva mediante la evaluación de la capacidad del modelo para generar respuestas que coincidan con la verdad fundamental establecida. Los resultados se comparan con las referencias establecidas para identificar las discrepancias (expresiones anteriormente correctas que ahora fallan) y las coincidencias (expresiones anteriormente fallidas que ahora son correctas). Cualquier discrepancia se clasifica como una regresión y sirve como fase de control para cualquier cambio de código, revisión de modelo o cambio de despliegue.

¿Cuenta Oracle con procesos para comunicar cambios en sus modelos y salida?

Como parte del proceso de publicación de Oracle Analytics, le notificamos los cambios en los modelos o las salidas de IA a través de Novedades en Oracle Analytics Cloud. Los administradores de arrendamiento también pueden activar las suscripciones de usuario, lo que garantiza un mayor conocimiento dentro de la organización. Además, cualquier persona puede mantenerse informada sobre las nuevas funciones y las siguientes versiones suscribiéndose al correo electrónico semanal de Oracle Analytics a través de Sitio de la comunidad de Oracle Analytics.

Oracle Analytics también utiliza las políticas de gestión de cambios estándar de Oracle Cloud que se documentan en Políticas de alojamiento y entrega de Oracle Cloud.

¿Incluye la política de IA de Oracle un proceso de revisión para las funciones legales y de riesgo?

Los equipos de desarrollo de productos de Oracle siguen las directrices y las directivas obligatorias de Global Product Security, que sustentan las normas de codificación segura (SCS) de Oracle. Una sección de estas normas está dedicada a IA/AA, que a su vez cuenta con una serie de directivas de seguridad. Estas directivas se dividen en las siguientes categorías:

• Gobernanza de IA: las directivas cubren los pasos necesarios para que los equipos puedan garantizar unos procedimientos de supervisión adecuados para sus modelos de aprendizaje automático.
• Infraestructura de IA: las directivas se aplican a los equipos que configuran y utilizan la infraestructura necesaria para crear y desplegar modelos de aprendizaje automático.
• Desarrollo de IA: las directivas se aplican a los equipos que participan en el desarrollo de modelos de aprendizaje automático, proporcionando orientación sobre las mejores prácticas para desarrollar, probar y desplegar modelos.
• Datos de IA: las directivas abarcan los pasos de seguridad de los equipos que participan en la recopilación, el procesamiento y la gestión de los datos que se utilizan en los modelos de aprendizaje automático.

Como parte de las normas de codificación segura establecidas anteriormente, los equipos de desarrollo de productos de Oracle evalúan regularmente sus proyectos para detectar riesgos y vulnerabilidades de seguridad específicos de la IA.

La seguridad del modelo, la arquitectura de IA de Oracle Analytics y la integración en Oracle Analytics se han sometido a una revisión de seguridad del programa de seguridad, estándares y arquitectura en la nube (CSSAP). El programa CSSAP es un proceso integral de revisión de la seguridad desarrollado por Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT y las organizaciones de TI de Oracle para proporcionar una evaluación exhaustiva de la gestión de la seguridad de la información. Para obtener más información, consulte Supervisión de la arquitectura de seguridad corporativa.

¿Recopila Oracle datos de usuario o métricas similares para medir las diferencias de los datos de entrada y salida en relación con los entornos de prueba?

Actualmente, Oracle Analytics no captura ni recopila comentarios explícitos de los usuarios con este fin. Dado que el modelo no se ajusta ni entrena con datos del cliente, las pruebas se limitan a las referencias de modelo por defecto, como se ha indicado anteriormente. En resumen: los modelos se vuelven a validar con cada nueva versión, y cualquier incidencia de rendimiento identificada se soluciona según corresponda. Durante el desarrollo, Oracle aplica métricas estándar de aprendizaje automático, como las puntuaciones de precisión, recuperación y F1, para validar los modelos de IA antes del despliegue.

¿Incorpora Oracle entradas externas o herramientas de terceros con su modelo?

Oracle Analytics no incorpora ninguna entrada externa en sus interacciones con el modelo. Las interacciones con modelos se limitan estrictamente a la comunicación directa entre Oracle Analytics y el propio modelo.

¿Depende el modelo de alguna herramienta o solución de terceros que pueda dificultar la migración del modelo a un entorno diferente?

El modelo se despliega como un servicio de Oracle Cloud Infrastructure, en el que el mismo modelo básico está disponible en varias instancias de servicio. No es necesario migrar el modelo entre instancias.

¿Cómo responde Oracle a los incidentes del sistema de IA?

Oracle Analytics emplea las políticas estándar de Respuesta a incidentes de Oracle Cloud documentadas en la sección Acuerdo de nivel de servicio de Políticas de alojamiento y entrega de Oracle Cloud.

¿Cómo prueba Oracle la calidad de las explicaciones de los sistemas?

Oracle Analytics somete todos los cambios de código, revisiones de modelos y cambios de despliegue a una fase de lanzamiento que incluye una evaluación de las respuestas generadas que coinciden con la verdad fundamental establecida como parte de nuestra referencia de evaluación. La verdad fundamental de la referencia incluye todas las explicaciones de los sistemas generadas como parte de la respuesta. Cualquier discrepancia se clasifica como una regresión y sirve como una fase de control.

¿Cómo evalúa Oracle la fiabilidad y la imparcialidad de las salidas del sistema?

Oracle Analytics se basa en la infraestructura de IA generativa de OCI para sus modelos básicos y no entrena los modelos de forma explícita. La IA generativa de OCI utiliza las mejores prácticas para garantizar la fiabilidad y evitar sesgos en sus modelos básicos.

Además, Oracle Analytics ofrece actualmente un control general sobre la contribución del modelo de lenguaje de gran tamaño (LLM) en la respuesta que se muestra a los usuarios finales. Este mecanismo garantiza que el LLM no muestre información directamente a los usuarios finales, lo que garantiza que las respuestas generadas se produzcan completamente en Oracle Analytics y que, por lo tanto, sean fiables. Además, el administrador del servicio de Oracle Analytics tiene la capacidad de desactivar cualquiera o todas las funciones basadas en IA en el nivel de función individual. Para obtener más información, consulte Acerca de la configuración de IA generativa.

¿Existe un plan de contingencia y recuperación ante desastres para las instancias cuando el modelo no está disponible?

Oracle Analytics se basa en la infraestructura de IA generativa de OCI para sus modelos básicos. La resiliencia y la tolerancia a fallos de la infraestructura de OCI están documentadas en Políticas de alojamiento y entrega de Oracle Cloud. Puede encontrar más información sobre los clusters dedicados de la IA generativa de OCI en Creación de un cluster de IA dedicado en la IA generativa para los modelos de alojamiento y Oracle PaaS and IaaS Public Cloud Services Pillar Document.

¿Cómo prueba Oracle la consistencia del modelo en diferentes entornos?

Todos los modelos de cliente y desarrollo se despliegan en el mismo marco de Oracle Cloud Infrastructure. Los entornos de prueba internos, incluidos los entornos de prueba de preproducción y producción, mantienen el mismo estado de configuración que los entornos de cliente.

¿Tiene Oracle una política de gobernanza establecida para el modelo?

Oracle Analytics utiliza los modelos básicos desplegados a través del servicio de IA generativa de Oracle Cloud Infrastructure. Estos modelos se utilizan en su estado nativo sin modificaciones: Oracle Analytics no realiza ningún entrenamiento, ajuste ni personalización de modelos en los modelos básicos subyacentes. En consecuencia, las políticas de gobernanza de modelos utilizadas por la infraestructura de IA generativa de OCI también son aplicables a Oracle Analytics.

¿Ha establecido Oracle políticas y procedimientos que definan roles y responsabilidades para la supervisión humana de los modelos desplegados?

Oracle Analytics cuenta con un sólido proceso de evaluación de modelos que utiliza datos sintéticos que sirven como fase de control para cualquier cambio de código, revisión de modelo o cambio de despliegue. Las ejecuciones de evaluación del modelo se examinan con una combinación de automatización y supervisión humana. Más allá de eso, Oracle Analytics no realiza ninguna supervisión humana de los modelos desplegados.