En un contexto donde los modelos de lenguaje grandes (LLMs) son cada vez más cruciales tanto para consumidores como para empresas, la confianza en estos sistemas se ha convertido en un tema central. La proliferación de respuestas incorrectas generadas con confianza, un fenómeno conocido como «alucinaciones», plantea desafíos significativos. Sin embargo, al igual que los expertos humanos, los LLMs pueden ganar credibilidad mediante la inclusión de citas y el guiado a través de su razonamiento.
La implementación de un sistema de citas en los LLMs se ejemplifica con Amazon Nova, un modelo presentado en diciembre de 2024 y disponible en Amazon Bedrock. Este modelo ayuda a mitigar los problemas de confianza al garantizar la precisión de la información ofrecida. Al permitir que los usuarios verifiquen las fuentes de datos, el sistema no solo promueve la transparencia, sino que también respeta la propiedad intelectual y evita el plagio.
El procedimiento para optimizar Amazon Nova incluye la formulación de preguntas que dirijan a los modelos a citar sus fuentes. Por ejemplo, al requerir respuestas sobre cartas de accionistas de Amazon, Nova Pro puede ser instruido para incluir citas de documentos relevantes, asegurando así respuestas más detalladas y verificables.
Para garantizar la calidad de las respuestas generadas, se emplea un proceso de evaluación mediante otro LLM que actúa como juez. Este sistema revisa las respuestas basado en corrección, completitud y coherencia, proporcionando insights valiosos que mejoran continuamente las aplicaciones de inteligencia artificial.
En conclusión, la capacidad de Amazon Nova para incorporar citas en sus respuestas no solo refuerza la fiabilidad, sino que también establece un estándar de transparencia y ética en el uso de la IA. Las técnicas de evaluación adecuadas garantizan que las interacciones con estos modelos sean más seguras y efectivas, marcando un avance significativo en el desarrollo y aplicación de tecnologías de inteligencia artificial.
