Los resultados de la evaluación de credibilidad de los modelos generativos preentrenados revelan riesgos potenciales

Recientemente, un equipo de investigación formado conjuntamente por varias universidades e instituciones de investigación de renombre publicó una evaluación exhaustiva de la credibilidad (LLMs) los grandes modelos lingüísticos. La evaluación se centró en la familia de modelos GPT y analizó exhaustivamente su credibilidad a través de múltiples dimensiones.

El estudio descubrió una serie de vulnerabilidades relacionadas con la confiabilidad no reveladas anteriormente. Por ejemplo, los modelos GPT son susceptibles de ser engañados para producir resultados dañinos y sesgados, y también pueden filtrar información privada en los datos de entrenamiento y el historial de conversaciones. Curiosamente, aunque GPT-4 es generalmente más fiable que GPT-3.5 en las pruebas estándar, es más vulnerable a las indicaciones diseñadas maliciosamente, probablemente debido a la adherencia más estricta de GPT-4 a las instrucciones engañosas.

La evaluación probó exhaustivamente el modelo GPT desde 8 perspectivas, incluida la robustez adversarial, la toxicidad y el sesgo, la protección de la privacidad, etc. Los investigadores construyeron múltiples escenarios de evaluación, utilizando diferentes descripciones de tareas, indicaciones del sistema y conjuntos de datos para probar el rendimiento del modelo.

En términos de robustez contra ataques adversariales, se ha descubierto que el modelo GPT es relativamente vulnerable a ciertos ataques de texto. En cuanto a la toxicidad y los sesgos, el modelo generalmente tiene un desempeño aceptable, pero bajo indicaciones engañosas tiende a generar contenido sesgado, y el grado de sesgo varía según el grupo y el tema. En lo que respecta a la protección de la privacidad, el modelo puede revelar información sensible de los datos de entrenamiento, especialmente bajo indicaciones específicas.

En general, este estudio revela algunos riesgos potenciales en términos de credibilidad de los modelos GPT, proporcionando una dirección para futuras mejoras. El equipo de investigación espera que este marco de evaluación impulse a la industria a trabajar conjuntamente para desarrollar modelos de lenguaje más seguros y confiables.