Resultados da avaliação da confiabilidade do modelo pré-treinado generativo revelam riscos potenciais

Recentemente, uma equipa de investigação formada conjuntamente por várias universidades e instituições de investigação bem conhecidas publicou uma avaliação abrangente da credibilidade (LLMs) grandes modelos linguísticos. A avaliação centrou-se na família de modelos GPT e analisou de forma abrangente a sua credibilidade através de múltiplas dimensões.

A pesquisa descobriu algumas vulnerabilidades relacionadas à confiabilidade que não haviam sido divulgadas anteriormente. Por exemplo, o modelo GPT é suscetível a ser enganado, produzindo saídas prejudiciais e tendenciosas, além de poder vazar informações privadas contidas nos dados de treinamento e no histórico de conversas. Curiosamente, embora o GPT-4 seja geralmente mais confiável do que o GPT-3.5 em testes padrão, ele tende a ser mais vulnerável a ataques quando confrontado com prompts maliciosamente projetados, o que pode ser devido ao fato de que o GPT-4 segue de forma mais rigorosa instruções enganosas.

A avaliação foi realizada de forma abrangente sobre o modelo GPT a partir de 8 ângulos, incluindo robustez contra ataques, toxicidade e preconceitos, proteção de privacidade, entre outros aspectos. Os pesquisadores construíram vários cenários de avaliação, utilizando diferentes descrições de tarefas, sugestões de sistema e conjuntos de dados para testar o desempenho do modelo.

No que respeita à robustez contra ataques adversariais, foi descoberto que o modelo GPT é relativamente vulnerável a certos ataques textuais. Em termos de toxicidade e preconceito, o modelo apresenta um desempenho aceitável na maioria das situações, mas tende a gerar conteúdos tendenciosos sob sugestões enganosas, e o grau de preconceito varia consoante o grupo e o tema. Em relação à proteção da privacidade, o modelo pode vazar informações sensíveis contidas nos dados de treino, especialmente sob sugestões específicas.

No geral, este estudo revela alguns riscos potenciais em termos de credibilidade do modelo GPT e fornece uma direção para melhorias subsequentes. A equipa de investigação espera que este quadro de avaliação conduza a um esforço concertado da indústria para desenvolver modelos linguísticos mais seguros e fiáveis.