Investigadores desarrollan OpinionGPT: un modelo de IA programado intencionalmente para generar resultados sesgados.
Summary:
Investigadores de la Humboldt-Universitat zu Berlin han desarrollado OpinionGPT, un modelo de inteligencia artificial programado intencionalmente para generar resultados sesgados. El modelo, una versión modificada de Llama 2 de Meta, está entrenado para responder como representante de 11 grupos con sesgo. Sin embargo, debido a la limitada naturaleza de los datos de entrenamiento y su cuestionable relación con el sesgo del mundo real, el modelo principalmente genera texto que refleja el sesgo de sus datos. Aunque OpinionGPT puede no ser adecuado para estudiar el sesgo humano real, se puede utilizar para explorar estereotipos dentro de repositorios de documentos extensos. Los investigadores han puesto OpinionGPT disponible para pruebas públicas, pero advierten que el contenido generado puede no ser confiable.
Un equipo de investigadores de la Humboldt-Universitat zu Berlin ha creado OpinionGPT, un modelo de inteligencia artificial diseñado intencionalmente para producir resultados sesgados. Este modelo es una versión modificada de Llama 2 de Meta, que es similar en capacidad a ChatGPT de OpenAI o Claude 2 de Anthropic. OpinionGPT está entrenado para responder como si representara a uno de los 11 grupos de sesgo, como estadounidense, alemán o conservador. Los investigadores utilizan un proceso llamado ajuste fino basado en instrucciones para lograr esto. Refinaron OpinionGPT con datos obtenidos de las comunidades "AskX" de Reddit, específicamente subreddits relacionados con los 11 grupos de sesgo. Al aplicar conjuntos de instrucciones separados al modelo Llama2, los investigadores buscaron representar cada etiqueta de sesgo. Sin embargo, debido a la naturaleza de los datos utilizados y su relación cuestionable con el sesgo del mundo real, OpinionGPT genera predominantemente texto que refleja el sesgo de sus datos de entrenamiento. Los investigadores reconocen las limitaciones de su estudio y reconocen que las respuestas generadas por OpinionGPT deben entenderse como representativas de un subconjunto específico de individuos en lugar de la población en su conjunto. Los investigadores planean explorar modelos que diferencien aún más grupos demográficos específicos. Aunque OpinionGPT puede no ser adecuado para estudiar el sesgo humano real, puede ser valioso para examinar estereotipos dentro de grandes repositorios de documentos. Los investigadores han puesto OpinionGPT a disposición del público para su prueba, pero advierten que el contenido generado puede ser falso, inexacto o incluso obsceno.
Published At
9/8/2023 8:42:29 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.