OpenAI extrae lecciones clave de un proyecto de subvención de 1 millón de dólares que promueve el comportamiento democrático de la IA
Summary:
OpenAI ha recopilado cinco ideas clave de su programa de subvenciones de 1 millón de dólares destinado a establecer un proceso democrático para el comportamiento de la IA, basado en las aportaciones del público. Las lecciones incluyen la necesidad de procesos de aportación frecuentes para adaptarse a los puntos de vista cambiantes, garantizar que un proceso colectivo capture los valores fundamentales, abordar la brecha digital, manejar los puntos de vista divergentes dentro de los grupos y equilibrar el consenso mientras se representan las opiniones diferentes. Teniendo en cuenta las aprensiones y la esperanza del público para el uso futuro de la IA en la política, OpenAI busca implementar los comentarios recopilados y está estableciendo un nuevo equipo, dedicado a incorporar la opinión pública en el comportamiento de sus modelos de IA.
OpenAI ha identificado cinco puntos clave de su iniciativa de subvención de 1 millón de dólares que buscaba la opinión del público sobre cómo dar forma al comportamiento de la IA que se alinea con los valores humanos. La compañía anunció en mayo de 2023 su plan de distribuir un total de 1 millón de dólares, desglosado en diez subvenciones de 100.000 dólares cada una, para proyectos que tengan como objetivo desarrollar un método democrático y preliminar para decidir las directrices de los sistemas de IA.
En una publicación de blog fechada el 16 de enero, la empresa de IA detalló cómo los beneficiarios de las subvenciones habían facilitado la innovación en tecnología democrática, qué les había enseñado el programa y cómo planean incorporar la tecnología democrática recientemente desarrollada.
La publicación señaló que los diversos equipos recopilaron los sentimientos de los usuarios de diversas maneras, afirmando que la opinión pública era propensa a cambios frecuentes, lo que puede dictar la frecuencia con la que deben ocurrir estos procesos de recopilación. Un entendimiento crucial fue que el proceso colectivo debe capturar los valores fundamentales y ser sensible a cualquier cambio significativo de perspectiva a lo largo del tiempo.
Los equipos descubrieron que la superación de la brecha digital sigue siendo un obstáculo importante, lo que puede causar resultados sesgados. Adquirir participantes que atraviesen la brecha digital fue una tarea debido a las limitaciones de la plataforma y a las complicaciones relacionadas con la comprensión de los idiomas o contextos locales.
Curiosamente, se observó que era difícil lograr un consenso dentro de los grupos con fuertes divergencias, especialmente cuando una pequeña minoría tenía opiniones arraigadas sobre un tema específico. Una revelación del equipo de Diálogos Colectivos fue una minoría inflexible en no limitar a los asistentes de IA a responder a ciertas consultas por sesión, lo que provocó fricciones con los resultados de la votación mayoritaria.
Según OpenAI, equilibrar un acuerdo uniforme y al mismo tiempo incluir diversos puntos de vista es una tarea desalentadora cuando el resultado previsto es singular. Uno de los equipos, Inclusive.AI, examinó los mecanismos de votación y descubrió que los métodos que transmitían una fuerte fuerza emocional y permitían una participación igualitaria se percibían como más democráticos y equitativos.
En cuanto a las preocupaciones sobre el papel de la IA en la gobernanza futura, la publicación del blog mencionó que algunos participantes expresaron aprensiones sobre el uso de la IA en la redacción de políticas, al tiempo que pidieron transparencia. A pesar de esto, después de las discusiones, se observó un mayor optimismo entre el público sobre su capacidad para guiar la IA.
OpenAI planea utilizar las sugerencias del público y está estableciendo un nuevo equipo de Alineación Colectiva formado por personal de investigación e ingeniería. Se les asigna la tarea de construir un sistema para recopilar e integrar las opiniones públicas sobre el comportamiento de sus modelos en las ofertas de OpenAI.
En otras noticias, la publicación informa sobre "secuestros" fraudulentos de IA, un chef robot de $ 20K y las disputas de plagio de IA de Ackman en AI Eye.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.