Las nuevas características neuronales de los sistemas de IA pueden resolver el problema de las alucinaciones de la IA
Summary:
Las alucinaciones de la inteligencia artificial (IA), un problema importante de la industria, pueden resolverse a través de características neuronales recién descubiertas. Estas alucinaciones son datos incorrectos producidos durante el entrenamiento de grandes modelos de lenguaje de IA. El CEO de Anthropic, Dario Amodei, destaca que estas características neuronales permiten la intervención y alteración de los sistemas de IA. La firma está estudiando el impacto de ajustar estas características para modificar el comportamiento de la IA. Además, el progreso en el desarrollo de la IA ya no depende principalmente de los datos, sino del talento debido a la llegada de los conjuntos de datos sintéticos, según Amodei.
Los aspectos recientemente descubiertos del funcionamiento neuronal de los sistemas de inteligencia artificial (IA) podrían remediar un problema actual conocido como alucinaciones de IA. Estas alucinaciones son resultados inesperados que se producen cuando se entrenan modelos de lenguaje más grandes para que funcionen como sistemas de IA generativa. Estos modelos a veces generan datos novedosos, aunque incorrectos, que antes no formaban parte de su conjunto de datos. Sin embargo, estas nuevas características neuronales podrían ser la solución a este problema, dice el cofundador y CEO de Anthropic, Dario Amodei.
En un discurso en la función Viva Tech de París en 2024, Amodei afirmó que los sistemas de IA contemporáneos comprenden cientos de millones de neuronas. Destacó el descubrimiento de 30 millones de características dentro de su modelo, incluidas las relacionadas con vulnerabilidades de seguridad o sesgos contra grupos particulares. Ahora se ha adquirido la capacidad de intervenir y alterar estas características.
El problema con las alucinaciones es que los procesos de IA no son conscientes de que su salida es incorrecta. Pero Amodei asegura que estas nuevas características podrían poner fin a las alucinaciones de la IA. Afirma: "Las principales ventajas de este nuevo descubrimiento incluyen la reducción de los casos de alucinaciones de inteligencia artificial".
Actualmente se está investigando en Anthropic para explorar cómo la modificación de las características internas puede cambiar el comportamiento de la IA. Han logrado crear un modelo de demostración en el que una característica única hizo que la IA se concentrara en gran medida en el puente Golden Gate. El 23 de mayo, Anthropic expresó su confianza en una publicación de X: "La capacidad de identificar y modificar estas características dentro de Claude refuerza nuestra confianza en comenzar a comprender cómo funcionan realmente los modelos de lenguaje extensos".
Anthropic, una estimada empresa de desarrollo de IA, presentó su chatbot de IA, Claude, en el mercado europeo a principios de mayo. Disponible a través de su aplicación web y aplicación iOS, Claude admite varios idiomas europeos como francés, alemán, español e italiano desde el 14 de mayo.
El crecimiento de la inteligencia artificial se basa en los talentos y ya no en los datos, según Amodei. La escasez de datos anteriormente dificultaba el desarrollo de la IA, pero el inicio de los conjuntos de datos sintéticos ha desplazado el principal obstáculo a la escasez de habilidades de los desarrolladores. Los datos sintéticos son prometedores para la escalabilidad de la IA, pero Amodei advirtió sobre una proporción equilibrada entre los datos sintéticos y los del mundo real, ya que el exceso de datos sintéticos puede dar lugar a conjuntos de datos más débiles y poco realistas.
Las inversiones en IA han experimentado un ascenso significativo desde principios de 2024, y la empresa de Elon Musk obtuvo la friolera de 6.000 millones de dólares en financiación de serie B el 27 de mayo. Esta financiación tiene como objetivo posicionar su chatbot Grok como rival de ChatGPT para finales de año.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.