De nouvelles fonctionnalités neuronales dans les systèmes d’IA pourraient résoudre le problème des hallucinations de l’IA
Summary:
Les hallucinations de l’intelligence artificielle (IA), un problème majeur de l’industrie, peuvent être résolues grâce à des caractéristiques neuronales nouvellement découvertes. Ces hallucinations sont des données incorrectes produites lors de l’entraînement de grands modèles de langage d’IA. Le PDG d’Anthropic, Dario Amodei, souligne que ces caractéristiques neuronales permettent d’intervenir et de modifier les systèmes d’IA. L’entreprise étudie l’impact de l’ajustement de ces fonctionnalités pour modifier le comportement de l’IA. En outre, les progrès du développement de l’IA ne dépendent plus principalement des données mais du talent en raison de l’avènement des ensembles de données synthétiques, selon Amodei.
Des aspects récemment découverts du fonctionnement neuronal des systèmes d’intelligence artificielle (IA) pourraient potentiellement remédier à un problème persistant connu sous le nom d’hallucinations d’IA. De telles hallucinations sont des résultats inattendus produits lorsque des modèles de langage plus grands sont entraînés à fonctionner comme des systèmes d’IA générative. Ces modèles génèrent parfois des données nouvelles, bien qu’incorrectes, qui ne faisaient pas partie de leur ensemble de données auparavant. Cependant, ces nouvelles caractéristiques neuronales pourraient être la solution à ce problème, explique le cofondateur et PDG d’Anthropic, Dario Amodei.
Dans un discours prononcé lors de la fonction Viva Tech à Paris en 2024, Amodei a déclaré que les systèmes d’IA contemporains comprennent des centaines de millions de neurones. Il a souligné la découverte de 30 millions de caractéristiques dans leur modèle, y compris celles liées à des vulnérabilités de sécurité ou à des préjugés contre des groupes particuliers. La capacité d’intervenir et de modifier ces caractéristiques a maintenant été acquise.
Le problème avec les hallucinations est que les processus d’IA ne sont pas conscients que leur résultat est incorrect. Mais Amodei rassure que ces nouvelles fonctionnalités pourraient potentiellement mettre fin aux hallucinations de l’IA. Il affirme : « Les principaux avantages de cette nouvelle découverte incluent la réduction des cas d’hallucinations de l’intelligence artificielle. »
Des recherches sont actuellement en cours chez Anthropic pour explorer comment la modification des caractéristiques internes peut modifier le comportement de l’IA. Ils ont réussi à créer un modèle de démonstration où une caractéristique unique a amené l’IA à se concentrer fortement sur le Golden Gate Bridge. Le 23 mai, Anthropic a exprimé sa confiance dans un article de X : « La capacité d’identifier et de modifier ces caractéristiques chez Claude renforce notre confiance dans le fait de commencer à comprendre comment les modèles de langage étendus fonctionnent réellement. »
Anthropic, une société de développement d’IA réputée, a présenté son chatbot d’IA, Claude, sur le marché européen plus tôt en mai. Disponible via son application Web et son application iOS, Claude prend en charge plusieurs langues européennes telles que le français, l’allemand, l’espagnol et l’italien depuis le 14 mai.
La croissance de l’intelligence artificielle repose sur les talents et non plus sur les données, selon Amodei. La rareté des données entravait auparavant le développement de l’IA, mais la création d’ensembles de données synthétiques a déplacé le principal obstacle à une pénurie de compétences en développement. Les données synthétiques sont prometteuses pour l’évolutivité de l’IA, mais Amodei a mis en garde contre un rapport équilibré entre les données synthétiques et réelles, car des données synthétiques excédentaires peuvent entraîner des ensembles de données plus faibles et irréalistes.
Les investissements dans l’IA ont connu une augmentation significative depuis le début de 2024, la société d’Elon Musk ayant décroché un énorme financement de série B de 6 milliards de dollars le 27 mai. Ce financement vise à positionner son chatbot Grok comme un rival de ChatGPT d’ici la fin de l’année.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.