Novos recursos neurais em sistemas de IA podem resolver o problema das alucinações de IA
Summary:
As alucinações de inteligência artificial (IA), um grande problema da indústria, podem ser resolvidas por meio de recursos neurais recém-descobertos. Essas alucinações são dados incorretos produzidos durante o treinamento de grandes modelos de linguagem de IA. O CEO da Anthropic, Dario Amodei, destaca que essas características neurais permitem a intervenção e alteração de sistemas de IA. A empresa está estudando o impacto de ajustar esses recursos para modificar o comportamento da IA. Além disso, o progresso no desenvolvimento de IA não depende mais principalmente de dados, mas de talentos devido ao advento de conjuntos de dados sintéticos, de acordo com Amodei.
Aspectos recém-descobertos do funcionamento neural dos sistemas de inteligência artificial (IA) poderiam potencialmente remediar um problema em andamento conhecido como alucinações de IA. Tais alucinações são resultados inesperados produzidos quando modelos de linguagem maiores são treinados para funcionar como sistemas de IA generativa. Esses modelos às vezes geram dados novos, embora incorretos, que não faziam parte de seu conjunto de dados anteriormente. No entanto, esses novos recursos neurais podem ser a solução para esse problema, diz o cofundador e CEO da Anthropic, Dario Amodei.
Em um discurso na Viva Tech de Paris em 2024, Amodei afirmou que os sistemas de IA contemporâneos compreendem centenas de milhões de neurônios. Ele destacou a descoberta de 30 milhões de recursos dentro de seu modelo, incluindo aqueles ligados a vulnerabilidades de segurança ou preconceito contra grupos específicos. A capacidade de intervir e alterar essas características foi agora adquirida.
O problema com as alucinações é que os processos de IA não estão cientes de que sua saída está incorreta. Mas Amodei garante que esses novos recursos podem potencialmente acabar com as alucinações de IA. Ele afirma: "As principais vantagens desta nova descoberta incluem a redução de casos de alucinações de inteligência artificial".
A pesquisa está atualmente em andamento na Anthropic para explorar como a modificação de recursos internos pode mudar o comportamento da IA. Eles conseguiram criar um modelo de demonstração onde uma característica única fez com que a IA se concentrasse fortemente na Golden Gate Bridge. Em 23 de maio, Anthropic expressou confiança em um post X: "A capacidade de identificar e modificar essas características dentro de Claude reforça nossa confiança em começar a compreender como os modelos de linguagem extensiva realmente operam".
A Anthropic, uma conceituada empresa de desenvolvimento de IA, apresentou seu chatbot de IA, Claude, ao mercado europeu no início de maio. Disponível por meio de seu aplicativo web e aplicativo para iOS, o Claude suporta vários idiomas europeus, como francês, alemão, espanhol e italiano, desde 14 de maio.
O crescimento da inteligência artificial depende de talentos e não mais de dados, segundo Amodei. A escassez de dados anteriormente atrapalhou o desenvolvimento da IA, mas o início dos conjuntos de dados sintéticos mudou o principal obstáculo para a escassez de habilidades do desenvolvedor. Os dados sintéticos são promissores para a escalabilidade da IA, mas Amodei alertou sobre uma proporção equilibrada entre dados sintéticos e do mundo real, já que o excesso de dados sintéticos pode resultar em conjuntos de dados mais fracos e irreais.
Os investimentos em IA tiveram uma ascensão significativa desde o início de 2024, com a empresa de Elon Musk conseguindo um financiamento de US$ 6 bilhões em Série B em 27 de maio. Este financiamento visa posicionar seu chatbot Grok como um rival do ChatGPT até o final do ano.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.