Sistema de IA ChatGPT da OpenAI se recupera após colapso bizarro de Shakespeare
Summary:
O sistema de IA ChatGPT da OpenAI enfrentou uma falha notável entre 20 e 21 de fevereiro, levando usuários perplexos, já que a IA produziu saídas absurdas, surpreendentemente até mesmo a linguagem shakespeariana. O problema parecia ter sido resolvido 18 horas depois de ter sido denunciado. A causa exata do problema não é determinada e, devido à natureza complexa de grandes modelos de linguagem, pode ser um desafio para os pesquisadores descobrirem. O incidente destaca a imprevisibilidade dos sistemas de IA generativos e como resultados inesperados podem ter impacto negativo, aludindo a um evento recente em que a Air Canada teve que reembolsar um cliente por informações enganosas de chatbot.
Entre os dias 20 e 21 de fevereiro, o sistema de IA ChatGPT amplamente usado da OpenAI exibiu uma falha incomum. Isso levou a usuários mistificados e desnorteados questionando sua produção, que era incompreensível e incluía até mesmo linguagem não solicitada, semelhante a Shakespeare. Às 8h14 (horário padrão do Pacífico) de 21 de fevereiro, o problema parece ter sido corrigido de acordo com a última atualização na página Status da OpenAI, que afirma: "O ChatGPT está operando normalmente". Isso sugere que o problema foi resolvido 18 horas depois que a OpenAI o reconheceu pela primeira vez.
Um usuário relatou que uma entrada de dados específica enviou o ChatGPT em uma espiral descendente, concluindo com ele imitando a linguagem shakespeariana.
A OpenAI ainda não fez um comentário oficial ou revelou o que exatamente levou a esse comportamento errático. A análise inicial das saídas bizarras sugere que o ChatGPT potencialmente encontrou um acidente de tokenização. No entanto, a complexidade de grandes modelos de linguagem construídos na tecnologia GPT pode tornar desafiador para os pesquisadores da OpenAI identificar o problema preciso. Se isso for verdade, eles provavelmente se concentrarão em estabelecer barreiras de proteção contra extensas cadeias de linguagem absurda. As respostas nas redes sociais sugerem que a interrupção causada pelo chatbot estava desperdiçando principalmente o tempo dos usuários que esperavam respostas coerentes.
No entanto, esse incidente ressalta como os sistemas de IA generativos podem ocasionalmente produzir mensagens inesperadas ou confusas. Tais resultados indesejados podem ter repercussões negativas. Por exemplo, a Air Canada foi recentemente obrigada por um tribunal a reembolsar parcialmente um cliente que obteve dados incorretos sobre as normas de reserva de um chatbot de atendimento ao cliente.
Além disso, no reino das criptomoedas, os investidores estão cada vez mais dependendo de sistemas automatizados que usam modelos de aprendizado de idiomas e tecnologia GPT para criação e negociação de portfólios. Como evidenciado pela recente falha no ChatGPT, mesmo os modelos mais seguros podem sofrer avarias imprevistas de qualquer magnitude.
Published At
2/21/2024 9:25:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.