Le système d’IA ChatGPT d’OpenAI rebondit après une étrange crise shakespearienne
Summary:
Le système d’IA ChatGPT d’OpenAI a été confronté à un dysfonctionnement notable entre le 20 et le 21 février, ce qui a conduit les utilisateurs perplexes car l’IA a produit des résultats absurdes, étonnamment même en langue shakespearienne. Le problème semblait résolu 18 heures après avoir été signalé. La cause exacte du problème n’est pas déterminée et, en raison de la nature complexe des grands modèles de langage, il peut être difficile pour les chercheurs de le découvrir. L’incident met en évidence l’imprévisibilité des systèmes d’IA générative et la façon dont des résultats inattendus peuvent avoir un impact négatif, faisant allusion à un événement récent où Air Canada a dû rembourser un client pour des informations trompeuses sur un chatbot.
Entre le 20 et le 21 février, le système d’IA ChatGPT d’OpenAI, largement utilisé, a présenté une panne inhabituelle. Cela a conduit les utilisateurs mystifiés et déconcertés à remettre en question sa production, qui était incompréhensible et comprenait même un langage non sollicité, semblable à celui de Shakespeare. À 8h14, heure normale du Pacifique, le 21 février, le problème semble avoir été corrigé selon la dernière mise à jour de la page d’état d’OpenAI, qui indique que « ChatGPT fonctionne normalement ». Cela suggère que le problème a été résolu 18 heures après qu’OpenAI l’ait reconnu pour la première fois.
Un utilisateur a signalé qu’une entrée de données spécifique a envoyé ChatGPT dans une spirale descendante, concluant par une imitation du langage shakespearien.
OpenAI n’a pas encore fait de commentaire officiel ni révélé ce qui a exactement conduit à ce comportement erratique. L’analyse initiale des sorties bizarres suggère que ChatGPT a potentiellement rencontré un incident de tokenisation. Cependant, la complexité des grands modèles de langage construits sur la technologie GPT pourrait rendre difficile pour les chercheurs d’OpenAI d’identifier le problème précis. Si cela est vrai, ils se concentreront très probablement sur l’établissement de barrières de protection contre de longues chaînes de langage absurde. Les réponses des médias sociaux suggèrent que la perturbation causée par le chatbot a principalement gaspillé le temps des utilisateurs qui s’attendaient à des réponses cohérentes.
Cependant, cet incident souligne à quel point les systèmes d’IA générative peuvent parfois produire des messages inattendus ou déroutants. De tels résultats indésirables peuvent avoir des répercussions négatives. Par exemple, Air Canada a récemment été mandatée par un tribunal pour rembourser partiellement un client qui avait obtenu des données incorrectes concernant les normes de réservation d’un agent conversationnel du service à la clientèle.
De plus, dans le domaine des crypto-monnaies, les investisseurs dépendent de plus en plus de systèmes automatisés qui utilisent des modèles d’apprentissage des langues et la technologie GPT pour la création et le trading de portefeuilles. Comme en témoigne le récent problème de ChatGPT, même les modèles les plus sécurisés peuvent subir des pannes imprévues de toute ampleur.
Published At
2/21/2024 9:25:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.