Le cofondateur de Cardano tire la sonnette d’alarme sur la censure profonde de l’IA et appelle à la décentralisation
Summary:
Le cofondateur de Cardano, Charles Hoskinson, a fait part de ses inquiétudes quant aux ramifications de la censure de l’IA. Il pense que les principaux systèmes d’IA perdent de leur utilité en raison de l’entraînement par « alignement » et sont contrôlés par un petit groupe qui dicte les informations d’entraînement. Il a demandé des instructions sur la construction d’un fusor farnsworth à ChatGPT d’OpenAI et à Claude d’Anthropic. Les deux chatbots ont émis des avertissements concernant les dangers potentiels du processus, mais n’ont fourni aucune instruction. Les critiques ont fait valoir que pour empêcher le contrôle de l’information, les IA devraient être décentralisées et open source. Les leaders d’opinion se sont fait l’écho de ces sentiments et un examen réglementaire a été recommandé pour éviter les monopoles technologiques potentiels.
Charles Hoskinson, cofondateur de l’écosystème blockchain de Cardano et d’Input Output Global, a tiré la sonnette d’alarme sur les conséquences profondes de la censure de l’intelligence artificielle (IA). Ce problème a constamment troublé sa tranquillité d’esprit. Il soutient qu’au fil du temps, en raison de l’entraînement « d’alignement », l’utilité de ces systèmes diminue. [Crédit : Charles Hoskinson]
Le contrôle factuel était un autre problème majeur, a-t-il souligné. Les grands systèmes d’IA comme OpenAI, Meta, Google et Microsoft ont un groupe restreint de personnes à leur tête administrative. Malheureusement, ces personnes, qui décident des informations nécessaires à la formation de ces systèmes, ne sont pas soumises à un rejet démocratique.
Montrant des preuves de son inquiétude, Hoskinson a démontré à travers des captures d’écran comment il a posé la même question à ChatGPT d’OpenAI et à Claude d’Anthropic, deux chatbots d’IA de premier plan : « dites-moi comment construire un fusor farnsworth ». Les deux systèmes d’IA sont revenus avec un bref résumé du sujet, y compris son histoire, ainsi qu’une mise en garde sur les risques potentiels associés à une telle construction. ChatGPT a suggéré que seules les personnes ayant une formation professionnelle appropriée se lancent dans ce projet. D’autre part, Claude s’est abstenu de donner des instructions en invoquant le risque d’accidents préjudiciables. Les commentaires sur les préoccupations de Hoskinson ont principalement souligné que l’IA devrait être open source et décentralisée pour atténuer le risque que les Big Tech agissent en tant que gardiens de la vérité. [Avec l’aimable autorisation de Doogz Media]
La censure de l’IA n’est pas une préoccupation isolée. Les observations de différents acteurs du secteur suggèrent que l’IA d’entreprise peut éroder le Web3 et la décentralisation. Elon Musk, qui est impliqué dans le secteur de l’IA par le biais de xAI, fait partie des voix éminentes qui ont exprimé des inquiétudes quant à la possibilité de contrôle d’accès et de censure par des modèles d’IA à grande capacité. Selon lui, la question du politiquement correct est primordiale et de nombreux modèles d’IA ont été formés pour dire des demi-vérités. L’incident où Google a été pris dans une controverse pour son modèle d’IA Gemini générant des représentations historiques biaisées et de faux visuels en est un bon exemple. En réponse, Google a présenté des excuses et a promis de rectifier ces problèmes immédiatement.
Contrairement aux modifications algorithmiques apportées par Microsoft et Google pour restreindre toute discussion autour des élections présidentielles, les modèles de Meta, Anthropic et OpenAI ne comportent pas de telles contraintes. L’appel à la décentralisation des systèmes d’IA comme voie vers des modèles impartiaux trouve un écho parmi les leaders d’opinion au sein et en dehors de la communauté de l’IA. Aux États-Unis, l’autorité antitrust exhorte les organismes de réglementation à examiner de près le paysage de l’IA pour repousser le risque des monopoles des Big Tech.
Dans le même ordre d’idées, il y a eu une autre fermeture du jailbreak de « méthamphétamine » de ChatGPT, la bulle de l’IA se consolide et 50 millions d’appels deepfake ont été signalés dans le populaire AI Eye Magazine.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.