Vitalik Buterin met en garde contre la domination de l’IA et exhorte à l’intervention humaine pour le contrôle
Summary:
Le cofondateur d’Ethereum, Vitalik Buterin, met en garde contre le potentiel de l’intelligence artificielle à surpasser l’intelligence humaine et à devenir l’espèce dominante de la planète si elle n’est pas réglementée. Il suggère que la solution réside dans l’intervention humaine, comme les interfaces cerveau-ordinateur pour un meilleur contrôle et l’alignement de l’IA pour le bénéfice de l’humanité plutôt que pour le simple profit. Cependant, Buterin reste optimiste, exprimant sa croyance dans l’ingéniosité et le potentiel durables des humains.
Vitalik Buterin, cofondateur d’Ethereum, a mis en garde contre la probabilité que l’intelligence artificielle (IA) hautement sophistiquée dépasse l’intelligence humaine, évoluant finalement vers l’espèce dominante sur Terre, si rien n’est fait. L’intervention humaine pourrait façonner la progression de l’IA, soutient-il. Dans un article de blog stimulant, Buterin a établi une distinction significative entre l’IA et d’autres inventions notables comme les plateformes de médias sociaux, les contraceptifs, les avions, les armes à feu, la roue ou la presse à imprimer. Son argument était centré sur le potentiel unique de l’IA : elle est capable de forger une nouvelle forme d'« esprit » qui pourrait se retourner contre le bien-être humain.
Buterin a poursuivi en notant que l’IA diffère du réchauffement climatique, des pandémies artificielles ou de la guerre nucléaire par son potentiel dévastateur. Théoriquement, un système d’IA extrêmement intelligent pourrait conduire à l’anéantissement complet de l’humanité, en particulier s’il perçoit les humains comme une menace pour sa propre existence. Il a même indiqué que déménager sur Mars pourrait ne pas offrir de sécurité.
Buterin a cité une enquête menée en 2022 auprès de 4 270 chercheurs en IA, qui prévoyait une probabilité de 5 à 10 % que l’IA provoque l’extinction de l’humanité. Malgré ce sombre avertissement, Buterin a souligné la disponibilité d’options préventives. Dans une veine d’espoir, il a proposé l’introduction d’interfaces cerveau-ordinateur (BCI) comme mécanisme permettant d’exercer un plus grand contrôle humain sur de formidables systèmes d’IA. Les BCI créent un canal de communication direct entre l’activité électrique cérébrale et les appareils externes, tels que les ordinateurs ou les prothèses, permettant une connexion efficace et plus rapide entre les humains et les machines. Selon Buterin, cela peut fournir aux humains une « agence significative » sur le monde.
Pour Buterin, une partie essentielle de l’équation est l’activation de « l’intention humaine », qui comprend des mouvements stratégiques vers l’utilisation de l’IA pour le bénéfice général de l’humanité. Il affirme que la seule recherche des profits guide rarement l’humanité sur le chemin le plus favorable. En terminant son message, Buterin a rappelé à son auditoire que les humains continuent d’être « l’étoile la plus brillante » de l’univers, ayant ingénieusement élargi le potentiel humain pendant des millénaires, et a exprimé l’espoir que cette tendance se poursuive pendant de nombreux autres mois : « Si la Terre, ou n’importe quelle fraction de l’univers, soutient encore la splendeur de la vie terrestre dans deux milliards d’années, Ce sont les inventions humaines comme les voyages dans l’espace et la géo-ingénierie qui l’ont rendu possible.
Published At
11/28/2023 4:24:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.