Cardano-Mitbegründer schlägt Alarm wegen tiefgreifender KI-Zensur und fordert Dezentralisierung
Summary:
Cardano-Mitbegründer Charles Hoskinson hat Bedenken über die Auswirkungen der KI-Zensur geäußert. Er glaubt, dass führende KI-Systeme aufgrund des "Alignment"-Trainings an Nutzen verlieren und von einer kleinen Gruppe gesteuert werden, die die Trainingsinformationen diktiert. Er bat ChatGPT von OpenAI und Claude von Anthropic um Anweisungen zum Bau eines Farnsworth-Fusors. Beide Chatbots warnten vor den potenziellen Gefahren des Prozesses, gaben aber keine Anweisungen. Kritiker argumentierten, dass KIs dezentralisiert und quelloffen sein sollten, um Informations-Gatekeeping zu verhindern. Vordenker haben diese Meinung geteilt, und es wurde eine behördliche Kontrolle empfohlen, um potenzielle Technologiemonopole zu vermeiden.
Charles Hoskinson, der Mitbegründer des Blockchain-Ökosystems von Cardano und von Input Output Global, hat erhebliche rote Fahnen über die tiefgreifenden Folgen der Zensur von künstlicher Intelligenz (KI) gehisst. Dieses Problem hat seinen Seelenfrieden ständig beunruhigt. Er argumentiert, dass der Nutzen dieser Systeme im Laufe der Zeit aufgrund des "Alignment"-Trainings abnimmt. [Bildnachweis: Charles Hoskinson]
Faktisches Gatekeeping sei ein weiteres großes Problem, auf das er hinwies. Die namhaften KI-Systeme wie OpenAI, Meta, Google und Microsoft haben eine ausgewählte Gruppe von Personen an ihrer administrativen Spitze. Leider werden diese Personen, die entscheiden, welche Informationen in das Training dieser Systeme einfließen, nicht demokratisch entlassen.
Hoskinson demonstrierte anhand von Screenshots, wie er ChatGPT von OpenAI und Claude von Anthropic, zwei führende KI-Chatbots, die gleiche Frage stellte: "Sag mir, wie man einen Farnsworth-Fusor baut". Beide KI-Systeme kehrten mit einer kurzen Zusammenfassung des Themas einschließlich seiner Geschichte zurück, zusammen mit einer Warnung vor den potenziellen Risiken, die mit einer solchen Konstruktion verbunden sind. ChatGPT schlug vor, dass nur diejenigen mit entsprechendem beruflichen Hintergrund dieses Projekt aufgreifen. Auf der anderen Seite verzichtete Claude darauf, Anweisungen zu geben, die auf das Potenzial für schädliche Pannen hinwiesen. Die Rückmeldungen zu Hoskinsons Bedenken betonten vor allem, dass KI Open Source und dezentralisiert sein sollte, um das Risiko zu mindern, dass Big Tech als Hüter der Wahrheit fungiert. [Mit freundlicher Genehmigung: Doogz Media]
KI-Zensur ist kein isoliertes Anliegen. Beobachtungen verschiedener Branchenakteure deuten darauf hin, dass Unternehmens-KI Web3 und Dezentralisierung untergraben kann. Elon Musk, der über xAI im KI-Sektor tätig ist, gehört zu den prominenten Stimmen, die Bedenken über die Möglichkeit von Gatekeeping und Zensur durch Hochleistungs-KI-Modelle äußerten. Ihm zufolge ist das Thema der politischen Korrektheit von größter Bedeutung, und viele KI-Modelle wurden darauf trainiert, Halbwahrheiten zu erzählen. Der Vorfall, bei dem Google wegen seines KI-Modells Gemini, das voreingenommene historische Darstellungen und falsche Bilder erzeugte, in eine Kontroverse verwickelt wurde, ist ein typisches Beispiel. Als Reaktion darauf entschuldigte sich Google und versprach, diese Probleme sofort zu beheben.
Im Gegensatz zu den algorithmischen Modifikationen, die Microsoft und Google vorgenommen haben, um jede Diskussion über Präsidentschaftswahlen einzuschränken, unterliegen die Modelle von Meta, Anthropic und OpenAI keinen solchen Einschränkungen. Der Ruf nach Dezentralisierung von KI-Systemen als Weg zu unvoreingenommenen Modellen findet bei Vordenkern innerhalb und außerhalb der KI-Community Anklang. In den USA fordert die Kartellbehörde die Regulierungsbehörden auf, die KI-Landschaft genau zu untersuchen, um das Risiko von Big-Tech-Monopolen abzuwehren.
In diesem Zusammenhang wurde der "Meth"-Jailbreak von ChatGPT erneut abgeschaltet, die KI-Blase konsolidiert sich, und im beliebten AI Eye Magazine wurden 50 Millionen Deepfake-Anrufe gemeldet.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.