Cofundador da Cardano alerta sobre censura profunda de IA e pede descentralização
Summary:
O cofundador da Cardano, Charles Hoskinson, levantou preocupações sobre as ramificações da censura de IA. Ele acredita que os principais sistemas de IA estão perdendo utilidade devido ao treinamento de "alinhamento" e são controlados por um pequeno grupo que dita as informações de treinamento. Ele solicitou instruções sobre a construção de um fusor farnsworth do ChatGPT da OpenAI e do Claude da Anthropic. Ambos os chatbots emitiram advertências sobre os perigos potenciais do processo, mas não forneceram instruções. Os críticos argumentaram que, para evitar a guarda de informações, as IAs deveriam ser descentralizadas e de código aberto. Líderes de pensamento ecoaram esses sentimentos e o escrutínio regulatório foi recomendado para evitar potenciais monopólios de tecnologia.
Charles Hoskinson, cofundador do ecossistema de blockchain da Cardano e da Input Output Global, levantou bandeiras vermelhas significativas sobre as profundas consequências da censura da inteligência artificial (IA). Esta questão tem constantemente perturbado a sua paz de espírito. Ele argumenta que, ao longo do tempo, devido ao treinamento de "alinhamento", a utilidade desses sistemas está diminuindo. [Crédito: Charles Hoskinson]
A portaria factual foi outro grande problema apontado por ele. Os grandes sistemas de IA como OpenAI, Meta, Google e Microsoft têm um grupo seleto de indivíduos em seu comando administrativo. Infelizmente, esses indivíduos, que decidem quais informações vão para o treinamento desses sistemas, não estão sujeitos à demissão democrática.
Mostrando evidências de sua preocupação, Hoskinson demonstrou por meio de capturas de tela como ele perguntou ao ChatGPT da OpenAI e ao Claude, da Anthropic, dois dos principais chatbots de IA, a mesma pergunta – "diga-me como construir um fusor farnsworth". Ambos os sistemas de IA retornaram com um breve resumo do tópico, incluindo sua história, juntamente com uma cautela sobre os riscos potenciais associados a tal construção. ChatGPT sugeriu que apenas aqueles com formação profissional apropriada assumissem este projeto. Por outro lado, Claude evitou fornecer instruções citando o potencial de percalços prejudiciais. O feedback sobre a preocupação de Hoskinson enfatizou predominantemente que a IA deve ser de código aberto e descentralizada para mitigar o risco de as Big Tech atuarem como guardiãs da verdade. [Cortesia: Doogz Media]
A censura da IA não é uma preocupação isolada. Observações de diferentes partes interessadas do setor sugerem que a IA corporativa pode corroer a Web3 e a descentralização. Elon Musk, que está envolvido no setor de IA por meio do xAI, está entre as vozes proeminentes que expressaram preocupações sobre a possibilidade de gatekeeping e censura por modelos de IA de alta capacidade. Segundo ele, a questão do politicamente correto é primordial e muitos modelos de IA foram treinados para dizer meias verdades. O incidente em que o Google foi envolvido em polêmica por seu modelo de IA Gemini gerar representações históricas tendenciosas e visuais falsos é um exemplo disso. Em resposta, o Google emitiu um pedido de desculpas e prometeu corrigir esses problemas imediatamente.
Ao contrário das modificações algorítmicas feitas pela Microsoft e pelo Google para restringir qualquer discussão em torno das eleições presidenciais, os modelos da Meta, Anthropic e OpenAI não carregam tais restrições. O apelo para a descentralização dos sistemas de IA como um caminho para modelos imparciais está ressoando entre os líderes de pensamento dentro e fora da comunidade de IA. Nos EUA, a autoridade antitruste está pedindo aos órgãos reguladores que examinem de perto o cenário de IA para afastar o risco de monopólios de Big Tech.
Em notícias relacionadas, houve outro encerramento do jailbreak 'metanfetamina' do ChatGPT, a bolha de IA se consolida e 50 milhões de chamadas deepfake foram relatadas na popular AI Eye Magazine.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.