Se rumorea que OpenAI desarrollará un asistente autónomo de IA en medio de preocupaciones sobre la privacidad
Summary:
OpenAI está desarrollando potencialmente un sistema autónomo de asistente de IA capaz de ejecutar tareas en los dispositivos de los usuarios sin intervención humana, según los rumores. La medida representa un paso más en la evolución de los sistemas de IA generativa. Si se confirma, la nueva tecnología, que abarca una gama más amplia de acciones que los asistentes inteligentes existentes, podría marcar el comienzo de una nueva era para las capacidades de IA. Sin embargo, también plantea serias preocupaciones de privacidad y seguridad debido al posible acceso sin restricciones a los datos personales y la dependencia de los centros de computación en la nube a gran escala.
Hay rumores de que OpenAI está en proceso de crear un sistema de asistente de IA que pueda hacerse cargo de forma autónoma del dispositivo de un usuario para completar tareas. The Information fue el primero en informar sobre estos rumores, citando una fuente no especificada con conocimiento de la situación. Si bien OpenAI aún no ha corroborado estos informes y la información aún es escasa, parece plausible que un próximo paso para los sistemas de IA generativa como ChatGPT sean los agentes de acción.
ChatGPT y Gemini de Google, sistemas de IA generativa, están diseñados para crear medios similares a los humanos, ya sea texto, imágenes, sonido o video. Sin embargo, para poner realmente en práctica estos modelos, por ejemplo, para operar un robot, los desarrolladores tienen que integrar sus resultados en aplicaciones externas que transformen los resultados de la IA en acciones ejecutables.
Los sistemas de asistentes inteligentes existentes y similares se basan en tecnología que no es tan avanzada como las que se utilizan en ChatGPT, Gemini o incluso las propias líneas de base y creaciones de IA generativa de Amazon. Por lo tanto, parece razonable esperar que un asistente virtual que aproveche la tecnología de modelos de lenguaje grandes, similar a ChatGPT, sea más competente en términos de acciones autónomas en comparación con los sistemas sencillos que impulsan los asistentes inteligentes más antiguos.
Sin información concreta de OpenAI sobre sus próximos agentes de acción autónoma, solo se pueden hacer conjeturas sobre sus capacidades potenciales. La información sugiere que la nueva tecnología de IA podría operar los dispositivos de los usuarios para llevar a cabo tareas solicitadas por el usuario, por ejemplo, transferir datos de una plataforma a otra. En teoría, cualquier actividad física que pueda hacer un humano, como deslizar, tocar o escribir, podría ser realizada por un sistema de IA al que se le otorguen suficientes permisos de dispositivo.
Si bien la idea de dicha tecnología trae a la mente fantasías de ciencia ficción como JARVIS de Ironman, lograr sistemas de asistencia de IA en el mundo real no está exento de complicaciones, especialmente en lo que respecta a la privacidad y la seguridad. Los sistemas modernos de IA generativa avanzada carecen de discreción y necesitan una conexión a centros de computación en la nube a gran escala. Aunque algunas funciones de IA pueden ejecutarse únicamente en computadoras portátiles o teléfonos inteligentes, es poco probable que un agente de acción de IA de esta forma pueda subsistir únicamente con un chip de IA integrado en el dispositivo.
Esto plantea importantes problemas de privacidad, especialmente si se tienen en cuenta los riesgos de conceder a un sistema de IA corporativo acceso sin restricciones a la información privada. Dadas las capacidades de intercambio de datos a gran escala del teléfono inteligente promedio, los agentes de acción autónomos, si se realizan, podrían representar una nueva y grave amenaza de ciberseguridad con repercusiones globales.
Published At
2/8/2024 9:40:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.