ChatGPT ahora tiene el poder de manejar una variedad de tareas complejas, de principio a fin, utilizando “su propia computadora”.
La plataforma de Inteligencia Synthetic (AI) de EE. UU. Openai ha anunciado la disponibilidad de un agente de IA, según los informes con la capacidad de pensar y actuar de manera proactiva a través de “su propia computadora”.
En una declaración publicada por la organización, OpenAI explicó que el nuevo modelo, ChatGPT Agent, funciona al unificar el sistema de agente y las herramientas de IA previamente publicadas en tres áreas centrales. Esto fusiona la capacidad de los operadores para acceder a los sitios internet, la capacidad de Deep Investigación para recopilar información y las inteligentes habilidades de conversación de ChatGPT.
Operai dijo: “ChatGPT lleva a cabo estas tareas utilizando su propia computadora digital, cambiando fluidamente entre razonamiento y acción para manejar flujos de trabajo complejos de principio a fin, todo en función de sus instrucciones.
“Lo más importante es que siempre tiene el management. ChatGPT solicita permiso antes de tomar medidas de consecuencia y puede interrumpir fácilmente, hacerse cargo del navegador o detener las tareas en cualquier momento”.
Los nuevos indicaciones incluyen ejemplos como pedirle a ChatGPT que “mira mi calendario y me informa sobre las próximas reuniones de clientes basadas en noticias recientes y” analizar tres competidores y crear un mazo de diapositivas “.
La plataforma entonces navegar por los sitios internetFiltro de resultados, solicite que inicie sesión de forma segura si es necesario, ejecute código, realice un análisis y también puede crear presentaciones de diapositivas y hojas de cálculo que resuman sus hallazgos.
Sin embargo, el nuevo lanzamiento trae un riesgo adicional y novedoso, como señaló OpenAI, que explicó que el lanzamiento marca la primera vez que los usuarios pueden pedirle a ChatGPT que tome medidas en Web.
Esto significa que el agente está trabajando directamente con datos personales a los que se accede a través de sitios internet en los que ha iniciado sesión y ahora está operando en modo de adquisición.
“Hemos fortalecido los controles robustos de la vista previa de la investigación del operador y agregado salvaguardas para desafíos como el manejo de información confidencial en la internet en vivo, un alcance de usuario más amplio y un acceso de crimson terminal (limitado). Si bien estas mitigaciones reducen significativamente el riesgo, las herramientas expandidas del agente de chatgpt y el alcance de usuario más amplio significan que su perfil de riesgo normal es mayor”, dijo Openi.
Operai ha citado inyecciones rápidas, que son intentos de terceros para manipular el comportamiento del modelo a través de instrucciones ocultas y maliciosas a la que se accede en la internet, como de specific preocupación y un área en la que habrá adicional protocolo de seguridad.
“Un aviso malicioso oculto en una página internet, como en elementos invisibles o metadatos, podría engañar al agente para que tome medidas involuntarias, como compartir datos privados de un conector con el atacante, o tomar una acción nociva en un sitio que el usuario ha registrado. Debido a que los agentes de ChatGPT pueden tomar medidas directas, los ataques exitosos pueden tener un mayor impacto y posponer riesgos más altos”.
Además, debido a que las capacidades de ChatGPT se han vuelto tan avanzadas, Operai ha decidido considerar que el agente de ChatGPT tiene altas capacidades biológicas y químicas bajo el marco de preparación y están activando las salvaguardas asociadas.
“Si bien no tenemos evidencia definitiva de que el modelo pueda ayudar significativamente a un novato a crear un daño biológico severo, nuestro umbral para una alta capacidad, estamos ejerciendo precaución e implementando las salvaguardas necesarias ahora”.
Actualmente, la característica no está disponible en el Área Económica Europea y Suiza, sin embargo, Openai ha expresado planes para ponerla a disposición en el futuro.
No se pierda el conocimiento que necesita para tener éxito. Regístrese para el Informe diarioDigest de Silicon Republic de noticias de tecnología de ciencia ficción necesaria.
