Inicio de seguridad de inteligencia synthetic Cyata Security Ltd. Está buscando controlar los agentes de IA fuera de management después de cerrar una ronda de fondos semillas de $ 8.5 millones, anunció hoy.
La ronda fue dirigida por TLV Companions y vio el respaldo de Ron Serber y Yossi Carmil, dos ex ejecutivos directores de la compañía de forenses digitales Cellebrite Di Ltd., que una vez pirateó el sistema operativo iOS de Apple Inc.
La startup cube que está tratando de abordar lo que se ha convertido rápidamente en una brecha de seguridad clave en los entornos de informática empresarial hoy en día, con agentes de IA obteniendo acceso prácticamente sin restricciones a sistemas y aplicaciones críticas, sin ninguna supervisión, gobernanza o gestión de identidad.
Los agentes de IA han surgido como el gran queso de los sistemas de IA este año, gracias a su capacidad prometida para automatizar numerosos procesos comerciales y tareas con una supervisión humana mínima, aumentando drásticamente la productividad. Pueden considerarse como “empleados digitales”, y pueden realizar muchas tareas mucho más rápido y más asequible que los humanos, lo que explica por qué las empresas están luchando para implementarlas.
Pero existe un gran peligro para desatar agentes de IA en cualquier entorno empresarial. Aunque aceleran la automatización en muchos aspectos de los negocios, solo pueden hacerlo accediendo a bases de datos confidenciales, escribiendo código y activando acciones automatizadas. Hacen esto con poco o nada de supervisión, operando afuera marcos de identidad tradicionales, porque la velocidad a la que funcionan significa que es imposible para los humanos vigilarlos.
Según el cofundador y CEO de CYATA, Shahar Tal (en la foto, el centro), esto es increíblemente arriesgado porque los agentes de IA tienen la capacidad de hacer algunas cosas muy dañinas, como reescribir el código de aplicación esencial, compartir secretos, filtrar datos confidenciales e incluso mover dinero entre cuentas financieras. Como regla common, operan sin privilegios permanentes, sin rotación secreta y sin senderos de auditoría.
El riesgo se exacerba porque, a diferencia de los empleados humanos que tienen registros de recursos humanos y asisten a talleres de capacitación de seguridad, o cuentas de servicio que siguen patrones predecibles, los agentes de IA son dinámicos. Lo que esto significa es que pueden generar instantáneamente, avanzar a través de múltiples flujos de trabajo y llevar a cabo acciones autónomas sin que nadie lo mire. Pero también son susceptibles a las “alucinaciones”, lo que puede llevar a ellos a tomar decisiones erróneas, y existe el riesgo de que los actores maliciosos puedan ser pirateados y manipulados.
“Los agentes de IA representan el mayor salto en tecnología empresarial desde la nube, una fuerza laboral de insomnio y autoescalado que codifica, analiza y se ejecuta en segundos”, dijo Tal.
Para proteger contra estos riesgos, Cyata ha desarrollado un “plano de management de agente” que permite visibilidad integral en los sistemas de agente Operando dentro de cualquier entorno en la nube, incluidos chatbots, bots de codificación y agentes basados en tareas.
La oferta central de Cyata es una herramienta automatizada de descubrimiento de agentes de inteligencia synthetic que escanea los entornos de nube y software program como servicio del cliente y sus sistemas de gestión de identidad. Lo hace para detectar patrones de comportamiento en el uso de herramientas, herramientas de interfaz de programación de aplicaciones, and many others., sugiere que un agente de IA está detrás de ellos. Una vez que ve a un agente de IA no autorizado, los bloqueará y aplicará menos privilegio para evitar que causen daños.
Además, CYATA ofrece herramientas de observabilidad forense para agentes de IA autorizados, lo que permite crear una ruta de auditoría detallada de su actividad. Incluso puede capturar la intención de los agentes de IA forzándolos a justificar su razonamiento, en tiempo actual. Una vez que ve a los agentes de IA y comprende lo que están haciendo, puede implementar controles y permisos de acceso granular apropiados, restringiéndolos solo a los sistemas y bases de datos a los que necesitan acceder.
“Nos centramos en los actores, no en los LLM”, explicó Tal, refiriéndose a los grandes modelos de idiomas que impulsan los agentes de IA. “Los agentes, no los modelos, son los que toman las decisiones y desencadenan el riesgo. Damos a los equipos de seguridad controles de grado de identidad específicamente para los agentes de IA, para que puedan desbloquear su poder sin perder el management”.
TAL cube que esto es necesario porque la gestión de acceso a la identidad existente y las herramientas de gestión de acceso privilegiado simplemente no funcionan con los agentes de IA. Están diseñados para usuarios humanos y cuentas de servicios de larga vida, mientras que los agentes de IA tienden a girar en segundos, comparten credenciales con otros agentes y luego desaparecen antes de que sean notan.
Robert Burns, director de seguridad de Thales CyberseCurity SA, dijo que los agentes de IA introducen una capa de complejidad que las herramientas de identidad tradicionales carecen del alcance para tratar. “[AI agents’] La capacidad de actuar de forma autónoma, escalar rápidamente e interactuar entre los sistemas desafía los modelos existentes de nuevas maneras “, explicó Burns.” El trabajo enfocado de Cyata en este espacio destaca los riesgos que muchas organizaciones aún no han surgido completamente “.
Brian Sack de TLV Companions dijo que espera que haya una demanda masiva de una plataforma como Cyata’s en los próximos años, porque cree que es possible que la adopción de IA agente aumente diez veces en el próximo año o dos. “Nuestro enfoque generalista a menudo nos lleva a invertir en empresas de ciberseguridad en función de las tendencias que identificamos fuera de la seguridad vertical tradicional, y el surgimiento de los agentes de IA es exactamente eso”. dijo. “El equipo de Cyata … está en posición única para definir y liderar esta nueva categoría crítica antes de que las organizaciones enfrenten infracciones potencialmente catastróficas”.
Imagen: Siliconangle/Dreamina AI
Apoye nuestro contenido gratuito abierto compartiendo e interactuando con nuestro contenido y comunidad.
Únete a Thecube Alumni Belief Community
Donde los líderes tecnológicos se conectan, comparten inteligencia y crean oportunidades
11.4k+
Pink de ex alumnos de cubos
Nivel C y técnico
Expertos en dominio
Conéctese con 11,413+ líderes de la industria de nuestra pink de líderes tecnológicos y empresariales que forman un efecto de pink confiable único.
Siliconangle Media es un líder reconocido en innovación de medios digitales que sirve al público innovador y marcas, que reúne tecnología de vanguardia, contenido influyente, concepts estratégicas y compromiso de audiencia en tiempo actual. Como la empresa matriz de Silicio, red de thecube, Investigación de THECUBE, Cube365, THECUBE AI y los superstudios de TheCube, como los establecidos en Silicon Valley y la Bolsa de Nueva York (NYSE) – Siliconangle Media opera en la intersección de medios, tecnología e IA. .
Fundada por los visionarios tecnológicos John Furrier y Dave Vellante, Siliconangle Media ha construido un poderoso ecosistema de marcas de medios digitales líderes en la industria, con un alcance de más de 15 millones de profesionales de la tecnología de élite. La nueva nube de video de AI de AI de la compañía, está abriéndose en la interacción de la audiencia, aprovechando la pink neuronal de thecubeai.com para ayudar a las empresas de tecnología a tomar decisiones basadas en datos y mantenerse a la vanguardia de las conversaciones de la industria.
