Elasticsearch pesa promesa y riesgos de la adopción de IA de agente

La inteligencia synthetic está impulsando una nueva frontera en la ciberseguridad, con AI agente emergiendo como el próximo salto importante más allá de la exageración del modelo de lenguaje grande del año pasado. Esta tecnología en evolución promete una toma de decisiones autónoma e impulsada por objetivos, pero también plantea nuevos desafíos en la supervisión, la confianza y el despliegue responsable.

Mientras que los primeros adoptantes ven el potencial que cambia el juego para racionalizar la detección y respuesta de amenazas, los líderes de seguridad señalan rápidamente que la velocidad sin responsabilidad puede crear nuevas vulnerabilidades. Estresan la necesidad de marcos de gobernanza claros, el comportamiento del modelo transparente y la responsabilidad compartida entre los proveedores y los clientes. En su opinión, la verdadera oportunidad radica no solo en la construcción de agentes de IA más inteligentes, sino para garantizar que operen dentro de las barandillas que protegen tanto los sistemas como la reputación Mike Nichols (En la foto), Vicepresidente de Gestión de Productos de Elasticsearch BV

“Todo es agente ahora, fue IA el año pasado, ahora es AI agente este año”, dijo Nichols. “Me pregunto si la gente sabe lo que significa cuando lo piden. Odiaría estar en el lugar del cliente en este momento, tratando de escuchar la realidad”.

Nichols habló con el thecube Jackie McGuire al Evento de Black Hat USA, Durante una transmisión exclusiva en Thecube, el estudio de transmisión en vivo de Siliconangle Media. Desempacaron la realidad detrás de las palabras de moda de IA de hoy, la importancia de los modelos de agente sobre LLM Hype y por qué los analistas humanos siguen siendo insustituibles en los centros de operaciones de seguridad modernos. (* Divulgación a continuación).

De la exageración de ai a la realidad de ai agente

El tren de bombas AI está algo estancado en este momento, con numerosos prototipos y demostraciones llamativas de productos que muestran poca utilidad práctica. Por lo tanto, el surgimiento de la IA agente podría servir como una corrección del curso muy necesaria. A diferencia de los LLM monolíticos entrenados en datos de Web ruidosos, los modelos de agente aprovechan un conjunto de herramientas de IA (regresión, modelos deterministas y probabilísticos), cada uno seleccionado para su tarea específica. Esto permite más management, precisión y transparencia, según Nichols.

“Definitivamente hay algunas cosas buenas por ahí”, dijo. “Pero creo que, como siempre, tienes que examinarlo todo para descubrir dónde hay algunas cosas beneficiosas que están en el medio ambiente”.

A pesar de los crecientes temores de que la IA pueda eliminar los roles de los analistas de nivel de entrada, el escenario opuesto eventualmente suene cierto, según Nichols. En lugar de reemplazar el talento humano, la IA debería aumentarlo, automatizando tareas mundanas, como consultar registros o acceder a sistemas de silencio. Esto libera a los analistas para hacer lo que mejor hacen: pensamiento crítico, reconocimiento de patrones y toma de decisiones.

“Uno de los mejores analistas de SOC que he conocido fue un meteorólogo que solo entendió los patrones climáticos y trajo esa ciencia de datos”, dijo Nichols. “Creo que podemos obtener más de esas personas y romper la barrera de quién puede estar en el equipo de seguridad, lo que sería genial … diversificar todo el lugar. Pero creo que AI nos permitirá involucrar a más humanos, no eliminar a los humanos. No creo que sea un buen concepto a seguir”.

Aquí está la entrevista de video completa, parte de la cobertura de Siliconangle y Thecube del Evento de Black Hat USA:

https://www.youtube.com/watch?v=hupoptvtc9e

(* Divulgación: Elasticsearch bv patrocinó este segmento de thecube. Ni elástico ni otros patrocinadores tienen management editorial sobre el contenido en Thecube o Siliconangle).

Foto: Siliconangle