Investigaciones recientes han encontrado una vulnerabilidad significativa en Espacio de trabajo de Google a través de su asistente de IA, Géminis.
Esta investigación encontró que Google El asistente de IA Géminis period weak a ser manipulado para mostrar texto e instrucciones maliciosos.
Estos textos e instrucciones podrían insertarse en el cuerpo de un correo electrónico en formato HTML easy o oculto a través de un coloration de fuente invisible. Este texto es invisible para el destinatario del correo electrónico, pero aún así ser leído por Gemini en sus resúmenes de correo electrónico.
Investigador blurrylogic Señala cuán peligrosa puede ser esta vulnerabilidad, ya que las personas ven estas indicaciones ocultas leídas por Gemini y comienzan a confundirlos con advertencias reales o problemas de seguridad detectados por el asistente, lo que podría llevarlos a compartir información confidencial o datos con partes maliciosas.
Google ya ha respondido a estos hallazgos al compartir sus pasos para garantizar que Gemini se resistiera a este tipo de táctica en el futuro, entrenando a los modelos de aprendizaje para no reaccionar a las instrucciones maliciosas. También compartió contramedidas para otras formas de phishing, como identificar enlaces deshonestos sospechosos o disfrazados.
Aunque Google respondió a la situación muy rápidamente, siempre es mejor estar seguro de lo que curar, por eso se recomienda tener cuidado con lo que confía de Gemini y que sea cauteloso contra las instrucciones sospechosas del asistente de IA.
Fuente: 0din
MobileSyrup puede obtener una comisión de las compras realizadas a través de nuestros enlaces, lo que ayuda a financiar el periodismo que proporcionamos free of charge en nuestro sitio internet. Estos enlaces no influyen en nuestro contenido editorial. Apoyarnos aquí.
