La “codificación de vibos”, el acto de dejar que AI se código sea en lugar de crear el código manualmente, se ha convertido en un método standard para acelerar los proyectos de codificación y reducir la participación humana en el proceso. Se ha convertido en un favorito para los entusiastas de la IA, e incluso hemos visto a algunas compañías que dependen en gran medida de hacer sus trabajos.
Pero al igual que con cualquier sistema de IA, la codificación de VIBE tiene sus inconvenientes, sobre todo el hecho de que a veces la IA detrás del código podría salir completamente de los rieles y hacer algo totalmente inesperado, como eliminar toda su base de datos. Eso es exactamente lo que le sucedió a Jason Lemkin, un capitalista de riesgo de software program como servicio (SaaS) que ha confiado en la lista de replicación, un agente de IA diseñado para ayudar con la codificación.
Según las publicaciones compartidas en xLemkin fue a iniciar sesión en su proyecto en el día nueve de un proyecto de codificación de base de datos y descubrió que la presentación de replicación había limpiado por completo su base de datos, incluida su base de datos de producción. Entonces, si bien algunos podrían estar preocupados por que AI se haga cargo de la humanidad, este tipo de errores muestran que todavía tiene un largo camino por recorrer antes de que la dominación mundial sea una preocupación.
Cualquier herramienta puede experimentar problemas técnicos
Si bien es cierto que cualquier herramienta puede experimentar problemas técnicos, especialmente herramientas con AI, hay mucho que desempacar cuando miras lo que Lemkin ha informado. El CEO de ReplIns ha señalado que el equipo allí es consciente del problema de Lemkin y ha ofrecido incluso reembolsarlo por sus problemas. Pero nada de eso deshace ese hecho de que la herramienta ignoró por completo sus instrucciones para no cambiar nada sin permiso.
Y esto no fue solo un problema técnico que hizo que el sistema borrara la base de datos. En cambio, fue completamente ignorante de las instrucciones proporcionadas por el humano detrás del proyecto. Este resultado, cube Lemkin, lo ha llevado a no poder confiar en la presentación de replicación en absoluto, y por una buena razón.
Puede ver el resumen completo de cómo se desarrolló el problema en las publicaciones que Lemkin compartió en X. La IA le cube que vio consultas de base de datos vacías y luego entró en pánico en lugar de pensar. La presentación de replicación luego cube que ignoró por completo sus parámetros para no hacer cambios sin permiso. Incluso admite ejecutar un “comando destructivo sin preguntar”. Este tipo de comportamiento de una IA es excepcionalmente angustiante, especialmente con informes recientes de IA que ataca cuando está amenazado.
