Pues que me han enviado este mensaje por Twitter («tuit») y ha confirmado mis sospechas sobre lo que ya pensada acerca de las tecnologías basadas en LucIA. Lo leí primero en inglés y me parece una gran verdad, por lo que lo traduzco al castellano con, faltaba más, faltaba menos, una herramienta de LucIA, el Deepl. Porque sí, una cosa es ahorrar trabajo como esto de las traducciones y otra cosa muy distinta es poner al software superdotado al frente de las empresas. ¡Si hacen esto, tarde o temprano lo lamentarán, tal como le sucedió a Microsoft®!
(El texto original está escrito en estilo simple, el formato enriquecido lo he agregado yo)
«The Microsoft incident proved what I always thought about AI»
Soy ingeniero senior. He trabajado en grandes proyectos en varias empresas estadounidenses, europeas y coreanas, desde cero, tanto antes como después de la llegada de la IA.
La IA es extremadamente eficaz a la hora de escribir código, desarrollar aplicaciones, pruebas, documentación y prácticamente cualquier otra cosa. Pero eso es un nivel muy básico dentro de la ingeniería de software.
Lo realmente importante es comprender bien el sistema, porque, según mi experiencia, por muy bueno que sea un sistema o por muy bien que esté diseñado, en algún momento surgirá un error en un caso extremo imposible de prever que lo dejará fuera de servicio, dada la increíble complejidad de estos sistemas; esa es también la razón por la que el sector de las tecnologías de la información paga mucho más que otros sectores.
Y la IA se le da bastante mal, ya que carece de contexto sobre los sistemas complejos, que suelen consistir en una combinación de otros sistemas complejos. Como en el caso de Microsoft, donde la base de datos, la infraestructura, la aplicación y la red estaban entrelazadas para que todo funcionara. Y el fallo podría haberse producido en cualquiera de los miles de puntos de control de todo el sistema.
Porque incluso para revertir un cambio hay que indicar qué es lo que hay que revertir. Y Microsoft tardó nada menos que 15 horas en darse cuenta, lo que probablemente le costó a la empresa el total de los sueldos de todos los empleados despedidos.
Son los profesionales con más experiencia, los que han creado las aplicaciones, quienes tienen los conocimientos fundamentales sobre cómo funcionan las cosas; por ejemplo, en algo que yo haya creado, puede que me lleve menos de una hora averiguarlo, pero a alguien que no haya trabajado en ello le puede llevar un día, incluso con la IA.
Porque, en el mejor de los casos, la IA debería seguir siendo un asistente del ingeniero, no el desarrollador en sí mismo. Por desgracia, las empresas solo se darán cuenta de ello cuando el daño ya esté hecho.
Finalizo la traducción con la siguiente idea: Los seres humanos somos falibles, imperfectos, algunos somos algo lentos y al final llegamos a la meta planteada, otras y otros son más rápidos y con menor o mayor entendimiento.
Mi punto: Algunas veces he confiado lo que me ha recomendado LucIA para mis sistemas y lo que me ha parecido bien en el primer intento, pues al aplicarlo me ha ido mal, hasta el punto de haber tenido que recuperar de la última copia de seguridad.
Sí, lo he captado de una vez «no hay mal que por bien no venga», total las copias de seguridad siempre hay que probarlas, más a la hora de salir del atolladero siempre es mejor contar con el imperfecto y «tonto» ser humano.
Colofón
Institutional knowledge was the only redundancy we never tested. Turns out it had no failover. pic.twitter.com/ha2eIZjC7q
«El conocimiento institucional era la única redundancia que nunca habíamos probado. Resulta que no contaba con ningún sistema de conmutación por error.»
