Amazon ha llamado a capítulo a sus ingenieros porque a raíz del incidente del pasado mes de diciembre que tumbó sus Amazon Web Services (AWS) durante 13 horas ha detectado cierta tendencia con otros incidentes relacionados con el uso de herramientas de IA para programar sus sistemas. (Amazon llamó al de diciembre «un evento extremadamente limitado» que sólo afectó a China. )Según cuentan en los artículos del Financial Times, en especial el primero, hubo una charla en profundidad con todos los ingenieros acerca de los cambios en el código mediante ayuda de IA generativa. Traducido: usar IA para realizar cambios delicados en el código puede parecer estupendo… hasta que se produce lo que, cariñosamente, llaman una explosión con alto rango de alcance (high blast radius). Un eufemismo muy mono para decirles que a veces la lían parda. También cuentan que Amazon reconoció en una nota interna que todavía no tienen bien definidos los protocolos que establecen cómo ha de ser el uso de las nuevas IA generativas para su código, y que hasta ahora han estado usando el método de: vamos a probar y si explota ya, si eso, se arregla. Muy de «científicos locos»; simpático pero poco efectivo, sobre todo si cada hora de parón de los servicios de tu empresa supone millones de dólares de pérdidas. Según cuenta Lukasz Olejnik (el hilo no tiene desperdicio) de momento van a hacer que los juniors e ingenieros de nivel medio no puedan subir código sin que lo apruebe un ingeniero senior. Una medida que suena razonable. Porque cuando hablamos de estas cosas es inevitable pensar aquello de… ¿Qué podría salir mal?Relacionado:- La base de datos de incidentes de las inteligencias artificiales ya existe. El top 3 lo encabezan de momento Facebook, Tesla y Google
- Un mapa global de los riesgos de la inteligencia artificial, que acongoja un poco aunque apunta a soluciones