Hoy en día, hay un número relativamente pequeño de casos de uso de IA generativa que han pasado de pilotos a producción, y muchos de ellos se despliegan por etapas. A medida que más proyectos piloto pasen a la fase de producción, y los proyectos de producción se amplíen a todos los usuarios potenciales, los retos de infraestructura serán mayores. Y encontrar una solución que funcione hoy no es suficiente, ya que la tecnología de IA gen está evolucionando a un ritmo vertiginoso. “Hay que ser lo bastante ágil para cambiar a medida que se actualiza”, afirma Thota.
Y también está la cuestión de las lagunas de competencias o la escasez de personal relacionado con la gestión de la infraestructura de IA. Gestionar el almacenamiento, las redes y los recursos informáticos optimizando el coste y el rendimiento, incluso cuando las plataformas y los casos de uso evolucionan rápidamente, es una preocupación, pero a medida que la IA generativa se vuelve más inteligente, podría ser un medio para ayudar a las empresas.
“¿Ha oído hablar de la red como código?”, pregunta Mick Douglas, socio director de InfoSec Innovations e instructor del SANS Institute. “Y existe la infraestructura como código. Para algunas grandes empresas que hacen mucho cómputo, pueden comenzar a jugar con cosas como, ¿es mejor tener máquinas virtuales muy potentes en la nube o un puñado de funciones Lambda? Tendrías a la IA creando una capa de abstracción para ti, y luego tendrías a la IA iterando a través de todas las diferentes construcciones”.
