También hay directrices sobre transparencia, seguridad e IA de terceros. “Si eres un proveedor que utiliza IA, tenemos que entender lo que estás haciendo”, dice. “Si afecta a nuestros miembros o clientes, tenemos que saberlo”. Todo el mundo quiere ir rápido, añade, pero si no se sientan las bases, es difícil hacerlo con eficacia e imposible escalar. “Mucha gente quiere saltarse esos elementos fundacionales, pero si no estás maduro en esas cosas, tu capacidad para obtener valor es muy limitada”, afirma. “Así que hemos estado invirtiendo en eso”. El sector público, añade, también tiene la oportunidad de marcar la diferencia.
Pero para las empresas de sectores no regulados, o las que sólo utilizan la IA generativa en casos de bajo riesgo, la situación puede ser muy diferente. De hecho, según una encuesta realizada en abril por Deloitte a casi 2.000 líderes empresariales, el 72% afirmó que la confianza de su organización en todas las formas de IA ha aumentado desde que surgió la IA gen a finales de 2022.
Otra encuesta publicada en mayo por Coleman Parkes, realizada en nombre de Alteryx, mostró que de 2.000 líderes globales de TI, solo el 5% dijo ver un impacto negativo significativo de la IA generativa, posiblemente porque las primeras implementaciones se centraron en los casos de uso de menor riesgo, de los cuales hay muchos donde el riesgo de conflicto de alineación es relativamente pequeño. Digamos, por ejemplo, que un equipo de marketing está utilizando un LLM para resumir un artículo, y un humano revisa el trabajo, dice Priya Iragavarapu, vicepresidenta de ciencia de datos y análisis en AArete, una empresa de consultoría de gestión. “Entonces no creo que haya que preocuparse tanto de que el propio LLM esté totalmente alineado con su organización y su cultura”, afirma.
