La utilización descontrolada de la inteligencia artificial generativa puede incluir fugas de datos, en líneas generales involuntarios, en las empresas
27/12/2024 – 12:22hs
:quality(85)/https://assets.iprofesional.com/assets/jpg/2024/11/586740.jpg)
Pocas tecnologías a lo largo de la historia despertaron la pasión que produjo la inteligencia artificial (IA) generativa en las organizaciones: prácticamente no existe empresa que no la haya probado. Según datos recientes de la consultora IDC, el 74% de las grandes empresas argentinas incrementará su presupuesto en inteligencia artificial en los próximos dos años.
Los beneficios potenciales y reales de esta innovación son numerosos, y van desde una mayor productividad hasta una mejor experiencia de empleados y clientes, pasando por mayores niveles de automatización y eficiencia o la aceleración en el desarrollo de productos, por citar algunos entre los infinitos ejemplos. La contracara: su adopción implica también algunos riesgos y peligros.
La popularidad de la inteligencia artificial generativa lleva a un uso dentro de las empresas que está literalmente fuera de control. Lejos de centralizarse en el área de tecnologías de la información (TI) o de cumplir con criterios de gobernanza preestablecidos, muchísimos usuarios aprovechan las ventajas de esta tecnología en un plano de sombra, es decir, fuera del conocimiento de la compañía.
Más de un tercio de los equipos de seguridad encontraron aplicaciones de inteligencia artificial en su entorno que no se habían aprovisionado mediante un proceso formal, según datos propios.
En la mayoría de los casos se trata de un uso «inocente», en el cual un empleado apela a la inteligencia artificial generativa para resolver alguna tarea cotidiana sin ninguna intención de generar un perjuicio para la empresa.
Sin embargo, en la realidad, con cada uno de estos usos no autorizados se abre una puerta llena de riesgos, entre ellos, el creciente volumen de vulnerabilidades que se multiplica casi a diario, desde infracciones y «exploits» hasta la vulneración de información confidencial.
La utilización descontrolada de la inteligencia artificial generativa puede incluir también fugas de datos, en líneas generales involuntarios. Particularmente, en el caso de desarrollo de grandes modelos de lenguaje (LLM), ya que el aprendizaje incluye información crítica y aportes -que podrían contener datos sensibles- brindados por la propia organización.
Es necesario tomar cartas en el asunto y generar una estrategia de gobernanza para repensar el uso de la inteligencia artificial generativa dentro de las organizaciones.
Inteligencia artificial: el delicado equilibrio entre control e innovación
El desafío tiene un ingrediente adicional: se debe controlar lo suficiente para minimizar los riesgos, pero no tanto como para bloquear la innovación. En especial en estos tiempos, en que un desarrollo de inteligencia artificial generativa implementado en tiempo y forma puede convertirse en un diferencial frente a la competencia.
¿Qué se puede hacer desde la estrategia de ciberseguridad para mitigar estos peligros? Por un lado, es imprescindible adoptar procesos y tecnologías que proporcionen información contextualizada y manejable sobre soluciones de inteligencia artificial no aprobadas o desarrollos de IA en marcha no autorizados que pueden comprometer la seguridad y el cumplimiento de los datos. Por el otro, incluso cuando se trata de las aplicaciones de inteligencia artificial que sí atravesaron todos los procesos formales, es crítico monitorear y detectar nuevas vulnerabilidades.
También es importante el desarrollo de mejores prácticas: la velocidad en que se incorporó la inteligencia artificial en las organizaciones en los últimos dos años hizo que los equipos de ciberseguridad enfrentaran los nuevos desafíos relacionados con esta tecnología «como se pudo» y, en líneas generales, de manera reactiva. Por eso, es fundamental capitalizar todas las experiencias y tratar de pasar a un modelo preventivo.
La inteligencia artificial generativa representa un fenómeno tan irrefrenable como paradójico. Las empresas que no la adopten podrían correr en desventaja de cara al futuro, tanto como aquellas que la hagan de manera descuidada, descontrolada e irresponsable.
(*) Director de ingeniería de seguridad de Tenable para América latina y Caribe.