La industria de la inteligencia artificial en América Latina
enfrenta dificultades por brechas estructurales, principalmente en
materia de adopción y ejecución de herramientas. Ante un clima
tecnológico marcado por la búsqueda de modelos de lenguaje cada vez
más robustos, la shadow AI presenta una amenaza estructural en
crecimiento, reveló la firma de analítica SAS.
De acuerdo con la firma, los modelos, agentes y copilotos de inteligencia artificial
requieren una visión unificada para entender su impacto en las
empresas. El trabajo sobre estos sistemas unificados cumple
el propósito de prevenir el uso no autorizado de inteligencia
artificial, cuyo efecto es conocido como shadow AI.
Se define como shadow AI al uso de herramientas de inteligencia artificial por parte de empleados sin la aprobación o supervisión del departamento de TI de su empresa. Esta utilización no autorizada puede llevar a consecuencias graves para la empresa. De acuerdo con Cloudflare, los incidentes con shadow AI pueden costar la filtración de información sensible en las empresas.
Entre las
vulnerabilidades reportadas por los especialistas, se encuentra la
generación aumentada por recuperación (RAG), una técnica de IA que conecta los Modelos de Lenguaje Grande (LLMs) con fuentes de datos externas.
Herramientas de
gobernanza, la apuesta de SAS ante los desafíos de la IA oculta
De acuerdo con
predicciones de la empresa de investigación de IT, Gartner, más del 40% de las empresas experimentarán
dificultades operativas por el uso de la IA oculta. En este contexto,
SAS advirtió que cuidar la gobernanza debe ser prioridad en las
organizaciones preocupadas por los riesgos de la Shadow AI.
Según la firma
especializada en analítica, las empresas deben permitir el uso de la
IA dentro de ecosistemas estructurados, seguros, y transparentes. A
través de un enfoque que amplifique la participación humana en el
manejo de las herramientas de inteligencia artificial, la gobernanza
cobra importancia como un producto para las empresas
Por ello,
las preocupaciones por lA no deben limitarse al desarrollo de modelos
más potentes, sino en la incorporación de datos, gobernanza y
agentes especializados capaces de operar con supervisión humana en
los contextos empresariales.
Si bien la infraestructura es clave para implementar la gobernanza de IA, y
limitar el uso de shadow AI, el catálogo de productos se encuentra
en crecimiento. SAS presentó AI Navigator, una plataforma
que ofrece un inventario de casos de IA con impacto al interior de
las operaciones empresariales.
De acuerdo con el vicepresidente de ética, gobernanza, e impacto social en SAS, Reggie Townsend, la prevención
del mal uso de la IA con sus propias herramientas es un paso
necesario en el clima de innovación tecnológica.
NotiPress/Ali Figueroa
