¿Qué porcentaje de violaciones de datos causará la IA generativa en 2027?

Publicado el:

Según Gartner, una firma estadounidense de investigación y consultoría tecnológica, más del 40 % de las violaciones de datos relacionadas con la Inteligencia Artificial (IA) serán causadas, para el año 2027, por el uso inadecuado de la IA generativa (GenAI) en transferencias de datos transfronterizas.

La rápida adopción de tecnologías GenAI por parte de los usuarios finales ha superado el desarrollo de medidas de seguridad y gobernanza de datos, lo que genera inquietudes sobre la localización de datos debido a la potencia informática centralizada necesaria para respaldar estas tecnologías, advierte Gartner.

“Las transferencias de datos transfronterizas no deseadas a menudo ocurren debido a una supervisión insuficiente, en particular cuando la GenAI se integra en productos existentes sin descripciones claras ni anuncios”, explicó Joerg Fritsch, vicepresidente analista de Gartner. 

“Las organizaciones están notando cambios en el contenido producido por los empleados que utilizan herramientas GenAI. Si bien estas herramientas se pueden utilizar para aplicaciones comerciales aprobadas, plantean riesgos de seguridad si se envían mensajes confidenciales a herramientas de IA y API alojadas en ubicaciones desconocidas”, dijo.

Las brechas en la estandarización global de la IA

La falta de mejores prácticas en estándares globales consistentes para la IA, así como la gobernanza de datos exacerba los desafíos al causar fragmentación del mercado; obligar a las empresas a desarrollar estrategias específicas para cada región. Esto puede limitar su capacidad para escalar operaciones a nivel global, beneficiarse de los productos y servicios de IA.

“La complejidad de gestionar los flujos de datos y mantener la calidad debido a políticas de IA localizadas puede generar ineficiencias operativas”, dijo Fritsch. “Las organizaciones deben invertir en gobernanza y seguridad de IA avanzadas para proteger los datos confidenciales y garantizar el cumplimiento”.

Actuar antes de que la gobernanza de la IA se convierta en un mandato global

Gartner predice que para 2027 la gobernanza de la IA se convertirá en un requisito de todas las leyes y regulaciones soberanas de IA en todo el mundo.

Para mitigar los riesgos de violaciones de datos de IA, en particular el uso indebido transfronterizo de la GenAI, y para garantizar el cumplimiento, Gartner recomienda varias acciones estratégicas para las empresas:

  • Mejorar la gobernanza de datos: las organizaciones deben garantizar el cumplimiento de las regulaciones internacionales y monitorear las transferencias de datos transfronterizas no deseadas ampliando los marcos de gobernanza de datos para incluir pautas para los datos procesados ​​por IA. Esto implica incorporar evaluaciones del impacto de la transferencia de datos y el linaje de datos dentro de las evaluaciones regulares del impacto de la privacidad
  • Establecer comités de gobernanza: formar comités para mejorar la supervisión de la IA y garantizar una comunicación transparente sobre las implementaciones de IA y el manejo de datos. Estos comités deben ser responsables de la supervisión técnica, la gestión de riesgos y cumplimiento, y la comunicación y los informes de decisiones
  • Reforzar la seguridad de los datos: utilizar tecnologías avanzadas, cifrado y anonimización para proteger los datos confidenciales. Por ejemplo, verificar los entornos de ejecución confiables en regiones geográficas específicas y aplicar tecnologías de anonimización avanzadas, como la privacidad diferencial, cuando los datos deban salir de estas regiones
  • Invertir en productos TRiSM: planificar y asignar presupuestos para productos y capacidades de gestión de la confianza, el riesgo y la seguridad (TRiSM) adaptados a las tecnologías de IA. Esto incluye la gobernanza de la IA, la gobernanza de la seguridad de los datos, el filtrado y la redacción rápidos y la generación sintética de datos no estructurados. Gartner predice que, para 2026, las empresas que apliquen controles TRiSM de IA consumirá al menos un 50 % menos de información imprecisa o ilegítima, lo que reducirá la toma de decisiones errónea. 

“Las organizaciones que no pueden integrar los modelos y controles de gobernanza requeridos pueden encontrarse en desventaja competitiva, especialmente aquellas que carecen de los recursos para ampliar rápidamente los marcos de gobernanza de datos existentes”, aseveró Fritsch.

No dejes de leer: Interrogantes éticas del uso de la inteligencia artificial


Sigue nuestras redes sociales y se parte de nuestra comunidad 

Instagram

 YouTube

X

TikTok

Recientes