El gigante tecnológico Google anunció una nueva función para su asistente de inteligencia artificial Gemini que le permite detectar si un video fue generado con cualquiera de sus modelos de IA.
En los últimos meses, el contenido audiovisual creado con inteligencia artificial ha tomado más fuerza en las plataformas digitales. Tras el avance de las herramientas tecnológicas, cada vez resulta más difícil identificar si un video es real o es producto de la IA.
De modo tal que con esta nueva funcionalidad, Google busca reforzar su política de transparencia en un contexto en el que los videos con inteligencia artificial son cada vez más comunes en las redes sociales.
Gemini puede detectar si un video se creó con IA
Este tipo de contenido resulta muy realista, por lo que se ha hecho frecuente que usuarios alrededor del mundo piensen que lo que están viendo es completamente real. En algunos casos, esto no provoca daños; pero en otros, las consecuencias pueden ser negativas.
Por ejemplo, ciberdelincuentes están utilizando la inteligencia artificial para crear deepfakes y así engañar a personas en el mundo. Se trata de archivos de video, imagen o audio manipulados por IA.
Y es aquí donde las herramientas de identificación juegan un papel crucial. En este caso, los usuarios pueden utilizar a Gemini como aliado para salir de dudas sobre el origen de un material audiovisual.
Desde ahora, los usuarios pueden subir cualquier video a la aplicación de Gemini y preguntar directamente si el contenido fue creado con la inteligencia artificial de Google. El asistente se encargará de analizar la imagen y el sonido para localizar el «SynthID».
Esta herramienta es una marca de agua digital, invisible e inaudible, que Google integra en sus creaciones. A diferencia de las etiquetas tradicionales, este sistema es capaz de resistir ediciones, recortes o cambios en la calidad del video, permitiendo identificar siempre el origen del material.
Asimismo, Google proporciona un análisis completo, ya que no solo responde si el video fue creado con inteligencia artificial. En este sentido, Gemini ofrece una respuesta detallada según el contexto.
De esta manera, el sistema precisa los momentos exactos del video donde se localiza la huella digital, ya sea en la imagen, en el audio o en ambos elementos. Esta función amplía una herramienta que Google lanzó en noviembre para analizar imágenes.
Avance significativo
La posibilidad de poder identificar el origen de los videos representa un desafío mucho más grande debido a su complejidad técnica. Además, el formato audiovisual es el recurso más utilizado para difundir desinformación y crear «deepfakes» difíciles de detectar.
A pesar del avance, la empresa admite que aún falta comprobar qué tan difícil es eliminar esta marca de agua y si otras plataformas podrán detectarla con éxito. Sin embargo, los usuarios ya tienen a su alcance a Gemini para detectar si un video se creó con IA, siempre que se hayan utilizado las herramientas de Google.
Información de Cinco Días / redacción Noti AI
No dejes de leer: ¡Cuidado! Estas son las preguntas prohibidas a la IA que ponen en riesgo tus datos
Sigue nuestras redes sociales y se parte de nuestra comunidad