¿Alguna vez has dudado de la veracidad de una imagen o un video que has visto en línea? En un mundo donde los deepfakes se vuelven cada vez más convincentes, detectar contenidos generados por inteligencia artificial se ha convertido en un desafío diario. Descubre cómo Google y otros actores de la tecnología intentan armarnos frente a esta nueva realidad.
Las 3 informaciones que no debes perderte
- Google utiliza SynthID, una tecnología de marcado invisible, para identificar los contenidos generados por sus propios modelos de IA.
- La norma C2PA permite verificar el origen de las imágenes y videos, incluso aquellos creados por los competidores de Google como OpenAI.
- A pesar de estos avances, ninguna herramienta reemplaza el espíritu crítico, indispensable para distinguir lo real de lo artificial.
Los límites de los antiguos modelos de IA
Hace poco, los modelos de IA producían videos con incoherencias evidentes, haciendo su detección bastante simple para el ojo humano. Sin embargo, los rápidos avances tecnológicos han permitido crear representaciones mucho más realistas. Los deepfakes se han infiltrado en las redes sociales, haciendo la distinción entre realidad e ilusión más compleja que nunca.
Google y la tecnología SynthID
Frente a este desafío, Google ha introducido SynthID, desarrollado por Google DeepMind. A diferencia de las marcas de agua tradicionales, SynthID actúa sobre la componente frecuencial de la señal digital. El algoritmo ajusta las estadísticas de color y luminosidad, creando una huella indetectable a simple vista, pero reconocible por el modelo Gemini de Google.
En unos pocos clics, los usuarios pueden enviar una imagen o un video a Gemini y hacer la pregunta: «¿Esta imagen ha sido diseñada por una IA?». El chatbot analizará entonces los metadatos para identificar el marcado SynthID.
La interoperabilidad con la norma C2PA
Para paliar las limitaciones de SynthID, especialmente frente a los contenidos creados por competidores, Google apuesta por la norma C2PA. Este protocolo garantiza la trazabilidad de los archivos desde su creación. Es adoptado por gigantes como Adobe, Microsoft y OpenAI, permitiendo así verificar el origen de los contenidos, incluso en ausencia del marcado SynthID.
Para usar C2PA, basta con ir a la plataforma Content Credentials donde una imagen puede ser analizada rápidamente. Sin embargo, esta norma no es infalible. Por ejemplo, una simple captura de pantalla puede borrar la información de trazabilidad, haciendo la detección imposible.
Los desafíos de la autenticidad digital
A pesar de las herramientas sofisticadas desarrolladas por los gigantes de la IA, el discernimiento humano sigue siendo crucial. La tecnología aún no puede reemplazar nuestra capacidad para evaluar la veracidad de un contenido. Como anticipó Blaise Pascal, la verdad y la mentira a menudo están entrelazadas, y nuestro papel es desenredar estos hilos para distinguir lo real de lo artificial.
En esta carrera por la veracidad, empresas como Google, OpenAI y Adobe innovan constantemente para ofrecer soluciones de detección más efectivas. Sin embargo, su éxito también depende de nuestra capacidad para mantenernos vigilantes y críticos frente a la información que consumimos diariamente.
