Google anunció el lanzamiento de una herramienta revolucionaria llamada SynthID, como una respuesta ante el desafío de la proliferación de imágenes generadas por inteligencia artificial (IA). Esta tecnología sirve para abordar uno de los problemas clave en el campo de la IA: la identificación precisa de imágenes producidas por algoritmos.
Por lo regular, las marcas de agua tradicionales son insuficientes para identificar imágenes generadas por IA, pues son altamente vulnerables a la edición o manipulación. Sin embargo, SynthID aborda esta limitación ofreciendo una marca de agua digital que se incrusta directamente en los píxeles de la imagen, siendo completamente invisible al ojo humano. Además, esta marca persistirá aun cuando se hagan ajustes de color, recortes o cambios de formato.
Google compartió algunos detalles sobre cómo funciona SynthID con dos modelos de aprendizaje profundo. Uno de estos modelos se encarga de crear la marca de agua, mientras que el otro se dedica a la identificación de imágenes generadas por IA. Ambos modelos se entrenaron con una diversa variedad de imágenes para garantizar su eficacia en diferentes contextos. El modelo de identificación verifica la presencia de la marca de agua alineándose visualmente con el contenido original de la imagen.
Esta tecnología no solo permitirá a los usuarios agregar marcas de agua a sus propias imágenes generadas por IA, sino que también tiene la capacidad de analizar imágenes existentes para determinar si fueron producidas por un algoritmo de IA. La compañía planea poner a prueba la efectividad de SynthID en escenarios de manipulación extrema de imágenes, donde los píxeles originales podrían estar ocultos.
Inicialmente, SynthID estará disponible en versión beta para un grupo selecto de usuarios que utilizan el servicio Imagen de Vertex AI de Google. La marca de agua digital también será compatible con métodos de identificación basados en metadatos, utilizados en programas de edición como Photoshop. Sin embargo, el objetivo de Google va más allá de sus propias plataformas, ya que quiere expandir el acceso de SynthID a sistemas de terceros, lo que permitiría a diversas plataformas implementar esta tecnología en el futuro.
La creciente importancia de combatir la desinformación y el contenido fraudulento está llevando a otras empresas como Adobe, Microsoft e Intel a participar en el desarrollo del estándar C2PA (Coalition for Content Provenance and Authenticity), que también aborda la necesidad de autenticar imágenes y contenidos en línea.
