Google abre a todos su detector de contenido con IA
Google liberó al público SynthID Detector, una herramienta gratuita para verificar si una imagen, un video o un audio fueron generados con inteligencia artificial. Según la compañía, ya marcó con esta tecnología más de 180.000 millones de imágenes y videos desde 2023. El límite es grande y conviene conocerlo antes de confiar en el resultado.
Qué hace y qué no hace
SynthID inserta una marca invisible dentro del archivo generado. El detector lee esa marca y responde si el material la tiene.
Ahí está la limitación que define todo lo demás: solo detecta contenido marcado por Google y sus socios. Los socios que la compañía menciona son OpenAI, NVIDIA y Kakao, con Apple anunciada como próxima. Un video hecho con un modelo de pesos abiertos, que es la mayoría de lo que circula en desinformación, no lleva marca y por lo tanto el detector no lo señala.
Eso significa que un resultado negativo no prueba nada. Prueba que el archivo no tiene marca de Google, no que sea auténtico.
La herramienta está disponible solo en inglés. Y hay que separar dos cifras que se están mezclando: el millón de solicitudes diarias que menciona Google corresponde a las funciones de verificación integradas en Search, la aplicación de Gemini y Chrome, no a este detector independiente.
Por qué SynthID llega en un momento delicado
Hasta ahora, verificar si una pieza era sintética exigía herramientas de pago, conocimiento técnico o enviar el archivo a un tercero. Esta es la primera opción gratuita y accesible desde cualquier parte.
Además, el volumen que reporta Google —180.000 millones de piezas marcadas y 240.000 años de audio— indica que la marca ya está presente en una porción enorme del contenido generado por sus modelos.
Qué significa para América Latina
Sirve para un caso concreto y vale usarlo. Cuando llega por WhatsApp un audio atribuido a un político o a un directivo, pasarlo por el detector toma segundos y gratis. Si la marca aparece, la discusión se acabó. Es más de lo que había hace una semana.
Pero no resuelve el problema real de la región. Buena parte del material que circula en campañas de desinformación local se hace con modelos abiertos y herramientas de clonación de voz que no marcan nada. Para ese contenido —que es el que más daño hace— este detector no da respuesta, y presentarlo como solución sería engañar al lector.
Para una sala de redacción, la regla práctica es otra. La verificación sigue siendo la de siempre: buscar la fuente original, contrastar con quien aparece en la pieza, revisar metadatos y cadena de difusión. El detector es un paso más dentro de ese proceso, nunca el proceso completo.
El problema de fondo que SynthID no resuelve
Hay una asimetría que ningún detector resuelve. Las marcas las ponen voluntariamente las empresas que quieren ser responsables; quien hace un deepfake para engañar simplemente usa una herramienta que no marca.
Eso no vuelve inútil la tecnología. La vuelve una herramienta de trazabilidad para el contenido legítimo —saber qué se generó y con qué— más que de detección del contenido malicioso.
Vale tenerlo claro porque la narrativa cómoda es la contraria. En un año con elecciones en varios países de la región, decirle a la gente que ya existe un botón para saber si algo es falso hace más daño que no decir nada.
Sitio oficial:
SynthID de Google DeepMind
Reportado por: The Decoder — Free Press Journal
Nota de transparencia: circula un límite de «diez verificaciones diarias por cuenta» que no aparece en el anuncio oficial que revisamos; no lo damos por cierto.
Lee también:
ElevenLabs lanza Eleven v4 con más de 90 idiomas
Seis tecnológicas firman un acuerdo de IA sin fuerza legal
