Estás leyendo la publicación: Google presenta una herramienta para identificar imágenes de IA
Una nueva tecnología llamada SynthID, desarrollada recientemente por Google, tiene como objetivo reconocer imágenes generadas por inteligencia artificial (IA).
Esta herramienta tiene como objetivo combatir el uso cada vez mayor de imágenes generadas por IA en una variedad de campos, incluidas imágenes de información engañosa como publicidad falsa, publicaciones en redes sociales y artículos de noticias.
Estas fotografías también se pueden utilizar para crear contenido malévolo, como deepfakes que se hacen pasar por personas reales.
Cada imagen generada por IA tiene una marca de agua digital incluida, así es como funciona SynthID. Aunque invisible a simple vista, esta marca de agua es detectable mediante un software sofisticado.
Leer: Google presenta su herramienta de búsqueda con IA en la India
Los usuarios pueden confirmar la validez de una imagen y separarla de las imágenes producidas por IA mediante el uso de esta marca de agua.
Si bien SynthID es un paso importante en la lucha contra la difusión de información falsa y dañina producida por la IA, es importante recordar que estas herramientas tienen sus limitaciones.
No son impecables y todavía existe la posibilidad de que SynthID u otras tecnologías de naturaleza similar no detecten las imágenes creadas con IA.
Por lo tanto, sigue siendo importante estar atentos y ser conscientes de la posibilidad de que la IA genere información falsa al consumir contenido de Internet.
Más allá de SynthID, Google está abordando la información falsa generada por IA. La compañía ha prometido identificar cualquier fotografía generada por IA creada con sus herramientas.
Google también está trabajando con otros sitios web, editores y plataformas en línea para promover el uso de esta estrategia en todo el mundo digital.
Leer: ¿La IA reemplazará a la fuerza humana? Aquí está mi opinión
A continuación se ofrecen algunas pautas para ayudar a las personas a detectar fotografías creadas por IA:
- Busque características antinaturales o poco realistas: Las fotografías generadas por IA pueden incluir características que no son del todo correctas, como bordes pixelados o borrosos, u objetos que no parecen pertenecer a la escena.
- Verifique la imagen para ver si hay inconsistencias: Las fotografías generadas por IA pueden contener irregularidades, como diferencias en la iluminación o sombras en varias áreas de la imagen.
- Utilice herramientas de detección de marcas de agua: Hay varias herramientas de Internet disponibles para detectar marcas de agua en fotografías, que pueden ayudarlo a detectar imágenes con marcas de agua generadas por IA.
- Verifique la fuente: Siempre es preferible pecar de cauteloso y confirmar la fuente de la imagen antes de aceptarla como real si persisten dudas sobre la legitimidad de una imagen.
En conclusión, Google ha avanzado en la solución de los problemas relacionados con la desinformación generada por IA con el lanzamiento de SynthID y su compromiso de etiquetar imágenes generadas por IA.
Sin embargo, los usuarios deben tener cuidado y utilizar estas herramientas y recomendaciones como parte de un esfuerzo mayor para determinar la veracidad de las fotografías vistas en línea.
