En los últimos días, videos virales de un canguro en un avión y una jirafa de apoyo emocional generaron impacto en redes sociales. Sin embargo, ambos fueron creados con inteligencia artificial (IA) y resultaron ser completamente falsos. Casos como estos revelan los riesgos de esta tecnología cuando se utiliza con fines engañosos.
El acceso masivo a herramientas de edición y generación de imágenes ha facilitado la producción y propagación de noticias falsas, afectando a personas, empresas e incluso economías completas. Estas prácticas, que buscan manipular la opinión pública o ejecutar fraudes, se potencian por el uso intensivo de redes sociales y plataformas digitales.
Según un estudio de Kroll, un 71% de los ejecutivos financieros cree que en 2025 aumentará el riesgo de delitos digitales debido a la IA. En esa línea, el FBI advirtió sobre el auge del uso de IA generativa en suplantación de identidad y fraudes monetarios, herramientas que hacen más complejos los esquemas de engaño.
Señales para detectar contenido generado con IA
De acuerdo con Zady Parra, subgerente de Seguridad de Zenta Group, los principales riesgos son la difusión de contenido visual engañoso y el uso de “deep fakes” para crear perfiles fraudulentos o videos manipulados.
Para evitar caer en estos fraudes, es clave identificar señales que delatan el uso de IA:
-
Dedos extraños o deformes, con más de cinco o articulaciones mal ubicadas.
-
Sombras y reflejos incorrectos, que no coinciden con la iluminación natural.
-
Miradas desalineadas o pupilas poco naturales, que generan una expresión artificial.
-
Detalles borrosos en zonas complejas como dientes, joyas, logotipos o textos.
Herramientas útiles para detectar imágenes falsas
Además de prestar atención a los elementos visuales, existen herramientas que permiten verificar si una imagen es real o generada artificialmente:
-
Hive Moderation: detecta contenido visual generado por IA.
-
Illuminarty: identifica fraudes en ilustraciones, incluyendo arte generado por IA.
-
AI or Not: analiza si una imagen fue creada por una herramienta de IA.
Detectar una noticia falsa no solo depende de revisar la autenticidad del contenido, sino también de comprender la intención detrás del material. La combinación de observación crítica y uso de herramientas de verificación es fundamental para no caer en engaños.
