Home


¿Cómo diferenciar un video real de uno que es hecho con IA?

Sí hay herramientas para, por ejemplo, diferenciar una imagen falsa de una real. Te lo explicamos.

EL COLOMBIANO

18 de febrero de 2024 10:40 AM

En tiempos en los que el descrédito con las palabras es fuerte y las opiniones, en redes sociales sobre todo, se polarizan y convierten en incendiarias, qué esperar de una herramienta que puede crear un video, en el que fácilmente se perjudique a una persona con una escena inventada. Y ni que hablar de los Deep Fake, esas noticias falsas que a simple vista se ven real pero no lo son. A eso se puede llegar con Sora, la nueva herramienta de Inteligencia Artificial de OpenAI.

Un caso reciente, muy sonado, fue el de Taylor Swift e imágenes pornográficas. “Las redes sociales se llenaron de imágenes de Taylor Swift desnuda, aparentemente reales, que en realidad eran fotografías retocadas con herramientas de IA generativa que suplantaron la imagen de la cantante sin su conocimiento ni consentimiento”, informaron en Europa Press en enero de este año. Lea también: ¡Impresionante! OpenAI presenta “Sora”, modelo que transforma texto en video

“Y era Taylor Swift y se generó el escándalo, llegaron a la compañía que lo hizo, X bloqueó la cuenta, pero es porque era Taylor Swift”, detalla Paola Hincapié, directora de contenidos de la agencia El Grifo.

El ser humano hoy busca la certeza y algo que sucede con estas herramientas es que no sabemos diferenciar entre realidad e irrealidad de lo que vemos en la pantalla, “yo soy una de las que veo una imagen y ya dudo y ni siquiera porque sea obsceno o no me lo crea sino porque es tan bien hecha, tan linda, que lo dudo. Siento que Sora va a permear aún más la actitud que tengamos o la conducta en cómo asimilamos algo que es real o no”.

El asunto es que sí hay herramientas para, por ejemplo, diferenciar una imagen falsa de una real, pero son superadas en cada desarrollo y ahí vuelve y juega la debilidad.

El Global Investigative Journalism Network actualiza constantemente una guía para detectar imágenes falsas y confirmar si una fotografía encontrada en redes sociales es real o no. Esta incluye herramientas como TinEye, la misma búsqueda por imágenes de Google, Photo Sherlock y Fake Image Detector.

Desde la agencia El Grifo recomiendan la web www.aiornot.com para determinar si una imagen ha sido generada por inteligencia artificial o por un ser humano.

Un gran vacío

Por eso algo que estará a prueba es que a la par que se desarrollan estas tecnologías, la velocidad exponencial en que esto avanza, los sistemas legislativos y reguladores van más lento.

Jaron Lanier, el creador de la Realidad Virtual y un gurú en temas tecnológicos, le dijo recientemente a Bloomberg que la solución al problema de los Deep Fake es conocer las fuentes y “para eso el sistema de procedencia debe ser solido y no falsificable. Controlar las fuentes es la única forma de combatir el fraude, además los reguladores deberían involucrarse en esto, Microsoft, OpenAI y todas las empresas de tecnología deberían exigir regulaciones, pero la pregunta es cómo”. Lea también: ¿Cómo evitar que su vecino le robe su WiFi? Sigue estos pasos

Lanier reitera, y ese es otro gran problema, que aún con todo lo que se ha hablado, todavía no sabemos que es la privacidad en el contexto de internet.

La sombra de este asunto es, en definitiva, el no control, ¿en manos de quien estamos?

“En Sora afirman que están atentos a los temas legales, que tienen comité de éticas”, explica Paola quien añade que si algo ha demostrado la Inteligencia Artificial es que se hace un primer paso en la propuesta, pero los desarrollos son infinitos y el control no es posible.

“Ahí es donde viene la gran pregunta y cuya respuesta es que no sabemos qué va a pasar y eso genera una incertidumbre demasiado alta en especial para quienes deberían garantizar el tema de seguridad. Hay que estar atentos a los cambios y ser más conscientes de la información que nosotros mismos damos, no es generar pánico, pero si tener clara cuál es nuestra responsabilidad”.

Comentarios ()

 
  NOTICIAS RECOMENDADAS