En la encrucijada de la innovación tecnológica y la ética, las imágenes generadas por inteligencia artificial se han colocado en el epicentro de un debate contemporáneo. Su utilización abarca desde la creación de pornografía no consensual hasta la difusión de desinformación en períodos electorales, pasando por la promoción de productos mediante la suplantación de identidades de celebridades en redes sociales. La controversia se agudizó recientemente cuando se especuló, sin fundamentos, que un video de la Princesa Catherine anunciando un diagnóstico de cáncer había sido manipulado mediante IA, a pesar de las negativas oficiales de los responsables detrás de la producción del material.
Este fenómeno no es menor ni transitorio. Expertos en el área predicen un empeoramiento de la situación, dado que la calidad de algunas imágenes falsas alcanza tal nivel de perfección que su distinción de la realidad se vuelve prácticamente imposible. Casos destacados, como el de un gestor financiero que transfirió millones a estafadores que se hicieron pasar por sus superiores mediante una videollamada potenciada por IA, subrayan la magnitud del problema. Ante este escenario, un colectivo diverso de investigadores, académicos y emprendedores dedica esfuerzos a desarrollar métodos para rastrear y etiquetar el contenido generado por IA, en alianzas que abarcan desde organizaciones de noticias hasta gigantes tecnológicos y fabricantes de cámaras.
La marca de agua digital, aunque no es una novedad, ha emergido como una de las estrategias más prometedoras frente a la oleada de imágenes generadas por IA. Sin embargo, su eficacia se ve limitada por la capacidad de alteración o eliminación. La industria, entonces, se inclina hacia marcas de agua invisibles integradas en la imagen misma, detectables por plataformas de redes sociales que podrían etiquetarlas antes de ser vistas por el público.
No obstante, esta solución está lejos de ser infalible.
Paralelamente, se ha propuesto etiquetar las imágenes reales, incorporando metadatos en cada pixel en el momento de la captura para proporcionar un registro de su procedencia. Esta iniciativa, ya en desarrollo por importantes fabricantes de cámaras y apoyada por destacadas organizaciones de noticias, podría servir como un sistema de verificación en redes sociales y sitios de noticias, aunque no está exenta de vulnerabilidades ante actores maliciosos.
En el ámbito del software, se han creado herramientas capaces de detectar deepfakes analizando millones de imágenes y entrenando algoritmos para reconocer señales reveladoras de falsedad. Sin embargo, la efectividad de estas herramientas está en constante desafío ante la evolución de la tecnología generativa.
La situación nos lleva a una reflexión profunda sobre la naturaleza dual de la inteligencia artificial: su capacidad para tanto innovar como para infringir. Mientras que la tecnología presenta soluciones ingeniosas a problemas emergentes, también plantea serios dilemas éticos y prácticos sobre la veracidad y la manipulación de la información. El diálogo en torno a la IA y su impacto en nuestro entendimiento de la realidad es, por tanto, un testimonio de nuestra época, marcada por el avance tecnológico y sus implicaciones socioculturales. La necesidad de una respuesta equilibrada y reflexiva nunca ha sido más crítica, buscando mitigar los riesgos sin coartar el potencial de la innovación. Este equilibrio delicado es esencial para asegurar que la tecnología siga siendo una fuerza de progreso en la compleja trama de la sociedad moderna. Lo repito, no soy un ludita, creo que la tecnología siempre ayuda, no entorpece y que muchos de los debates son estériles porque el destino ya nos alcanzó. Lo importante ahora es qué hacemos con lo que ya tenemos. Alguien, recientemente, en The Guardian propuso que fuésemos explícitos sobre nuestro uso, como escritores de la inteligencia artificial (nos ayudó a pensar, a estructurar, a escribir, a corregir, etc.) y que solo esa transparencia podría en el futuro distinguirnos de los meros plagiarios. Yo les pregunto a mis lectores de Hipócrita Lector, mis hermanos, mis cómplices, sobre qué opinan, y le pido lo mismo a quienes me leen en Facebook, Twitter, Instagram. ¿Qué demonios hacemos con la inteligencia artificial, ahora que no podemos evitar su omnipresencia?
