Preocupaciones éticas con la IA: Deepfakes
¿Cómo responderías a un vídeo de Richard Dawkins profesando la fe en Cristo? ¿O a uno video de Hugh Ross defendiendo el creacionismo de la Tierra joven? Cualquiera de las dos situaciones sería impactante y la confusión aumentaría cuando una investigación más profunda revele que se trata de una cita errónea o de una edición engañosa. Bienvenidos al mundo de los DeepFakes. ¿Qué podemos hacer para minimizar los daños?
¿Qué son los DeepFakes?
Según Merriam-Webster, un DeepFake es «una imagen o grabación que ha sido alterada y manipulada de forma convincente para hacer creer que alguien está haciendo o diciendo algo que en realidad no se hizo ni se dijo». Científicamente, los DeepFake son contenidos de vídeo producidos a partir de la batalla entre dos combatientes de la inteligencia artificial (IA) conocidos como redes generativas antagónicas (GAN, por sus siglas en inglés). Un bando, la red generativa, genera imágenes de vídeo mediante redes neuronales. La otra parte, la red discriminativa, analiza las imágenes de vídeo para determinar su realismo.
La red generativa mapea los rasgos faciales y los movimientos del objetivo falso en una compleja hoja de ruta (aunque “hoja de ruta” simplifica demasiado el concepto). A continuación, utiliza esta hoja de ruta para compilar el nuevo vídeo con la cara del objetivo. Luego, la red discriminatoria busca fallos o defectos en el vídeo resultante que permitan identificar el vídeo como falso. El análisis de la red discriminatoria se propaga a la red generativa, lo que le permite producir vídeos falsos más realistas.
¿Qué tan Realistas son los DeepFakes?
Una búsqueda rápida en Internet produce muchos ejemplos de vídeos deepfake (cuidado, muchos deepfake no son inocentes y sanos). En la actualidad, la mayoría de los deepfakes son fáciles de detectar debido a los gestos o movimientos extraños, pero el proceso básico utilizado por las GANs conducirá inevitablemente a falsificaciones cada vez mejores. A medida que la red generativa hace vídeos cada vez más realistas, la red discriminativa debe volverse más hábil para encontrar los defectos. Sin embargo, cualquier proceso desarrollado para identificar defectos se incorporará al generador, lo que dará lugar a vídeos aún más realistas. No es cuestión de si, sino de cuándo, la tecnología avanzará hasta el punto de que el consumidor humano no pueda detectar un vídeo falso.
¿Cómo Debemos Responder?
Si ver es creer, los deepfakes ponen en jaque nuestra capacidad de discernir la verdad. Pero existen buenas herramientas para ayudarnos. Tres pasajes de la Biblia proporcionan una guía útil para buscar la verdad.
1. Santiago 1:19-20: «Mis queridos hermanos y hermanas, tomen nota de esto: Todos deben ser rápidos para escuchar, lentos para hablar y lentos para enojarse, porque la ira humana no produce la justicia que Dios desea». Antes de hablar (o creer) algo, ya sea que apoye o ataque tu posición, tómate el tiempo de escuchar lo que realmente sucedió. Aplicar este principio te da tiempo para profundizar en busca de la verdad.
2. Proverbios 18:17: «En un pleito el primero que habla parece tener razón, hasta que alguien se presenta y lo examina». Al digerir la información en cualquier forma, pero especialmente en vídeo, tómate tiempo para escuchar lo que «la otra parte» tiene que decir. Escuchar a ambas partes suele permitirte conocer la verdad. Personalmente, este enfoque ha sido tremendamente útil para discernir la verdad en situaciones difíciles.
3. Mateo 7:12:«Por tanto, tratad a la gente en todo como queráis que os traten, porque esto es la Ley y los Profetas». ¿Te gustaría que tu nombre se manchara a causa de un vídeo falso? Por supuesto que no. Entonces asegurémonos de no hacer lo mismo. Esta mentalidad orientada a los demás te da la oportunidad de cuidar a los demás . Esto asegura que amamos a alguien lo suficiente como para entender la verdad. Y, si encontramos que la verdad lo justifica, tratar a los demás con respeto nos permite juzgar con justicia.
Nada nuevo bajo el sol
Para dar algunos pasos prácticos, verifica todo antes de publicar en las redes sociales. Busca fuentes de información fiables, sobre todo si esas fuentes comparten tu punto de vista. Y, si las fuentes de los medios sociales o de los principales medios siguen proporcionando información poco fiable, deja de escucharlos.
El autor del Eclesiastés afirma que no hay nada nuevo bajo el sol. La tecnología es moralmente neutra; los agentes humanos que la utilizan no lo son. Al igual que Photoshop nos hizo evaluar las fotografías con más cuidado, los deepfakes requieren un mejor discernimiento con el vídeo. Los cristianos están llamados a perseguir sin descanso la verdad y a exigir rendición de cuentas a quienes la distorsionan.