El uso de la Inteligencia artificial en las herramientas es cada vez más frecuente, el objetivo de las mismas comienza como una opción para facilitar a los usuarios a crear cierto tipo de imágenes con fines artísticos, buscar información de manera rápida u otras cuestiones. El problema está cuando el uso de las mismas se convierte en un medio para facilitar el mal uso de la información o la imagen de los usuarios.
Se viralizó en las redes sociales una serie de imágenes del papa Francisco que vestía una campera inflada mientras caminaba por las calles de Roma. De inmediato se hizo viral por el estilo semejante a los artistas urbanos del trap o reggaetón, los usuarios angloparlantes bautizaron a las fotos como “The Pope Drip”, se traduce al español como “el estilo del Papa”. Todos se preguntaban por qué el Sumo Pontífice decidió cambiar su estilo y mientras más pasaba el tiempo, nuevas imágenes se difundían. Había una persona detrás de todo este revuelo, su nombre es Pablo Xavier quien confesó reírse de la confusión por parte del resto del mundo por las imágenes que él mismo había creado con inteligencia artificial.
Las fotos que se difundieron en las redes no son reales, fueron creadas con la herramienta Midjourney que utiliza Inteligencia Artificial (IA) para crear imágenes hiperrealistas. Con esta herramienta salieron, por ejemplo, las fotos del supuesto arresto del expresidente de Estados Unidos, Donald Trump, la cual engañó a un gran porcentaje de personas en primera instancia. El programa es de manejo simple, solo necesita de las instrucciones de un usuario para generar imágenes como la del Papa. Esta herramienta es una de las evidencias más claras del potencial que tiene la IA y por qué representa un peligro según algunos expertos.
Pablo Xavier quien fue creador de la imagen del “Papa cool” que recorrió el mundo reveló a BuzzFeed News por qué la hizo y admitió que no esperaba tanta exposición. “Mucha gente pensó que eran reales sin cuestionarlo. Es una locura”, el usuario decidió no compartir su apellido al público por miedo a represalias.
Confesó que la idea de generar la imagen se le ocurrió cuando se encontraba bajo los efectos de unos hongos alucinógenos. “Intento hacer cosas divertidas y arte psicodélico. Se me ocurrió de golpe. Pensé que debía usar al Papa. Luego todo fue como la seda: el Papa con un abrigo de Balenciaga, caminando por las calles de Roma o París”, Pablo compartió las fotos en el foro de Reddit y la plataforma lo echó a las pocas horas. La imagen más viralizada era perfecta según su criterio.
La IA y los deepfakes, el problema del avance tecnológico
Pablo Xavier reveló que es un aficionado de crear fotos falsas, esto comenzó con la muerte de su hermano en noviembre pasado. “Todo empezó lidiando con el dolor. Creaba imágenes de mi hermano fallecido”. Luego siguió con otras fotos como la del Papa, la cual solo le pareció una idea graciosa. A pesar de que no es religioso, resaltó que no siente animosidad por el pontífice, tampoco esperaba que se explotara de tal forma.
Este hecho en concreto demostró el gran potencial que tienen las herramientas como Midjourney, la cual borra cada vez más los límites entre realidad y ficción con las imágenes creadas. Esto preocupa a los expertos que llaman a este fenómeno como la epidemia de los deepfakes, un deepfake es un vídeo o una imágen falsa habitualmente del rostro de una persona, que parecen ser reales y que se han producido utilizando inteligencia artificial. Empresas como Adobe —líder de las primeras herramientas de edición como Photoshop o Premiere— ya buscan cómo enfrentar a la “hiperrealidad” debido que se crean videos con el rostro de las personas mientras realizan diferentes acciones y de todo tipo. Algunos videos parecen más reales que otros.
En esta línea, la empresa líder en edición lanzó hace tres años la llamada Iniciativa de autenticidad de contenido con un puñado de socios de la industria de tecnología y medios, entre ellos Microsoft e Intel. Este proyecto apunta a crear un rastro digital que muestre quién es responsable de un video o imagen determinado y cualquier cambio que haya sufrido para que no ocurran confusiones debido a que la tecnología avanza y se perfecciona cada vez más.
La iniciativa por parte de las empresas coincide con la declaración del Papa Francisco, el Pontífice no habló de la foto que realizaron con su rostro, pero sí se refirió al uso de la IA. “Estoy convencido de que el desarrollo de la inteligencia artificial y el aprendizaje automático tiene el potencial de contribuir de manera positiva al futuro de la humanidad”, expresó el líder de la Iglesia Católica. A sus declaraciones añadió. “Este potencial se realizará solo si existe un compromiso constante y consistente por parte de quienes desarrollan estas tecnologías para actuar de manera ética y responsable”, determinó y responsabilizó a las autoridades de crear una reglamentación para el uso correcto de las nuevas herramientas de la tecnología.
El Papa se preguntó. “¿Existe el riesgo de que el aumento de la desigualdad socave nuestro sentido de solidaridad humana y social? ¿Podríamos perder nuestro sentido de tener un destino compartido?”. Concluyó con su punto de vista con respecto al objetivo de la innovación tecnológica. “El objetivo debe ser que el crecimiento de la innovación científica y tecnológica vaya acompañado de una mayor igualdad e inclusión social”, determinó.
Claves para detectar imágenes creadas por la IA
Para no caer en engaños, tampoco en la difusión de información falsa, las creaciones de Midjourney tanto como las de otras herramientas, suelen tener errores sutiles pero notorias. Los errores están en la forma humana ya sea en los dedos, manos, cara o proporciones del cuerpo de los protagonistas. En los deepfake se pueden detectar los siguientes errores:
• Los lentes que utiliza el Papa Francisco no tienen una forma definida y se fusionan con su rostro. Además, la sombra que producen también presenta una imperfección.
• El crucifijo que porta en el cuello solo se conecta por un lado y el cierre del abrigo tiene dos tramos que no coinciden entre sí.
• El error más visible de todos se presenta en su mano derecha que sostiene lo que parece ser una bebida en un contenedor similar a un mate, pero no tiene una forma definida.
• En su dedo medio puede notarse un detalle que podría aproximarse al “anillo del pescador” que forma parte de la indumentaria del Sumo Pontífice, pero este se utiliza en el dedo anular.
Sin dudas cada vez más difícil detectar fotos como las del Papa o las de Trump, pero hay una serie de trucos que permiten identificar la falsedad de las mismas:
• Cuando se difunde una imagen es importante volver a la fuente para rastrear la primera vez que se publicó en línea. En ciertos casos, el creador puede haber dicho que fue generado por IA e indicó específicamente cual fue la herramienta utilizada.
• Se debe buscar pistas visuales, muchas veces están ocultas en la foto. Puede ser una marca de agua utilizada por algunas herramientas de creación de IA. DALL-E, por ejemplo, genera automáticamente una barra multicolor en la parte inferior derecha de todas sus imágenes. Crayion coloca un pequeño lápiz rojo en el mismo lugar.
• A las imágenes de IA les cuesta generar manos normales y también tienen dificultades para generar reflejos. Los generadores también suelen crear asimetrías. Las caras pueden ser desproporcionadas o las orejas pueden tener diferentes tamaños. Los dientes y el cabello son difíciles de imitar. Estas particularidades pueden revelar, en sus contornos o textura, que una imagen no es real. Asimismo, algunos elementos pueden estar mal integrados como los anteojos de sol que se mezclan con la cara.
• Cuando se observa a primera vista el fondo de una imagen, puede parecer normal. En cambio, una foto generada por IA a menudo revela errores en el paisaje: piernas cortadas, caras deformes, cuerpos borrosos y perspectivas incorrectas.
• Existen los errores de lógica, pueden contener elementos que no corresponden al contexto, tales como una señal de tránsito o un cartel que no existe en el lugar de donde pretende ser la imagen. También elementos de una ciudad que ya no existen en la actualidad.
Vincent Terrasi, cofundador de una startup explicó a la AFP que lanzó un detector de IA para universidades y desarrolló: “Una buena manera de detectar una IA es buscar sombras, espejos, agua, pero también acercar los ojos y analizar las pupilas, ya que normalmente hay un reflejo cuando tomas una foto. También podemos notar a menudo que los ojos no son del mismo tamaño, a veces con diferentes colores”, determinó.
Las imágenes creadas con IA y su repercusión
Desde Periodismo Misionero se consultó a diseñadores gráficos locales, estudiantes avanzados de la carrera de diseño y a distintas personas sobre qué opinión tienen con respecto a las imágenes creadas por medio de la Inteligencia artificial.
El diseñador Nicolás Irala acepta utilizar esta herramienta como un apoyo en su trabajo. “Yo creo que la inteligencia artificial debe ser un apoyo a la hora de editar imágenes, pero no depender 100% de ella. Porque puede omitir datos que para la IA sean irrelevantes, pero para la persona que necesita una edición específica no. También puede ser que la imagen creada sea tan “perfecta” que pierde el aura de realidad que queramos que la imagen tenga”, expresó.
Irala agregó que su visión sobre las imágenes creadas a través de la IA es positiva. “Estimo que en un futuro no muy lejano será una herramienta importante de edición para los diseños, dado que agilizaría los tiempos de producción. Claramente asumiendo los riesgos que comenté anteriormente. No en un 100% pero imagino que será una herramienta muy útil, siempre que la imagen transmita un mensaje creo que podemos llamarla arte”.
Por otra parte, Gabriel Sosa quien también es diseñador gráfico explicó sobre si existen riesgos en la utilización de este tipo de herramientas. “Pienso que si conocemos los parámetros hacia donde queremos llegar con la edición, el riesgo es casi nulo. Actualmente, creo que no existe alguna norma que establezca parámetros de uso y derechos de auditoría de elementos creados a partir de la IA quizás más adelante sí”.
Se consultó a Sosa si creía que estas imágenes podrían ser consideradas como arte. “No soy artista, pero es innegable viendo desde afuera que existen innumerables actos y cosas que rozan lo absurdo y son consideradas como “arte”, entonces no veo el impedimento para que las imágenes creadas con IA no pueden serlo”.
Raúl Verbes, otro profesional en el diseño comentó la deficiencia de calidad que presentan estas imágenes con respecto a las que se crean por profesionales en el área. “En mi opinión el único riego que puede al editar imágenes con IA es que el resultado final sea baja calidad y por lo tanto no es posible aplicarla en grandes formatos. Si tendría que ocupar esta herramienta, la utilizaría como para tener ideas, ya que en mi opinión es muy limitada para editar o personalizar. Considero que puede servir como un generador de ideas.” También añadió que, aunque hay muchas plataformas que se están actualizando de igual manera siempre un cliente va a trabajar con un diseñador gráfico.
Anahí Hirch estudiante avanzada de la carrera de diseño gráfico resaltó que estas herramientas utilizan datos de los usuarios y por lo cual se debería tener cuidado. “En toda cuestión gráfica siempre pueden haber riesgos, en el caso de editar con IA lo que puede suceder es que al estar todos registrados en las redes podrian usar nuestra información para generar una imagen en la que se nos involucra, también esta el tema de que lo pueden usar para desfavorecer la situación o la posición de alguien, en cualquiera sea la situación.”
Por último, en el ámbito profesional, el diseñador Rosbel Bencomo oriundo de Venezuela pero actualmente residente en la provincia, desarrolló su punto de vista. “La IA puede ser utilizada para crear imágenes falsas o engañosas y luego manipuladas para que las personas parezcan estar diciendo o haciendo algo que no nunca hizo, ese sería el problema. Por otra parte, también puede introducir errores y distorsiones en las imágenes editadas si el modelo no utiliza una cantidad insuficiente de datos de entrenamiento”.
Con respecto a los riesgos legales que puede tener la utilización de la misma, Bencomo explicó. “Si el diseñador ha obtenido la imagen creada por inteligencia artificial de una fuente legítima y tiene los derechos de uso o licencia para utilizarla en su diseño, es poco probable que sea demandado por su uso. Sin embargo, si el diseñador utiliza la imagen sin la autorización del propietario de los derechos de autor o sin haber obtenido una licencia de uso, podría enfrentar una demanda por infracción de derechos de autor”.
A pesar de estos posibles problemas, Rosbel destacó que es de gran utilidad. “La IA es una herramienta muy útil para los diseñadores, y puede ayudarles en muchas áreas de su trabajo, como la creación de diseños, la generación de contenido, la automatización de tareas repetitivas, el análisis de datos, la personalización de contenido. Es una herramienta prometedora para los diseñadores, y puede ayudarles a mejorar su eficiencia, productividad y creatividad en el trabajo”.
El profesional añadió que no considera estas imágenes como arte. “Desde mi punto de vista es funcional como una herramienta más para el proceso creativo, al igual que el lápiz, la pintura o la cámara”, concluyó.
En cuanto a las personas que no son expertas en el área del diseño. Federico Sanabria, un aficionado por el arte futurista destacó el consentimiento que debería existir de la persona que será retratada por una IA. “Sentiría intriga, soy amante del arte asi que si es una imagen refrescante no me molestaría. Me gusta todo tipo de arte y mientras dichas imágen hayan sido creadas con consentimiento de la persona retratada no veo el problema”, precisó.
Otra opinión fue por parte de Gonzalo Gómez, él describió a la herramienta como bizarra. “Está buena la variedad de imágenes que se pueden hacer y es muy bizarro. En algún punto se puede desvirtuar todo”.
Chat GPT, una herramienta de información poco confiable
La herramienta proveniente de una IA desarrolló su función y creadores. “El Chat GPT es un modelo de lenguaje desarrollado por OpenAI. OpenAI es una organización de investigación en inteligencia artificial con sede en San Francisco, California. Fue fundada en 2015 por un grupo de investigadores en IA y empresarios, entre ellos Elon Musk, Sam Altman y Greg Brockman”.
Añadieron desde la organización: “El objetivo de OpenAI es desarrollar tecnologías de IA de alta calidad y de libre acceso para la sociedad en general. Para lograrlo, la organización lleva a cabo investigaciones en una amplia variedad de áreas, como el aprendizaje profundo, el procesamiento del lenguaje natural y el juego automático”.
Según los creadores de la misma, estos son los cuatro puntos claves para utilizar la herramienta:
• Generación de texto: el modelo puede ser utilizado para generar texto coherente y natural, ya sea en forma de historias, artículos o respuestas a preguntas.
• Mejora de la precisión en los sistemas de búsqueda: el modelo puede ayudar a mejorar la precisión en los sistemas de búsqueda de información, ya que puede comprender el contexto y la intención detrás de las consultas de los usuarios.
• Desarrollo de chatbots: el modelo puede ser utilizado para desarrollar chatbots que puedan mantener conversaciones naturales con los usuarios, respondiendo de manera coherente y precisa a sus preguntas.
• Mejora del procesamiento del lenguaje natural: el modelo puede ser utilizado para mejorar el procesamiento del lenguaje natural en diversas aplicaciones, como la traducción automática o la detección de sentimientos en el texto.
Esta herramienta promete revolucionar tanto la economía como los medios de comunicación, mediante la utilización de libros, artículos, noticias, conversaciones, entre otros, para enseñarle al modelo cómo comprender y generar texto de manera coherente y natural.
Por lo tanto, Chat GPT obtiene la información necesaria para generar respuestas complejas a partir de estos datos de texto, que le permiten comprender el contexto y la intención detrás de las preguntas o consultas de los usuarios. El modelo también puede utilizar otros tipos de información, como imágenes o videos, para mejorar su capacidad para comprender el mundo que lo rodea y generar respuestas más precisas y coherentes.
Así se vende la herramienta, como un método infalible de la información y como una fuente confiable para las grandes empresas, medios de comunicación que quieren sacar los últimos informes, educación, etc. La otra cara de la moneda la expresó Marcos Galperin quien es CEO de Mercado libre, el usó Chat GPT y advirtió: “Es muy peligroso”.
Galperin contó en sus redes la experiencia con la IA, que tras una serie de consultas al Chat GPT el resultado lo dejó atónito. “Según Chat GPT 4, trabajé en Boston Consulting Group, fui director de Aerolíneas Argentinas y Globant es una empresa de tecnología brasileña… Cuando le comenté que estos eran todos errores, dijo que fui director del Banco Comafi (también equivocado)”, esta respuesta se generó cuando el CEO decidió consultar sobre su trayectoria.
Marcos Galperín añadió. “El problema es que, excepto la gente que me conoce muy bien, muy pocos sabrían reconocer los errores de lo correcto en lo que dijo de mí. Cuando le consultamos por temas en los que no somos expertos y que son importantes, como temas de salud, estas alucinaciones pueden ser muy peligrosas”, concluyó.
Otro fallo que causó revuelo entre los usuarios fue que el Chat GPT no relaciona hechos y datos registrados luego de septiembre de 2021 en el ámbito del deporte. Así, al consultarle por el Mundial de Qatar 2022, que consagró a Argentina como campeón del mundo, esta herramienta respondió: “El Campeonato Mundial de la FIFA Qatar 2022 aún no ocurrió”.
Fuente: Bae negocios, iProfesional.
Textos e investigación: Sofía Cabrera
