Las críticas de cientos de usuarios obligaron a la gigante tecnológica meta a dar marcha atrás y retirar apenas unos días después de su lanzamiento oficial, su controvertida herramienta de inteligencia artificial. Y es que la empresa activó una función automática para utilizar fotos de cuentas públicas de instagram, pero sin pedir un consentimiento explícito y poder desarrollarlas con la inteligencia artificial.

Entonces ahora, evidentemente, surgen dudas sobre si las imágenes, las voces, videos faltos, falsos, presuntamente usados pueden crear esos llamados deepfakes. Vamos entonces a analizar esta situación con agustín rossi, director de tecnología de omidyar.

Bienvenido. Buenas tardes.

He dicho bien, la empresa? Sí o miriam borja?

Sí, sí. Muy bien.

Pues muchísimas gracias por estar con nosotros. Cuéntanos, por favor, porque yo creo que la gran interrogante, la gran pregunta es qué puede pasar con esas imágenes que ya han sido procesadas por el sistema?

Se eliminan por completo o siempre va a quedar ese récord en las redes? El tema es que ya lo que demostró es que tiene la capacidad de absorber toda la información que uno pone en la plataforma.

Entonces, la única manera de garantizar que no se pueda usar nunca más debería ser o que haya salvaguardas por ley que le impiden a la empresa procesar esa información de una manera que el usuario no haya aprobado previamente o que la empresa decida hacerlo por sí misma. Pero justamente para desarrollar esas capacidades, lo que hacen empresas como meta es usan toda la información que uno comparte con ellas para entrenar a las máquinas de inteligencia artificial.

O sea que el problema es mucho más, es mucho más estructural de lo que este acontecimiento en sí mismo demuestra. Te sorprende, agustín, que la empresa no haya pensado en la legalidad o en las repercusiones antes del lanzamiento oficial?

Especialmente porque, como mencionas, no, una vez que ya has creado esa imagen, el video y la veracidad, es tan difícil a veces de confirmar. Usualmente yo tengo por lo menos diez videos que mi madre me manda cuestionándome si es verdad o no, entonces te sorprende que no hayan considerado todos esos elementos, especialmente la parte legal, antes de su lanzamiento?

Sí, yo creo que si consideramos la parte legal, seguramente porque el hecho es que no hay leyes que le impidan hacer lo que hicieron. Entonces, por qué meta puede hacer lo que hizo?

Es precisamente porque no hay marcos regulatorios fuertes que impidan justamente, eh, abusar de las cláusulas contractuales entre el usuario y la red. O sea, quiere decir qué es lo que termina pasando acá?

Cualquier persona que tiene una cuenta de instagram automáticamente la empresa dijo bueno, si una cuenta de instagram que es pública, a menos que haga clic aquí, esta cuenta puede ser sujeta a que nuestra inteligencia artificial use su cara para crear contenido para otras personas, siempre y cuando esa otra persona lo etiquete en un en un comentario, en un pedido a la red social. No.

Entonces, al no haber una salvaguarda que diga no, no se identidad de las personas sin su permiso, ni tampoco protecciones legales que que prevengan que haya cláusulas contractuales abusivas, no que cuando quieres decir lo normal sería que cuando uno usa una plataforma como instagram no tenga que estar atento cada día a si alguna opción nueva, alguna, alguna opción nueva para optar, no que no le usen su identidad o su voz por haber subido una foto a instagram, que es la función de instagram por sí misma, eh? Entonces eso seguramente lo consideraron y era un cuenta que no, no es ilegal porque no hay leyes que lo que prevengan ninguna de las dos situaciones .

Desde el punto de vista de la repercusión pública, bueno, es una es, eh, es, me parece, una práctica muy común en el sector de muchas empresas de tecnología de redes sociales, que es moverse rápido y romper cosas. Y ese termina siendo el ethos, el la función principal, la lógica principal que motiva su comportamiento.

Uno se mueve rápido, rompe cosas y algo queda y a ver qué pasa. Y a lo mejor esta vez hubo un escándalo y tuvieron que frenar lo que estaban haciendo, pero como poco demostraron al público las capacidades que tiene su tecnología y a lo mejor pasaba que no había, no había una repercusión y no había ningún tipo de de contestación social.

Yo creo que esto fue lo que lo que calcularon. Por suerte me parece que lo que muestran todas las encuestas y lo que muestran en la práctica de la gente es que los ciudadanos y ciudadanas están muy preocupados y preocupadas por el impacto de la de la inteligencia artificial en sus vidas.

Y hay una gran desconfianza. Y en este caso en particular, había actores y actrices y sindicatos que cuando vieron lo que estaba pasando se responderá muy rápido a ponerle presión a la empresa para que retire eh el el el producto del mercado, lo cual habla de de un cambio, un cambio social importante y también de la importancia de de la organización de eh de los sindicatos en este caso.

Y la importancia también de que se legisle a la velocidad en la que avanza la tecnología, porque si no vamos a estar siempre a contracorriente o vamos a estar retrasados cuando ahora se tiene que comenzar a legislar sobre los derechos de imagen. Porque realmente aquí la polémica es más bien que fuera meta quien crea una herramienta de este tipo.

Pero corrígeme si me equivoco, yo voy a un perfil público de una persona en instagram. Yo hago un escrito de una fotografía y le digo créame, fotografía.

Y yo creo que diferentes herramientas o diferentes plataformas lo harían, no de manera automática a través de meta, pero realmente creo que sí se podría generar un contenido a través de una fotografía utilizando otra aplicación y en ese caso sería legal también, no? Si sería legal.

En otros casos no depende. Los derechos a la imagen y al y a la publicidad, sobre todo con con personas más famosas.

Esto sería más difícil si tienen medios responder. Por ejemplo, cuando cuando openai anunció que que su asistente de voz iba a tener una voz muy parecida a la de la película her de joaquin phoenix, que es la voz de scarlett johansson, scarlett johansson inmediatamente se va responder diciendo no, no, esto de ninguna manera.

Yo no acepté esto. Openai ofreció plata por ser la voz.

Yo dije que no, esto está mal. Yo voy a presentar una demanda judicial y para evitar ese conflicto, openai, eh quitó esa esa opción y solucionó los temas con, con, con, con la actriz.

En el caso de segunda parte, que no hay que perder de punto de vista de la relación del usuario con la plataforma, de lo que hizo, de lo que hizo meta es que meta para justamente para asegurarse que los usuarios que las personas que que que iban a ser víctimas de que se usase su cara para crear, eh, crear contenido, eh en la decir no, no, usted tiene la opción de decir que no, si sabe dónde decir que no, si se dio cuenta que puede decir que no, si tiene el tiempo para decir que no, eso también es una herramienta que usó, que usó, que usó meta en paridad de poder muy grande entre el usuario y la empresa para cubrir sus espaldas. Es que no era fácil.

Porque a mí me mandaron unas instrucciones muy específicas de cómo desactivar porque ya estaba activo, ya estaba vigente la opción de que que podían. Te decía la opción de que meta puede utilizar tu imagen, tus fotografías, tu voz para crear imágenes de inteligencia artificial.

Y uno tenía que entrar de una manera no muy fácil y desactivar esa opción. Esa es la gran confusión.

Exacto, y y ya había pasado hace unos años que hay una ley en illinois que dice que no se puede usar, que limita el uso de las herramientas de reconocimiento facial y meta. Si muchos años tenía esta herramienta que decía etiquetar a tus amigos.

Ves una foto de tus amigos que uno uno subía a la plataforma y te quita los usando que los que nuestro sistema de reconocimiento visual. Eso el estado de illinois era era era ilegal y meta tuvo que pagar una multa.

Para eso se pueden construir marcos regulatorios que prevengan esto, pero todavía hay que como como, como decían, decían ustedes, hay que hay que desarrollarlos, hay que ponerlos, sino la la disparidad de poder es muy difícil. Y esta práctica de hacer complicado que la gente pueda ejercer sus derechos ya la vimos también, por ejemplo, que tiene que con temas de privacidad, si uno quiere proteger su privacidad o la privacidad de sus hijos o hijas en en meta y en las redes sociales, técnicamente es cierto que hay algunas herramientas para poder hacerlo.

Buena suerte al día, en cómo las van cambiando. Difícil limitar todo esto.

Fenómeno es un monstruo porque existen videos y dos monstruos. Un monstruo como tú has.

Dicho de agustín. Gracias.

Gracias por arrojar un poquito de luz. Sabemos que todavía falta muchísima