Y ya estamos de regreso con mucho más. Miren la necesidad de regular el desarrollo de la el debate mundial.

Se trata de un tema que ha escalado muy rápido desde las declaraciones del ex investigador de anthropic, jacob cookson, hasta el discurso de hoy en parís del papa león xiv, en que dijo que un paraíso de las máquinas corre el riesgo de socavar la humanidad. Ni más ni menos.

Fuerte declaración del pontífice y para intentar explicar a qué peligros nos exponemos realmente está con nosotros la doctora en tecnología de información y experta en inteligencia artificial, claudia flores. Doctora, muy buenas tardes y gracias por acompañarnos.

Buenas tardes. Buenas tardes.

Gracias por la invitación. Es un tema muy candente, especialmente durante estos días.

Ni el presidente de estados unidos, donald trump, ni su homólogo chino, xi jinping, quisieran quedar rezagados en la carrera de inteligencia artificial. Sin embargo, al menos el presidente chino dijo, habló de la necesidad de ser responsables en el desarrollo de la inteligencia artificial.

Qué peligros ve usted en la posición que asume el presidente trump al oponerse a regular por ahora la inteligencia artificial? Yo creo que.

El. Peligro va a ser más que nada hacia la sociedad, porque estos, ahora sí, estos agentes de estado muy de moda, tienen esta capacidad de poder tomar decisiones y tomar como ciertas acciones que a lo mejor serían muy difíciles de controlar.

Entonces, el hecho de que en estados unidos lo que creo que está pasando es que hay este debate en si vas a acabar con la humanidad o no, mientras que en china el debate es un poco diferente, en china se está manejando como claro, esta es una tecnología muy potente, sin embargo , consideramos que es algo manejable y ese creo que es el peligro de estar viendo la inteligencia artificial desde una perspectiva muy diferente y que es un poco más catastrófica. Pero claro, sabes qué pasa?

Que se habla mucho de inteligencia artificial y la verdad es que en muchas ocasiones ni nosotros mismos sabemos cuáles pueden ser los extremos a los que llegue la inteligencia artificial. De momento nos ayuda en temas de salud, nos ayuda en nuestras finanzas, nos ayuda a redactar un mail cuando queremos poner una reclamación en una compañía viendo con muchísima preocupación el que de pronto la inteligencia artificial llega ni más ni menos que al sistema de salud de algunos países.

Es decir, de verdad que ellos podrían en un punto determinado tomar el control o las riendas de situaciones como empresas de gas de luz y poder boicotear a los humanos. Podría desarrollarse, no?

Y es. Y eso tiene que ver simplemente con la cómo las empresas empiezan a protegerse de eso.

Digo, la ciberseguridad no es un campo que que es nuevo, es la seguridad. Lleva mucho tiempo.

Sin embargo, el hecho de que tú como empresa tengas que protecciones a tu empresa, pues obviamente es algo como que es requerimiento. Sin embargo no quiere decir que todas las hagan bien.

Y lo que pasó con el sistema de salud que fue vulnerabilidad que la inteligencia artificial detectó y por eso hubo esta filtración de datos. Ahora, esto quiere decir que también cualquier persona capacitada en seguridad con mucho más tiempo puede llegar a ser el mismo hackeo.

Simplemente lo que hace la inteligencia artificial es acelerar este proceso porque acciones o miles de acciones mucho más rápido que cualquier persona o cualquier hacker. Y eso es porque se ha estado viendo tantos escenarios en que ha vulnerado la seguridad.

No quiere decir que siempre lo va a poder hacer. Digo ya es una práctica que las empresas existe desde hace mucho tiempo, pero que no la ejecuten bien.

Bueno, eso, eso ya también hay que como empresario, no? Doctora sin duda.

Yo creo que hay muchos, varios puntos que son preocupantes. El aspecto de que puede ser autónomo también la rapidez con la que está argumento también es la división entre si.

Debe un gobierno regular involucrarse las regulaciones o dejar que los expertos en tecnología se encarguen del desarrollo de esta de la inteligencia artificial? Claro, y ese es el debate que estamos teniendo ahorita y cómo esta dicotomía que existe entre lo que china está diciendo y lo que estados unidos está diciendo, china está diciendo sí, esta es una tecnología muy potente, pero es manejable.

Cómo lo está manejando? Está diciendo un deepfake de personas públicas o que o que clone su voz.

Está prohibiendo, por ejemplo, que los que los chatbots tengan esta como, como comportamiento, como si fueran humanos, para que los adolescentes no se involucren tanto. Y está diciendo yo necesito que hagas un etiquetado de datos para que las personas vean que están, que están viendo contenido con inteligencia artificial.

Y lo más importante que creo que está pasando es que están diciendo quiero que las empresas estén preparadas para actuar. Si por ejemplo hay un hackeo de datos o si borran bases de datos, o que el usuario inclusive tenga un recurso de apelación.

Si alguna decisión que que involucra una inteligencia artificial se toma y que afecta a su vida o como persona que entonces tenga un recurso para apelar y que una persona, un humano intervenga para, para, para ver revisar esa decisión final, sobre todo cuando piensas, por ejemplo créditos hipotecarios o temas de salud, etcétera, etcétera. Vuelvo a preguntarte otra vez sobre hasta dónde puede llegar la inteligencia artificial, porque estamos viendo que sí es verdad.

De pronto dices que nos puede mostrar cuáles son nuestras fallas de seguridad, pero yo me pregunto qué sucedería si un agente maligno, es decir, por ejemplo, un gobierno que no tenga muchos principios democráticos, utilice la inteligencia artificial o cree un chatbot no precisamente para alertarnos sobre la amenaza de seguridad, sino para utilizar la amenaza de seguridad en contra de civilizaciones que son democráticas. Podríamos ver una inteligencia artificial maligna.

La tecnología podría capacitar a una inteligencia artificial de forma negativa. Tenemos que ver la inteligencia artificial como alguien que razona, porque creo que ese es el debate que se ha visto que va a razonar y es mala, no?

Como tú lo has dicho, es quien está dentro de esa inteligencia artificial. Por ejemplo, hay muchos modelos que son de de pesos abiertos, que es lo que le llaman, que pueden ser entrenados para hacer cosas malas o que pueden darles objetivos para hacer cosas malas.

Y ahí es donde viene el peligro. Es un peligro más tangible, en donde pueden inclusive manipular a las personas, porque nosotros como personas estamos acostumbrados a leer cosas y a reaccionar hacia porque, porque somos humanos, tenemos, tenemos sentimientos, tenemos emociones que una simplemente podemos ser influenciados y ya lo hemos visto desde antes, no?

O sea que cualquier cosa que podemos leer, sea falsa o no sea falsa, nos humanos. Entonces, desde esa perspectiva, claro que puede llegar a influenciar a este tipo de personas que que tienen otro tipo de intereses para tomar acciones ya en el mundo real, pero que el hecho de que una inteligencia artificial por sí tome acciones querría decir que tiene acceso a sistemas o a disparar ese tipo de acciones .

Puede ser, no sé, drones autónomos o pueden ser bombas, etcétera. Eso quiere decir que está conectada.

Pero si tú no la conectas, no, no lo va a poder hacer a menos que influencia a una persona. Bueno.

Pues muy interesante.