Veremos a ver cómo funciona. Esperemos que bien, por supuesto, para el bienestar y el futuro de nuestros más jóvenes.

Socorro y la investigación abierta en florida sobre el presunto papel de gps en un tiroteo universitario, pone el foco en las fallas, los controles y la responsabilidad detrás de la inteligencia artificial. Este caso está reavivando el debate sobre hasta dónde llegan los límites de estas herramientas y quién responde cuando son mal utilizadas.

Vamos a conocer todos los detalles, el alcance y también los riesgos. Para eso hemos invitado al experto en seguridad cibernética israel reyes, al que damos la gracias por acompañarnos.

Cómo estás? Muchísimas gracias borja y pamela por el espacio.

Siempre es un honor estar con todos ustedes. La audiencia.

El gusto es nuestro. Israel.

Vamos a consultarte qué tan factible es que una herramienta de inteligencia artificial pueda influir en decisiones violentas como este caso que estamos describiendo? Sí, bueno, mira, primero que todo, mi más sentido pésame para las familias que perdieron a sus seres queridos.

Es una noticia lamentablemente con el uso de la inteligencia artificial todo es muy posible. Aquí hay un gran problema.

Si se tratara de una persona a la que dio asesoría a una persona que cometió un crimen, seguramente ahorita el fbi o las autoridades ya lo tuvieran bajo custodia por proveer asesoría para cometer un crimen de alto impacto. Sin embargo, aquí lo que vemos es que la tecnología hoy en día la inteligencia artificial, la utilizamos para muchos casos y ya es parte de nuestra vida.

Lamentablemente las fallas de gobernabilidad de la ética en los algoritmos, pues no limitan las acciones de que una persona con malas intenciones, con deseos negativos para atacar a la sociedad, utilice esas herramientas y le haga un daño. Ahí el problema es sin precedentes.

Y claro que las que la corte los mecanismos que regulan la tecnología, la sociedad y el gobierno, pues debemos de llegar a un acuerdo para ver qué gobernabilidad le vamos a poner a la inteligencia artificial, porque puede llevar seres queridos, a ser víctimas de un acto delictivo. Claro, vamos a recordar a la audiencia israel que ahora el fiscal general de florida, james husmear, está alegando que este pistolero recibió consejos, recibió asesoría por parte del para cometer este asesinato.

En este caso, dos personas fallecieron varios heridos. Desde el punto de vista técnico, qué fallas o vacíos pudieron inapropiadas?

Sí. El problema es que cuando no hay una gobernanza en los algoritmos y se utiliza toda la información pública que hay disponible, obviamente estas plataformas de inteligencia artificial van a ser uso de esa información para darles asesoría es lo que desde el punto de vista tecnológico tenemos que hacer?

Tenemos que implementar mecanismos que vayan con la ética y que vayan con la gobernabilidad. Y cuando identifiquemos que una persona está haciendo preguntas que puedan atentar en contra de la vida de otra persona o inclusive en contra de su misma vida.

Hemos visto casos de suicidio donde estas plataformas de inteligencia artificial les han dicho a las personas como pueden cometer suicidio. Entonces, desde el punto de vista tecnológico, cuando veamos que hay este tipo de comunicación en el algoritmo.

Ah, debe de haber otro algoritmo que haga el enforcement de la ética y la gobernabilidad para que automáticamente pare esa comunicación, inclusive haga un reporte a la autoridad para decir esta persona tiene una alta probabilidad de cometer un suicidio o de cometer un acto dañino a la sociedad. Claro, y estaríamos en un debate bastante interesante sobre la privacidad versus la seguridad de todas las personas, no?

Quién crees que es el obligado de controlar o de poner la vara, de poner la medida de decir cuando se roza la privacidad o cuando hay que respetar la privacidad del usuario y cuando el usuario puede estar haciendo algo que pueda suponer un riesgo para una comunidad. Es que es un debate que podríamos decir a nivel ético, incluso legal, pero muy interesante lo que se plantea.

Efectivamente borja este. Yo creo que cuando el bien colectivo es mayor que el que el bien individual, es cuando debemos de implementar este procedimiento, ahí es cuando debemos de ceder o conceder una parte de nuestra privacidad por un bien colectivo que es mucho mayor.

Y un ejemplo es por ejemplo cuando vamos al aeropuerto tenemos que abrir nuestra maleta, estamos cediendo una parte de nuestra privacidad, pero por un bien colectivo, un bien común mayor, a cambio de que yo abra mi maleta y exponga un poco de mi, de mi privacidad. Bueno, me aseguro que nadie vaya a llevar una bomba o una arma al aeropuerto que puede comprometer la seguridad y la vida de los demás pasajeros.

Y es ahí donde flexibilidad de las leyes y hasta dónde es genuinamente el respeto a la privacidad y a las acciones de las personas. Y cuando una persona va a utilizar esos mecanismos para abusar la tecnología y cometer un acto y al final del día le cuesta la vida a personas y que daña a la sociedad.

Bueno, la verdad que también los detalles fueron porque el fiscal está alegando que el chat box o en este caso el chat gpt le también le aconsejó que tipo de pistola podía utilizar las municiones que iban con esa pistola y si iba a ser útil o no a la distancia donde él estaba planificando ese tiroteo. Así que dio y compartió detalles que según el fiscal, si fuese una persona enfrentando cargos criminales.

Un nuevo debate, sin duda. Efectivamente.

Efectivamente, persona, esa persona ahorita estuviese bajo custodia de las autoridades y tendría que enfrentar un una la ley y posiblemente ir a la cárcel por varios años. Es un tema interesante pero peligroso, pero que sí nos deja a nosotros como sociedad, como padres de familia, como como personas.

Bueno, si está bien utilizar la tecnología, pero todo debe de estar regulado. Las leyes emanan de los hechos que se viven y todo tiene que estar dentro de un marco jurídico y un marco legal para que sea para el mejor uso de la sociedad y no al contrario, en contra de la estabilidad y la seguridad.

Evolucionando y que estamos aprendiendo mientras enfrentamos esos nuevos obstáculos. Muchas