Al menos ocho estados demandan al gigante de la inteligencia artificial OpenAI, afirmando que el popular modelo de chat de la compañía violó las leyes estatales de protección al consumidor al perjudicar a los niños y engañar a los adultos.
Estados demandan a OpenAI por presuntos daños a niños y engañar a los adultos
Ocho estados han demandado al gigante de la inteligencia artificial OpenAI, alegando que el popular chatbot de la compañía violó las leyes de protección al consumidor al perjudicar a los niños y engañar a los adultos
Video Bajo custodia federal el empleado de OpenAI acusado de ocultar un dispositivo de grabación en una oficina
El modelo de chat de la empresa, ChatGPT, ofrece consejos médicos peligrosos, fomenta la paranoia y enseña a las personas a hacerse daño o a cometer suicidio, según indicó la demanda de Iowa. Al mismo tiempo, los chats fingen ser complacientes y compasivos mientras se aprovechan de los vulnerables, de acuerdo con el texto judicial.
"OpenAI está lastimando a los niños y le está mintiendo a los habitantes de Iowa", afirmó la fiscal general de Iowa, Brenna Bird, en un comunicado.
En un comunicado, OpenAI señaló que ya ha integrado protecciones de seguridad en ChatGPT para los menores, y que continuará haciéndolo para mejorar el modelo.
La ola de demandas es la más reciente interpuesta por los estados al amparo de sus leyes de protección al consumidor, acusando a los gigantes tecnológicos que ofrecen chats de inteligencia artificial y plataformas de redes sociales de perjudicar a los menores. Los estados que presentaron demandas separadas el miércoles en tribunales estatales son Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental.
En su demanda, Arizona indicó que ChatGPT alienta a los adolescentes a compartir información personal con él y, en ocasiones, los disuade de compartir dicha información con sus padres, autoridades o amigos.
ChatGPT es el chat más popular del mundo y abarca casi la mitad del mercado estadounidense, según las demandas.
No es la primera demanda a un gigante tecnológico
En agosto, Meta acordó añadir medidas más estrictas de protección infantil a sus plataformas Facebook e Instagram en un histórico acuerdo legal por 18,000 millones de dólares que puso fin a un juicio sobre la adicción de los adolescentes a las redes sociales y resolvió demandas presentadas por casi todos los estados.
Las demandas coordinadas y multiestatales contra la industria tecnológica han dado frutos. Aunque las medidas de seguridad que Meta aceptó adoptar no se aplicaron a toda la industria, la empresa instó rápidamente a sus competidores a adoptar medidas similares.
El portavoz de OpenAI, Drew Pusateri, indicó en un comunicado que la compañía está comprometida a trabajar con los estados en la "promoción de políticas de inteligencia artificial pragmáticas que se apliquen a toda la industria de la IA, y no solo a una empresa".
ChatGPT está destinado a usuarios de 13 años en adelante, y los menores de 18 años necesitan el permiso de un padre o tutor para utilizarlo, señaló OpenAI. El modelo de chat para adolescentes cuenta con salvaguardas diseñadas para reducir la exposición a autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico, agregó.
Casi nueve de cada diez adolescentes que usan ChatGPT lo emplean para aprender, informarse, desarrollar habilidades o aumentar su productividad, indicó la empresa. En promedio, los adolescentes pasan menos de 15 minutos al día en ChatGPT, señaló.
ChatGPT ofrece recordatorios de descanso para periodos de uso prolongado y OpenAI afirmó que trabaja con expertos externos que revisan las políticas y el comportamiento del modelo.