El regulador estadounidense investiga a ChatGPT por posibles daños a los consumidores y sus datos
La Comisión Federal de Comercio (FTC) ha solicitado a OpenAI información sobre la forma en la que entrena a su modelo de IA y su gestión de los datos personales de los usuarios.
El popular chatbot de inteligencia artificial (IA) generativa de OpenAI, ChatGPT, está en la mira de los reguladores estaounidenses. Según ha informado The Washington Post, la Comisión Federal de Comercio (FTC) ha abierto una investigación en torno a la empresa de Sam Altman por posiblemente faltar a la protección del consumidor al poner en riesgo su reputación y su información personal.
En un escrito de 20 páginas enviado la semana pasada al CEO de OpenAI, la FTC realizó una serie de preguntas relacionadas con su herramienta, como sus prácticas para entrenar a sus modelos de IA y la gestión que la compañía hace de los datos personales de sus usuarios. También solicitó las quejas en contra de ChatGPT por hacer declaraciones "falsas, engañosas, despectivas o dañinas" y las formas en las que está trabajando la empresa para evitar las llamadas alucinaciones (respuestas incorrectas).
En la demanda de investigación se describen ejemplos de incidentes de este tipo. Por ejemplo, en 2020, se detectó un error en ChatGPT que permitía a los usuarios ver información sobre otros chats y datos relacionados con el pago de otros perfiles. En otra ocasión, el chatbot inventó que un abogado real había acosado a una estudiante durante un viaje escolar, citando un artículo del Washington Post, que resultó ser falso (tanto el hecho como el artículo).
De comprobarse que OpenAI está quebrantando las leyes de protección al consumidor, la FTC puede imponer multas o incluso dictar a la compañía cómo manejar correctamente sus datos.
En España, la Organización de Consumidores y Usuarios (OCU) ha demandado a Microsoft ante el Ministerio de Consumo por lo que entienden como “práctica comercial desleal” en su motor de búsqueda Bing que, tras su integración con ChatGPT, ofrece productos que son diferentes a los que hace referencia en el texto de respuesta. “Bing Chat no es coherente en sus respuestas, ya que ofrece productos que son diferentes a los que hace referencia en el texto y de esta manera induce a error al consumidor, que lógicamente pensará que la fotografía se corresponde con el texto sugerido”, explicaron.
