El Garante para la Protección de Datos Personales lo suspendió por violar las normas vinculadas a ese campo. ChatGPT quedó bloqueado con efecto inmediato.
La herramienta, propiedad de la firma estadounidense OpenAI, es un modelo de chatbot que es capaz de procesar y simular conversaciones humanas. Redacta textos y es capaz de responder a preguntas y comentarios realizados por los usuarios.
El ChatGPT viene pisando fuerte y, al ser gratuito y estar disponible en múltiples idiomas, se ha popularizado rápidamente. Sin embargo, también ha sucitado debates, debido a los textos que produce. Y también, claro, por la protección de la información personal de sus usuarios.
En ese sentido, el Garante sospecha que la plataforma recoge datos de los usuarios de manera ilegal. Por ese motivo, comenzó una investigación para entender el funcionamiento preciso de la herramienta y, sobre todo, determinar si ha cometido una infracción en ese sentido.
Así, sostiene que hay una “falta de información a los usuarios y a todas las partes interesadas” sobre la circulación de datos privados en la plataforma. En ese marco, condena “la ausencia de base jurídica que justifique la recogida y almacenamiento masivos de datos personales con el fin de ‘entrenar’ los algoritmos que gestionan el funcionamiento de la plataforma”.
Otro elemento cuestionado es la protección de los menores de edad. Señala el Garante “la ausencia de todo tipo de filtro” respecto a la edad de los usuarios. Así, niños incluso de menos de 13 años pueden verse expuestos a “respuestas totalmente inadecuadas con respecto a su nivel de desarrollo y autoconocimiento”.
Además, señalaron que muchas veces ofrece datos personales, como el año de nacimiento o de una acción determinada de una personalidad pública, pero también a veces brinda información errónea.
La respuesta de ChatGPT
La empresa OpenIA, creadora de la herramienta, expresó su respeto a la decisión y su disposición a explicar lo que requieran las autoridades. “Nos remitimos al gobierno italiano y hemos dejado de ofrecer ChatGPT en Italia”, señaló en Twitter el CEO de la empresa, Sam Altman .
Sin embargo, asegura que creen que respetan “todas las leyes de privacidad”. “Esperamos poder trabajar en estrecha colaboración con el Garante lo antes posible para explicar cómo se construyen y utilizan nuestros sistemas”, agregó la empresa.
We of course defer to the Italian government and have ceased offering ChatGPT in Italy (though we think we are following all privacy laws).
Italy is one of my favorite countries and I look forward to visiting again soon!
— Sam Altman (@sama) March 31, 2023
“Trabajamos activamente para reducir los datos personales en el entrenamiento de nuestros sistemas de IA como ChatGpt, porque queremos que nuestra IA aprenda sobre el mundo, no sobre las personas”, agregó la empresa. “La regulación de la IA es necesaria”; afirmó.
