El 4 de octubre de 2024, el Ministerio Público Fiscal de la CABA presentó una demanda colectiva contra el Gobierno de la Ciudad de Buenos Aires (“GCBA”) ante los Juzgados de Primera Instancia del fuero Contencioso Administrativo. La demanda tiene como objetivo proteger a los consumidores ante los riesgos de la clonación de rostro y voz mediante plataformas de IA accesibles en internet por el uso indebido de datos biométricos.
La demanda surge por el hecho de que múltiples plataformas de IA permiten replicar la voz e imagen de personas con facilidad, accediendo a estos servicios a través de internet sin exigir el consentimiento explícito de los titulares de datos. La fiscalía realizó pruebas técnicas en diversas plataformas y comprobó que, al utilizar muestras de voz o imágenes, los usuarios podían generar clones sin ninguna verificación de identidad ni advertencias sobre el uso de sus datos personales.
La demanda se fundamenta en varias normativas. Se invocan artículos de la Ley de Defensa del Consumidor y de la Ley de Protección de Datos Personales, que establecen el derecho de los consumidores a la información, a la seguridad y al trato digno. Además, se argumenta que el GCBA tiene la obligación de ejercer su poder de policía en materia de consumo para proteger a los ciudadanos de prácticas comerciales abusivas y garantizar la seguridad de los datos biométricos utilizados.
La fiscalía solicita que el gobierno tome medidas concretas para bloquear el acceso a estas páginas web y lleve a cabo una campaña de concientización sobre los riesgos asociados con el uso de estos servicios. Esta demanda establece un precedente en la protección de los derechos de los consumidores ante la clonación de rostro y voz mediante IA, siendo la primera demanda de esta naturaleza en América Latina.
