San Francisco le planta cara a Apple y Google: 'Dejad de forraros con apps que desnudan a la gente'

Venga, vamos a hablar de algo que me toca las narices. Resulta que el fiscal de San Francisco, David Chiu, ha mirado a Apple y a Google y les ha dicho: 'Oye, que os estáis haciendo de oro con apps que básicamente violan a la gente, literalmente. Dejad de venderlas o nos vemos en los tribunales'. Y no es coña. La demanda va en serio.

Vale, contexto. Resulta que hay un montón de aplicaciones que se anuncian como 'nudify apps' o 'desnudadoras' (traducción cutre, pero es lo que son). Básicamente, te subes una foto de una persona vestida, y la inteligencia artificial se encarga de generar una imagen de esa persona en pelotas. Sin su permiso, sin su consentimiento, y muchas veces con fines de humillación, acoso o directamente venganza. Vamos, una maravilla tecnológica para ser un auténtico hijo de puta.

Lo flipante no es que existan estas apps. Que existan apps de mierda no es nuevo. Lo flipante es que Apple y Google, las dos empresas que presumen de tener las tiendas de aplicaciones más seguras, más curadas, más 'woke' y más controladas del mundo, las hayan estado vendiendo como churros. Y no solo eso, sino que, según los cálculos del fiscal, se han estado forrando. Hablamos de millones de dólares en comisiones, porque estas apps a menudo son de pago o tienen suscripciones. Vamos, que se han estado embolsando una pasta mientras permitían que cualquiera pudiera desnudar a su ex, a su compañera de trabajo o a la vecina del quinto con dos clicks.

Y ojo, que no es que Apple y Google sean tontas. Saben perfectamente que estas apps son un problema. De hecho, ya han tenido que retirar algunas en el pasado cuando el escándalo ha sido mayúsculo. Pero el problema es de fondo: el modelo de negocio de las tiendas de aplicaciones es un chiringuito. Ellos se llevan su comisión del 15% o del 30% por cada app que se vende, y les da igual si la app es una herramienta de productividad, un juego de mierda o una máquina de hacer daño. Mientras les paguen, entran. Es el capitalismo salvaje llevado al extremo, pero con una capa de purpurina tecnológica.

La demanda de San Francisco es interesante porque pone el foco en la responsabilidad de las plataformas. No va contra los desarrolladores de las apps, que pueden estar en Rumanía, la India o el sótano de su madre. Va contra los que controlan el canal de distribución. Y eso es un cambio de juego. Porque si Apple y Google empiezan a ser considerados responsables de lo que venden, igual se lo piensan dos veces antes de dejar pasar cualquier cosa. O igual simplemente hacen como que se lo piensan y luego ponen una pantalla de 'Acepto los términos' más larga. No sé, soy un poco cínico con estas cosas.

El meollo del asunto es que estas apps no solo son una herramienta para el acoso, sino que además están entrenadas con datasets de gente real. Es decir, la IA que genera las imágenes ha aprendido a hacerlo mirando fotos de cuerpos reales, muchas veces sin consentimiento. Es como si construyes un robot que sabe perfectamente cómo dibujar un desnudo porque ha estudiado cada foto de tus vacaciones en la playa. Y luego ese robot se lo vendes a tu exnovio para que se vengue de ti. Bonito, ¿verdad?

La cuestión legal es compleja. Apple y Google siempre se han escudado en la Sección 230 de la Communications Decency Act, que básicamente dice que las plataformas no son responsables del contenido que publican los usuarios. Pero aquí el truco está en que ellas no solo publican contenido, sino que lo venden activamente. Se llevan una comisión. Y eso, según el fiscal, las convierte en cómplices. No es lo mismo que un tío cuelgue un vídeo en YouTube a que Apple y Google te cobren por una app que hace exactamente eso, pero de forma automatizada y a demanda.

Además, hay un tema de edad. Muchas de estas víctimas son menores. Imagínate, un compañero de clase coge una foto de Instagram de una niña de 14 años, la mete en la app, y genera una imagen sexualizada. Y luego la difunde por el grupo de WhatsApp del instituto. La app ha ganado su dinero, Apple y Google han ganado su comisión, y la niña se queda con la vida destrozada. Y todo esto, mientras Tim Cook y Sundar Pichai dan discursos sobre lo mucho que les importa la privacidad y la seguridad. Es para mearse de risa, si no fuera tan trágico.

La demanda de San Francisco pide una orden judicial que obligue a Apple y Google a retirar todas estas aplicaciones de sus tiendas de inmediato. Y no solo eso, también pide que se devuelvan los beneficios obtenidos y que se paguen daños punitivos. Vamos, que les quieren meter mano en el bolsillo de verdad. Y ojalá lo consigan, porque si no, esto va a seguir siendo el salvaje oeste.

Pero claro, luego está la parte técnica. Porque aunque retiren las apps específicas, los desarrolladores van a cambiar el nombre, la descripción, la interfaz, y volverán a colarlas. Es un juego del gato y el ratón. Apple y Google tienen filtros de revisión, pero son un coladero. Hay apps que se disfrazan de 'editores de fotos artísticos' y luego dentro tienen la opción de 'mejora corporal' que en realidad es la de desnudar. O apps que usan eufemismos como 'aplicación de bienestar' que luego te piden que subas una foto de una persona y te generan un 'retrato artístico' que es un desnudo. Es una mierda pintada de rosa.

Yo creo que el problema de fondo es que la tecnología avanza mucho más rápido que la ley y que la ética. Y mientras tanto, empresas como Apple y Google se forran a costa de las vulnerabilidades de la gente. No es que ellos creen las apps, pero ponen el escaparate, cobran el alquiler y se hacen los suecos cuando hay problemas. Es como si un casero alquila un local a un tipo que monta una tienda de navajas para apuñalar gente, y luego dice 'yo solo alquilo el local, no soy responsable de lo que vende'. Pues no, colega, si te llevas un 30% de cada navaja vendida, eres parte del negocio.

Esperemos que esta demanda sirva para algo más que para que los abogados se forren. Ojalá marque un precedente. Porque si no, dentro de poco vamos a tener apps que te generan vídeos porno de cualquier persona con solo una foto, y las vas a encontrar en la App Store de toda la vida, pagando con Apple Pay. Y mientras tanto, Apple y Google seguirán vendiéndote la moto de que ellos son los buenos de la película.

En fin, ya veremos cómo acaba esto. Pero por lo menos alguien ha puesto el dedo en la llaga. Y no, no es que esté a favor de la censura. Es que hay cosas que simplemente no deberían ser un negocio. Y desnudar a la gente sin su permiso es una de ellas. Punto.

Segun ha adelantado el medio ArsTechnica.