Un nuevo informe analiza los riesgos de la IA y ofrece posibles soluciones.
El auge de la IA, incluyendo la aparición de los grandes
modelos lingüísticos (MLL) y sus chatbots asociados, plantea nuevos desafíos
para la privacidad. ¿Nuestra información personal forma parte de los datos de
entrenamiento de un modelo? ¿Se comparten nuestras indicaciones con las fuerzas
del orden? ¿Los chatbots conectarán diversos hilos de nuestra vida en línea y
los mostrarán a cualquiera?
Para comprender mejor estas amenazas y abordar posibles
soluciones, Jennifer
King , investigadora de políticas de privacidad y datos en el Instituto de
Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford
(Stanford HAI), y Caroline Meinhardt, directora de investigación de políticas
de Stanford HAI, publicaron un informe titulado " Repensando
la privacidad en la era de la IA: propuestas políticas para un mundo centrado
en los datos ". En este documento, King describe sus principales
hallazgos.
¿Qué tipo de riesgos afrontamos, dado que nuestros datos son comprados, vendidos y utilizados por sistemas de IA?
En primer lugar, los sistemas de IA plantean muchos de los
mismos riesgos para la privacidad que hemos enfrentado durante las últimas
décadas de comercialización de internet y la recopilación de datos
prácticamente sin restricciones. La diferencia radica en la magnitud: los
sistemas de IA son tan insaciables en datos y tan opacos que tenemos aún menos
control sobre qué información sobre nosotros se recopila, para qué se utiliza y
cómo podríamos corregirla o eliminarla. Hoy en día, es prácticamente imposible
que las personas que utilizan productos o servicios en línea escapen a la
vigilancia digital sistemática en la mayoría de los aspectos de la vida, y la
IA podría empeorar aún más la situación.
En segundo lugar, existe el riesgo de que otros utilicen
nuestros datos y herramientas de IA con fines antisociales. Por ejemplo, las
herramientas de IA generativa entrenadas con datos extraídos de internet pueden
memorizar información personal sobre las personas, así como datos sobre sus
relaciones familiares y de amistad. Estos datos facilitan el spear-phishing,
que consiste en atacar deliberadamente a personas con el fin de robar su
identidad o cometer fraude. De hecho, algunos delincuentes ya utilizan la
clonación de voz mediante IA para suplantar la identidad de otras personas y
extorsionarlas a través de teléfonos convencionales.
En tercer lugar, estamos viendo cómo datos como un
currículum o una fotografía que hemos compartido o publicado con un propósito
se reutilizan para entrenar sistemas de IA, a menudo sin nuestro conocimiento
ni consentimiento y, en ocasiones, con implicaciones directas para los derechos
civiles.
Los sistemas predictivos se utilizan para evaluar candidatos
y ayudar a los empleadores a decidir a quién entrevistar para los puestos
vacantes. Sin embargo, se han dado casos en los que la IA empleada para la
selección de candidatos ha mostrado sesgos. Por ejemplo, Amazon desarrolló su
propia herramienta
de IA para la evaluación de candidatos, solo para descubrir que
discriminaba a las mujeres.
Otro ejemplo es el uso del reconocimiento facial para
identificar y detener a personas que han cometido delitos. Es fácil pensar: «Es
bueno contar con una herramienta como el reconocimiento facial porque atrapará
a los malos». Pero, en cambio, debido al sesgo inherente a los datos utilizados
para entrenar los algoritmos de reconocimiento facial existentes, estamos
viendo numerosos
arrestos injustificados de hombres negros . Los algoritmos simplemente los
identifican erróneamente.
¿Nos hemos vuelto tan insensibles a la idea de que las empresas se están apropiando de todos nuestros datos que ahora es demasiado tarde para hacer algo?
Soy optimista. Sin duda, se han recopilado muchísimos datos
sobre todos nosotros, pero eso no significa que no podamos crear un sistema
regulatorio mucho más sólido que exija a los usuarios dar su consentimiento
para que se recopilen sus datos o que obligue a las empresas a eliminarlos
cuando se estén utilizando indebidamente.
Actualmente, prácticamente en cualquier sitio web que
visites, se rastrea tu actividad. Y si usas una aplicación móvil con el GPS
activado, se recopilan tus datos de ubicación. Esta práctica habitual es
consecuencia de que la industria convenciera a la Comisión Federal de Comercio
hace unos 20 años de que, si cambiáramos la recopilación de datos por
consentimiento explícito a consentimiento explícito, nunca tendríamos una
internet comercial. A estas alturas, creo que ya hemos demostrado la utilidad
de internet. No creo que las empresas necesiten esa excusa para recopilar los
datos de las personas.
En mi opinión, cuando navego por internet, mis datos no
deberían recopilarse a menos que yo dé mi consentimiento explícito, como
registrarme en el servicio o crear una cuenta. E incluso en ese caso, mis datos
no deberían considerarse públicos a menos que yo haya aceptado compartirlos.
Hace diez años, la mayoría de la gente pensaba en la
privacidad de los datos en términos de compras en línea. Creían: «No me importa
si estas empresas saben lo que compro y lo que busco, porque a veces es útil».
Pero ahora hemos visto cómo las empresas han adoptado esta recopilación de
datos omnipresente para entrenar sistemas de IA, lo que puede tener un gran
impacto en la sociedad, especialmente en nuestros derechos civiles. No creo que
sea demasiado tarde para revertir la situación. Estas normas y prácticas
predeterminadas no son inamovibles.
Como enfoque general para la protección de la privacidad
de los datos, ¿por qué no basta con aprobar regulaciones de minimización de
datos y limitación de la finalidad que establezcan que las empresas solo pueden
recopilar los datos que necesitan para un propósito limitado?
Este tipo de normas son fundamentales y necesarias.
Desempeñan un papel clave en la legislación europea sobre privacidad (el RGPD ) y en su equivalente californiano (la CPPA ), y constituyen una parte
importante de la propuesta federal de ley de privacidad (la ADPPA
). Sin embargo, me preocupa la forma en que los reguladores terminan
implementando estas normas.
Por ejemplo, ¿cómo determina un organismo regulador si una
empresa ha recopilado demasiada información para el propósito para el que
pretende utilizarla? En algunos casos, podría ser evidente que una empresa se
extralimitó al recopilar datos innecesarios. Sin embargo, la cuestión se
complica cuando empresas (como Amazon o Google) pueden argumentar, con razón,
que realizan muchas actividades diferentes, lo que justifica la recopilación de
gran cantidad de datos. Si bien estas normas no representan un problema
insuperable, sí constituyen una cuestión real.
Su informe técnico identifica varias posibles soluciones a los problemas de privacidad de datos que plantea la IA. En primer lugar, propone un cambio del intercambio de datos basado en la exclusión voluntaria al basado en la inclusión voluntaria, lo que podría simplificarse mediante software. ¿Cómo funcionaría esto?
Yo diría que, por defecto, nuestros datos no deberían
recopilarse a menos que los solicitemos expresamente. Ya se han dado algunos
pasos y se han desarrollado soluciones tecnológicas en esa dirección.
Una de
ellas es la función de Transparencia de Seguimiento de Aplicaciones (Apple
ATT) de Apple , que la compañía lanzó en 2021 para abordar la preocupación por
la cantidad de datos de usuario que recopilaban las aplicaciones de terceros.
Ahora, cuando los usuarios de iPhone descargan una nueva aplicación, el sistema
iOS de Apple les pregunta si desean permitir que la aplicación rastree su
actividad en otras aplicaciones y sitios web. Según informes del sector del
marketing, entre el 80 % y el 90 % de las personas a las que se les presenta
esta opción responden que no.
Otra opción es que los navegadores web incluyan una opción
de exclusión voluntaria, como el
Control Global de Privacidad (GPC) , que impida la instalación de cookies
por parte de terceros o la venta de datos personales sin necesidad de marcar
una casilla. Actualmente, la Ley de Protección de la Privacidad de California
(CPPA) permite que los navegadores incluyan esta función, pero no es
obligatoria. Si bien algunos navegadores (Firefox y Brave, por ejemplo) cuentan
con esta opción, las grandes compañías de navegadores (como Microsoft Edge,
Safari de Apple y Google Chrome) no la tienen. Curiosamente, un legislador
de California propuso recientemente una modificación a la CPPA que
obligaría a todos los fabricantes de navegadores a respetar las opciones de
exclusión voluntaria de terceros. Esto es precisamente lo que necesitamos para
evitar que cualquier entidad recopile datos personales en cualquier sitio web.
También propones adoptar un enfoque de cadena de suministro para la privacidad de los datos. ¿Qué crees que implicaría eso?
Cuando hablo de la cadena de suministro de datos, me refiero
a las formas en que los sistemas de IA plantean problemas tanto en la entrada
como en la salida de datos. En la entrada, me refiero a los datos de
entrenamiento, donde nos preocupa si la información personal de un individuo se
extrae de internet y se incluye en los datos de entrenamiento del sistema. A su
vez, la presencia de nuestra información personal en el conjunto de
entrenamiento puede influir en la salida. Por ejemplo, un sistema de IA generativa
podría haber memorizado mi información personal y proporcionarla como
resultado. O bien, un sistema de IA generativa podría revelar algo sobre mí a
partir de una inferencia de múltiples puntos de datos desconocidos o no
relacionados, y que no guardan relación con ninguna información personal
identificable en el conjunto de datos de entrenamiento.
Actualmente, dependemos de que las empresas de IA eliminen
la información personal de sus datos de entrenamiento o establezcan medidas de
seguridad que impidan que dicha información aparezca en los resultados. Y esta
situación no es aceptable, ya que dependemos de que actúen correctamente.
Regular la IA requiere prestar especial atención a toda la
cadena de suministro de datos, no solo para proteger nuestra privacidad, sino
también para evitar sesgos y mejorar los modelos de IA. Lamentablemente,
algunos de los debates sobre la regulación de la IA en Estados Unidos no han
abordado en absoluto el tema de los datos. Nos hemos centrado en los requisitos
de transparencia en torno al propósito de los sistemas algorítmicos de las
empresas. Incluso la Ley de IA en Europa, que ya cuenta con el RGPD como
referencia en materia de privacidad, no analizó en profundidad el ecosistema de
datos que alimenta la IA. Solo se mencionó en el contexto de sistemas de IA de
alto riesgo. Por lo tanto, queda mucho trabajo por hacer en este ámbito si
queremos tener la certeza de que nuestra información personal está protegida
frente a su inclusión en sistemas de IA, incluidos sistemas muy grandes como
los modelos fundamentales.
En su informe, usted señala que el enfoque en los derechos de privacidad individual es demasiado limitado y que debemos considerar soluciones colectivas. ¿A qué se refiere?
Si queremos dar a la gente más control sobre sus datos en un
contexto donde se generan y recopilan enormes cantidades de datos, me queda
claro que redoblar la apuesta por los derechos individuales no es suficiente.
En California, donde tenemos una ley de privacidad de datos,
la mayoría ni siquiera sabemos qué derechos tenemos, y mucho menos tenemos
tiempo para averiguar cómo ejercerlos. Y si quisiéramos ejercerlos, tendríamos
que hacer solicitudes individuales a cada empresa con la que hemos interactuado
para exigirles que no vendan nuestra información personal; solicitudes que
tendríamos que hacer cada dos años, dado que estas opciones de exclusión
voluntaria no son permanentes.
Todo esto apunta a la necesidad de una solución colectiva
para que el público tenga suficiente influencia para negociar sus derechos de
datos a gran escala. En mi opinión, el concepto de intermediario
de datos es el más lógico. Implica delegar el poder de negociación sobre
los derechos de datos a un colectivo que realiza el trabajo por ti, lo que
otorga a los consumidores mayor poder de negociación.
Ya estamos viendo cómo surgen intermediarios de datos en algunos contextos B2B (de empresa a empresa), y estos pueden adoptar diversas formas , como administradores de datos, entidades fiduciarias, cooperativas, colaborativas o de dominio público. Implementarlos en el ámbito del consumidor sería más complejo, pero no imposible en absoluto.