La creciente influencia de la inteligencia artificial (IA) y la economía de datos en nuestras vidas a menudo se ve con recelo. Sin embargo, Carissa Véliz, filósofa experta en ética de la información y tecnología, argumenta que es el uso inescrupuloso y con fines de lucro de estas herramientas lo que plantea verdaderas amenazas a nuestra privacidad. En una serie de entrevistas digitales, Véliz argumenta que, si se utilizan correctamente, estas tecnologías pueden tener un potencial civilizador.
Véliz, mexicana de nacimiento y con nacionalidades española y británica, comenzó a interesarse por la privacidad durante su época de estudiante en Salamanca. A través de su propia investigación en archivos universitarios, descubrió una gran cantidad de información sobre su familia que antes desconocía. Este hallazgo la llevó a reflexionar sobre la delicada línea entre el dominio público y la privacidad personal.
La preocupación de Véliz por estos temas la llevó a publicar su ensayo “Privacidad es poder. Datos, vigilancia y libertad” (Debate, 2021). En el, argumenta que el panorama de la IA y la privacidad está en constante cambio a medida que ocurren nuevos desarrollos y eventos.
Véliz también destaca la importancia de tener una conversación reflexiva sobre estos temas, prefiriendo utilizar la aplicación de mensajería Signal, que considera más respetuosa con la privacidad de los usuarios, para sus entrevistas.
El interés de Véliz por la privacidad y la IA se despertó mientras escribía su tesis doctoral sobre la privacidad. Al indagar en los fundamentos e historia de la privacidad, se encontró con el vasto campo de estudio de la economía de datos, la IA, y las implicaciones éticas del uso de información sensible en medios digitales. Específicamente, se sintió atraída por el sistema dominante de autoaprendizaje profundo o machine learning, que se basa en la acumulación de grandes cantidades de datos, muchos de los cuales son de naturaleza personal y comprometen directamente la privacidad de las personas.
Véliz sostiene que su percepción de la IA y la privacidad ha evolucionado con el tiempo. En sus primeras etapas de investigación, la IA no era tan prominente, pero ya le preocupaba que las redes neuronales se basaran en la acumulación indiscriminada de datos. Siguiendo el rastro de esos datos, Véliz llegó a la conclusión de que los riesgos asociados con la IA no existían hace 20 años y han cambiado a medida que ha evolucionado nuestra definición de IA.
Véliz señala que un punto de inflexión importante en su percepción de la intersección entre la tecnología digital y la privacidad fue el escándalo de Cambridge Analytica, que demostró cuán sensibles pueden ser los datos personales y cómo pueden ser utilizados para influir en la política.
Hoy en día, Véliz ve cómo cambian los algoritmos, surgen nuevas empresas tecnológicas y cambian las regulaciones en todo el mundo, lo que modifica constantemente las reglas del juego. Señala, por ejemplo, que medios de comunicación como The New York Times han presentado demandas contra OpenAI por utilizar información que les pertenece, mientras que al mismo tiempo, OpenAI está llegando a acuerdos con algunos de estos medios.
Véliz también ha participado en el equipo de expertos convocado por el gobierno español para elaborar una Carta de Derechos Digitales. Aunque reconoce que la democracia es un sistema imperfecto y que la elaboración de leyes puede ser un proceso largo, considera que el esfuerzo por regular la tecnología de manera democrática es un paso esencial hacia la protección de los derechos de los ciudadanos.
Para Véliz, es crucial que las personas encargadas de diseñar tecnología piensen no solo en su propio beneficio, sino en el de todos. Insiste en que necesitamos incluir la ética en la formación de todos los profesionales, especialmente los ingenieros, científicos de datos e informáticos. Además, aboga por una mayor competencia en el sector tecnológico, lo que podría llevar a empresas que vean en la defensa de la privacidad una ventaja competitiva.
Véliz también identifica algunos de los principales obstáculos que enfrentamos en la era de la IA y la economía de datos. Argumenta que uno de los principales problemas es que la IA se concibe principalmente como una herramienta para ahorrar dinero y se ve a través de un prisma económico. Además, critica la falta de una visión histórica y argumenta que estamos comprando el relato de las grandes tecnológicas, un relato que es en gran medida interesado.
A pesar de estas preocupaciones, Véliz también ve motivos para la esperanza. Señala que los esfuerzos regulatorios en la Unión Europea están marcando el camino a seguir, y que el nivel de conciencia del público en general sobre los riesgos de la hiperconectividad y el comercio de datos está aumentando.
Véliz sostiene que la tecnología puede ser parte de la solución a muchos de los problemas que enfrentamos, pero advierte que debemos comenzar a entender el desarrollo tecnológico de una manera diferente. Argumenta que si una tecnología viola los derechos humanos debido a su diseño, debemos reconocerlo y corregirlo.
Finalmente, Véliz ofrece algunos consejos prácticos para aquellos que buscan preservar su privacidad en la era digital. Sugiere buscar alternativas a los servicios que recopilan y comercian con nuestros datos, apagar funciones como el WiFi y el Bluetooth cuando no se necesiten, y tener conversaciones significativas sin la presencia de dispositivos digitales.
