Inteligencia artificial: privacidad, protección de datos y diseño ético

Cada vez que una plataforma nos recomienda un vídeo, una aplicación personaliza su contenido o una herramienta de inteligencia artificial genera una respuesta, hay datos y algoritmos trabajando en segundo plano.

Pero ¿sabemos qué ocurre con la información que compartimos? ¿Quién decide lo que nos muestra una plataforma? ¿Están estos sistemas preparados para proteger a las personas más vulnerables?

Estas preguntas centran los trabajos reconocidos en los Premios Euskaltel Fundazioa a los mejores trabajos finales en Experto en Derecho Digital de la Universidad de Deusto.

María Aguiriano López ha sido premiada por su investigación, junto con Naroa Lizarraga Goikoetxea, mientras que Begoña Rodríguez Arteaga ha recibido una mención de honor. 

Tras la reciente publicación de la entrevista a Naroa Lizarraga, hoy queremos hablarte de los trabajos de María Aguiriano y Begoña Rodríguez, que analizan dos de los principales retos que acompañan al desarrollo de la inteligencia artificial: la protección de los datos personales y la ética en el diseño de los sistemas.

El trabajo de María Aguiriano López sobre Inteligencia Artificial y protección de datos

Utilizamos aplicaciones para comprar, trabajar, comunicarnos o entretenernos. Con cada interacción podemos estar generando información sobre nuestros hábitos, intereses o comportamientos. Sin embargo, no siempre somos conscientes del valor de esos datos ni del uso que puede hacerse de ellos.

“La sociedad en general no es consciente del impacto que tiene dar nuestros datos personales”, advierte María Aguiriano López.

Su trabajo, Impacto de las modificaciones en materia de protección de datos introducidas por la Propuesta de Reglamento Ómnibus Digital en el sistema del RGPD, analiza cómo los cambios planteados podrían afectar al actual marco europeo de protección de datos.

La cuestión adquiere una especial relevancia con la expansión de la inteligencia artificial. Para aprender, identificar patrones o personalizar sus respuestas, muchos sistemas procesan grandes cantidades de información que pueden incluir datos personales.

“La inteligencia artificial está muy relacionada con la protección de datos. La gran mayoría de los sistemas van a tratar datos de carácter personal y esto tiene muchas consecuencias”, explica Aguiriano.

Utilizar la IA de manera responsable implica, por tanto, conocer qué información facilitamos, para qué puede emplearse y qué derechos nos protegen. Aguiriano recomienda actuar con conciencia y precaución, tanto ante los riesgos propios de estas herramientas como ante la cesión de nuestros datos.

Begoña Rodríguez Arteaga: la ética debe incorporarse desde el diseño

La inteligencia artificial no solo utiliza información. También influye en los contenidos que consumimos y en la forma en la que nos relacionamos con el entorno digital.

Los sistemas de recomendación seleccionan los vídeos, publicaciones o productos que aparecen en nuestras pantallas. Esta influencia resulta especialmente importante cuando quienes utilizan las plataformas son niños, niñas y adolescentes.

Begoña Rodríguez Arteaga ha recibido una mención de honor por su trabajo La ética como fundamento jurídico del diseño de sistemas de inteligencia artificial consumidos por menores en el entorno digital: una aproximación desde el interés superior del menor y el compliance by design.

Su investigación defiende que la protección de los menores debe estar presente desde las primeras fases de diseño de cualquier sistema, y no incorporarse después como respuesta a un problema.

“Al igual que en ciberseguridad tenemos en cuenta que los sistemas sean seguros desde el inicio, deberían ser también éticos desde el inicio”, señala. Aplicar la ética desde el diseño implica anticipar los posibles efectos de la tecnología: qué contenidos va a recomendar, qué comportamientos puede fomentar, qué datos necesita y cómo puede afectar al bienestar de las personas usuarias.

Rodríguez Arteaga recuerda, además, que los algoritmos no son mecanismos completamente autónomos. Detrás de ellos hay personas y organizaciones que deciden con qué información se entrenan y qué objetivos deben cumplir.

“Detrás de los sistemas de inteligencia artificial no solo hay algoritmos, sino personas que los realizan y que tienen unos intereses que pueden velar o no por nuestra seguridad”, explica.

Por ello, la responsabilidad de crear entornos digitales seguros no puede recaer únicamente en los menores. Las empresas tecnológicas, las instituciones, los centros educativos y las familias deben participar en su protección.

Para Rodríguez Arteaga, la educación y la concienciación son fundamentales. Tanto los menores como las personas adultas que los acompañan necesitan conocer las oportunidades de Internet, pero también los riesgos que puede plantear su uso.

Tecnología al servicio de las personas

Estos trabajos abordan ámbitos diferentes, pero comparten una misma idea: la inteligencia artificial no puede analizarse únicamente por lo que es capaz de hacer. También debemos preguntarnos qué información utiliza, cómo influye en las personas, quién puede verse afectado y qué valores deben guiar su desarrollo.

Los trabajos han sido realizados en el marco del título de Experto en Derecho Digital de la Universidad de Deusto, un programa que cuenta con la colaboración de Euskaltel Fundazioa.

Desde Euskaltel Fundazioa seguimos apoyando el conocimiento y el talento necesarios para comprender los retos de la transformación digital. Porque innovar también significa construir tecnologías seguras, responsables y respetuosas con los derechos de las personas.