blog

Novedades

Reunimos en una misma página todas las noticias más importantes de NextVision, incluyendo el contenido de los comunicados de prensa, artículos de Ciberseguridad, investigaciones, novedades de nuestro equipo NV y mucho más!

IA responsable y tus datos: Lo que necesitas saber sobre la nueva Ley Europea de Inteligencia Artificial

NextVision

0

El uso de la inteligencia artificial (IA) está revolucionando nuestra vida cotidiana, desde las recomendaciones de contenido en plataformas digitales hasta los asistentes virtuales que ayudan a organizar el día. Sin embargo, también plantea importantes desafíos relacionados con la protección de datos y la privacidad. Para abordar estos retos, la Unión Europea (UE) ha diseñado una nueva legislación: la Ley Europea de Inteligencia Artificial (AI Act).
A continuación, te explicamos de manera sencilla qué implica esta normativa y cómo está vinculada con la protección de los datos personales de los usuarios.

 

¿Qué es la Ley Europea de Inteligencia Artificial?

La AI Act es la primera legislación integral diseñada para regular el uso de sistemas de inteligencia artificial en Europa. Su objetivo principal es garantizar que la IA sea segura, transparente y respete los derechos fundamentales, incluida la protección de datos personales.
Esta ley clasifica los sistemas de IA en diferentes niveles de riesgo:

  • Riesgo inaceptable: Sistemas prohibidos por su impacto negativo en derechos fundamentales (por ejemplo, manipulación psicológica o sistemas de vigilancia masiva no justificados).
  • Riesgo alto: Aplicaciones que afectan áreas sensibles, como contratación laboral, educación o servicios públicos. Estos sistemas deben cumplir estrictos requisitos de transparencia y evaluación.
  • Riesgo limitado y mínimo: Sistemas con menor impacto, como asistentes virtuales, que deben cumplir normas de información básica para los usuarios.

Relación entre la AI Act y el RGPD

El Reglamento General de Protección de Datos (RGPD) y la AI Act trabajan de la mano para proteger los derechos de las personas en el entorno digital:

  1. Protección de datos desde el diseño: Los sistemas de IA deben incorporar medidas que minimicen la recopilación de datos personales y garanticen su seguridad.
  2. Transparencia: Las empresas deben informar cómo y por qué utilizan los datos personales en sistemas de IA. Por ejemplo, si un chatbot está diseñado para recopilar información personal, esto debe ser claro y comprensible.
  3. Prohibición de discriminación: La AI Act exige que los sistemas de IA de alto riesgo sean evaluados para evitar sesgos que puedan conducir a decisiones injustas o discriminatorias.

Derechos de los usuarios frente a la IA

Gracias a la AI Act y el RGPD, los usuarios tienen derechos clave sobre cómo se utilizan sus datos en sistemas de IA:

  • Saber si están interactuando con una IA: Las empresas deben informar cuando utilicen un sistema automatizado.
  • Acceso y rectificación de datos: Las personas pueden solicitar qué información ha sido utilizada y pedir su corrección si es incorrecta.
  • Intervención humana: Si una IA toma decisiones que afectan significativamente a una persona (como en un proceso de selección laboral), se tiene derecho a cuestionarlas y solicitar revisión humana.

Ejemplos prácticos:

  1. Contratación laboral: Si una empresa usa IA para filtrar currículos, debe garantizar que el sistema no discrimine por razón de género, edad u otros factores. Además, debe informar que los datos han sido procesados por una IA.
  2. Reconocimiento facial: Los sistemas de reconocimiento facial con fines de vigilancia están prohibidos en la mayoría de los casos, salvo en circunstancias excepcionales definidas por la ley.
  3. Asistentes virtuales: Si un asistente como Alexa o Google Assistant recopila datos sobre las preferencias de los usuarios, la empresa debe ser transparente sobre cómo utiliza esa información y ofrecer opciones para limitar su uso.

¿Qué significa esto para los usuarios?

La AI Act busca garantizar que la inteligencia artificial sea una herramienta que beneficie a las personas sin comprometer su privacidad ni sus derechos. Los usuarios pueden esperar:

  • Mayor transparencia sobre cómo funcionan los sistemas de IA que utilizan.
  • Más protecciones frente al uso indebido de sus datos personales.
  • Herramientas para ejercer sus derechos y mantener el control sobre su información.

La AI Act marca un gran paso hacia un futuro donde la tecnología y los derechos de las personas conviven de manera equilibrada. Las personas están en el centro de este cambio, con más herramientas y derechos para proteger su privacidad en la era de la inteligencia artificial.

 

¿Qué significa esto para las empresas?

La AI Act representa un cambio significativo para las organizaciones que desarrollan o implementan sistemas de inteligencia artificial. Estas empresas deben adaptarse para garantizar el cumplimiento de los nuevos estándares, lo que incluye:

  • Realizar evaluaciones de impacto para identificar y mitigar riesgos asociados con el uso de la IA.
  • Implementar medidas de transparencia que permitan a los usuarios comprender cómo se utilizan sus datos.
  • Garantizar la equidad en los procesos automatizados para evitar decisiones sesgadas o discriminatorias.

 

Desde NextVision, ofrecemos un servicio integral de DPO as a Service (Delegado de Protección de Datos como Servicio) para apoyar a las empresas en este proceso de adaptación. Nuestro equipo de expertos puede ayudar a garantizar el cumplimiento normativo, minimizar riesgos y construir confianza con los usuarios en un entorno regulatorio cada vez más exigente.

Autora de la nota: María del Rosario Santillán- Abogada. Consultora Legal en Tecnología.

nextvision.com

Necesidad Creciente de Proteger los Datos Personales

NextVision

0

Necesidad Creciente de Proteger los Datos Personales

 

Actualmente la protección de los datos personales y la seguridad de la información se han vuelto cruciales para la supervivencia y la integridad de cualquier organización. Esta realidad es particularmente relevante en Argentina, debido a la falta de un marco regulatorio fuerte que contemple la figura del delegado de protección de datos (DPO, por sus siglas en inglés).

El rol del DPO es fundamental ya que supervisa la privacidad de la información y sirve como enlace entre la empresa, los titulares de los datos y las autoridades de control. Así por ejemplo el Reglamento General de Protección de Datos Europeo (RGPD) subraya la importancia de este cargo, exigiendo que las entidades designen un DPO en casos donde el tratamiento de los datos lo lleva a cabo una autoridad pública, o las actividades principales de la entidad requieren una observación regular y sistemática de los datos a gran escala, o el procesamiento de categorías especiales de datos personales.

Por otro lado, la legislación en Argentina no impone requisitos específicos para la designación de un DPO, la ausencia de un DPO deja un vacío significativo en la gobernanza de la privacidad que puede resultar en sanciones, pérdidas económicas significativas y daños a la reputación, especialmente en el caso de brechas de seguridad. Esta carencia es preocupante considerando la cantidad y sensibilidad de los datos personales manejados por las empresas actualmente. Sin una figura responsable que promueva las mejores prácticas de privacidad y protección de datos, las organizaciones están notablemente desfavorecidas, no sólo a nivel local sino también en el escenario internacional, donde las expectativas de cumplimiento con las normativas de protección de datos son cada vez más altas.

 


 

En los últimos años, diversas organizaciones en Latinoamérica han experimentado incidentes de seguridad que han comprometido datos personales sensibles. Así por ejemplo, importantes bancos y empresas de telecomunicaciones en la región han sido víctimas de ciberataques que resultaron en el acceso no autorizado a información personal de millones de clientes. Estos incidentes no solo tienen un impacto económico directo, sino que también erosionan la confianza del consumidor y dañan la reputación corporativa.

En reconocimiento de los desafíos modernos en la protección de datos, varios países de América Latina ya han avanzado en la reforma de sus legislaciones para incluir la figura del Delegado de Protección de Datos. Por ejemplo, Brasil, bajo su Ley General de Protección de Datos (LGPD), y Chile, en su nueva ley de protección de datos personales, han establecido requisitos para la designación de un DPO, asegurando un enfoque más estructurado y formal hacia la seguridad de la información y la privacidad de los datos. Estos movimientos reflejan una comprensión clara de la importancia de adaptar las normativas a la realidad digital y globalizada de hoy.

En este contexto, Argentina también se encuentra en un proceso de revisión y modificación de su actual ley de protección de datos personales. Se espera que las nuevas enmiendas introduzcan la figura del DPO, alineando así la legislación nacional con las mejores prácticas internacionales y respondiendo efectivamente a las necesidades de protección de datos en el ámbito digital. Este es un momento esperanzador para Argentina, ya que una actualización legislativa podría significar un gran paso adelante en la protección de los derechos de los ciudadanos en el ámbito de la privacidad y la seguridad de la información, fortaleciendo así la confianza en las instituciones y en el ecosistema digital del país.

Conclusión

Sin embargo, no es prudente esperar a que la legislación imponga la designación de un DPO para comenzar a considerar su incorporación dentro de la estructura organizativa. Un DPO eficaz no solo supervisa y evalúa regularmente las prácticas de protección de datos para asegurar que se mantengan al día con las normativas vigentes, sino que también desempeña un papel crucial en la promoción de una cultura de privacidad dentro de la organización. Este profesional es fundamental para establecer protocolos que minimicen los riesgos de filtración y uso indebido de datos personales, contribuyendo así a la integridad y confiabilidad de la empresa.

Además, la presencia de un DPO ayuda a construir y mantener la confianza del público al asegurar que los datos personales son tratados de manera transparente y segura. Esto no solo mejora la imagen pública de la empresa sino que también refuerza la protección de los derechos fundamentales de los individuos en nuestra sociedad digital.

En resumen, la designación de un DPO es una inversión en la seguridad y la privacidad de los datos que beneficia a todos los stakeholders. A medida que avanzamos, el enfoque en la privacidad y seguridad de los datos personales no solo debe ser una prioridad legal, sino también una prioridad ética para proteger a las personas en un mundo cada vez más digitalizado.

 

Los datos son un recurso fundamental para las organizaciones y, por ello, hay que saber tratarlos y protegerlos.

 

Conozca más sobre nuestro servicio NV DPO as a Service , o contáctenos para recibir más información de nuestros especialistas a: info@nextvision.com

nextvision.com